微软总裁Satya Nadella：AI和微软都需要伟大的目标

Tim：在你的书中，你提到了，为AI定义宏伟的、鼓舞人心的社会目标，注定将会是一个挑战。你写道：“在1969年，当肯尼迪总统承诺登月计划时，这个目标之所以被选中，很大程度上是因为它向技术提出了巨大的挑战并要求全球合作。类似的，我们需要为AI制定一个足够大胆和雄伟的目标，一个可以通过不断改进当前技术实现的目标。”

我喜欢非常喜欢你这个想法，可以扩展一下吗？

Satya：如果你从AI将会辅助人类的假设开始思考，你会觉得AI是一个辅助性的技术。如果有一天我们能够让有视觉障碍的人看得见这个世界，或者让有阅读障碍的人能够阅读，那将会是真正的突破。AI成为带来参与性的科技，将会是意义非凡的，尤其是在我们期望AI能够替代许多东西的时代。我们可以进而让AI融入我们的社会，发挥更多的作用。

我的这些想法，主要是出于我的儿子。我的儿子先天上有些缺陷，他没有常人的那种自由，我经常想：“要是他能说话就好了。”所以，每当有人谈到“脑机”连接时，我都充满兴趣。

我们正处于创造一种“极限”科技的时代，这种科技也是我们通往“超级智能”的道路。而指导我们的设计原则、道德哲学，就是最关键的东西。

在某种意义上说，我们所必须做出的最有决定性的选择将是“谁来设计超级智能”？

Tim：我的书中有一个章节叫做“我们时代的天网（电影《终结者》中的敌对AI）”。我的看法是，人工智能当中，我们对集体智能的讨论还不够。我们正在用搜索引擎、社交媒体和金融市场建立一个集体智能机制。而且我们已经让人工智能做到了我们希望人工智能做的事，也就是为了最大化人们的利益。其实我们已经打造了一个某种含义上的“天网”，我们必须及时采取行动...

Satya：没错，尽管我们人类有认知偏见，但我们仍有很大的优势。正如Herbert Simon（美国政治科学家）所说，我们不需要不优化，我们对自己已经满足了。这实际上是有帮助的。我们之所以感到满足，是因为我们共同拥有一个道德基础。现在，当我们说，AI等同于优化问题时，我们可能真的会有问题。人们必须从道德的基础上出发，所以我并不赞同人们将符号基础（使用符号表示含义）当作是一种突破；我们所需要的突破是符号基础上的道德基础。

Tim：你也说过要建立增强人类能力和体验的智能。你说过想把重点放在将人类天赋，如创造力、同情心、情感、物质性、洞察力与AI混合在一起。

Satya：这样说吧，这里还有很多“人工智能”没有提到。稀缺的商品就是真正的智慧。不过，真正的智能是什么呢？”

真正的智能将会在最人性化的品质中出现，也就是同情、怜悯，这才是最重要的。在我们真真正正地弄清楚，如何将它嵌入到机器中之前，我们将不得不让智能与人类一起成长，并为人类壮大。

我们必须考虑应该给予人类什么样的教育。有了AI，也许你真的不再需要学习傅立叶变换了。你可能会去做正念，可能想要发展同情心...这是我需要声明的一些东西。现在有一种狂热，就是每个人都需要接受STEM教育（science, technology, engineering and mathematics，即科学、技术、工程和数学），我们的确该接受。但是，我们好像过分强调STEM了。

Tim：有一个概念，在我的职业生涯中发挥了作用，Clay Christiansen（美国学者、教育家、作家）称之为“吸引力利益准则”，就是当有一件事物变得商品化时，就会有别的东西变得有价值。我在2004年左右，第一次从Clay那里听到这个消息。他和我在同一次会议上进行了演讲。我在谈论微软如何取代了IBM：PC硬件成为商品之后，软件就变得有价值了。我的观点是，开放源代码会使软件商品化，而其他的东西将变得有价值。最终我意识到这东西就是大数据。而Clay则在讲他的“吸引利益准则”的想法，我发现我们其实在说同一回事，这个准则也完全适用于AI。由于人类认知中的机械部分，被AI所商品化，人类独特的其他部分将更有价值。

Satya：这是一个很不错的想法。

Tim：所以在未来的经济中，在关怀、创造力上，还有很多机会。创意经济不仅仅局限在艺术和文化。连饮食也可以加入创意。每当产品成为商品时，我们都可以找到新的方式，通过将它们与人类的创造力相结合来使其变得更有价值。

Satya：这实际上是我们的痴迷，对吧？当我看到Minecraft一代，或者甚至Snapchat的一代...对我来说，这一代最有启发性的事情，不过就是创作、故事、或者已有事物狂野体现。在Minecraft中，人们都在建造他们想象之外的世界。

这就是我想要培养的一代。在最新版本的Windows中，我们让“画图”能够画3D图像。因为在增强现实与混合现实的世界中，这将是不可或缺的。

Tim：你还谈论过，透过大量数据进行推理，以及更快地做模式识别的能力。在AI的发展中，本身就有一种创造力。现在，当人们用随机森林算法赢得Kaggle的挑战赛时，在这选择之中，创意就体现出来了，而现在，创意则体现在更高级的超参数中，因为现在人们已经使用了所有提供的数据。你如何看待AI对创作过程的帮助？以及解决问题的创造性方法?

Satya：当我看着我们现在拥有的，或是正在研发的编程工具，如果你了解我们添加到传统工具中的一些AI，例如Word里面，用来拼写检查和猜词的部分，可以说，它已经完全是一个写作助手了。如果我们对AI说，“我想像Faulkner一样写作”，AI将会向我们相应提供建议。

Tim：是的，就像写作中的AutoTune（一种自动调节歌手演唱音调的设备）一样。

Satya：是的，我没有学过写作，我读的是工科，但我有一个成为伟大作家的梦想，那我就需要这种AI来帮助我。

我这么想的原因，与我在中国看过的“小冰”、“小冰”与人的对话有关。“小冰”是微软研发的聊天机器人，发展得还不错。“小冰”的意义，更多的是促使人们交谈。而人们也向她表达了内心的想法。当时我就说：“哇，这个就是AI真正所能展现出的同情心。”小冰让在生活中有烦恼的的人们，也能对别人的遭遇感到同情，这是非常超现实的。

Tim：我们之前也谈到过，AI已经成为（程序）第三个“运行时刻”的想法。让我们谈谈一下这一点吧，以及实际发生的情况。

Satya：我想上一次我们谈过，我说“PC或手机操作系统是第一个'运行时刻'，第二个是浏览器和网页，第三个'运行时刻'就是这个懂你，懂世界，懂得上下文，能够帮助你的个人助手。

然后我们说：“真的，如果你把思想、观念和最终的行动，三者都在组合一起，这个个人助手就出来了”。这个助手本质上增加了你的想法的增加，扩展了你的感官，语音是一方面，视觉是另一方面，可以采取行动。

那就是最终极的“运行时刻”了，对吧？

有趣的是，这也说明了我为什么在书中，试图写这三点：1）什么是最终的计算体验？最终的计算体验是与计算叠加的真实世界。就是混合现实。 2）这将需要AI在知觉，认知和行动上的突破。 3）然后我有点突然地提到，说：“如果你想要理想地创造这样的计算能力，那么你必须摆脱冯诺依曼架构和古典计算的束缚。我们可以做出量子计算机吗？”这就是我写道的三点。

Tim：你的书中很多次提到了量子计算机，这让我有点惊讶地看到。

Satya：进步是真实的，我的意思是，我们在这个领域已经很深入了。但是，问题是，它在多久后能变成现实？我不知道。但是应该不会等太久。

Tim：你的书中有一部分写得很好：“我们不只是智能机器，而且是可智能机器”。我们并不了解人工智能究竟是如何得出结论的，这是人们对AI的一个重大忧虑。现在，当然，对人类来说也是如此。因为我们只倾向于认为人类思想都是理性的，并没有意识到我们所做的产品其实一点也不智能。所以，这是理性主义者在某种意义上的最后一次发声。

Satya：的确。但我有两个方法。一个是问责制。 当你设计、创造了AI，你需要负责吗？”整个Tay的实验真的影响了我们对这种事的想法。Tay的实验之所以失败，根本上是有人有预谋地向它输入最后能够劫持算法的数据。这是谁的责任？我会说这是我们的责任。

Tim：嗯，显然这是Facebook和假的新闻问题。我和一些安全研究人员进行过非常有趣的对话，谈论怎么期骗自驾车。如果是你，你会如何通过创造他们在视觉领域容易误解的东西，来攻击他们？敌对的干预措施必定会有很多，我们需要更稳健的AI设计。

Satya：当人们说：“哦，天啊，这些DNN（深神经网）真是神奇。他们在做的，是我们甚至还不知道的事”...在一定程度上，我认为这个说法是真实的，但围绕神经网络的层数、权重的选择，有很多关于该如何学习的人类的决定。我们还没到让位与这些算法的时候，我们需要对他们所做的决定负责任。我想，我会对人们说：“好吧，如果我们用语言来实现AI中的字面编程呢，这个责任又该谁负？”

Tim：最后一件事我想问你，因为我很喜欢这一段。你写道：“我们这样挑战自己：如果我们在明年年底，被人以没有履行使命的罪名，送到法庭上接受审判，那么，我们是自己是不是有足够的证据证明自己付出过努力？”我觉得这是一个我们整个社会都可以效仿的挑战！

Satya：我感觉到的是，尽管微软已经很成功了，但是我们没有明确的目标，来指导我们做决定，无论我们研发的产品，还是围绕着产品构建的商业模式，我们还在追寻，微软存在的终极意义是什么？

而且光说不练的话，你根本不可能激励任何人，其实就是这样的想法。在某种意义上说，在过去三年中，我们没有在做别的事，就是变得更加专注于行动了。

这是一个进行中的工作。我们永远不会结束。我们有这样的目标，并具有学习的文化元素，心态随之成熟。（目标和行动）对我们来说，是最有帮助的两件事。

放在三年前，我不会这样说。当时的我，被微软的辉煌，出色的产品所蒙蔽。我逐渐明白，事物的增长都是曲线式的，而微软的增长也放缓了。

我意识到，我们必须对自己坦诚。这也是我们如此强调创作故事的原因。我有一点粉Joseph Campbell（约瑟夫·坎伯，美国神话学家、作家），我觉得：“关于微软的创造神话，应该是启发我们的东西。

微软的第一件产品，就是比尔和保罗（比尔·盖茨和保罗·艾伦，两位微软创始人）一起为ALTAIR（1974年MIT发明的微型计算机）开发了BASIC编译器。这个故事放在2017年的今天是为了告诉我们什么呢？它告诉我们，我们为应该为别人的技术发展而建设技术。而在一个将被技术塑造的世界，在世界的每一个角落，在经济的每一个领域，这将是一个伟大的使命。

而且，我也喜欢这样的目标，就是创造技术，从而让别人创造更多的技术。