在最近的奇点峰会（一个讨论AI和人类未来的会议）上，未来学家们称，随着信息技术的发展，机器智能必将超过人类。如果这是真的，那么人类将以怎样的价值继续生存下去，实在是难以想象。
在这个峰会上，几百名硅谷的技术专家以及科学家汇聚一堂，共同想象一个潜入大脑的可自编程芯片，这能让人脑以当前微处理器的速度进行运算及思考。
人工智能专家则提出，现在已经到了给这些技术指定道德规范的时候了，不然他们带来的益处或许还不及对这个世界的伤害。Rodney Brooks，一位机器人专家，在演讲中他说“我们以及我们的世界都不再将是我们自己了。到那个时候，当我们面对计算机时，计算机或许也分辨不出到底我们是我们，还是计算机是我们了。”
峰会的主办者，Elizer Yudkowsky的研究方向是“友好的人工智能”，他最大的恐惧就是某个人创造出一种能自我进化，但是却完全不符合我们道德观的人工智能，从而使其和人类为敌。
而为什么这峰会要叫做奇点峰会呢？因为奇点就是存在于宇宙黑洞中心的那个点，在那里所有的物理法则都失效了。而一个充满人工智能的未来就是如此，所有现实都不存在了，只剩下逻辑法则。因此，这个研究人工智能与人类未来的峰会就取了这个名字。

cnBeta惊译
消息来源：Seattle Post-Intelligencer