在7月底，OpenAI推出了ChatGPT高级语音模式，其功能让用户感到震惊。而在周四发布的一份安全审查报告中，该公司承认，这种拟人化的声音可能使一些用户产生情感上的依恋，从而影响到正常的人际关系。

据OpenAI此前介绍，高级语音模式能提供更自然的实时对话，听起来极其逼真，它允许用户随时打断，并能感知和响应用户的情绪。实时响应和可打断对话是目前语音助手公认的技术难点。

OpenAI在今年5月推出了新版本大模型GPT-4o，同时还展示出了语音模式。该公司原定于6月底开始逐步向用户开放语音模式，但最终决定推迟至7月发布。目前，仅向部分ChatGPT Plus用户开放。

在OpenAI发布高级语音模式时，它就被视为2013年电影《她》中与主人公谈恋爱的AI助理，但当AI承认“她”还与数百名其他用户有恋爱关系时，主人公陷入了崩溃。

在经典科幻片《银翼杀手2049》中，上演了几乎同样的场景，AI虚拟人成为了主角的女友，当主角看到虚拟女友以同样的形态被售卖时，令人羡慕的真挚爱情瞬间化为乌有。

现在，OpenAI显然担心上述虚构的故事成为现实，它观察到高级语音模式成为了用户表达情感的工具。“用户可能会与AI建立社交关系，减少他们对人类互动的需求，这可能有利于孤独的人，但可能会影响健康的人际关系。”

OpenAI指出，从一个听起来像人类的聊天机器人那里听到的信息，可能会导致用户过于信任这个工具，但AI有犯错的倾向，这也会造成问题。

安全审查报告还提到，科技公司正在竞相迅速向公众推出AI工具，他们说这些工具可能会颠覆人类生活、工作、社交和查找信息的方式。但在人们真正理解这些含义之前，他们就已经这么做了，但这往往会带来意想不到的后果。

伦理挑战

一些人已经开始与AI聊天机器人建立所谓的恋爱关系，这引起了情感专家的担忧。

亚利桑那州立大学研究技术和人类交流的教授Liesel Sharabi表示，科技公司在处理与技术相关的道德和责任问题上承担了巨大的责任，而且目前这一切都还处于试验阶段。她担心的是，人们可能会与那些可能长期存在不了、且不断演变的技术形成非常深厚的联系。

OpenAI认为，随着时间的推移，用户与ChatGPT语音模式的互动也可能影响社交中的正常行为。“我们的模型是尊重用户的，允许用户随时打断并‘接管麦克风’，这虽然对于AI来说是预期中的行为，但在人类互动中却是违反社交规范的，至少有些失礼。”

目前，OpenAI称致力于“安全地”构建AI助手，并计划继续研究和解决用户对其工具“情感依赖”的可能性。

OpenAI并不是唯一一家认识到AI助手模仿人类互动的风险的公司。今年4月，谷歌DeepMind发表了一篇长篇论文，讨论了更有能力的AI助手可能带来的伦理挑战。