谷歌改口:“类ChatGPT应用”不保证准确性 首要方向不应是搜索
作为应对ChatGPT挑战的利器,Google开发的人工智能搜索引擎Bard AI在上个月一亮相就“翻车”。在3月2日周四的一场全体内部会议上,Google高管们在一群情绪激动的员工中间试图安抚人心,说Bard AI不仅仅是搜索而已。
Bard AI的产品负责人Jack Krawczyk在回答员工的书面问题是说:
我想表达的非常清楚:Bard AI不只是搜索。
显然,Google的高管试图收拾残局,但是他们的说法和做法在员工中造成了进一步的混乱。
在周四的全体会议上,高管们回答了公司内部论坛上员工提出的问题,其中大多数最受关注的问题都与公司把发展Bard AI视作公司的优先事项有关。这是自Google自从发布Bard AI失败以来的第一次全公司会议。不少员工直接批评公司首席执行官Sundar Pichai处理应对ChatGPT的方式。
由于Bard AI的发布失败,市场对Google的信心陡然下降,该公司股价在过去一个月中累计下跌了近9%。市场担忧的是,Google的核心业务——搜索引擎可能会很快被AI搜索引擎取代,而Google推出的Bard AI不仅仓促、拙劣,而且没有Google一如既往的风格。
有Google员工提问:
Bard和ChatGPT是大型语言模型,而不是知识模型。他们擅长生成听起来像人的文本,但不擅长确保他们的文本是基于事实的。为什么我们认为第一个重要的应用应该是搜索,它的核心是寻找真实信息?
Krawczyk 立即回应说:
我想表达的非常清楚:Bard AI不只是搜索。
这是一个实验,是我们谈到的协作AI服务。我们在使用该产品时,Bard可以帮助用户激发创意。成为想象力的火花塞,探索用户的好奇心等等。当然,我们也不能阻止用户像使用搜索引擎一样使用它。
他说Google仍在迎合那些想用它进行搜索的人,该公司已经建立了一个供内部使用的新功能,称为“Search It”。
Krawczyk 说:
我们将努力更好地生成相关的查询,并向用户传达我们的信心。用户会看到一个标签,上面写着“查看其他结果”,这会让用户避免那些高度雷同的搜索结果。
现在令Google员工们感到非常困惑的是,Bard到底是不是搜索引擎的一部分,尤其是高管们前后不一的回答,造成了员工更多的混乱。
Google内部论坛上有人说:
Google启动AI似乎是一种没有战略的下意识反应。
Pichai的回应则是,Google在人工智能研发上的投入比任何其他公司都多:
我不同意这个问题的前提假设,我们长期以来一直在深入研究人工智能。 从某种意义上说,我们必须始终专注于用户,并确保我们正在构建有影响力的东西。” 他说,用户输入将成为流程的重要组成部分,因此正确处理很重要。
Pichai在全体会议上请Google的AI负责人Jeff Dean回答有关公司顶尖人才流失的问题。 Dean说:
我认为重要的是要认识到这是一个竞争异常激烈的领域,市场对具备这些技能的人的需求量很大。不过,Google拥有世界上最好的两个AI研究团队,人们并肩工作,推动AI的发展。
有专家指出Bard在该产品的第一个演示视频中犯了一个“事实错误”。
在视频中,Bard回答了一个关于通过詹姆斯韦伯太空望远镜获得的新发现的问题,称它“拍摄了我们太阳系外行星的第一张照片”。然而天文学家们指出,第一张系外行星照片是由欧洲南方天文台的甚大望远镜(VLT)在2004年拍摄的。
天文学家们认为,这一问题可能源于人工智能误解了“模棱两可的NASA新闻稿,低估了过去的历史”。
这个故障凸显了Bard等所谓的生成人工智能系统的一个常见缺陷:这些系统不能“理解”它们反刍的信息,只能根据概率进行猜测。而微软也承认了它的聊天机器人也面临类似的挑战。
尽管语言模型可以生成连贯且语法正确的文本,但它们也会表达虚假信息。
离奇的是,上述错误通过了Google的各个工程、法律、公关和营销部门,并在出现在了Bard最重要的演示中。