Google CEO称Gemini AI输出的种族与历史争议性内容“完全不可接受 ”

上周，Google暂停了"双子座"生成图片的功能，因为人们广泛发现，该模型生成的图片存在种族差异，包括纳粹时期的德国士兵、非白人的美国国父，甚至还不准确地描绘了Google自己的联合创始人的种族。虽然Google随后为"失误"道歉，并表示正在努力在未来几周内重新启用图像生成功能，但周二的备忘录是Google首席执行官首次广泛回应这一争议。

在这份最早由Semafor报道的备忘录中，皮查伊说公司"一直在夜以继日地工作"，以解决"双子座应用中存在问题的文本和图片回复"。他并没有说Google已经解决了这个问题。他写道："没有任何 Al 是完美的，尤其是在这个行业发展的新兴阶段，但我们知道对我们的要求很高，无论需要多长时间，我们都将继续努力。"

您可以在下面阅读桑达尔-皮查伊致Google员工的备忘录全文：

大家好！

我想谈谈最近在双子座应用程序（前身为 Bard）中出现的文本和图片回复问题。我知道它的一些回复冒犯了我们的用户并显示出偏见，这是完全不可接受的，是我们弄错了。

我们的团队一直在夜以继日地解决这些问题。我们已经看到各种提示有了实质性的改进。没有 Al 是完美的，尤其是在行业发展的这个新兴阶段，但我们知道对我们来说标准很高，无论需要多长时间，我们都将继续努力。我们会重新审视所发生的一切，并确保我们能大规模地解决这些问题。

我们的使命是组织全球信息，使其能够被普遍获取并发挥作用，这一点神圣不可侵犯。我们始终致力于在我们的产品中为用户提供有用、准确和公正的信息。这就是人们信任我们产品的原因。我们的所有产品，包括新兴的 Al 产品，都必须秉承这一理念。

我们将采取一系列明确的行动，包括结构改革、更新产品指南、改进发布流程、严格的评估和红队以及技术建议。我们正在全面审视这些问题，并将做出必要的改变。

在吸取教训的同时，我们也应该以过去几周在AI领域发布的产品和技术为基础。这包括我们在底层模型方面取得的一些基础性进展，例如我们的 100 万长上下文窗口突破和我们的开放式模型，这两项都广受好评。

我们深知如何才能创造出受数十亿人和企业使用和喜爱的优秀产品，凭借我们的基础设施和研究专长，我们拥有了实现 Al 浪潮的绝佳跳板。让我们专注于最重要的事情：打造值得用户信赖的有用产品。