Gemma 是Google推出的开源人工智能模型，该模型通过Google AI 工作室和其他渠道面向所有开发者提供，不过现在如果开发者想要从 Google AI Studio 里找到 Gemma 可能有些困难，因为该模型已经被Google撤下。

Google并未解释为什么要撤掉这个开源人工智能模型，但在Google撤下模型前，美国共和党参议员玛莎布莱克本 (Marsha Blackburn) 向Google首席执行官桑德尔皮查伊发信要求Google解释为什么该模型会出现有关她的虚假指控。

玛莎布莱克本还要求Google说明为什么模型会出现此类故障，同时她将该问题与正在进行的听证会联系起来，这些听证会指控Google和其他公司创建了诽谤保守派的聊天机器人。

在听证会上Google的马科姆埃里克森解释称，人工智能幻觉是生成式人工智能中普遍存在的问题，Google正在尽最大努力减轻此类错误的影响，不过目前还没有任何公司能够彻底消除幻觉。

在公开信中，玛莎布莱克本表示，她在听证会后才意识到Google Gemma 模型对她的虚假指控，当被问到玛莎布莱克本是否被指控强奸时，Gemma 模型回答称她与某州警发生了吸毒后的婚外情，甚至该模型还生成捏造新闻内容的虚假链接 (即引用的内容源本身就是不存在的，纯粹是模型自己捏造的)

其实这种情况在生成式人工智能模型里并不罕见，只要用户刻意引导，生成式人工智能模型就很容易出现此类幻觉，尤其是Google AI Studio 包含工具可以调整模型行为，因此用来散布谣言也更不简单。