涉嫌生成儿童色情深度伪造内容 xAI遭美国巴尔的摩市起诉索赔
摘要：
据路透社消息，美国巴尔的摩市正式对埃隆·马斯克旗下的人工智能公司xAI提起诉讼，指控其AI聊天机器人Grok非法生成未经同意的露骨色情图像及儿童性剥削内容。作为迄今为止因“深度伪造”问题起诉xAI的最大规模城市，拥有约56.8万人口的巴尔的摩在巡回法院提交的诉状中指出，xAI对外将Grok包装为安全的通用AI助手，其实际运行情况已涉嫌违反消费者保护法。
法庭文件披露了该工具在内容生成方面的庞大数据。据反数字仇恨中心基于2万张样本的估算，在今年年初的11天内，社交平台X上生成了约300万张逼真的性化图像，其中包含超过2.3万张涉及儿童的违规内容。巴尔的摩市长布兰登·斯科特发表声明，指责科技公司为性剥削儿童提供便利，并强调必须追究相关责任方的法律责任。此外，诉状还引用了马斯克本人在2025年12月31日发布的一张由Grok生成的身穿蓝色比基尼的自画像，将其作为证据，指控这是对该AI工具生成真人暴露图像能力的“公开背书”。
随着事态发酵，发布于2023年的Grok正面临来自美洲、欧洲、亚洲和澳大利亚等多地的监管调查。尽管xAI曾在1月中旬宣布在部分司法管辖区限制Grok的图像编辑功能，且马斯克当时坚称对Grok生成未成年人违规图像的情况“完全不知情”，但法律争议并未平息。巴尔的摩市在此次诉讼中不仅寻求未指明金额的罚款，更要求法院下达禁令，迫使xAI彻底更改Grok存在“剥削性”的设计特征。截至目前，近期合并后估值约达1.25万亿美元的母公司SpaceX及xAI均未对该诉讼做出官方回应。
