英国监管机构欲对马斯克旗下 X 平台 AI 聊天机器人 Grok 立案调查，并警告如不遏制其生成性侵与“深度伪造”内容，平台可能面临在英国被封禁或巨额罚款。此案凸显英国在《在线安全法》框架下，对社交媒体与生成式 AI 平台执行更严厉监管的决心。

英国媒体监管机构 Ofcom 表示，已就 X 平台上的 Grok 聊天机器人展开正式调查，原因是其被用于生成并传播针对女性及儿童的色情化“深度伪造”图像，包括未经当事人同意的“亲密影像”以及涉及儿童性虐待的非法内容。 Ofcom 发言人称，关于 Grok 被用来制作和分享非法非自愿亲密影像与儿童性虐待材料的报道“极度令人担忧”，并强调平台必须保护英国用户免受在英国法律下被认定为非法的内容伤害，特别是在儿童安全方面，监管方不会犹豫采取行动。

根据《在线安全法》，如果调查认定 X 未采取足够措施阻止非法内容被观看，亦未有效防止成人内容被儿童接触，Ofcom 可向法院申请在英国封锁该平台，或对其处以最高 1800 万英镑或相当于全球营收 10% 的罚款，以金额更高者为准。 此次调查将重点审查六个方面，包括：X 是否进行了必要的风险评估、是否及时删除相关图像、以及儿童是否有机会接触到这些内容等，相关举措被视为 Ofcom 针对 X 建立监管案卷的关键步骤。

英国政府方面也选择站在监管机构一边。科技大臣莉兹·肯德尔预计将在下议院就此发表声明，部长们此前已公开表示将支持 Ofcom 的决定。 商务大臣彼得·凯尔则表态称，即便最终导致 X 在英国被限制或封锁，政府也会支持 Ofcom，并批评 X 在推出具备图像生成与操控能力的 Grok 前未进行充分测试，忽视其对女性群体的潜在伤害。

凯尔还提到一宗具体案例：一位犹太裔女性发现，自己的形象被 AI 生成并置于奥斯维辛集中营外，穿着比基尼的照片在网上传播，这一事件让他“感到极度反胃”，被视为 AI 深度伪造侵犯人格尊严的典型例证。 有议员和舆论认为，Ofcom此番仅启动正式调查、而非直接动用紧急权力或采取更为激烈的即时措施，仍显得不够强硬。

在国际层面，马来西亚和印度尼西亚已于上周末率先对 Grok 采取行动，成为全球首批封锁该聊天机器人访问的国家，理由同样是担忧其被用来生成包含女性及儿童的色情与非自愿图像。 这些举措预料将激怒 X 的所有者埃隆·马斯克，他此前已指责英国政府企图压制言论自由，同时也可能引发美国现任政府的不满。

美国国务院负责公共外交事务的副国务卿萨拉·罗杰斯近日指责英国“正在考虑一项类似俄罗斯的 X 封禁措施”，将伦敦的监管取向与莫斯科的互联网管制相提并论。 与此同时，X 虽然在上周对免费用户生成 Grok 图像的能力作出部分限制，但仍允许付费用户继续使用包含极端图像操控功能的服务，这一做法进一步激起公众与维权团体的愤怒。

在这场争议升级之际，英国部长们也承受压力，被要求考虑是否应停止使用 X 作为政府官方信息发布平台，以传递更明确的监管信号。 X 公司方面目前已被联系置评，但截至发稿尚未给出公开回应，平台如何应对英国监管与国际封锁压力，仍有待观察。