英国政府正在制定四项新法律，以打击使用人工智能工具生成儿童性虐待材料 (CSAM) 的人。 据英国内政部称，这些法律将规定，创建、拥有或传播旨在生成儿童性虐待材料的人工智能工具属于违法行为，这将使英国成为第一个这样做的国家。

被判有罪者可能面临长达五年的监禁。 新法律还将把拥有人工智能恋童癖手册定为刑事犯罪，这些手册告诉人们如何使用人工智能对青少年进行性虐待，最高可判处三年监禁。 运营托管 CSAM 或提供如何诱导儿童的建议的网站将被视为非法行为，最高可判处 10 年监禁。

此外，英国边境部队将有权在虐待儿童嫌疑人试图进入英国时，检查其数码设备中是否存在潜在的 CSAM。 根据内容的严重程度，这可能会导致长达三年的监禁。

"我们知道，变态掠食者在网上的活动往往会导致他们当面实施最可怕的虐待行为。 "内政大臣伊维特-库珀（Yvette Cooper）说："政府将毫不犹豫地采取行动，确保我们的法律与最新威胁保持同步，从而确保儿童的网络安全。"

人工智能生成的 CSAM 可以包括全部或部分由计算机生成的内容。 它可以有经过编辑的真实图像，通过替换脸部或包含儿童真实声音的内容来塑造他人形象。

美国国家犯罪署（NCA）的数据显示，该机构每月逮捕约 800 名与网上虐待儿童威胁有关的人员，这一数据令人担忧。 英国广播公司（BBC）报道称，据该机构统计，英国约有 84 万成年人（占总人口的 1.6%）对儿童构成威胁（包括在线和离线威胁）。

反对虐待儿童的组织建议政府采取进一步行动。 互联网观察基金会（IWF）呼吁禁止"裸体化"应用程序，这些应用程序被用来创建成人和儿童的图像。

IWF 临时首席执行官德里克-雷-希尔（Derek Ray-Hill）说："人工智能图像以令人恐惧的速度变得与摄影虐待无异，这表明立法需要跟上新技术的步伐。这种人工智能内容的出现进一步助长了针对儿童的性暴力。 它使施虐者更加胆大妄为，也助长了施虐者的气焰，使真正的儿童更加不安全。"

虽然创建或拥有人工智能生成的 CSAM 已经是违法行为，但 IWF 指出，新罪名规定，经过优化以"创建最严重形式的儿童性虐待材料"的人工智能模型为非法。

该慈善组织是最早对人工智能和合成 CSAM 敲响警钟的组织之一。 它发现网上人工智能生成的 CSAM 数量有所增加，并指出 2024 年关于此类图像的 245 份报告中有许多"非常逼真，必须与'真实'图像一视同仁"。

这些新法律将被纳入即将出台的《犯罪与治安法案》，是英国政府围绕儿童网络安全所做整体努力的一部分。 英国数字监管机构 Ofcom 最近宣布，成人网站在允许用户访问之前必须进行年龄验证检查。 该监管机构还要求科技公司在 3 月 16 日前完成对其平台上的非法内容给儿童和成人带来的风险的评估。