防堵AI深伪诈骗 谷歌搜索结果将标注由AI生成的图像

摘要:

Google周二表示,计划对Google搜索进行调整,使用户更清楚地知道搜索结果中,哪些图像是由AI生成或由AI工具编辑的。

该公司表示,在接下来的几个月中,Google将在搜索、Google Lens和Android上的Circle to Search功能的“关于此图像”窗口中标记AI生成和编辑的图像,类似的提示可能会出现在YouTube等其他Google的其他平台上。Google表示,将在今年晚些时候分享更多相关信息。

值得注意的是,只有包含“C2PA元数据”的图像才会在搜索中被标记为AI处理过的。C2PA(内容来源与真实性联盟)是一群致力于制定技术标准的组织,旨在追踪图像的历史,包括捕获和/或创建图像的设备和软件。

2b_Hero.width-1600.format-webp.webp

目前,包括Google、亚马逊、微软、OpenAI和Adobe在内的公司都支持C2PA。然而,该联盟的标准尚未得到广泛采用。此前有媒体报道,C2PA在推广和互操作性方面面临诸多挑战,目前只有少数生成式AI工具和徕卡、索尼的相机支持该组织的规范。

此外,与任何元数据一样,C2PA元数据可以被删除、擦除或损坏到无法读取的程度。而一些流行的生成式AI工具(如xAI的Grok聊天机器人用于图像生成的Flux)生成的图像不含C2PA元数据,部分原因是它们的开发者尚未同意支持该标准。

但分析认为,尽管如此,有措施总比没有好,尤其是在AI深度伪造(deepfakes)迅速传播的情况下。调查显示,大多数人都担心被深度伪造欺骗,以及AI可能会助长虚假宣传的传播。根据一项估计,涉及AI生成内容的骗局在2023年到2024年之间增长了245%。德勤预计,与深度伪造相关的损失将从2023年的123亿美元飙升至2027年的400亿美元。

查看评论
created by ceallan