YouTube推出自动标注功能 主动为“拟真AI视频”打上标签

摘要:

YouTube 正在强化对 AI 生成视频的标识和管理,不再仅仅依赖创作者自觉披露。该公司近日宣布,其内部系统将从 5 月起自动检测并标注使用了“显著拟真 AI”技术的视频,包括长视频和 Shorts 短视频,相关标签的位置和显著程度也将同步提升。

根据 YouTube 公布的信息,平台已使用 AI 内容标签逾两年,此前主要是通过 Creator Studio 中的工具要求创作者申报:如果视频中包含可能被误认为真实人物、真实地点或真实事件的 AI 内容,就必须进行披露;而明显是幻想、卡通或不具现实迷惑性的内容,例如独角兽在虚构世界中奔跑,则可以免于标注。 YouTube 表示,现行的 AI 标注政策本身并未改变,但平台将从“要求创作者自报”为主,转向“平台主动识别+创作者配合”的更积极治理模式。

这一举措紧随Google在 I/O 开发者大会上发布 Gemini Omni 多模态模型之后推出。Gemini Omni 能够生成理解物理、文化、历史与科学等复杂背景的高质量视频,引发外界对拟真 AI 视频进一步扩散的担忧。 YouTube 称,将利用新的内部信号识别 AI 生成内容并自动加注标签,即便创作者忘记或拒绝披露,系统也会代为标识。

在标注纠错方面,创作者如果认为自己的内容被误判为 AI 视频,可以在视频中更新披露状态,但若内容是通过 YouTube 自家的 AI 工具(例如 Veo 或 Dream Screen)生成,则创作者无权移除平台加上的 AI 标签。 此外,一旦视频中包含 C2PA 元数据并显示为完全由 AI 生成,相关标签将永久附着在该视频上。 目前,OpenAI 已宣布支持 C2PA 标准,英伟达、Kakao、Eleven Labs 等机构也已加入这一阵营,推动 AI 内容可溯源化。

自动检测与标注功能落地之前,YouTube 已经扩展了其 AI 深度伪造(deepfake)检测工具的适用范围。平台的面部匹配扫描工具原先仅对名人、公众人物、政治人物及部分创作者开放测试,如今任何成年人都可以用它来扫描自己在 YouTube 上是否被 AI 合成或冒用形象。 在此基础上,YouTube 认为,有必要同步扩大对 AI 内容的自动标注范围与强度。

YouTube 还将调整标签的展示位置,使其更为醒目和统一。此前,AI 标签通常隐藏在展开的说明栏中,只有当视频涉及健康、新闻等敏感议题时,才会在视频画面上方以显眼形式呈现。 改版后,对于长视频,AI 标签将固定显示在播放器正下方、视频说明文字上方;对于 Shorts 短视频,则会直接叠加在视频上。 平台称,这样的设计是为了让用户一眼即可识别那些经过 AI 修改或由 AI 生成的拟真内容。

对于仅进行轻度 AI 修改、动画化或明显不现实的视频(例如前述的幻想独角兽场景),YouTube 仍将标签放置在展开说明中,而不会在播放器下方或画面上叠加,以避免对观看体验造成不必要干扰。 值得注意的是,YouTube 强调,AI 标签本身不会影响视频的推荐算法,也不会削弱其变现能力,即被标记为 AI 内容的作品仍可正常参与分发和广告收益。

在加强 AI 内容治理的同时,YouTube 也在持续把 AI 技术用于产品创新和功能升级。平台此前已经测试和推出多项 AI 功能,包括交互式搜索功能“Ask YouTube”,为 YouTube Music 订阅用户提供的 AI 播放列表生成器,AI 自动视频摘要,以及为 Shorts 和创作者提供的一系列生成式创作工具和 AI 音乐生成工具等。 对 YouTube 来说,如何在利用 AI 推动产品发展与防范 AI 滥用风险之间取得平衡,正成为其未来策略的关键议题之一。

查看评论
created by ceallan