OpenAI 周一推出了视频生成工具 Sora。 但在进一步测试之前，该公司选择不向大多数用户发布一项关键功能。该功能以上传的照片或真人镜头为参照物生成视频。 OpenAI 表示，它将让"一部分"Sora 用户使用该功能，但在有机会对其"安全方法"进行微调之前，它不会广泛推出该功能。
"使用上传的真人照片或视频作为'种子'生成视频的功能是潜在滥用的一个载体，我们正在采取一种特别渐进的方法来学习早期的使用模式，"OpenAI 在博文中写道。"艺术家们的早期反馈表明，这是一个他们非常重视的强大创意工具，但考虑到滥用的可能性，我们最初并没有向所有用户开放。"
生成视频是一个强大的工具，也是一个有争议的工具。 当然，深度伪造和错误信息同样令人担忧。 根据ID验证服务Sumsub的数据，从2022年到2023年，全球的深度伪造欺诈增加了10倍以上。
OpenAI 表示，为防止滥用，Sora 还采取了其他措施，其中包括一个过滤器，用于检测生成的视频是否描绘了未满 18 岁的人。 如果有，OpenAI 就会采用"更严格的门槛"来审核与性、暴力或自残有关的内容。
所有 Sora 生成的视频都包含元数据以显示其出处，特别是遵守 C2PA 技术标准的元数据。 当然，这些元数据可以删除。 但是，OpenAI 将其作为支持 C2PA 的平台快速检测视频是否来自 Sora 的一种方式。
为了抵御版权投诉，OpenAI 还表示，它正在使用"及时重写"技术，防止 Sora 以在世创作者的风格生成视频。
该公司写道："我们增加了提示重写功能，旨在当用户尝试以在世艺术家的风格生成视频时触发。随着我们对创意社区如何使用 Sora 有了更多的了解，我们选择对这一版本的 Sora 采取保守的做法......在创意领域，借鉴其他艺术家的风格是一个非常悠久的传统，但我们理解一些创作者可能会有顾虑。"
一些艺术家已经起诉了包括 OpenAI 在内的人工智能公司，指控他们未经许可对其作品进行训练，以创建人工智能工具，用他们独特的风格重新生成内容。 这些公司则声称，公平使用原则保护他们免受版权侵权索赔，而且人工智能模型事实上并不会反刍。
根据视频博主Marcus Brownlee的说法，Sora 可以根据文本提示或图片创建视频，并通过重新混合工具编辑现有视频。 故事板"界面可让用户创建视频序列，而"混合"工具则可提取两个视频并创建一个保留了两个视频元素的新视频。
OpenAI的 ChatGPT Pro 和Plus计划的用户今天可以访问OpenAI的视频生成器Sora，但前提是他们居住在特定国家/地区。
了解更多：