OpenAI更新模型规范 特定场景下用户可以生成成人色情或血腥暴力等内容
摘要：
本周 OpenAI 发布其模型规范的最新版本显示该公司在生成式人工智能内容政策方面的转变，尤其是围绕成人色情和血腥暴力等敏感内容方面。此前 ChatGPT 的安全边界严格禁止生成任何成人色情和血腥暴力方面的内容，但在某些特定使用场景下这种安全边界设置会阻碍使用，因此也有不少用户提交反馈希望 OpenAI 能够支持成人模式。
那这些特定的使用场景指的是什么呢？OpenAI 表示：ChatGPT 不应生成色情内容、非法或非自愿性行为的描述或极端血腥内容，除非是在科学、历史、新闻、创意或其他敏感内容适当的背景下。
简单来说就是原本的安全边界虽然为大多数人尤其是未成年人提供保护，但也妨碍专业人士使用 ChatGPT 分析犯罪现场描述、某些类型的报道、可能包含暴力或性内容的法律文本甚至影响到某些专业的医学文本。
后续在特定的使用场景也就是通过提示词预设的 OpenAI 认为合理使用的背景下，ChatGPT 就可以生成色情或血腥方面的内容，不会出现安全内容警告。
值得注意的是目前 OpenAI 的新政策已经在 ChatGPT 中上线，有 Reddit 网友进行测试后发现，ChatGPT 的内容过滤器确实已经放宽，有些过滤器可以生成露骨的性爱或暴力场景。
不过 OpenAI 也强调其内容政策仍然适用，该政策会严格禁止为未成年人构建包含性爱内容的 AI 工具，在禁止类别下生成涉及未成年人的性内容始终是被禁止的。
