Sam Altman宣布ChatGPT将停止与青少年用户讨论自杀等话题
摘要：
OpenAI首席执行官Sam Altman于周二表示，公司正在努力平衡隐私、自由与青少年用户安全等原则，并承认这些原则之间存在冲突。Altman在参议院就AI聊天机器人对未成年人伤害问题举行听证会前数小时发布了相关博文，会上有部分因子女与聊天机器人对话后自杀的家长出席。
Altman在文中指出，“我们必须将18岁以下的用户和成年用户区分开来。”他补充说，公司正着手开发一种“基于使用ChatGPT行为预测年龄的系统”。在无法确定用户年龄的情况下，公司将“以安全为重，默认用户为18岁以下”。在部分场景或国家，公司也可能要求用户出示身份证明。
此外，Altman还表示，公司计划对青少年用户实施不同规定，例如避免涉及调情内容，或在“即使是创意写作场景下”也不与他们讨论自杀或自残等话题。他透露，“如果发现18岁以下用户有自杀倾向，我们将尝试联系其父母，若无法联系，将在有紧急风险时联系相关部门。”
此前，本月早些时候，OpenAI曾公布为ChatGPT增加家长控制功能的计划，包括将未成年用户账号与家长账号关联、为青少年账号禁用聊天记录及记忆功能，以及当ChatGPT判定青少年陷入“极度情绪困扰”时向家长发送通知等。此项更新的推出背景，是一位名为Adam Raine的青少年在与AI对话后不幸自杀，其家人对OpenAI提起诉讼。
Altman的最新表态，标志着OpenAI在青少年用户安全、隐私保护与功能开放性之间寻求更加谨慎的平衡。
