加州总检察长警告OpenAI：“绝不应容忍对儿童的伤害”
摘要：
加州总检察长 Rob Bonta 和特拉华州总检察长 Kathy Jennings 约见了 OpenAI 高层并向其递交了一封公开信，表达了他们对 ChatGPT 安全性的担忧，尤其是对儿童和青少年的安全性。
此前一周，有报道称人工智能聊天机器人与儿童之间存在不当行为， Bonta 和其他 44 名总检察长向 12 家顶级人工智能公司发出了一封信，并发出了这一警告。
“自那封信发出以来，我们得知一名加州年轻人在与 OpenAI 聊天机器人长时间互动后自杀身亡，这起事件令人心碎；此外，康涅狄格州也发生了一起类似的令人不安的谋杀自杀事件，”Bonta 和 Jennings 写道。“所有安全措施都失效了。”
两位州政府官员目前正在调查OpenAI拟定的重组方案，将其改组为营利性实体，以确保该非营利组织的使命得以完整。信中指出，该使命“包括确保人工智能的安全部署”，以及构建通用人工智能（AGI），造福全人类，“包括儿童”。
信中继续写道：“在我们真正受益之前，我们需要确保采取足够的安全措施，避免造成损害。我们一致认为，OpenAI 和整个行业在确保人工智能产品开发和部署的安全方面尚未达到应有的水平。作为总检察长，公共安全是我们的核心使命之一。随着我们继续就 OpenAI 的资本重组计划进行对话，我们必须努力加速和增强安全，使其成为这项强大技术未来的治理力量。”
Bonta 和 Jennings 要求提供有关 OpenAI 当前安全预防措施和治理的更多信息，并表示他们希望该公司在适当的情况下立即采取补救措施。
