Sam Altman离开OpenAI董事会下属安全与安保委员会

摘要:

OpenAI周一表示,首席执行官山姆-奥特曼(Sam Altman)将离开董事会下属的安全和保障委员会,该委员会现在将完全由独立董事会成员组成。批评者曾质疑,如果公司首席执行官也是委员会成员,那么委员会能在多大程度上对公司的做法起到制衡作用。

OpenAI 表示,安全和安保委员会现在将由卡内基梅隆大学机器学习系主任 Zico Kolter 担任主席。

其他成员包括 Quora 首席执行官亚当-德安杰洛(Adam D'Angelo)、退役美国陆军将军、前美国国家安全局局长保罗-中曾根(Paul Nakasone)和前索尼公司总法律顾问妮可-塞利格曼(Nicole Seligman)。

该公司表示将向委员会简要介绍主要模型产品,委员会和董事会全体成员有权推迟新模型的发布。

OpenAI 指出,新委员会审查了最近的o1模型也就是Strawberry的安全性,该模型在公司内部评估中被评为"中等风险"。

OpenAI 还表示,它正在努力采纳委员会的建议,以提高透明度和与外部团体的合作,并在越来越多的产品团队中统一其安全实践。

OpenAI 在 5 月份成立了该委员会,此前有一系列员工离职,表达了对安全的担忧。6 月,OpenAI 又将中曾根加入委员会。

查看评论
created by ceallan