OpenAI首席执行官萨姆·奥特曼10月3日在社交平台发文称,他“非常不安于有人试图把宗教力量赋予AI模型,或让人放弃自己的判断”,并认为这是真正的安全问题。奥特曼没有在帖文中点名任何公司,但发言时间紧随一篇有关Anthropic与梵蒂冈讨论AI意识的报道,因此被部分媒体视为对Anthropic的间接批评。

争议源自《纽约时报》9月29日的报道。该报称,Anthropic联合创始人克里斯托弗·奥拉曾与宗教学者讨论Claude等AI模型是否可能具有意识、道德地位,以及如何让模型表现出道德行为;公司还曾邀请不同宗教传统的学者参加闭门交流。报道还称,奥拉看过教皇良十四世关于人工智能的通谕草稿后,对其不接受机器可能具有意识的立场感到担忧,并曾考虑让Anthropic退出相关活动,随后团队向教皇顾问游说,希望他们认真看待模型意识的可能性。奥拉对《纽约时报》表示,研究者并不知道AI模型是否有意识,他本人也确实不确定,关键是弄清正确答案。
媒体中所称其与教皇“发生冲突”,更准确地说是围绕通谕立场出现分歧以及幕后的游说;目前公开报道没有显示奥拉曾在教皇面前发生当面对质。教皇于5月发布的《Magnifica Humanitas》通谕则明确写道,现有AI系统不拥有身体,不会经历感受、喜悦或痛苦,也没有道德良知;它们能够模仿语言和分析,却并不理解自己生成的内容。通谕主张技术应由具备良知和自由的人类引导,并由人类负责决定其用途和边界。
奥特曼在2023年谈及OpenAI的目标时曾使用“天空中的魔法智能”这一说法;2024年伦敦一场活动上,他也表示,自己不祈祷上帝站在自己一边,而是祈祷自己站在上帝一边,并称从事AI模型研发“感觉像站在天使一边”。评论文章还援引一则被归于奥特曼2015年的“创造一种新生命形态”说法,但该文未提供同等清晰的原始出处。
奥特曼曾公开承认化名账号Roon是自己的小号;该账号分享过一幅带有希伯来文字、被评论者解读为卡巴拉风格的螺旋图,并配文“Lightcone Infrastructure”。奥特曼本人也曾借用宗教或神秘主义意象。不过,这些图像的宗教含义属于作者的解读,并不能据此证明奥特曼主张AI具有意识或神性。
围绕Anthropic的讨论同样需要区分事实与评论立场。《纽约时报》报道的是公司曾探索模型意识与道德地位的可能性,奥拉本人则明确表示对此并无定论;两家公司对AI意识的分歧,也折射出科技行业正在争论的问题:人们应如何看待模型拟人化、是否赋予其道德身份,以及在与AI互动时如何避免让系统取代人的判断。
