备受瞩目的人工智能新创公司Anthropic的首席执行官达里奥-阿莫代（Dario Amodei）去年告诉美国国会，新的人工智能技术很快就能帮助不熟练但心怀恶意的人制造大规模的生物袭击，比如释放病毒或有毒物质，造成大范围的疾病和死亡。

两党参议员都感到震惊，而工业界和学术界的人工智能研究人员则在争论这种威胁有多严重。

现在，90 多名生物学家和其他科学家签署了一份协议，他们专门研究用于设计新蛋白质的人工智能技术--这种微观机制驱动着生物学中的所有创造--该协议旨在确保他们在人工智能辅助下进行的研究不会对世界造成严重危害。

包括诺贝尔奖获得者弗朗西斯-阿诺德在内的生物学家代表了美国和其他国家的实验室，他们还认为，最新技术的好处远远多于坏处，包括新疫苗和新药。

协议写道："作为从事这项工作的科学家，我们相信目前的人工智能技术对蛋白质设计的益处远远大于潜在的危害，我们希望确保我们的研究在未来对所有人都有益。"

该协议并不寻求压制人工智能技术的开发或传播。相反，生物学家们的目标是规范制造新遗传物质所需设备的使用。

华盛顿大学蛋白质设计研究所所长戴维-贝克（David Baker）说，这种 DNA 制造设备最终导致了生物武器的开发，而他正是该协议的促成者。

"蛋白质设计只是制造合成蛋白质的第一步，"他在接受采访时说。"然后，你必须实际合成DNA，并将设计从计算机中转移到现实世界中--而这正是进行调节的适当场所"。

该协议是权衡人工智能的风险和可能带来的好处的众多努力之一。一些专家警告说，人工智能技术可能会帮助传播虚假信息，以非同寻常的速度取代工作岗位，甚至可能毁灭人类，因此科技公司、学术实验室、监管机构和立法者都在努力了解这些风险，并找到应对方法。

阿莫迪博士的公司Anthropic建立了大型语言模型，即L.L.M.s，这是一种驱动在线聊天机器人的新型技术。他在国会作证时指出，这种技术很快就能帮助攻击者制造新的生物武器。

但他承认，这在今天是不可能的。人类学家最近进行了一项详细研究，结果表明，如果有人试图获取或设计生物武器，L.L.M.s 比普通的互联网搜索引擎要有用得多。

阿莫代博士和其他人担心，随着公司改进 L.L.M.，并将其与其他技术相结合，将会出现严重的威胁。他告诉国会，这种情况只会在两到三年后出现。

ChatGPT在线聊天机器人的制造商OpenAI后来也进行了类似的研究，结果显示L.L.M.s并不比搜索引擎危险得多。美国麻省理工学院计算机科学教授、OpenAI准备工作负责人亚历山大-蒙德里（Aleksander Mądry）说，他预计研究人员会继续改进这些系统，但他还没有看到任何证据表明这些系统能够制造新的生物武器。

如今，L.L.M.s 是通过分析从互联网上获取的大量数字文本而创建的。这意味着，它们会重复或重组网上已有的信息，包括现有的生物袭击信息。

但是，为了加快新药、疫苗和其他有用生物材料的开发，研究人员开始建立类似的人工智能系统，以生成新的蛋白质设计。生物学家说，这种技术也可以帮助攻击者设计生物武器，但他们指出，真正制造这种武器需要一个价值数百万美元的实验室，包括 DNA 制造设备。

非营利组织"未来之家"（Future House）的联合创始人、签署协议的生物学家之一安德鲁-怀特（Andrew White）说："有些风险并不需要数百万美元的基础设施建设，但这些风险已经存在了一段时间，与人工智能无关。

生物学家们呼吁制定安全措施，防止 DNA 制造设备与有害物质一起使用--尽管目前还不清楚这些措施将如何发挥作用。他们还呼吁在发布新的人工智能模型之前对其进行安全和安保审查。

他们并不主张将这些技术封存起来。芝加哥大学生物化学和分子生物学教授拉玛-兰加纳坦（Rama Ranganathan）说："这些技术不应该只由少数人或组织掌握，科学家群体应该能够自由地探索这些技术，并为之做出贡献"。