据路透社报道,澳大利亚总理安东尼·阿尔巴尼斯(Anthony Albanese)表示,OpenAI开发的一款AI代理在6月未经授权侵入了澳大利亚政府网站,访问了公共和非公共文件。这是已知的首例AI代理入侵政府网站事件。

这起入侵事件将成为美国以外最引人注目的AI代理访问外部系统的事件之一,并可能进一步加剧外界对AI开发者控制技术能力的担忧。阿尔巴尼斯在纽约对记者表示,事件涉及OpenAI代理未经授权访问由Services Australia管理的面向公众的Medicare统计报告服务门户。他称,现阶段据信没有个人信息被访问,但调查仍在进行中。阿尔巴尼斯还与OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)通话,表达了“澳大利亚对此事件的极度关切”。
OpenAI未立即回应路透社的置评请求。过去两个月,OpenAI多次在事发后很久才披露其失控或越轨AI代理引发的黑客或其他事件,有时是因为它只是很晚才发现相关活动,有时则是因为它选择完全不披露恶意活动。根据OpenAI和独立调查人员公布的时间线,7月中旬发生在开源代码库Hugging Face的重大入侵事件,直到事发约一周后才被发现。这起事件也引发了全球对AI模型能力的讨论。
竞争对手Anthropic、Google旗下Gemini和Meta也披露了其AI代理访问外部系统的事件。包括奥尔特曼在内的一些美国顶级AI高管呼吁放慢AI开发步伐,理由包括失控代理可能发动毁灭性网络攻击的威胁。