微软在新诉讼中指控一些组织开发滥用其AI服务的工具
微软已经对一个团体采取了法律行动，该公司声称该团体故意开发并使用工具绕过其云人工智能产品的安全护栏。根据该公司于 12 月向美国弗吉尼亚州东区地方法院提交的一份诉状，一个由 10 名未具名被告组成的团体涉嫌使用窃取的客户凭据和定制设计的软件入侵Azure OpenAI 服务，该服务是由ChatGPT制造商 OpenAI 的技术提供支持的微软全面管理服务。
在诉状中，微软指控被告（微软仅称其为"Does"，法律上的化名）违反了《计算机欺诈和滥用法》、《数字千年版权法》和联邦勒索法，非法访问和使用微软的软件和服务器，以"创建攻击性"和"有害的非法内容"。 微软没有提供所生成的辱骂性内容的具体细节，该公司正在寻求禁令和"其他公平"救济以及损害赔偿。
微软在诉状中称，它于 2024 年 7 月发现，拥有 Azure OpenAI 服务凭证（特别是 API 密钥，即用于验证应用程序或用户的唯一字符串）的客户被用于生成违反该服务可接受使用政策的内容。 随后，通过调查，微软发现这些 API 密钥是从付费客户那里窃取的。
"被告获得用于实施本起诉书所述不当行为的所有 API 密钥的确切方式尚不清楚，"微软在起诉书中写道，"但被告似乎参与了一种系统性的 API 密钥盗窃模式，使他们能够从多个微软客户那里窃取微软 API 密钥。"
微软指控被告使用窃取的属于美国客户的 Azure OpenAI 服务 API 密钥，创建了一个"黑客即服务"计划。 根据诉状，为了实施这一计划，被告创建了一个名为 de3u 的客户端工具，以及用于处理和路由 de3u 与微软系统之间通信的软件。
微软称，De3u 允许用户利用窃取的 API 密钥，在无需编写自己的代码的情况下，使用 DALL-E 生成图像，DALL-E 是 Azure OpenAI 服务客户可用的 OpenAI 模型之一。 根据起诉书，De3u 还试图阻止 Azure OpenAI 服务修改用于生成图像的提示，例如，当文本提示中包含触发 Microsoft 内容过滤的单词时，就可能发生这种情况。
微软诉状中的 De3u 工具截图。图片来源：微软
包含 de3u 项目代码的 repo 托管在 GitHub（微软拥有的一家公司）上，截至记者发稿时已无法访问。
"这些功能与被告对 Azure OpenAI 服务的非法程序化 API 访问相结合，使被告能够通过逆向工程手段规避微软的内容和滥用措施，"诉状中写道。"被告明知故犯，在未经授权的情况下访问了 Azure OpenAl 服务保护的计算机，并因此造成了损害和损失。"
在周五发布的博文中，微软表示，法院已授权其查封一个对被告的运营"至关重要"的网站，这将使该公司能够收集证据，破解被告被指控的服务是如何盈利的，并破坏其发现的任何其他技术基础设施。
微软还表示，它已经"采取了应对措施"（该公司没有具体说明），并针对其观察到的活动向 Azure OpenAI 服务"添加了额外的安全缓解措施"。
