微软修改政策 禁止美国警察部门使用企业人工智能工具

另外一个新的要点涵盖了"全球范围内的任何执法部门"，并明确禁止在移动摄像头上使用"实时人脸识别技术"，如车载摄像头和仪表盘摄像头，以试图在"不受控制的野外"环境中识别一个人。

在条款发生变化的一周前，为军事和执法部门提供技术和武器产品的制造商Axon公司发布了一款新产品，该产品利用OpenAI的GPT-4生成文本模型对来自车载摄像头的音频进行总结。批评者很快就指出了其中的潜在隐患，比如幻觉（即使是当今最好的生成式人工智能模型也会编造事实）和从训练数据中引入的种族偏见（鉴于有色人种被警察拦下的几率远远高于白人同胞，这一点尤其令人担忧）。

目前还不清楚Axon是否通过Azure OpenAI服务使用GPT-4，如果是，更新政策是否是为了应对Axon的产品发布。OpenAI此前曾限制通过其API使用其模型进行面部识别。

不过，新条款还是为微软留出了回旋余地。

全面禁止使用Azure OpenAI服务仅涉及美国警方，而非国际警方。它也不包括在后台办公室等受控环境中使用固定摄像头进行的面部识别（尽管条款禁止美国警方使用任何面部识别技术）。

这与微软和亲密合作伙伴 OpenAI 最近在人工智能执法和国防合同方面的做法不谋而合。

今年1月，彭博社（Bloomberg）的报道披露，OpenAI正在与五角大楼（Pentagon）就包括网络安全能力在内的多个项目展开合作--这与该初创公司早前禁止向军方提供人工智能的禁令有所不同。另据《The Intercept》报道，微软已提出使用 OpenAI 的图像生成工具 DALL-E，帮助国防部（DoD）构建执行军事行动的软件。

Azure OpenAI 服务于今年 2 月在微软的 Azure 政府产品中推出，为包括执法部门在内的政府机构增加了额外的合规性和管理功能。在一篇博客文章中，微软政府部门Microsoft Federal高级副总裁Candice Ling承诺，Azure OpenAI服务将向国防部"提交额外授权"，用于支持国防部任务的工作负载。

微软和 OpenAI 没有立即回复置评请求。