OpenAI已封禁利用ChatGPT进行社交媒体监控项目的中国账户
摘要：
OpenAI宣布，已暂停一些与中国有关的账户，这些账户涉嫌利用ChatGPT“设计宣传材料和社交媒体监听工具的项目计划”。据悉，相关账户通过VPN从中国连接至ChatGPT，并疑似在为某些政府客户工作。
据OpenAI介绍，这些用户正在开发的工具本质上是一种社交媒体“探测器”，可帮助操作者监控如X（原Twitter）、Facebook、Instagram、Reddit、TikTok和YouTube等平台上，被定义为极端主义、涉及民族、宗教或政治类信息的内容。
OpenAI强调，被禁账户未曾利用其AI模型进行社交媒体数据监控，并表示公司无法独立核实这些工具是否实际为中国政府机构所用。
此外，OpenAI还封禁了另一个使用ChatGPT起草名为“高风险维吾尔相关流入预警模型”提案的账户。该系统据称意在协助操作者追踪维吾尔族群体的流动，与警方记录进行交叉核查并对旅行活动进行预警。
OpenAI发布的威胁报告还披露，来自中国、俄罗斯和韩语社群的团体曾试图利用ChatGPT研发和改良恶意软件，包括远程访问木马、凭据窃取程序以及绕过检测的工具。此外，OpenAI还挫败了包括柬埔寨、缅甸、尼日利亚在内的诈骗网络的相关违规行为。
OpenAI补充称：“我们未发现有新的攻击策略，也未发现我们的模型为不法分子带来新型攻击能力。事实上，我们的模型在面对明确的恶意请求时都会拒绝。”
自2024年2月发布首份威胁报告以来，OpenAI已中断并上报了40多个违反公司政策的网络团体。
了解更多：
