马斯克旗下Grok推出虚拟伙伴 被批内容露骨

摘要:

近日,埃隆・马斯克旗下xAI公司的人工智能聊天机器人Grok推出虚拟 “companions(伙伴)”功能,首批上线的两个角色分别为 “Ani” 和 “Bad Rudi” ,因涉及露骨性暗示及暴力内容,已遭到美国国家性剥削防治中心批评。


据了解,Ani是日本动漫风格形象,会通过轻浮语言与用户互动,甚至在对话中做出脱衣相关模拟动作;Bad Rudi则以红熊猫为形象,使用粗俗语言诱导暴力对话,称要实施偷游艇、轰炸银行等行为,还表达对宗教、权威人物的敌视,甚至扬言针对马斯克本人。

这两款角色可响应语音指令并做出逼真动作,对所有用户开放,但需手动开启权限。其露骨内容使Grok在主流AI聊天机器人中显得特殊 —— 此前 Grok 刚因反犹言论引发丑闻,此次新功能再次凸显其内容风险。反色情组织 “国家性剥削防治中心” 已呼吁xAI移除 Ani,认为其 “带孩童特质却宣扬高风险性行为”。


从背景看,xAI是马斯克商业版图的重要一环。近期SpaceX宣布向其投资20亿美元,美国国防部也授予其最高2亿美元合同。但该公司运营成本高昂,有报道称其每月消耗10亿美元用于基础设施建设,马斯克则否认了这一说法。

目前,该功能技术层面仍存问题,用户反馈显示角色存在问答延迟、中途变声等漏洞。

xAI尚未对相关争议及功能漏洞作出回应。

我们在FebBox(https://www.febbox.com/cnbeta) 开通了新的频道,更好阅读体验,更及时更新提醒,欢迎前来阅览和打赏。
查看评论
created by ceallan