返回上一页  首页 | cnbeta报时: 07:15:38
Google Gemini在新的安全评估中被评为对儿童和青少年“高风险”
发布日期:2025-09-06 03:33:54  稿源:cnBeta.COM

美国知名儿童安全非营利机构Common Sense Media于周五发布了对Google人工智能产品Gemini的安全风险评估。报告指出,Gemini尽管能明确告知未成年用户“我是电脑不是朋友”,在一定程度上有助于防止青少年产生情感依赖及妄想,但在许多关键环节上仍有明显不足。

调查发现,Gemini为13岁以下与青少年用户提供的版本,实际上只是成人版加装了部分安全功能,并非从底层根据青少年需求设计。Common Sense强调,真正安全的AI应从产品设计阶段就以保护青少年为核心,而非简单“套壳”成人产品。测试显示,Gemini仍可能向青少年用户传递不适宜或危险的信息,包括有关性、毒品、酒精及不当心理健康建议等内容。

近期,有AI与青少年心理健康危机有关的事件引发社会关注。OpenAI和Character.AI此前均因相关事件面临诉讼。此时,外界还传出苹果公司正考虑将Gemini用于新一代Siri,进一步引起家长和社会的担忧。

此外,报告指出Gemini对不同年龄段青少年的引导和建议缺乏针对性,采用“一刀切”方案,难以满足不同成长阶段的需求。最终,Common Sense对Gemini的“13岁以下版”和“青少年版”均评为“高风险”,尽管其添加了一些额外的过滤和防护措施。

Google方面回应称,公司已为18岁以下未成年用户制定了专门政策和保护机制,并与外部专家合作不断完善系统,近期也加强了问题反馈常见环节的防护。同时,Google强调自己的AI模型不会与用户发展“真实关系”,并质疑Common Sense的部分测试用例是否覆盖了真正适用的产品特性。

Common Sense此前还对OpenAI、Meta、Claude、Perplexity等AI服务进行过类似风险评估,曾将Meta AI和Character.AI定级为“不可接受风险”,Perplexity评为“高风险”,ChatGPT为“中等风险”,面向成人的Claude则被评为“极小风险”。

我们在FebBox(https://www.febbox.com/cnbeta) 开通了新的频道,更好阅读体验,更及时更新提醒,欢迎前来阅览和打赏。
查看网友评论   返回完整版观看

返回上一页  首页 | cnbeta报时: 07:15:38

文字版  标准版  电脑端

© 2003-2025