返回上一页  首页 | cnbeta报时: 16:59:45
周鸿祎谈大模型“幻觉”:包容失误 借鉴“避风港原则”让中国AI大胆前行
发布日期:2025-03-04 14:36:15  稿源:新浪科技

今年两会期间,全国政协委员、360集团创始人周鸿祎聚焦关注大模型安全和幻觉,他认为,以DeepSeek为代表的大模型取得了“国运级科技成果”,不仅促进了大模型技术自主创新,也带动了上下游产业协同发展,让大模型加速走进百行千业,成为推动中国科技进步、经济增长和国家强盛的关键力量。


但包括DeepSeek在内的大模型都存在“幻觉”,偶尔会生成看似不合理、与事实不符的情况。“幻觉”是一把双刃剑,是大模型与生俱来的特点,不可消除,也决定其创造力和想象力,对于实现AGI(通用人工智能)极其重要。如果大模型没有“幻觉”,就失去了想象力和创造力。并且越是能力强的模型,一般幻觉也越多。

周鸿祎认为,在科研领域,大模型的“幻觉”能“想象”新药分子结构、蛋白质的结构等,为新研究指引方向。在医疗、法律、金融等对准确性要求高的领域,“幻觉”虽然可能出错,但可以利用技术手段,如RAG(检索增强生成)技术,通过比对专业知识库、网络实时信息等方式予以矫正。

周鸿祎表示,回顾过去30年,我国法律法规吸纳了“避风港原则”让企业敢于投入创新,带来了互联网行业的繁荣,也为后来的“互联网+”、如今的“人工智能+”提供了技术、产业和人才支撑。大模型发展关系国运,不能因为过度追求准确而限制其创造力。他建议,借鉴“避风港原则”成功经验,对大模型以及相关的产品和服务实施柔性监管,适度包容大模型的“幻觉”,对于“幻觉”导致的一般性失误,避免直接关停下架,给予企业自我纠正的机会,促进企业大胆创新、放手竞争,争取让更多企业“复制”DeepSeek的成功。

周鸿祎再度聚焦网络安全行业转型问题,建议“以安全即服务破解网络安全行业困境”。

网络安全是国家安全的重要组成部分,在国家数字化、智能化发展进程中,安全挑战日益增大。周鸿祎认为,构建国家网络安全防御体系,不能仅关注大企业和国家机关,地方性企业及民营企业同样关键,它们是供应链、产业链和生态链的重要一环。

然而,当前网络安全行业内卷严重,传统模式问题重重,不仅难以实现安全能力的广泛覆盖,也无法帮助企业等客户迅速构建安全能力,这无形中加剧了国家网络安全风险。

一方面,售卖硬件盒子模式是“双输”,企业投入高却效果不佳,而厂家也因多样化的定制需求而成本飙升,疲于应对定制任务,市场拓展受阻;另一方面,传统安全软件重营销、轻交付,常与客户需求不符。而软件即服务(SaaS)已成为全球趋势,SaaS 服务产品可见、可体验、价格便宜、交付简单易推广,能助力企业快速形成安全能力,如云计算行业的变革就是成功范例,可网络安全行业仍停留在传统系统集成层面,已跟不上安全形势需求。

为此,周鸿祎提出两条建议推动网络安全服务化转型。一是顺应全球趋势,鼓励从购买硬件产品转变为购买安全服务。有关部门可将安全服务部署纳入专项补助项目,对积极采用安全服务的企业给予财政补贴或税收优惠,引导市场向服务型转变;二是鼓励购买 SaaS 化的安全产品,利用其优势帮助企业低成本适配需求、评估成效,提升网络安全防护水平,为国家数字化建设筑牢安全基础。

据介绍,360近年来一直倡导SaaS化服务的理念,并推出了SaaS的网络安全解决方案,探索出一套为中小企业提供低成本、低门槛、轻量化的SaaS服务模式,已成功帮助百万客户完成数字化转型。

我们在FebBox(https://www.febbox.com/cnbeta) 开通了新的频道,更好阅读体验,更及时更新提醒,欢迎前来阅览和打赏。
查看网友评论   返回完整版观看

返回上一页  首页 | cnbeta报时: 16:59:45

文字版  标准版  电脑端

© 2003-2025