Google发布Gemini 4 Carbon 网络安全能力大幅提升

摘要:

Google于当地时间10月28日正式发布新一代前沿人工智能模型Gemini 4 Carbon,重点提升软件编程、智能体执行复杂任务以及网络安全防御能力。Google称,新模型在发现软件漏洞、验证漏洞可利用性以及修复安全缺陷等多个环节取得显著进步,并在多项基准测试中领先于OpenAI和Anthropic的旗舰模型。不过,考虑到其强大的网络安全能力可能带来的潜在风险,Google目前仅向部分经过筛选的网络安全防御机构开放使用,暂时不会立即向所有开发者和普通用户提供。

Gemini 4 Carbon是Google本月推出Gemini 4 Argon之后的又一款前沿模型。Google表示,新模型在Argon的基础上进一步强化了代码生成、智能体工作流和长时间复杂任务处理能力,尤其针对网络安全领域进行了重点优化。公司希望通过提升人工智能发现和修复软件漏洞的能力,帮助企业更有效地保护系统,同时降低新代码引入安全缺陷的风险。

在综合性能方面,Google援引Artificial Analysis发布的Artificial Analysis Intelligence Index 5.0评测结果称,Gemini 4 Carbon以59分排名第一,领先于Anthropic的Claude Opus 5.5和OpenAI的GPT-6 Astra。该榜单综合考察多个维度的模型能力,但不同基准测试的任务类型和评估方法存在差异,因此综合排名并不意味着模型在所有实际应用中都具有优势。

网络安全是此次发布的核心。Google公布的数据显示,Gemini 4 Carbon在SEC-bench Pro基准测试中取得88.2%的成绩,该测试主要评估模型发现真实软件漏洞的能力;在ExploitGym测试中取得54.8%的成绩,用于衡量模型验证漏洞可利用性、构建相应利用方案的能力;在CWE-bench测试中则取得71%的成绩,重点评估模型能否针对已识别的安全弱点提出有效修复方案。

这些能力覆盖了软件安全工作中的多个关键环节。传统安全工具通常依赖预先定义的规则、已知漏洞特征和特定测试流程,而先进人工智能模型有望进一步分析复杂代码,发现隐藏在大型软件系统中的缺陷,并协助开发者理解漏洞形成的原因,最终生成针对性补丁。

不过,漏洞发现与漏洞利用之间存在重要区别。能够识别程序中的缺陷,并不意味着模型一定能够在真实环境中成功利用这些缺陷;同样,生成一段看似合理的修复代码,也不代表它已经彻底消除漏洞。Google公布的测试成绩反映的是特定评测条件下的表现,实际安全效果仍取决于代码环境、测试方法以及后续人工验证。

Google还表示,Gemini 4 Carbon在内部测试中生成安全代码的成功率超过Gemini 4 Argon的两倍。Chrome团队也报告称,在其内部评估中,Carbon生成高质量安全补丁的表现明显优于某些其他实验室的前沿模型。不过,这些结果主要来自Google自己的测试环境,具体评估条件和测试任务可能影响最终表现,仍需要更多独立测试加以验证。

除网络安全之外,Gemini 4 Carbon还针对需要长时间连续执行的工程任务进行了优化。Google表示,内部团队已经观察到模型能够连续运行数天,在经历多次失败和尝试之后,仍继续处理复杂的多步骤工程问题。

这类任务可能涉及大型代码库中的疑难错误定位、低层系统问题排查,以及跨多个模块实施代码修改。与只需回答单个问题的聊天机器人不同,智能体需要制定计划、调用工具、检查结果,并根据执行过程中的反馈调整方案。任务越复杂,模型就越需要保持上下文连贯性,并避免在遇到困难时过早放弃。

Google称,Carbon在处理此类长期任务时,更善于识别失败路径,避免为了完成任务而采取不可靠的捷径。在实际开发过程中,这有望帮助工程师减少重复排查的时间,让人工智能承担更多持续性的软件维护和调试工作。

与此同时,Google强调,新模型在可靠性方面也有所改善。公司表示,Carbon相较Argon将未经证实的断言减少了约一半。面对证据不足或存在歧义的问题,模型更倾向于进一步检索资料、指出不同信息之间的矛盾,或者明确说明哪些步骤仍然无法完成,而不是直接给出缺乏依据的答案。

在提示注入攻击防御方面,Google公布的内部评估结果同样值得关注。提示注入攻击通常通过将恶意指令隐藏在网页、文件或其他外部内容中,诱导人工智能系统偏离原本的任务目标。Google表示,Carbon在Gray Swan的间接提示注入测试中,攻击成功率从Argon的0.7%进一步降至0%,即在该测试覆盖的攻击尝试中,没有出现成功案例。

不过,单一基准测试中未观察到攻击成功,并不能证明模型能够抵御所有提示注入攻击。真实环境中的攻击方式可能不断变化,模型还需要结合权限管理、工具调用限制、输入内容审查以及人工监督等措施,才能构建更可靠的安全体系。

正因为Carbon在网络安全领域的能力进一步增强,Google决定采取分阶段开放策略。新模型首先通过公司的Fairwind计划提供给部分经过筛选的网络安全防御机构。Google表示,公司正在参与美国政府推动的前沿模型发布前自愿测试流程,并计划根据首批用户反馈持续调整安全防护机制,再逐步向更多可信合作伙伴开放。

Google尚未公布Carbon面向所有开发者、企业和普通用户开放的确切日期。公司表示,希望在完成必要的测试和防护措施调整后,尽快将模型引入更多产品和服务。

这种有限开放策略反映出人工智能行业面临的一项现实挑战:能够帮助安全团队发现漏洞的模型,同样可能被恶意人员用于寻找攻击入口或开发利用工具。模型能力越强,企业越需要评估其在不同使用场景下可能带来的双重用途风险。

在价格方面,Gemini 4 Carbon的初始定价与Gemini 4 Argon相同,每百万输入Token收费2美元,每百万输出Token收费10美元。Google还为缓存输入Token提供大幅折扣,折扣幅度为输入Token价格的95%。不过,这一价格属于推广期定价,Google公布的后续价格为每百万输入Token 4美元、每百万输出Token 20美元,正式调整时间尚未明确。

从产品定位来看,Carbon并不是一款单纯追求聊天体验的新模型,而是更侧重于复杂软件工程、持续执行任务以及网络安全防御的专业工具。它的价值不仅在于能否给出正确答案,还在于能否在较长时间内持续完成工作,并在遇到错误、模糊要求或潜在安全风险时作出恰当处理。

此次发布也显示,Google正在加快前沿模型的迭代节奏。Gemini 4 Argon推出后不久,Carbon便进一步提升了多个关键能力指标。对于企业用户而言,这种快速迭代有望缩短人工智能技术进入实际软件开发和安全运营流程的时间,但也增加了独立评测、持续监控和安全验证的重要性。

目前,Gemini 4 Carbon在多项由Google公布的基准测试中取得了领先成绩,但其真实世界表现仍有待更多独立机构和实际用户检验。随着网络攻击手段日益复杂,人工智能既可能成为安全团队的重要防御工具,也可能增加漏洞发现和利用的自动化程度。Google选择先向经过筛选的防御机构开放模型,正是希望在释放技术能力的同时,进一步评估其风险,并逐步建立相应的使用边界。

查看评论
created by ceallan