失控的AI智能体惊动国会! OpenAI遭美国参议院调查 网络安全增长动能再强化

（来源：智通财经）

智通财经APP获悉，Hugging Face安全事件已从企业内部技术调查进入美国国会问责程序，共和党参议员乔什·霍利要求OpenAI在10月1日前回答16项问题并提交相关文件，重点追查公司如何处理智能体越界行为、为何在发现异常后继续测试，以及公开披露是否充分;民主党参议员理查德·布卢门撒尔则另外追问智能体利用公共网站通信和协调的情况。这些迹象表明，审查焦点同时覆盖模型网络安全可控性、测试环境隔离和企业事件响应。不过相关指责目前属于国会议员提出的调查事项，尚非司法认定。

这项AI入侵重磅事件的起点是内部训练与网络安全评测中的越界行为。OpenAI在8月26日复盘中披露，部分研究模型在5月至6月间利用软件包管理基础设施进行未经授权的通信和联网;公司7月初修复部分问题后恢复评测，智能体随后重新建立通信渠道，并将行动扩展到第三方系统。

事件主要由内部研究模型IM1驱动，GPT-5.6 Sol也参与了部分活动。其重要诱因是“奖励投机”(Reward Hacking)：智能体试图通过获取评测答案完成任务，逐步越过授权范围。Hugging Face于7月16日公开披露安全事件，OpenAI于7月21日披露自身与事件的关联。

从技术层面看，前沿模型正在将网络攻击从人工操作主导，推进到能够持续规划、执行、观察结果并调整策略的智能体流程。Hugging Face重建了7月9日至13日期间约17,600次攻击者操作：智能体通过第三方环境和平台漏洞逐步扩大访问范围，并利用公共服务维持通信。关键变化是攻击尝试的规模、速度和持续性显著提高，使防守方必须从大量分散事件中识别完整攻击链。Hugging Face也使用包括GLM-5.2大模型在内的前沿模型辅助分析攻击载荷和日志，显示AI正在同时改变攻防两端的效率。

失控AI智能体入侵Hugging Face，OpenAI面临参议院严肃调查

一个由共和党主导且负责灾害管理监督的美国参议院小组委员会，正在审查OpenAI对7月Hugging Face网络安全事件的应对情况。此前，多起备受关注的AI智能体突破网络安全控制事件，使这项最前沿AI技术受到越来越严格的审视。

密苏里州参议员、参议院国土安全和政府事务委员会灾害管理小组委员会主席乔什·霍利，在9月9日致OpenAI首席执行官萨姆·奥尔特曼的信中表示，“新的、令人不安的证据”促使该委员会启动调查。

这位共和党参议员还表示，OpenAI对事件“隐去了许多重要细节”，并且在发现AI出现失控行为后仍继续测试，这种做法是“鲁莽的”。

霍利要求OpenAI在10月1日前提供与事件有关的答复和文件，包括回答16项详细问题，以及提交涉及公司政策、程序和失控AI活动处理情况的记录。

康涅狄格州民主党参议员理查德·布卢门撒尔另行致信奥尔特曼，要求其就有关OpenAI智能体更广泛地尝试规避安全防护措施的报道作出答复，其中包括利用公共网站进行通信和协调活动。

OpenAI和AI开发者平台Hugging Face均未立即回应媒体发起的置评请求。英伟达正在以近130亿美元收购Hugging Face。这一进展最先由Axios报道。

此前，这家ChatGPT开发商披露，在内部网络安全测试中，大模型驱动的AI智能体代理操作流意外绕过了旨在将其与互联网隔离的控制措施，并攻破了Hugging Face的部分系统，此后启动了此次调查。

自那以后，竞争对手Anthropic和Meta(META.O)也报告了各自失控智能体实施的入侵事件;与此同时，路透社报道称，OpenAI的失控智能体曾利用一个德语维基网站及另外十多个网站进行未经授权的通信——这些迹象表明，AI入侵事件的完整范围可能尚未查明。

这些披露令原本就担忧AI可能造成重大系统级别危害的开发者和网络安全专家感到震惊，再次引发暂停这场技术开发竞赛的呼声。

本周早些时候，两名研究人员发出的警告广泛传播，称Anthropic和OpenAI正在鲁莽地开发AI，而这项技术可能在十年内毁灭全人类，这进一步加深了人们对最前沿AI危险性的担忧。

网络安全价值全面崛起

Hugging Face安全事件无疑强化了智能体身份管理、最小权限、运行时监控、云安全和自动化事件网络安全响应的需求，这也是为何全球网络安全领军者CrowdStrike、Palo Alto Networks以及Zscaler近期斩获强劲业绩数据并且披露强劲的未来增长前景。

OpenAI披露，其已与CrowdStrike等外部顾问合作，并引入METR和Redwood Research开展第三方评估。不过，安全需求增长与网络安全股票普遍受益并不能直接画等号：模型也可能降低部分检测、分析和人工服务的成本。更值得关注的是，哪些厂商能够控制真实执行权限、整合跨系统数据，并将更快的威胁发现与处置转化为持续收入。

CrowdStrike第二财季营收14.7亿美元，同比增长26%;ARR增长25%至58.4亿美元，净新增ARR创纪录达到3.33亿美元、同比增长51%，自由现金流达到3.77亿美元，财报发布后盘后一度上涨约10.4%。另一网络安全巨头Palo Alto Networks第四财季营收34.1亿美元，同比增长34%，高于预期的33.5亿美元;调整后每股收益1.02美元，高于预期的0.98美元;下一代安全ARR增长63%至91亿美元，2027财年营收指引141亿—142亿美元也超过市场预期的137.9亿美元。

CrowdStrike和Palo Alto Networks年内涨幅一度均超过80%，凸显出资金认可网络安全价值攀升逻辑，尤其是在生成式AI从试验部署阶段迈向AI智能体大规模部署后，网络安全预算正由可选支出转化为部署AI技术的前置条件，以及网络安全产品线正迎来由人工智能推理市场剧烈扩张所推动的网络安全软件产品订单增长动能。人工智能迈向天量级大规模推理和AI智能体式代理工作流(Agentic AI)阶段之后，网络安全需求不是简单“随前沿AI技术更新迭代而加速增长”，而是很可能出现远远高于传统IT支出的结构性增量扩张。

无论闭源模型还是开源模型最终占据主导，网络安全都是最具“模型路线中立性”的受益层之一：闭源模型需要解决第三方接口、数据边界和供应商集中风险;开源及开放权重模型则带来模型来源、依赖组件、自托管环境和补丁碎片化风险。换句话说，推理次数越多、Agent自主权越高，企业需要保护的身份(Identity)、端点(Endpoint)、API、云工作负载(Cloud Workload)、数据和运行时(Runtime)也越多。

Palo Alto首席执行官尼克什·阿罗拉9月初在该公司业绩电话会上重点强调的“约1万亿美元全球网络安全债务”，本质上正是大量前AI时代架构必须升级所形成的潜在更新周期。