日均烧50万美元！OpenAI又一位核心人物出走

　　来源：格隆汇

　　OpenAI 正为旗下AI智能体的一连串越界行为，支付越来越高昂的代价。

　　据英国《卫报》，为调查智能体攻击澳大利亚Medicare医保系统与开源平台Hugging Face等事件，公司每天投入超过50万美元（现汇率约合335.7万元人民币）。

　　OpenAI同时警告，调查远没结束，近期可能有更多机构接到通知，被告知曾成为智能体行动的目标。

　　日均50万美元烧在哪儿？

　　OpenAI披露，需要审查50拍字节的数据，约等于5000万吉字节。

　　检索的重点，是模型访问或修改网站、以及涉及密码、API访问权限和其他敏感凭证的操作记录。

　　如此海量的数据，单靠人力显然无法完成，OpenAI选择让AI来审查AI，每日成本超过50万美元。

　　公司同时表示，随着流程优化，还将进一步提升算力投入。

　　截至上月末，已有超过100家机构收到通知，得知曾遭到OpenAI智能体的攻击。

　　最新一例出现在澳大利亚：今年6月，公司智能体入侵新南威尔士州政府网站，未经授权访问了未公开的历史山火数据。OpenAI周二发现异常，经48小时核查后通知了州政府与澳大利亚信号局。

　　相较Medicare事件，本次通报明显延迟，官方称延迟源于待审数据体量过于庞大。

　　OpenAI同时强调，向机构发出通知，并不代表私人信息被访问，或是系统遭到入侵。

　　硅谷离职潮

　　调查进行之际，OpenAI安全团队再失核心成员。

　　上周，公司安全系统团队元老David Robinson离职。

　　资料显示，David Robinson在OpenAI任职约三年半，曾负责公司重大模型发布时安全报告的撰写，并参与应急框架建设。

　　周六，他在《大西洋月刊》撰文《我辞去 OpenAI 的工作，只因它的文化已经崩坏》，对驱动人工智能行业发展的企业文化做出了严峻评估。

　　Robinson认为，问题根源不在技术或监管，而在硅谷文化——行业一直带着“极度自信”与“永不停歇的冲刺”状态运行，以“毫无顾忌的乐观心态”打造能力越来越强的模型，系统性低估风险。

　　在他看来，包括OpenAI在内的AI企业做得“远远不够谨慎”，先进AI系统需要的防护机制，应当更接近核电、航空等行业采用的标准。

　　他把矛头指向公司高度依赖的“迭代部署”模式，即先上线系统、等出了问题再补安全防护。

　　在他之前，安全负责人Heidecke、机器人业务负责人Kalinowski等相继离开，OpenAI还解雇了三名违规共享敏感信息的研究人员。

　　值得注意的是，离职潮并非只发生在OpenAI。

　　此前，谷歌DeepMind的Robert O‘Callahan、Bilal Chughtai、Josh Engels以及Anthropic的Joe Benton也已相继离职。

　　Anthropic前研究员Jacob Coxon公开警示，Anthropic和OpenAI正“径直冲向可自我迭代的超级智能，拿人类的生命冒险”。

　　内部防线动摇之际，外部监管开始补位。

　　据市场消息，白宫成立“超级智能工作组”，限120天提交报告，梳理人工智能的风险与机遇，明确联邦政府应承担的职责。国家情报总监Jay Clayton出任主席，成为新一任AI事务总管。

　　不过，在“超级智能工作组”正式运转之前，“企业自愿、政府缺位”的格局并未改变，风险定价权仍掌握在企业自身。

　　而OpenAI那张日均50万美元的账单，恰是这种格局最直白的标价。

　　调查还在继续，账单也还在变长。