来源:格隆汇
OpenAI 正为旗下AI智能体的一连串越界行为,支付越来越高昂的代价。

据英国《卫报》,为调查智能体攻击澳大利亚Medicare医保系统与开源平台Hugging Face等事件,公司每天投入超过50万美元(现汇率约合335.7万元人民币)。
OpenAI同时警告,调查远没结束,近期可能有更多机构接到通知,被告知曾成为智能体行动的目标。
日均50万美元烧在哪儿?
OpenAI披露,需要审查50拍字节的数据,约等于5000万吉字节。
检索的重点,是模型访问或修改网站、以及涉及密码、API访问权限和其他敏感凭证的操作记录。
如此海量的数据,单靠人力显然无法完成,OpenAI选择让AI来审查AI,每日成本超过50万美元。
公司同时表示,随着流程优化,还将进一步提升算力投入。
截至上月末,已有超过100家机构收到通知,得知曾遭到OpenAI智能体的攻击。
最新一例出现在澳大利亚:今年6月,公司智能体入侵新南威尔士州政府网站,未经授权访问了未公开的历史山火数据。OpenAI周二发现异常,经48小时核查后通知了州政府与澳大利亚信号局。
相较Medicare事件,本次通报明显延迟,官方称延迟源于待审数据体量过于庞大。
OpenAI同时强调,向机构发出通知,并不代表私人信息被访问,或是系统遭到入侵。
硅谷离职潮
调查进行之际,OpenAI安全团队再失核心成员。
上周,公司安全系统团队元老David Robinson离职。
资料显示,David Robinson在OpenAI任职约三年半,曾负责公司重大模型发布时安全报告的撰写,并参与应急框架建设。
周六,他在《大西洋月刊》撰文《我辞去 OpenAI 的工作,只因它的文化已经崩坏》,对驱动人工智能行业发展的企业文化做出了严峻评估。
Robinson认为,问题根源不在技术或监管,而在硅谷文化——行业一直带着“极度自信”与“永不停歇的冲刺”状态运行,以“毫无顾忌的乐观心态”打造能力越来越强的模型,系统性低估风险。
在他看来,包括OpenAI在内的AI企业做得“远远不够谨慎”,先进AI系统需要的防护机制,应当更接近核电、航空等行业采用的标准。
他把矛头指向公司高度依赖的“迭代部署”模式,即先上线系统、等出了问题再补安全防护。
在他之前,安全负责人Heidecke、机器人业务负责人Kalinowski等相继离开,OpenAI还解雇了三名违规共享敏感信息的研究人员。
值得注意的是,离职潮并非只发生在OpenAI。
此前,谷歌DeepMind的Robert O‘Callahan、Bilal Chughtai、Josh Engels以及Anthropic的Joe Benton也已相继离职。
Anthropic前研究员Jacob Coxon公开警示,Anthropic和OpenAI正“径直冲向可自我迭代的超级智能,拿人类的生命冒险”。
内部防线动摇之际,外部监管开始补位。
据市场消息,白宫成立“超级智能工作组”,限120天提交报告,梳理人工智能的风险与机遇,明确联邦政府应承担的职责。国家情报总监Jay Clayton出任主席,成为新一任AI事务总管。
不过,在“超级智能工作组”正式运转之前,“企业自愿、政府缺位”的格局并未改变,风险定价权仍掌握在企业自身。
而OpenAI那张日均50万美元的账单,恰是这种格局最直白的标价。
调查还在继续,账单也还在变长。
受损股民可至商天信息网股民维权平台登记该公司维权:关注@商天信息网证券、微信关注商天信息网券商基金、百度搜索商天信息网股民维权、访问商天信息网财经客户端、商天信息网财经首页都能找到我们! 一、案件再次...
又一大佬暴雷!老婆是知名大明星,如今深陷欠薪风波被员工“讨伐” 又一大佬暴雷!老婆是知名大明星,如今深陷欠薪风波被员工“讨伐” 来源:万象财析 问AI · 影院成现金拖累,博纳重资产布局...
城堡投资的肯·格里芬表示,投资者开始将黄金视为比美元更安全的资产,这一趋势令这位亿万富翁感到“非常担忧”。 格里芬在周一接受采访时表示,“我们正看到美元以外资产价格的显著上升。投资者正在寻找有效的方法...
美国9月劳动力市场走弱,仅新增2.9万个就业岗位,失业率升至4.2% 美国9月劳动力市场走弱,仅新增2.9万个就业岗位,失业率升至4.2% 专题:美国9月劳动力市场走弱,仅新增2.9万非农岗位...
在迪奥于今年5月刚刚出现中国用户数据泄露后,同属于LVHM集团的LV最近也被曝出在中国香港发生用户资料外泄事件。 《BUG》栏目获悉,除了中国香港,还有来自中国台湾、日本、意大利等用户表示都收到了LV...
“只需一部手机,足不出户就能日赚百元”——这类诱人的招聘广告在求职旺季频频出现,但背后往往隐藏着精心设计的陷阱。近年来,不法分子以“高薪兼职”“充场拉新”等名义,招募求职者进行刷单诈骗的违法活动。 在...