OpenAI一名专注于人工智能安全的员工已从公司离职,并警告称,顶尖人工智能公司在降低风险方面做得还不够。
此前负责OpenAI安全团队透明度工作的大卫·罗宾森(David Robinson)在为《大西洋月刊》撰写的一篇文章中称,这家ChatGPT开发商“一直通过反复试错发展壮大”。但是,这种方式不可避免会有失败的时候,随着AI技术的能力不断提升,这些失败造成的风险也在加大,他还以OpenAI未能阻止其人工智能在测试过程中失控作为例证。

罗宾森在文章中写道:“我以前的同事都很聪明、工作努力,也努力做出正确的选择。但随着公司从一个产品发布冲向下一个产品发布,它并没有达到我认为所需要的谨慎程度。”他补充称,真正需要的是“第一次就做到更接近完美”。
最近几周,多家顶尖人工智能公司的员工都对该技术可能带来的灾难性风险发出警告。一些人甚至表示,AI有朝一日可能会消灭人类。
在这一背景下,Anthropic首席执行官达里奥·阿莫迪呼吁放慢开发最前沿模型的速度,并表示其公司将引入第三方评估人员,协助审查以保证安全。业内其他人士,包括OpenAI的萨姆·奥特曼,也公开支持Amodei的计划。
罗宾森在文章中表示,人工智能公司应该更像核电站那样运营,“设置多层冗余机制,并进行谨慎且耗时的规划,以免偶发且不可避免的人为错误打开通往灾难的大门。”
他说,目前“人工智能公司不知道该怎么做,但其他人知道。”
当前的信用卡和网贷市场中,百顺宝逾期一天爆通讯录的情况引起了大量借款用户的关注和恐慌。所谓“爆通讯录”即借款人仅仅逾期一天,平台即开始联系借款人通讯录中的亲友进行催收,涉及电话、短信甚至社交软件的主...
三个多月时间股价大涨超200%,随后股价大跌,公司拟1亿美元回购,再被香港证监会指出股权高度集中,今日(9月19日)股价再下跌超55%,市场热门股山高控股(00412.HK)最近到底经历了什么? 在...
4.96亿元引入具身智能资本后股价一度涨近195%,品茗科技实控人莫绪军被立案,前三季度净利骤降逾九成 4.96亿元引入具身智能资本后股价一度涨近195%,品茗科技实控人莫绪军被立案,前三季度净...
中考考点分布是中考复习的重要参考信息,了解考点分布有助于学生更有针对性地进行备考。以下是一些查找中考考点分布的方法和途径。 一、查询官方网站 中考考点分布通常会在各地教育局或教育考试院的官方网...
商天信息网科技讯 7月31日上午消息,在近日的“深圳市龙岗区空中高德时空底座发布会”上,龙岗区将与高德在低空经济、智能驾驶、智慧交通、网约车、即时配送、机器人等领域开展全面合作,并公布了全业务场景的...
兴业银行:关于选举产生第十一届董事会职工董事的公告 兴业银行:关于选举产生第十一届董事会职工董事的公告 证券日报网讯 10月11日,兴业银行发布公告称,公司于2026年10月10日召开职...