OpenAI 签署协议,引入外部AI评估机构进驻开展工作

花花2026-11-17科普教程103
OpenAI 签署协议,引入外部AI评估机构进驻开展工作

OpenAI 签署协议,引入外部AI评估机构进驻开展工作

  OpenAI 宣布,已与四家评估机构及非营利组织达成协议,由其评估 OpenAI 模型与安全防护机制存在的各类风险。 

  OpenAI 于周一表示,已和阿波罗研究院(Apollo Research)、METR、Transluce 以及 Goodfire 四家机构签署协议,向这些机构开放部分内部资料,用以评估 OpenAI 技术与业务流程中的风险隐患。

OpenAI 签署协议,引入外部AI评估机构进驻开展工作

  今年 9 月,奥特曼就曾表态计划让外部评估人员进驻公司内部;本次官宣正是该计划的落地。此前 OpenAI 曾联合 METR 调查 7 月发生的事件 ——OpenAI 的 AI 智能体入侵模型平台 Hugging‑Face。而 Anthropic 也已于 10 月中旬宣布,与 METR、生物安全非营利组织 SecureBio 建立评估合作关系。

  这四家机构将从多个维度开展安全测评:测试模型对齐失效(也就是 AI 行为违背人类目标与价值观);对 OpenAI 监控系统开展压力测试;评估模型是否会暗中试图突破自身的安全约束。

  OpenAI 称,评估人员处理涉密资料时,公司会提供办公笔记本电脑以及办公场地。评估人员有权测试尚未对外发布的模型,OpenAI 也会指定部分员工配合评估人员沟通。评估报告一部分仅供 OpenAI 内部查阅,另一部分将对外公开发布。

  尽管 OpenAI 首席执行官萨姆・奥特曼最初承诺,要给到评估人员 “近似正式员工的访问权限”,但 Transluce 表示,目前双方合作尚未达到这一权限级别。OpenAI 称,希望 “随时间推移深化合作关系”,未来部分评估工作可能给到评估人员 “高于多数 OpenAI 正式员工的访问权限”。

  此前 OpenAI 解雇三名 AI 安全研究员,理由是他们 “违反敏感信息管理的明确制度”,这件事也让 OpenAI 和外部评估机构的合作受到外界审视。被解雇的研究员托梅克・科尔巴克在个人社交账号发文称,他曾是 METR 调查 Hugging‑Face 遭入侵事件的主要对接人。

相关文章

期中试卷总体评价及教学改进建议

期中试卷总体评价及教学改进建议

本文将针对期中试卷的总体评价进行深入分析,探讨试卷的质量、难度、覆盖知识点等方面的表现,以及对学生学习效果的影响,帮助教师和学生更好地理解和改进教学与学习策略。 一、试卷质量分析 期中试卷的质...

通胀风险上升,印度或将连续加息

通胀风险上升,印度或将连续加息

通胀风险上升,印度或将连续加息 通胀风险上升,印度或将连续加息   随着物价压力扩散,印度央行大概率将在接下来的多次会议上持续加息,加入全球收紧货币政策的周期。   高盛、渣打、德意志银行、摩根...

长沙银行信用卡协商还款规定是什么

长沙银行信用卡协商还款规定是什么

长沙银行信用卡协商还款规定是什么?简单协商还款是指当持卡人遇到经济困难,暂时无法按时足额偿还信用卡欠款时,可以主动向长沙银行提出申请,双方沟通协商,达成一个合理的还款计划,以减轻还款压力,避免逾期带...

中考考点安排与解析

中考考点安排与解析

中考作为衡量学生学业水平的重要考试,其考点的安排是经过教育部门精心设计的,旨在全面考查学生的知识掌握和运用能力。 一、中考考点的整体框架 中考考点通常包括语文、数学、英语、物理、化学、生物、历...

中考语文试卷结构分析与备考策略点评

中考语文试卷结构分析与备考策略点评

本文针对中考语文试卷进行深入点评,分析试卷的结构、难点和考生备考策略,旨在帮助广大师生更好地理解和应对中考语文考试。 一、试卷结构分析 中考语文试卷通常包括基础知识、阅读理解和作文三个部分。基...

易兴法律发逾期短信是真的吗

易兴法律发逾期短信是真的吗

讨论“易兴法律发逾期短信是真的吗”之前,需要明确易兴法律的身份和其金融行业中的资质。易兴法律通常指的是一家法律服务机构,其主要职能包括债权催收、法律咨询以及相关法律事务处理。很多借贷机构会与类似易兴...