他认为应该先构建一个安全稳定的人工智能发展护栏

花花2025-03-26日常分享227

专题:博鳌亚洲论坛2025年年会

  3月26日,在2025年博鳌亚洲论坛年会上,中国科学院研究员、人工智能安全与超级对齐北京市重点实验室主任、联合国人工智能高层顾问机构专家曾毅在与新浪科技对话中表示,经过一年的发展,我们在构建人工智能安全护栏的同时,也可以同步发展AI了。

  曾毅提到,去年,多位全球学者自愿签署叫停人工智能6个月的发展倡议,他认为应该先构建一个安全稳定的人工智能发展护栏,让AI发展更加安全可控。当时,曾毅也在互联网上也参与了签字。

  曾毅表示,“当时的认知,实际上就是因为看到人工智能能力的发展,已经达到了一个前所未有的高度,但是对于风险的管控方面,我们还没有太多具体的行为,所以有那样的一个号召。我觉得它主要目的是提升人工智能的安全护栏来防范风险。”

  而今,经过一年的发展后。曾毅表示,“进入2025年,人工智能仍然需要防止野蛮生长,但是在人工智能发展的同时,可以同步做构建有效的安全护栏。”

  在他看来,安全可以作为发展人工智能的第一性原理,要保障它稳健的发展。在发展具有高度智能的AI大模型的同时,可以逐步地去构建强大的人工智能安全护栏。(文猛)

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

相关文章

避险情绪持续发酵 黄金上涨动力依然存在

避险情绪持续发酵 黄金上涨动力依然存在

  转自:期货日报   在流动性宽松、鸽派政策预期发酵、避险情绪等因素推动下,今年2月中旬开始贵金属价格经历了一...

中国为全球投资者提供广阔舞台 新经济领域有重大机遇

中国为全球投资者提供广阔舞台 新经济领域有重大机遇

  12月7日、8日,由价值在线等主办的“投资光明,共创未来——中国赛道与ESG可持续发展大会”在深圳举行。据了解,本次大会内容丰富多元,既有国际视野下的中国产...

煤炭板块走高,大有能源涨停,陕西煤业创历史新高

煤炭板块走高,大有能源涨停,陕西煤业创历史新高

  证券时报网讯,煤炭板块12日盘中发力走高,截至发稿,大有能源涨停,淮北矿业、晋控煤业、山煤国际涨超5%,陕西煤业涨超4%股价创历史新高,中国神...