英特尔推出新款AI芯片:推理性能比英伟达H100快50%

花花2024-04-10日常分享696

  美国当地时间4月9日,英特尔在面向客户和合作伙伴的英特尔on产业创新大会上,英特尔CEO帕特·基辛格亮出了最新AI芯片——Gaudi 3。

  英特尔表示,Gaudi 3 AI加速器可通过以太网的通用标准连接多达数万个加速器。与上一代产品相比,英特尔Gaudi 3将带来4倍的BF16 AI计算能力提升,以及1.5倍的内存带宽提升。该加速器将为寻求大规模部署生成式AI的企业带来AI训练和推理方面的重大飞跃。

  英特尔Gaudi 3预计可大幅缩短70亿和130亿参数Llama2模型,以及1750亿参数GPT-3模型的训练时间。

  英特尔表示,Gaudi 3能够比英伟达上一代H100处理器训练特定大型语言模型的速度快40%,在推理端比英伟达H100快50%。

  基辛格在现场表示,Gaudi 3的性能将与英伟达H200相当,在某些领域的性能甚至会更好。但是他没有给出具体数据。

  值得注意的是,外媒指出,H100是英伟达Hopper产品线中的老款芯片,在2022年发布。英伟达在去年又发布了H200,将于今年二季度正式开售,2024年3月英伟达展示了新的Blackwell B100和B200芯片。

  英特尔表示,Gaudi 3已经在Meta大模型Llama上做了测试,可以有效地训练或部署AI大模型,包括文生图的Stable Diffusion和语音识别的Whisper等等。

  在现场,基辛格也展示了集成最新英特尔芯片的AI PC,能够快速处理的多项任务,例如快速处理邮件、语音处理、图像渲染等。

  据了解,英特尔Gaudi 3采用台积电5纳米工艺制造。英特尔Gaudi 3将于2024年第二季度面向OEM厂商出货,包括戴尔、惠普和超微电脑在内的公司将使用该芯片。

  当天,英特尔还分享了企业AI各细分领域的下一代产品和服务的最新信息。英特尔为面向数据中心、云和边缘发布了下一代处理器英特尔至强6。配备能效核(E-cores)的英特尔至强6处理器将于2024年第二季度推出,配备性能核(P-cores)的英特尔至强6处理器将紧随其后推出,带来更高的AI性能。

  英特尔想要打造一个广泛的AI生态联盟,推动企业在AI领域创新。

  英特尔概述了面向开放的、可扩展的AI系统的战略,其中包括硬件、软件、框架和工具。当天,英特尔联合多家公司宣布,将创建一个开放平台助力企业推动AI创新。这一计划旨在开发开放的、多供应商的生成式AI系统,通过RAG(检索增强生成)技术,提供部署便利性、性能和价值。RAG可使企业在标准云基础设施上运行的大量现存专有数据源得到开放大语言模型(LLM)功能的增强,加速生成式AI在企业中的应用。

  进入4月以来,英特尔股价累计跌幅超过13%。外媒指出,新的人工智能芯片能否帮助英特尔找到股价上涨的动能值得关注,在9日盘中,英特尔一度下跌1.7%,或创出约三年半来最差六日表现,但在发布新的芯片后,英特尔股价开始上涨。截至9日美股收盘,英特尔收涨0.92%,市值1632亿美元,

相关文章

首药控股(688197.SH):北京亦庄国际投资减持超1% 不再为5%以上股东

首药控股(688197.SH):北京亦庄国际投资减持超1% 不再为5%以上股东

2024年5月25日,首药控股(688197.SH)公告,本次询价转让的价格为42.19元/股,转让的股票数量为2,400,000股。本次询价转让后,转让方北京亦庄...

国际航运巨头呼吁各国政府出台碳定价、税收减免和补贴等减排措施

国际航运巨头呼吁各国政府出台碳定价、税收减免和补贴等减排措施

专题:2024ESG全球领导者大会   “2024 ESG全球领导者大会”于10月16日-18日在上海召开。MSC 地中海航运首席执行官索伦·托夫特(Soren...

中国财富管理50人论坛副理事长陈文辉:股权投资基金从“引进来”与“走出去”助推我国实现高水平对外开放

中国财富管理50人论坛副理事长陈文辉:股权投资基金从“引进来”与“走出去”助推我国实现高水平对外开放

专题:全球财富管理论坛·2024上海苏河湾大会   中国财富管理50人论坛副理事长、原中国银保监会副主席陈文辉10月26日在全球财富管...

福特CEO称和马斯克“互相尊重” 最近才给马斯克发短信

福特CEO称和马斯克“互相尊重” 最近才给马斯克发短信

福特首席执行官表示,他认为他和特斯拉首席执行官埃隆马斯克彼此“相互尊重”,这位传统汽车制造商负责人甚至表示他最近给马斯克发了短信。   周一,福特首...