英特尔推出新款AI芯片:推理性能比英伟达H100快50%

花花2024-04-10日常分享508

  美国当地时间4月9日,英特尔在面向客户和合作伙伴的英特尔on产业创新大会上,英特尔CEO帕特·基辛格亮出了最新AI芯片——Gaudi 3。

  英特尔表示,Gaudi 3 AI加速器可通过以太网的通用标准连接多达数万个加速器。与上一代产品相比,英特尔Gaudi 3将带来4倍的BF16 AI计算能力提升,以及1.5倍的内存带宽提升。该加速器将为寻求大规模部署生成式AI的企业带来AI训练和推理方面的重大飞跃。

  英特尔Gaudi 3预计可大幅缩短70亿和130亿参数Llama2模型,以及1750亿参数GPT-3模型的训练时间。

  英特尔表示,Gaudi 3能够比英伟达上一代H100处理器训练特定大型语言模型的速度快40%,在推理端比英伟达H100快50%。

  基辛格在现场表示,Gaudi 3的性能将与英伟达H200相当,在某些领域的性能甚至会更好。但是他没有给出具体数据。

  值得注意的是,外媒指出,H100是英伟达Hopper产品线中的老款芯片,在2022年发布。英伟达在去年又发布了H200,将于今年二季度正式开售,2024年3月英伟达展示了新的Blackwell B100和B200芯片。

  英特尔表示,Gaudi 3已经在Meta大模型Llama上做了测试,可以有效地训练或部署AI大模型,包括文生图的Stable Diffusion和语音识别的Whisper等等。

  在现场,基辛格也展示了集成最新英特尔芯片的AI PC,能够快速处理的多项任务,例如快速处理邮件、语音处理、图像渲染等。

  据了解,英特尔Gaudi 3采用台积电5纳米工艺制造。英特尔Gaudi 3将于2024年第二季度面向OEM厂商出货,包括戴尔、惠普和超微电脑在内的公司将使用该芯片。

  当天,英特尔还分享了企业AI各细分领域的下一代产品和服务的最新信息。英特尔为面向数据中心、云和边缘发布了下一代处理器英特尔至强6。配备能效核(E-cores)的英特尔至强6处理器将于2024年第二季度推出,配备性能核(P-cores)的英特尔至强6处理器将紧随其后推出,带来更高的AI性能。

  英特尔想要打造一个广泛的AI生态联盟,推动企业在AI领域创新。

  英特尔概述了面向开放的、可扩展的AI系统的战略,其中包括硬件、软件、框架和工具。当天,英特尔联合多家公司宣布,将创建一个开放平台助力企业推动AI创新。这一计划旨在开发开放的、多供应商的生成式AI系统,通过RAG(检索增强生成)技术,提供部署便利性、性能和价值。RAG可使企业在标准云基础设施上运行的大量现存专有数据源得到开放大语言模型(LLM)功能的增强,加速生成式AI在企业中的应用。

  进入4月以来,英特尔股价累计跌幅超过13%。外媒指出,新的人工智能芯片能否帮助英特尔找到股价上涨的动能值得关注,在9日盘中,英特尔一度下跌1.7%,或创出约三年半来最差六日表现,但在发布新的芯片后,英特尔股价开始上涨。截至9日美股收盘,英特尔收涨0.92%,市值1632亿美元,

相关文章

阿联酋600亿抄底万达,王思聪痛失继承权

阿联酋600亿抄底万达,王思聪痛失继承权

  上周六,当大多数人都在享受休息日时,王健林却抛出了一则重磅新闻:太盟集团、中信资本、Ares Management、阿布扎比投资局以及穆巴达拉投资公司这五家...

二十国集团财长和央行行长就国际税收合作等问题达成一致

二十国集团财长和央行行长就国际税收合作等问题达成一致

  本年度二十国集团第三次财政部长会议7月26日在巴西里约热内卢闭幕。会议发表部长级宣言,各方就国际税收合作、组建全球反饥饿与贫困联盟和努力应对全球气候变化等问题达成一致。该...

银行暂停“高息高返”车贷尚存差异,有国有行称“并不完全属实”,多家股份行“没有接到通知”

银行暂停“高息高返”车贷尚存差异,有国有行称“并不完全属实”,多家股份行“没有接到通知”

近日,财联社记者获悉有银行暂停“高息高返”车贷业务,部分国有行已开始行动。   10月23日,财联社记者进一步向多家银行了解具体情况,有国有大行回应表示,已留意到...

万泰生物:公司目前在企业运营管理中尚未实施区块链技术

万泰生物:公司目前在企业运营管理中尚未实施区块链技术

每经AI快讯,有投资者在投资者互动平台提问:据公开信息披露,贵公司行业内不少企业运营管理中都实施了区块链技术,是否对贵公司维系现有客户关系产生了新挑战?...

四川国资大整合!控股股东拟战略重组,川能动力两连板、川投能源盘中涨逾9%

四川国资大整合!控股股东拟战略重组,川能动力两连板、川投能源盘中涨逾9%

记者|赵阳戈   12月伊始,川能动力(000155.SZ)录得1个“一字涨停”+1个“T字涨停”。  &ems...