[返回电脑前线首页]·[所有跟帖]·[ 回复本帖 ] ·[热门原创] ·[繁體閱讀]·[版主管理]
英特尔发布Gaudi 3:对标英伟达H100,预计Q2向OEM厂商出货
送交者: gonewithsmoke[☆★★★声望勋衔15★★★☆] 于 2024-04-09 21:31 已读 11011 次  

gonewithsmoke的个人频道

美国当地时间4月9日,英特尔举办了面向客户和合作伙伴的英特尔on产业创新大会。毫无预兆,这场大会上,英特尔首次介绍了他们的GPU产品Gaudi 3,向英伟达发起冲击。

尽管英伟达在数日前的GTC上已经发布了最新的Blackwell架构的GPU,英特尔Gaudi 3在具体的参数上,瞄准了英伟达更早之前的主力产品H100。

据介绍,英特尔Gaudi 3将带来4倍的BF16 AI计算能力提升,以及1.5倍的内存带宽提升,采用 5nm制程制造。这颗芯片能够支持多种的大模型,包括Llama、文生图的Stable Diffusion、语音识别的Whisper等等。

英特尔副总裁Das Kamhout表示,若应用在70亿、130亿参数Llama2模型,甚至1750亿参数GPT-3模型上,采用英特尔Gaudi 3时的大模型训练时间,相比于英伟达H100将缩短50%,同时推理吞吐量提高50%。

不过,英特尔公司首席执行官帕特·基辛格也高调呛声,称Gaudi 3的性能将与英伟达H200相当,甚至在某些领域的性能甚至会更好。不过,他在发布会上暂时没有拿出对比数据,也并未就此展开说明。

在GPU中,网络连接也是一项关键重点。在英特尔Gaudi 3中,英特尔采用的是以太网网络,也允许企业灵活地从单个节点,扩展到拥有数千个节点的集群、超级集群和超大集群,支持大规模的推理、微调和训练。

英特尔方面称,英特尔Gaudi 3将于2024年第二季度面向OEM厂商出货,名单包括戴尔、HPE、联想和Supermicro。

不仅仅是 GPU产品的进展,英特尔此次还发布了另外一款宣布面向数据中心、云和边缘的英特尔至强6处理器,具体包括两款新产品。这也是这款产品时隔数个月之后的再一次更新。

其中,配备能效核的英特尔至强6处理器(代号为Sierra Forest),与第二代英特尔至强处理器相比,每瓦性能提高2.4倍,机架密度提高2.7倍,将于2024年第二季度推出。

配备性能核的英特尔至强6处理器(代号为Granite Rapids),与使用FP16的第四代英特尔至强处理器相比,可将token的延迟时间最多缩短6.5倍,能够运行700亿参数的Llama-2模型。

根据cnvrg.io的调研结果,2023年只有10%的企业成功将其生成式AI项目产品化。为了改变现状,英特尔还在打造他们的 AI生态。

此次发布会上,英特尔还宣布和多家企业合作, 为企业AI创建一个开放平台。在这一平台上,通过检索增强生成(RAG),让企业用户能够通过开放的 LLM功能,更容易部署生成式AI。

另外,英特尔此次还更新了不少端侧产品的更新节奏——

英特尔宣布将于2024年推出的下一代英特尔酷睿Ultra客户端处理器家族(代号Lunar Lake),处理器将具备超过100 TOPS平台算力,在神经网络处理单元(NPU)上也将带来超过46 TOPS的算力,从而为下一代AI PC提供强大支持。

另外,英特尔也发布了涵盖英特尔酷睿Ultra、英特尔凌动处理器和英特尔锐显卡系列产品在内的全新边缘芯片。这些产品主要面向零售、工业制造和医疗等关键领域,所有新品将于本季度上市。

英特尔公司首席执行官帕特·基辛格表示,“从PC到数据中心再到边缘,英特尔正在让AI走进千行百业。英特尔最新的Gaudi、至强和酷睿平台将提供灵活的、可定制化的解决方案,满足客户和合作伙伴不断变化的需求,把握住未来的巨大机遇。”

“我们即将再次改变世界”——这是帕特·基辛格在发布会上留下的最后一句话。

喜欢gonewithsmoke朋友的这个贴子的话, 请点这里投票,“赞”助支持!
[举报反馈]·[ gonewithsmoke的个人频道 ]·[-->>参与评论回复]·[用户前期主贴]·[手机扫描浏览分享]·[返回电脑前线首页]
帖子内容是网友自行贴上分享,如果您认为其中内容违规或者侵犯了您的权益,请与我们联系,我们核实后会第一时间删除。

所有跟帖:        ( 主贴楼主有权删除不文明回复,拉黑不受欢迎的用户 )


    用户名:密码:[--注册ID--]

    标 题:

    粗体 斜体 下划线 居中 插入图片插入图片 插入Flash插入Flash动画


         图片上传  Youtube代码器  预览辅助

    打开微信,扫一扫[Scan QR Code]
    进入内容页点击屏幕右上分享按钮

    楼主本栏目热帖推荐:

    >>>>查看更多楼主社区动态...






    [ 留园条例 ] [ 广告服务 ] [ 联系我们 ] [ 个人帐户 ] [ 版主申请 ] [ Contact us ]