• 欢迎使用千万蜘蛛池,网站外链优化,蜘蛛池引蜘蛛快速提高网站收录,收藏快捷键 CTRL + D

“Intel发布Gaudi 3 AI加速器:4倍性能提升、1800亿参数大模型应对无压力”


在2021年4月9日的Intel Vision 2024产业创新大会上,Intel宣布了多项重磅消息。首先,它宣布了全新的Gaudi 3 AI加速器,这个产品可以帮助企业应对推广AI项目时所面临的挑战,加速实现AIGC落地商用。AI是推动半导体市场增长的主要力量,预计到2030年,全球半导体市场规模将达1万亿美元。但在2023年,预计只有10%的企业能够成功将其AIGC项目产品化。

新一代的Gaudi 3 AI加速器

现有的Gaudi 2在2022年5月诞生,并于2023年7月正式引入中国,拥有极高的深度学习性能、效率,以及极高的性价比。Gaudi 3升级为台积电5nm工艺,带来了2倍的FP8 AI算力、4倍的BF16 AI算力、2倍的网络带宽、1.5倍的内存带宽。它在流行LLM上的推理性能领先50%,训练时间快40%。Gaudi 3预计可大幅缩短70亿和130亿参数Llama2模型、1750亿参数GPT-3模型的训练时间。对于Llama 70亿/700亿参数、Falcon 1800亿参数大型语言模型,Gaudi 3的推理吞吐量和能效也都非常出色,可以满足复杂性、成本效益、碎片化、数据可靠性、合规性等AI应用需求。

除了升级硬件性能,Gaudi 3还提供了多种灵活的形态,包括OAM兼容夹层卡、通用基板、PCIe扩展卡,满足不同应用需求。此外,它也提供了开放的、基于社区的软件,以及行业标准以太网网络,可以灵活地从单个节点扩展到拥有数千个节点的集群、超级集群和超大集群,支持大规模的推理、微调和训练。

全新的至强6品牌

在大会上,Intel还宣布了新一代的至强6品牌,该品牌是成熟的数据中心市场产品系列的升级版。它们采用了代号为“Sapphire Rapids”的新一代制程工艺,将于2021年底推出。新一代的至强6品牌保留了PCIe 4.0和8通道内存等特点,同时还增加了成熟的AI加速器和媒体/网格加速器,以进一步加强深度学习和数据分析等应用的性能。

全栈解决方案和战略合作

在大会上,Intel还宣布了全新的可扩展系统和下一代产品的全栈解决方案,并宣布与多家企业展开合作。其中包括:与红帽、VMware和Yellowbrick等企业合作,以深化在基于开放和可移植性的云和数据中心领域的协作;与MariaDB、SAP和SAS等企业合作,为企业提供一个在数据中心和云中新兴存储领域更具可扩展性、可靠性和性能的存储解决方案;与KX Systems、Anyscale和DataStax等企业合作,创建开放平台,助力企业推动AI创新。

结尾及推荐相关问题

总体而言,Intel的最新解决方案展示了它对加速AI发展的承诺和支持,同时向业界展示了它与其他企业密切合作的能力。您认为Intel发布的这些新产品和解决方案对AI产业发展有何影响?您对未来的AI应用和技术有何展望?欢迎在评论区留言分享您的想法。

感谢您的观看,如果您喜欢这篇文章,请点赞、关注和分享。

同时,我们也非常欢迎您在评论区留言,分享您的想法和建议。

谢谢!

Intel AI Technology

本文链接:https://www.24zzc.com/news/171285263466386.html

蜘蛛工具

  • 域名筛选工具
  • 中文转拼音工具
  • WEB标准颜色卡