在人工智能（AI）领域，芯片的性能直接关系到训练和推理的速度与效率。近年来，英伟达凭借其强大的GPU技术在数据中心和AI市场中占据了主导地位。然而，AMD作为另一家芯片巨头，也在不断推出高性能的AI芯片，试图撼动英伟达的市场地位。2024年10月10日，AMD在旧金山举行的…
在人工智能（AI）领域，芯片的性能直接关系到训练和推理的速度与效率。近年来，英伟达凭借其强大的GPU技术在数据中心和AI市场中占据了主导地位。然而，AMD作为另一家芯片巨头，也在不断推出高性能的AI芯片，试图撼动英伟达的市场地位。2024年10月10日，AMD在旧金山举行的Advancing AI 2024大会上发布了一系列AI新品，其中旗舰AI芯片MI325X尤为引人注目。据AMD介绍，MI325X在多项性能指标上超越了英伟达的H200芯片，这无疑是AMD在AI芯片领域的一次重大突破。
AMD MI325X AI芯片介绍
AMD Instinct MI325X是一款专为AI训练和推理设计的GPU加速器。它采用了AMD最新的CDNA 3 GPU架构，内置1530亿个晶体管，配备256GB的HBM3e（第五代）高带宽内存，内存带宽达到6TB/s。在浮点运算方面，MI325X在8位浮点数（FP8）和16位浮点数（FP16）精度下的峰值理论运算性能分别为2.6 PFLOPs（每秒2.6千万亿次浮点运算）和1.3 PFLOPs，比英伟达H200高出约30%。
在发布会上，AMD CEO苏姿丰（Lisa Su）展示了MI325X在Meta Llama模型上的训练和推理性能数据。由8张MI325X组成的服务器平台，在Llama-3.1 405B模型上的推理性能比英伟达H200 HGX平台高出40%；在AI训练上，单张MI325X训练Llama-2 7B的性能为H200的1.1倍，8张MI325X训练Llama-2 70B的性能与H200持平。这些数据充分展示了MI325X在AI训练和推理方面的强大性能。
AMD与英伟达的市场竞争
AMD和英伟达在AI芯片市场的竞争日益激烈。英伟达在2023年11月发布了新一代AI芯片H200，该芯片集成了141GB的内存，更加擅长进行“推理”。H200在用于推理或生成问题答案时，性能较上一代H100提高60%至90%。然而，AMD MI325X的推出，使得英伟达在AI芯片市场的领先地位受到了挑战。
AMD一直致力于提供全套CPU、GPU和网络解决方案来满足现代数据中心的所有需求。MI325X的发布不仅提升了AMD在AI芯片市场的竞争力，还进一步巩固了其在数据中心市场的地位。据AMD介绍，MI325X有望于2024年第四季度投产，并从2025年第一季度开始供货给戴尔、惠普、联想等合作厂商。
电话咨询：86-755-83294757
企业QQ：1668527835/ 2850151598/ 2850151584/ 2850151585
服务时间：9:00-18:00
联系邮箱：chen13410018555@163.com/sales@hkmjd.com
公司地址：广东省深圳市福田区振中路新亚洲国利大厦1239-1241室
CopyRight©2022 版权归明佳达电子公司所有 粤ICP备05062024号-12
官方二维码
友情链接:
最新资讯
