MI300X是一款與NVIDIA旗艦顯卡H100相媲美的產品。它擁有8個XCD核心,304組CU單元和8組HBM3核心。顯存容量達到了192GB,相當于NVIDIA H100的2.4倍。同時,HBM內存帶寬高達5.2TB/s,Infinity Fabric總線帶寬也達到了896GB/s,遠超NVIDIA H100。
MI300X在性能和容量方面達到了前所未有的水平,特別適合進行AI計算。一張顯卡就能支持400億參數的大型模型。
據悉,MI300X的HBM密度是英偉達H100的2.4倍,帶寬則是H100的1.6倍。這使得MI300X在具體應用效果上表現出色。它可以支持400億參數的Hugging Face AI模型,單塊MI300X能夠支持高達800億參數規模的模型。
MI300X的硬件能力與市場上的英偉達產品相當。它擁有高達192GB的內存,超過了英偉達競爭對手H100所支持的120GB內存。這意味著MI300X可以承載比其他芯片更大規模的AI模型。
據AMD公司表示,MI300X將在第三季度逐步推出,并在第四季度開始大規模生產,屆時將配備192GB內存。
MI300X的問世將為市場帶來更多選擇,并提供強大的硬件能力,以滿足不斷增長的AI計算需求。除此之外,MI300A已經開始向客戶銷售。
編輯:黃飛
-
amd
+關注
關注
25文章
5496瀏覽量
134635 -
NVIDIA
+關注
關注
14文章
5076瀏覽量
103720 -
HBM
+關注
關注
0文章
386瀏覽量
14836
發布評論請先 登錄
相關推薦
AMD集成DeepSeek-V3模型至Instinct MI300X GPU
AMD MI300X AI芯片面臨挑戰
IBM與AMD攜手部署MI300X加速器,強化AI與HPC能力
IBM將在云平臺部署AMD加速器

IBM與AMD攜手將在IBM云上部署AMD Instinct MI300X加速器
AMD發布新版Instinct MI325X
AMD發布新一代AI芯片MI325X
三星首度引入AMD MI300X,緩解AI GPU短缺
AMD發布全新AI芯片Instinct MI325X
AMD發布AI芯片MI325X 預計2024年第四季度上市
微軟將采用AMD AI芯片以替代英偉達,為云計算提供更優解決方案
人工智能市場風向轉變,AMD Instinct MI300X GPU更受歡迎
AMD Instinct MI300新版將采用HBM3e內存,競爭英偉達B100
英偉達繁榮背后的挑戰 仍面臨著各種內憂外患

評論