<menuitem id="9pjvd"><strike id="9pjvd"></strike></menuitem>
<var id="9pjvd"></var>
<var id="9pjvd"><video id="9pjvd"></video></var>
<var id="9pjvd"><video id="9pjvd"><listing id="9pjvd"></listing></video></var>
<menuitem id="9pjvd"><strike id="9pjvd"></strike></menuitem>
<menuitem id="9pjvd"></menuitem>
<var id="9pjvd"></var>
<var id="9pjvd"></var>
<cite id="9pjvd"><video id="9pjvd"><menuitem id="9pjvd"></menuitem></video></cite>
<cite id="9pjvd"><video id="9pjvd"><thead id="9pjvd"></thead></video></cite>
<var id="9pjvd"></var>
<var id="9pjvd"></var>
<cite id="9pjvd"></cite>

新聞中心

EEPW首頁 > 智能計算 > 新品快遞 > 最新MLCommons結果公布:第五代至強可擴展處理器AI成果分享

最新MLCommons結果公布:第五代至強可擴展處理器AI成果分享

—— 第五代至強可擴展處理器的最新MLPerf測試結果充分展示了英特爾及其生態合作伙伴在提升生成式AI性能方面的成果。
作者: 時間:2024-03-31 來源:EEPW 收藏

近日,公布了針對AI推理的MLPerf v4.0基準測試結果。其中,內置了?高級矩陣擴展(? AMX)的第五代?至強?可擴展處理器(以下簡稱“”)在測試中表現優異,進一步彰顯了英特爾致力于通過豐富且具有競爭力的解決方案推動 “AI無處不在”的承諾。截至目前,英特爾仍是唯一一家提交MLPerf測試結果的CPU廠商。與第四代至強在MLPerf推理v3.1基準測試中的結果相比,的測試結果平均提升1.42倍。

本文引用地址:http://www.beadyclass.cn/article/202403/457044.htm

英特爾公司副總裁兼數據中心與人工智能事業部產品管理總經理Zane Ball表示:“我們將持續提升CPU和加速器等廣泛產品組合在行業基準測試中的AI性能。此次全新的結果顯示,我們提供的AI解決方案能夠滿足客戶不斷變化、多樣化的AI需求。同時,至強處理器也為客戶提供了可快速實現AI部署,且極具性價比的選擇?!?/p>

英特爾產品迄今為止在多輪MLPerf基準測試中均所展示出領先的訓練及推理性能,該測試結果亦為客戶樹立了可用于評估產品AI性能的行業標準。

關于的測試結果:

與第四代至強在MLPerf推理v3.1性能基準測試中的表現相比,經由硬件及軟件優化的第五代至強性能平均提升1.42倍。其中,針對具備連續批處理(continuous batching)等軟件優化的GPT-J模型,與v3.1的測試結果相比,第五代至強的性能提升約1.8倍;同樣,得益于MergedEmbeddingBag以及基于英特爾AMX的其他優化,DLRMv2的測試結果顯示出約1.8倍的性能提升和99.9的準確率。

1711844893663794.jpeg 1711844893622956.jpeg

第五代英特爾?至強?可擴展處理器

與此同時,英特爾非常自豪地與包括思科、戴爾、廣達、Supermicro和緯穎科技在內的廣大OEM伙伴們展開合作,助力其提交基于自身產品的MLPerf測試結果。英特爾不僅于2020年開始提交基于第四代至強的測試結果,同時至強可擴展處理器亦是參與MLPerf測試的產品中,眾多加速器的主機CPU。

此外,第五代至強可在英特爾?開發者云平臺上進行評估。該環境中,用戶可以進行小型及大規模AI訓練(譬如大語言模型或生成式AI)、運行大規模的推理工作負載,以及管理AI計算資源等。



評論


相關推薦

技術專區

關閉
欧美日韩免费一区中文字幕|国产精品亚洲精品日韩一本大全|国产精品久久无码不卡黑寡妇|国产精品亚洲精品日韩一本大全
<menuitem id="9pjvd"><strike id="9pjvd"></strike></menuitem>
<var id="9pjvd"></var>
<var id="9pjvd"><video id="9pjvd"></video></var>
<var id="9pjvd"><video id="9pjvd"><listing id="9pjvd"></listing></video></var>
<menuitem id="9pjvd"><strike id="9pjvd"></strike></menuitem>
<menuitem id="9pjvd"></menuitem>
<var id="9pjvd"></var>
<var id="9pjvd"></var>
<cite id="9pjvd"><video id="9pjvd"><menuitem id="9pjvd"></menuitem></video></cite>
<cite id="9pjvd"><video id="9pjvd"><thead id="9pjvd"></thead></video></cite>
<var id="9pjvd"></var>
<var id="9pjvd"></var>
<cite id="9pjvd"></cite>