英特爾推出Xeon 6和Gaudi 3 加速企業AI與高效能運算新時代

jcatcj 09月 25,2024

英特爾執行副總裁暨資料中心與AI解決方案總經理Justin Hotard指出,「AI需求帶動資料中心大規模轉型,產業因此開始在軟硬體和開發工具上尋求更多選擇。英特爾推出搭載效能核心(P-core)的Xeon 6和Gaudi 3 AI加速器將促進開放生態系發展,使我們的客戶能以更佳的效能、效率和安全性,滿足所有工作負載。」

Intel Xeon 6處理器,專為運算密集型工作負載設計,並搭載效能核心(P-core),提供相較上一代處理器2倍的效能提升。這款處理器具備更高的核心數、倍增的記憶體頻寬,並將AI加速功能嵌入每個核心,滿足從邊緣到資料中心及雲端環境的AI效能需求。

Intel Gaudi 3 AI加速器則是針對大規模生成式AI進行最佳化,配備64個張量處理器核心(TPC)與8個矩陣乘法引擎(MME),並內建128 GB HBM2e記憶體及24個200 Gb乙太網路連接埠,能加速深度神經網路運算。Gaudi 3與PyTorch框架、Hugging Face Transformer模型和diffuser模型無縫相容。英特爾與IBM合作,將Gaudi 3作為服務部署至IBM Cloud,期望客戶在AI使用與擴展上,既能提升效能,又能降低總持有成本(TCO)。

Gaudi 3。英特爾提供

大規模部署AI涉及多種考量因素,包括靈活彈性的部署選項、具競爭力的價格效能比以及可用的AI技術。英特爾憑藉其強大的x86架構和廣泛的開放生態系,支援企業建構具備最佳化總持有成本(TCO)與每瓦效能的高價值AI系統。值得注意的是,市場上多達73%的GPU加速伺服器使用Intel Xeon系列處理器作為伺服器處理器(host CPU)。英特爾與領導OEM夥伴如戴爾科技、美超微合作,開發共同設計的系統,以滿足客戶在AI部署中的特定需求。其中,戴爾科技與英特爾正合作設計適用於Gaudi 3和Xeon 6的解決方案,並以檢索增強生成(RAG)技術為基礎。

Intel Tiber產品組合為企業提供解決方案,專門應對橫跨AI、雲端與邊緣環境的挑戰,涵蓋存取、成本、複雜性、安全性、效率與可擴充性。Intel Tiber Developer Cloud現已提供英特爾Xeon 6的預覽系統,供技術評估與測試使用,特定客戶還可搶先體驗英特爾Gaudi 3,以驗證AI模型布署。Gaudi 3叢集將於下一季開始推向市場,支援大規模量產布署。新的服務產品如Seekr推出的端到端AI平台SeekrFlow,專為開發可信賴AI應用程式而設計。平台更新包括Gaudi軟體新版本、整合PyTorch 2.4的Jupyter Notebooks、英特爾oneAPI及AI工具2024.2版,這些更新提供全新的AI加速功能,並支援Xeon 6處理器。

英特爾 Xeon Gaudi 處理器 AI

點擊閱讀下一則新聞
美觀卻不實用?iPhone 16 Pro「超窄邊框」傳災情 實測曝2大缺失


鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。


標題:英特爾推出Xeon 6和Gaudi 3 加速企業AI與高效能運算新時代

地址:https://www.twnewsletter.com/article/51241.html

相關文章
精選資訊
  • 財經輪股堂|定製不同風險偏好投資策略
  • 財富焦點論壇︱互聯網經濟對經濟增長影響
  • 大砍蘋果13%持股!股神巴菲特解釋原因 擁6兆現金創新高
  • Threads看不到留言?一鍵找回精彩留言
  • 85度C董娘出清全部3463張持股 美食-KY證實「已賣完」曝原因
  • 狂飆論股社| 韓國公司債券收益率飆升
  • 鴻海旗下鴻騰精密注資新加坡子公司122億 因應海外擴張計畫