輝達推升級版雲端AI晶片H200 美大咖科技廠明年將採用
輝達升級旗艦AI晶片,將可以處理更強大的人工智慧系統。(圖/彭博)
為維持市場領先地位,輝達(nVidia)升級旗艦AI晶片,將可以處理更強大的人工智慧系統。輝達週一(13日)表示,這款升級版的新晶片H200 ,所使用的高頻寬記憶體(HBM3e),能提升處理開發和實施AI所需的大型資料集 (Data set),包括亞馬遜的AWS、Alphabet的Google Cloud,以及甲骨文的雲端基礎礎設施(Cloud Infrastructure)等美國科技大廠都承諾,明年將開始使用該款新晶片。
報導指出,H200將超越輝達目前的頂級H100晶片,其主要升級是具有更高頻寬的內存,這是晶片中最昂貴的部分之一,價格決定了「它」可快速處理多少資料。
請繼續往下閱讀...
輝達在人工智慧晶片市場中佔據主導地位,並為OpenAI的ChatGPT及許多類似的生成式人工智慧服務提供支持。據了解,晶片裡增加更多的高頻寬記憶體,及與晶片處理元件,可讓人工智慧服務更快地給出答案。
H200擁有141GB的高頻寬內存,較H100的80 GB大幅提高。據報導,輝達的內存記憶體晶片的供應商是南韓SK海力士,因輝達訂單挹注,幫助SK海力士第3季銷售寫出好成績。美光表示,它正努力成為輝達的供應商。
輝達處理器H100被稱為AI加速器,市場對該產品有著高度需求,輝達的競爭對手也推出可與H100競爭的產品,其中超微(AMD)在本季推出MI300晶片,而英特爾所推出的Gaudi 2,聲稱其速度比H100更快,在競爭激烈下,輝達將H100再升級,藉以維持領先地位。
輝達表示,透過H200可讓創造的AI模型,以及服務的資料集的規模跟上速度,而強化的存儲能力,也讓H200訓練AI執行識別圖像,以及語音等任務過程的速度更快。
鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。
標題:輝達推升級版雲端AI晶片H200 美大咖科技廠明年將採用
地址:https://www.twnewsletter.com/article/22383.html