(圖/ 澎湖新聞網 AI圖片)

AI晶片競爭焦點正逐漸從GPU延伸至高頻寬記憶體(HBM)。隨著SK海力士(SK hynix)宣布將以美國存託憑證(ADR)方式赴美上市,加上市場對AI基礎設施需求持續升溫,記憶體產業再次成為全球半導體市場關注焦點。

近期有「HBM之父」之稱的韓國科學技術院(KAIST)教授金正浩提出新觀點指出,在生成式AI快速發展下,真正限制AI效能的關鍵並非GPU本身,而是記憶體頻寬與資料傳輸效率,相關說法也引發半導體產業高度討論。

SK海力士赴美上市 AI記憶體成市場新焦點


SK海力士預計以ADR方式於美國那斯達克掛牌,股票代號為SKHY,募資規模約282億美元,市場預期將成為美國歷來規模最大的海外企業IPO之一。

近年AI需求帶動全球記憶體市場快速成長,多家相關企業股價亦大幅攀升,包括SanDisk、美光(Micron)、三星電子,以及日本鎧俠控股(Kioxia Holdings)等,都因AI產業需求受惠,反映市場資金持續流向AI基礎建設供應鏈。

HBM之父:AI真正瓶頸在記憶體而非GPU


金正浩指出,目前全球資料中心大量部署GPU,但GPU實際執行運算的時間可能僅約占整體流程一成,其餘大部分時間皆花費於資料讀取、寫入與等待HBM完成資料交換。

他認為,即使持續改善演算法,GPU利用率仍受到記憶體頻寬限制,因此未來AI系統整體效能提升,將更加依賴高頻寬記憶體技術,而非單純增加GPU運算能力。

GPU散熱限制 成AI晶片持續升級挑戰


金正浩分析,GPU效能提升主要仰賴增加運算單元與晶片面積,但隨著功耗與散熱需求快速增加,GPU在封裝設計上逐漸面臨物理限制。相較之下,HBM可透過3D堆疊技術提升容量與頻寬,因此未來AI運算平台若要持續提升效率,記憶體架構的重要性將持續提高。

他並指出,未來AI應用逐漸朝向AI代理(AI Agent)、多模態模型及情境推論發展,系統需要同時存放更多模型與資料,也將進一步推升HBM需求。

HBM供應鏈地位提升 產業定價模式逐步改變


除了技術演進外,AI也正改變記憶體產業商業模式。金正浩表示,自HBM4世代開始,記憶體廠商往往需要在產品開發初期,即取得包括輝達(NVIDIA)、Google、AMD等大型客戶的採購承諾,才會正式投入量產。

這與過去標準型記憶體大量生產、價格由市場決定的模式有所不同,也代表AI需求正讓HBM逐步成為高附加價值產品,供應商在產業鏈中的議價能力同步提升。

AI推論時代來臨 記憶體重要性持續升高


市場分析認為,生成式AI正逐步由模型訓練走向大規模推論應用,資料存取效率與記憶體頻寬的重要性同步提升。未來隨著大型語言模型、多模態AI及企業AI部署持續擴大,高頻寬記憶體、先進封裝及資料中心基礎設施,都將成為AI供應鏈的重要競爭核心。

不過,HBM是否將取代GPU成為AI產業新的主導力量,目前仍有待技術演進、市場需求與供應鏈發展持續驗證。

澎湖新聞網

(文/ 記者 曾知遠)

回覆

刪除回覆

您的Email不會被公開。

Loading weather...
Loading currency...

關注我們

精彩投票

vote-image

最愛的澎湖景點

0%
20%
0%
20%
0%
60%

分類

Please Accept Cookies for Better Performance  

11