財經中心/師瑞德報導
輝達副總裁Gilad Shainer專訪直言「熱愛台灣公司」,點名台積電是AI工廠關鍵戰友。因應銅線傳輸瓶頸,輝達全面導入CPO光連結技術,突破能效極限,並將於兩年內支援跨機櫃大規模連接,宣告輝達已轉身成為「推理之王」。(圖/三立新聞網資料照)輝達(NVIDIA)網路事業資深副總裁Gilad Shainer在GTC大會上,接受《三立iNews》專訪,直言台灣供應鏈是輝達打造「AI工廠」不可或缺的戰友,並點名台積電(TSMC)在先進封裝領域的卓越貢獻。
Shainer指出,隨著AI算力激增,傳統銅線已難以支撐龐大的數據傳輸,輝達正全面導入「共同封裝光學元件(CPO)」技術,透過光學連接突破能效瓶頸,將原本被視為白日夢的技術轉化為未來2年Scale-up架構的核心動能。
CPO技術突破能效瓶頸 輝達:這是AI連接的「最佳解答」
Shainer表示,構建下一代AI工廠的首要任務是最大化運算能效。隨著GPU數量激增,傳統銅線在長距離傳輸(Scale-out網路)上已力不勝任。
他指出,CPO是目前實現光學連接的最佳技術。輝達投資多年,克服了過去產業在性能、製造及大規模驗證上的困境,成功開發出微型調製器(Micro Modulator)與光學引擎。Shainer強調,400Gbps的CPO技術已隨Veruvin平台出貨,未來2年內,更計畫將CPO導入內部架構,以支持超過1152顆GPU跨機櫃連接的龐大需求。
台灣供應鏈是關鍵戰友 輝達:我們愛台灣公司!
談到供應鏈,Shainer對台灣夥伴表達了由衷的肯定。他直言:「我們與許多台灣公司合作,我們熱愛台灣公司。」
他特別點名台積電是輝達在CPO與先進封裝領域的「偉大夥伴」。Shainer解釋,CPO需要精密的雷射光源、雷達陣列以及複雜的封裝技術,這背後依賴輝達與台灣生態系共同建立的標準與量產能力。針對記者詢問關於台灣記憶體商群聯(Phison)等具體元件合作,Shainer雖未評論單一廠商,但重申台灣合作夥伴對輝達打造「AI工廠」至關重要。
從訓練到推理 輝達轉身成為「推理之王」
Shainer回顧過去幾年的產業變化,指出幾年前AI的核心是「訓練」,但現在輝達已成為「推理之王」。為了支持更複雜的推理工作負載,輝達不斷在機櫃設計上創新,包括引入LPU(推理加速器)、新的存儲層級以及Spectrum-X以太網路平台。
他提到,從今年初的CES到現在短短2個月,輝達展示的系統規模已經翻倍。這種快速迭代的節奏,是為了確保在提升智能的同時,能極大化吞吐量並維持能源效率。
Computex將有新驚喜?輝達預告網路技術持續進化
專訪最後,Shainer向台灣觀眾發出邀請,參與3個月後即將到來的Computex(臺北國際電腦展)。他神祕地表示:「網路技術永遠會有新東西,CES到現在短短時間就有變化,Computex當然值得期待。」
他同時提到輝達Spectrum-X交換器的靈活性,目前已支持包括Cumulus、SONiC等多種作業系統,甚至競爭對手思科(Cisco)也採用輝達的Spectrum-X技術在其基礎設施中執行Nexus OS。這顯示輝達的網路技術正成為業界推動AI轉型的事實標準。
輝達副總裁Gilad Shainer專訪直言「熱愛台灣公司」,點名台積電是AI工廠關鍵戰友。因應銅線傳輸瓶頸,輝達全面導入CPO光連結技術,突破能效極限,並將於兩年內支援跨機櫃大規模連接,宣告輝達已轉身成為「推理之王」。(圖/三立新聞網資料照)
輝達副總裁Gilad Shainer專訪直言「熱愛台灣公司」,點名台積電是AI工廠關鍵戰友。因應銅線傳輸瓶頸,輝達全面導入CPO光連結技術,突破能效極限,並將於兩年內支援跨機櫃大規模連接,宣告輝達已轉身成為「推理之王」。(圖/三立新聞網資料照)
輝達副總裁Gilad Shainer專訪直言「熱愛台灣公司」,點名台積電是AI工廠關鍵戰友。因應銅線傳輸瓶頸,輝達全面導入CPO光連結技術,突破能效極限,並將於兩年內支援跨機櫃大規模連接,宣告輝達已轉身成為「推理之王」。(AI製圖)