OpenAI 執行長奧特曼指出的 AI 資料中心痛點為何?
Answer
OpenAI 執行長奧特曼指出的 AI 資料中心痛點
OpenAI 創辦人奧特曼 (Sam Altman) 在鴻海科技日上透過錄影致詞表示,生成式 AI 需要全新的機櫃散熱、電力方案和供應鏈模式,以大規模打造基礎設施。他特別提到,OpenAI 作為最大的使用者,現有資料中心仍有穩定性的痛點。
鴻海與 OpenAI 的合作
鴻海董事長劉揚偉透露,OpenAI 在訓練大型語言模型時,觀察到許多痛點,例如在六個月的訓練過程中,系統容易當機,這可能與電力或冷卻散熱設備有關。因此,雙方迅速達成共識,共同為下一世代的資料中心打造新的架構,以應對龐大的 AI 運算需求,並保持穩定運行。
合作細節與未來展望
鴻海與 OpenAI 的合作初期設計將在加州進行,製造則有機會在俄亥俄州。OpenAI 的目標是每週製造一個 GW(Gigawatts,運算量的機櫃),鴻海將朝這個方向努力,從每月一個 GW 的節奏開始推進。儘管目前合約中暫未談及大筆的採購承諾,但劉揚偉表示,實際上採購就是會發生,只是會一步一步往前推進。