
生成式 AI 讓雲端資料中心進入軍備競賽影響全球 DRAM 記憶體供應吃緊,也讓 PC 玩家組裝電腦、升級硬體成本持續增加,甚至 Steam 推出新硬體產品也大受影響。但 OpenAI 執行長 Sam Altman 近日表示從全球資源分配的角度來看,讓大量記憶體留在個人電腦中,卻只有 5% 的時間被使用,是一件「相當糟糕」的事情,認為這些資源放在雲端資料中心才能發揮更高效率。
Sam Altman 近日登上在 Stripe 共同創辦人 John Collison 主持的 Podcast 節目「Cheeky Pint」,雙方談到 AI 產業面臨的運算資源問題及全球記憶體短缺的現況,在喝了點酒的情況下,他直言人們期待透過開源 AI 模型,在自用電腦上進行本地 AI 演算的方式反直覺,但他對這種資源配置方式提出不同看法,覺得應該屬於資料中心使用。
他認為從全球資源分配的角度來看,讓每個人把世界上供應有限的 DRAM 裝在自己的電腦裡,卻只有 5% 的時間被使用,實際上是「相當糟糕」的情況。他認為在記憶體供應高度受限的環境下,應該追求雲端資源的最大使用效率。但這 5% 的根據以及時機相當敏感。因為他只是為了主張將有限的記憶體資源集中在能夠持續運作的雲端系統,比起分散在個人電腦中更有效率。

近年 AI 產業對高頻寬記憶體及伺服器 DRAM 的需求大幅成長,讓記憶體製造商持續將產能轉向獲利較高的商用伺服器產品,導致消費性產品供應受到排擠。AI 伺服器的需求是影響了記憶體供應與價格的重要因素。對 PC 玩家更是意味著組裝新電腦、擴充 RAM都需比以往付出更高的成本。

雖然 Sam Altman 提到個人電腦的情境是以本地運算為出發點,但實際上除了執行 AI 本地模型以外,遊戲運行、多工作業或背景程式,都需要足夠的記憶體支援。即使記憶體沒有隨時處於高負載狀態,也不代表沒有需求性,更何況目前將記憶體集中到雲端資料中心,也無法取代個人電腦的所有用途。因此社群反諷「Sam Altman 有這麼多器官太浪費了,卻沒有用來拯救需要他們的人」