來源:華爾街見聞
人工智能熱潮之下,新湧入這一賽道的公司意識到了一個大問題:想做大模型的公司太多,GPU已經不夠用了。
有媒體近期獲悉,用於訓練AI的GPU的需求激增,包括亞馬遜、微軟、谷歌和甲骨文等主要雲服務供應商,都已經開始限製算力供給,此外,服務器硬件也越來越難租到了,有公司對媒體表示,租賃硬件需要等待數月之久。
GPU需求爆炸讓AI淘金浪潮的“賣鏟人”英偉達賺得盆滿缽滿,也大受資本市場認可。今年以來,$英偉達(NVDA.US)$股價累計漲超88%。
AI引爆GPU需求
風險投資公司Root Ventures的工程師Yasyf Mohamedali對媒體表示,他已經花了數周時間試圖從亞馬遜AWS和谷歌雲租賃一台AI服務器,但一直沒有成功。直到最近才好不容易從一家小初創企業那里通過轉租拿到了一台。
他認為:
“除非你已經(和主要雲服務供應商)簽訂了現有合同,或者預付了費用,否則幾乎不可能租到服務器。“
據兩名知情人士對媒體表示,由於GPU短缺,亞馬遜的新客戶很難立即獲得GPU服務器。亞馬遜的客服建議他們租用搭載亞馬遜內部芯片Trainium的服務器,但絕大多數開發團隊都更習慣使用GPU服務器。
而微軟甚至在嚐試說服一些客戶放棄已經預付款但還未投入使用的GPU服務器,以便將這些服務器轉售給其他公司。
此外,規模更小的甲骨文在過去一個月里,拒絕了所有AI新客戶,理由是GPU服務器容量有限。
有市場分析指,這次的“缺芯”難題和2020年下半年開始的車企缺芯潮不一樣,GPU的主要供應商英偉達並不存在供應鏈方面的阻礙。GPU短缺主要是因為雲廠商沒有預見到AI需求會如此強勁,沒有訂購足夠的芯片。
去年科技企業集體降本過冬,也是導致本輪GPU短缺的因素之一。Wedbush Securities分析師Matt Bryson認為,由於雲廠商支出增長放緩,因此在過去一年縮減了新建服務器的規模。
不過,他也表示,目前英偉達積壓的訂單在2-3個月左右,隨著產品的逐漸交付,GPU短缺難題在未來或有所緩解。
創業公司前來救援
在亞馬遜、微軟、谷歌、甲骨文等巨頭之外,一些小廠商開始湧入這一賽道“救急”。這些公司通過大批量從英偉達那里下單獲得GPU,然後再把GPU轉租出去來賺錢。它們的方案往往比雲服務巨頭更有性價比。
例如,主要雲服務的收費模式是按季度、年的時間來收費,但服務器通常不會24小時運轉,這就意味著買了雲服務的公司,是在為他們沒有使用的服務器容量付費。
而初創公司Banana則以使用的秒數來租賃GPU服務器,對體量不大的開發團隊而言頗具吸引力。
據媒體報道,目前類似RunPod、Crusoe、Lambda Labs等GPU提供商的服務器容量都已接近上限,這些公司都在加緊擴容。Lambda Labs在3月獲得了4400萬美元融資,全部投入於購買更多芯片。
編輯/new