①內存短缺背景下,谷歌通過拆解退役服務器回收DDR4組件,開發軟硬件方案突破內存瓶頸;②高盛預計Q3內存價格將進一步上漲,另有數據顯示,8月DDR4 8GB現貨價格上漲至142美元;③谷歌已推出優化內存的定製芯片,但回收DDR4的舉措表明,內存短缺仍是行業的關鍵瓶頸。
財聯社9月3日訊(編輯 馬蘭)內存的持續短缺,正在讓大型數據中心運營商不得不採取一些非常手段。
據 $谷歌-A (GOOGL.US)$ 供應鏈基礎設施高級總監Nikhil Cherian透露,爲了突破內存瓶頸,谷歌正在同時開發軟件和硬件解決方案,甚至拆解退役服務器以回收可回收的組件,從而建立內部回收供應鏈。
谷歌據悉已設計了特殊的硬件適配器,允許將上一代內存,例如DDR4連接到其新一代人工智能服務器上。Cherian還承認,谷歌正在進口退役的服務器,以拆除它們的DDR4模塊進行回收利用。
他還表示,人工智能行業已迅速從計算受限轉向內存受限,高性能內存已佔給定人工智能服務器物料清單成本的約75%。
內存短缺的信號
上週,高盛在一份報告中指出,內存價格將在第三季度繼續增長,預計個人電腦DRAM價格將上漲18%至23%,服務器DRAM價格上漲13%至18%。
Trendforce數據顯示,8月現貨市場上,DDR4 8GB和DDR5 8GB的價格分別上漲至142美元和133美元。DDR5相對於DDR4的折扣仍爲6%,與7月份持平。
內存價格的不斷上漲已經迫使人工智能行業採取降低單位算力所需內存容量的措施。谷歌在今年推出的兩種TPU ASIC就對內存進行了優化設計,稱有望將內存需求降低至原來的六分之一。
谷歌的TPU8i芯片採用了專用分層內存設計,依靠高速DDR5內存架構來執行主機級任務。此外,每顆TPU8i芯片均搭載288GB的HBM3e高帶寬內存。
但從谷歌開始回收DDR4的舉動來看,DDR5和HBM3e並不足以滿足該公司人工智能芯片的內存需求,迫使其利用上一代的內存解決方案。內存仍然是限制該公司算力增長的關鍵瓶頸。
編輯/KOKO