内存的持续短缺，正在让大型数据中心运营商不得不采取一些非常手段。
据谷歌供应链基础设施高级总监Nikhil Cherian透露，为了突破内存瓶颈，谷歌正在同时开发软件和硬件解决方案，甚至拆解退役服务器以回收可回收的组件，从而建立内部回收供应链。
谷歌据悉已设计了特殊的硬件适配器，允许将上一代内存，例如DDR4连接到其新一代人工智能服务器上。Cherian还承认，谷歌正在进口退役的服务器，以拆除它们的DDR4模块进行回收利用。
他还表示，人工智能行业已迅速从计算受限转向内存受限，高性能内存已占给定人工智能服务器物料清单成本的约75%。
内存短缺的信号
上周，高盛在一份报告中指出，内存价格将在第三季度继续增长，预计个人电脑DRAM价格将上涨18%至23%，服务器DRAM价格上涨13%至18%。
Trendforce数据显示，8月现货市场上，DDR4 8GB和DDR5 8GB的价格分别上涨至142美元和133美元。DDR5相对于DDR4的折扣仍为6%，与7月份持平。
内存价格的不断上涨已经迫使人工智能行业采取降低单位算力所需内存容量的措施。谷歌在今年推出的两种TPU ASIC就对内存进行了优化设计，称有望将内存需求降低至原来的六分之一。
谷歌的TPU8i芯片采用了专用分层内存设计，依靠高速DDR5内存架构来执行主机级任务。此外，每颗TPU8i芯片均搭载288GB的HBM3e高带宽内存。
但从谷歌开始回收DDR4的举动来看，DDR5和HBM3e并不足以满足该公司人工智能芯片的内存需求，迫使其利用上一代的内存解决方案。内存仍然是限制该公司算力增长的关键瓶颈。
广升网提示：文章来自网络，不代表本站观点。
