GPU危机还没解决 CPU又缺了!申请服务器从几小时变成等好几天
科技
科技 > 互联网 > 正文

GPU危机还没解决 CPU又缺了!申请服务器从几小时变成等好几天

快科技8月10日消息,据报道,亚马逊云内部今年5月已向工程团队发出警示,要求全力节省CPU计算资源,这一消息直到近日才被媒体披露。

有工程师透露,过去申请CPU服务器几小时内就能到位,如今却要等好几天,这样的延迟在其职业生涯中前所未见。

为优先保障外部客户的算力需求,AWS正陆续关闭此前用于软件开发、如今处于闲置状态的虚拟服务器,这进一步挤压了内部团队的资源空间,导致申请排队时间大幅拉长。

GPU短缺尚未缓解,CPU又成了新的瓶颈。这一轮CPU吃紧的主要原因在于AI代理应用的快速扩散。AI咨询机构Elendil Labs表示,客户人均IT支出已翻倍,企业大量导入AI代理后,几乎所有工作所需的CPU都比过去更多。

CPU在AI开发流程中同样不可或缺,训练模型准备数据时仍需CPU从文件、影像中读取原始资料。分析指出,AI代理在执行任务时往往需要调用比以往更多的云端资源,进而对CPU形成持续性需求。

而芯片厂商的表态印证了这一趋势。英特尔CEO陈立武今年4月曾表示,AI推理场景中CPU与GPU使用比例约为1比4。到了7月,英特尔CFO指出该比例已迅速拉近至接近1比1。

AMD与Arm高管近期也做出类似表态,显示CPU需求增速已超出业界预期。CPU正从AI周期中的配角转变为兼具量增与价升弹性的确定性受益环节。

GPU危机还没解决 CPU又缺了!申请服务器从几小时变成等好几天