Akamai:未来一年内将全球GPU节点扩充至数百个 延迟目标10至20毫秒
AI导读:
4月15日消息,Akamai亚太区云计算架构师总监李文涛在媒体沟通会上表示,公司已在全球大规模部署英伟达RTX 6000 Pro Blackwell系列GPU,目前覆盖130多个国家、4400多个边缘节点。未来一年内,具备GPU能力的节点将扩充

4月15日消息,Akamai亚太区云计算架构师总监李文涛在媒体沟通会上表示,公司已在全球大规模部署英伟达RTX 6000 Pro Blackwell系列GPU,目前覆盖130多个国家、4400多个边缘节点。未来一年内,具备GPU能力的节点将扩充至数百个以上,目标实现10至20毫秒级低延迟AI推理响应。李文涛称,通过语义缓存技术可将重复推理成本降低50%至80%,在token出海方面出方向流量定价为0.005美元/GB。
(文章来源:界面新闻)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。

