AI算力需求激增,国产芯片迎来新机遇
AI导读:
全球科技厂商在AI热潮下继续重金投入建设数据中心或算力中心,AI算力需求激增。英伟达CEO黄仁勋表示正在驱动全球万亿美元级别的企业AI IT投资。DeepSeek促使推理需求增长,国产芯片迎来新机遇,英伟达在中国市场份额大幅下降。
刚刚结束的COMPUTEX电脑展上,英伟达CEO黄仁勋笑着对听众说,“你(芯片)买得越多,赚得越多。”引来一阵笑声。AI算力需求正成为市场焦点。
全球科技厂商在AI热潮下继续重金投入建设数据中心或算力中心。黄仁勋在演示文档上写着,英伟达正在驱动全球万亿美元级别的企业AI IT投资。数据中心建设热潮下,AI算力需求的变化与年初一些业内人士预计的不太一样。Deepseek对训练算力资源的节约,并未让整体算力需求减少,而用于推理的AI芯片占比正在升高。
市场研究机构IDC中国副总裁周震刚告诉第一财经记者,2024年中国数据中心加速卡中已有半数以上是推理卡,DeepSeek出现后,今年推理芯片占比预计还会增加。这种芯片结构变化,可能会对AI芯片市场造成深远影响,特别是在中国市场。国产AI芯片在英伟达出口受到限制的情况下,可能促成国内AI芯片的组成发生变化。
周震刚透露,去年国内数据中心加速卡市场中,国产算力占比大约三成,预计今年上半年占比应该会超四成。这波数据中心或算力中心建设潮中,需求方来自高校、企业等,AI应用十分多元。已有算力中心在计划调整芯片,使芯片组成更加多元、向模型推理倾斜。
算力需求来自哪里
数据中心或算力中心建设持续加速。IDC数据显示,中国加速计算服务器市场出货量2024年同比增长97.3%,预计2025年增长52.9%。国内智算中心建设提速,截至今年5月26日,今年国内智算中心中标信息123条,是去年前5个月的2.2倍。
记者了解到,一些企业和高校有了更多算力需求,部分高校自购算力卡,部分购买云算力或超算中心算力。香港科技大学冯诺依曼研究院院长贾佳亚告诉记者,学校此前购买了一批英伟达H800计算卡,但训练大模型需求大,自己的算力不够,也需要其他算力来源。华东理工大学则与腾讯云合作,推动AI与学科融合。
香港规模最大的数码港人工智能超算中心投入服务,首阶段算力使用率将超95%,预计接下来的申请会越来越多。企业也需要算力,但目前很多企业还没启动AI转型,缺乏相应人才配套。香港的人工智能应用爆发期还没到来,随着业界对AI越来越熟悉,接下来预计应用会越来越多。
算力向推理倾斜
DeepSeek带来的算力需求增长,是大模型推理对大模型训练的一场“胜利”。促使推理需求增长,一些适合推理的芯片开始被广泛使用。腾讯是国内最早接入DeepSeek的互联网厂商之一,看到对GPU更大的需求是在推理侧。AI需求已经超过了GPU资源所能提供的算力。
周震刚也发现,DeepSeek出现确实让算力需求改变了,主要是改变了算力需求的结构。2024年,中国数据中心加速卡有57.6%是推理卡,33%是训练卡。预计2025年推理芯片占比还会进一步大幅增加。数码港的人工智能超算中心也在考虑改变算力组成,未来做基础大模型的团队会逐渐减少,转向以推理为主。
芯片组成变了
推理需求增长让国产算力站上竞技的舞台。英伟达占中国数据中心加速卡市场的比例正在下降,国产算力占比已有大幅提升。2024年中国数据中心加速卡市场中,有65.2%是英伟达,34.6%是国产算力。今年上半年国产算力占比应该会超四成,很可能在很短的时间内,国产算力会成为主流,占比超50%。
训练时难以同时用英伟达+国产芯片组成的资源池,推理可以跑在国产芯片上。云厂商或AI厂商现在需要英伟达之外的更多国产芯片方案。寒武纪、沐曦等国产芯片开始被广泛使用。寒武纪2024年第四季度开始盈利,今年第一季度营收接近去年全年营收,净利润实现同比扭亏。
英伟达近期感到紧张,美国政府已告知,对于H20芯片等,若出口至中国等国家和地区需获得许可证。黄仁勋表态称,这种人工智能芯片出口管制是失败的,英伟达在中国市场的份额已大幅下降。英伟达还在尝试应对中国市场上的竞争,拟新推出一款面向中国市场的AI芯片。
(文章来源:第一财经)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。

