火山引擎冬季原动力大会聚焦AI,推理算力需求激增
AI导读:
火山引擎将于上海举行冬季原动力大会,聚焦AI展开。大会将见证豆包大模型升级,并探讨AI赋能实体经济案例。同时,AI原生应用等带来国内推理算力需求激增,正从百万卡向千万卡迈进。
财中社12月17日电财通证券最新发布的计算机行业报告显示,字节跳动旗下的火山引擎将于2024年12月18-19日在上海隆重举办冬季原动力大会,该大会的核心议题将聚焦于人工智能(AI)的广泛应用与发展。据其官网透露,此次大会不仅会见证豆包系列大模型的全面升级,还将深入探讨AI在企业服务、产业转型等领域的赋能案例与前沿话题,展示AI如何助力实体经济转型升级。
豆包大模型家族以其卓越的全模态能力,在国内AI应用领域稳居首位,日活跃用户数(DAU)更是名列前茅。值得注意的是,尽管视频生成模型目前仍处于测试阶段,但随着Open AISora的正式商用,字节跳动的豆包视频类大模型有望在本次大会上惊艳亮相,并宣布开启商业化进程。
随着AI原生应用、视频生成应用以及AI对传统应用的改造,国内推理算力的需求正逐渐显现,呈现出从百万卡向千万卡迈进的趋势。据基于Open AI论文的分析,推理算力的需求与模型参数量、处理token数以及活跃用户量的乘积大致成正比。当前,国内大模型APP的推理算力需求已达到数十万颗GPU级别。然而,在实际产业中,真正的海量活跃用户仍主要集中在传统应用中,这部分用户群体庞大,对推理算力的需求更为迫切和广泛。
展望未来,如果假设有20%的短视频内容将由AI生成,并且仅考虑清晰度较低的情况,那么芯片的需求量将达到百万颗级别。随着AI生成高清长视频的渗透率不断提升,推理算力的需求将迎来质的飞跃。总体而言,国内推理算力的需求正处于快速增长的阶段,正稳步从百万卡向千万卡迈进。
(文章来源:财中社)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。

