DeepSeek一体机市场火爆,但乱象丛生需警惕
AI导读:
DeepSeek一体机市场火爆,但存在诸多乱象,如降低性能套利、信息混乱等。业内人士指出,一体机为过渡产品,后续发展取决于大模型能力提升及业务结合程度。企业采购时需谨慎,考虑性能、性价比及数据安全等因素。
Deepseek爆火,模型平权成新趋势。今年以来,市面上出现的DeepSeek一体机种类繁多,有的声称可以“跑满血”,有的称能运行70B、32B模型;有的为量化版本,有的则是全精度版本,价格从几万元到上百万元不等。
澎湃科技记者调查发现,当前DeepSeek一体机市场存在诸多乱象,一些商家通过降低性能套利,导致消费者购买后发现一体机性能大不如预期。只要对模型进行量化或蒸馏,硬件资源即可直接减半,从而降低成本,但使用体验也会大打折扣。多位业内人士指出,一体机市场目前仍处于早期阶段,信息差较大,市场秩序有待完善。
业内人士认为,当前大模型与业务场景的结合仍处于试点阶段,DeepSeek一体机仅是过渡产品。其后续发展将取决于大模型能力的持续提升及与企业业务的结合程度。
一体机市场火热
在4月底的第八届数字中国建设峰会展台上,参展商蔺文强表示,现在一体机市场非常火爆,每家厂商都有自己的产品。由于大模型需要算力支持,企业可选择向云厂商租赁或自建算力。考虑到数据安全,一些业务无法上云,必须部署在本地,因此DeepSeek一体机需求大增。
DeepSeek一体机预先安装软硬件,主打“开箱即用”,形态多样,包括服务器级别、台式机级别及小型终端级别等。
蔺文强介绍,其公司客户主要采购满血版DeepSeek一体机,如服装企业用于记账和分析消费者喜好,基层乡镇则采购非满血版一体机。
在另一家企业展台上,展示的DeepSeek一体机集成了安全防护软件,面向政府、企业、高校等销售。展台工作人员表示,DeepSeek开源后,模型成本骤降为0,一体机需求因此增长。
硅基流动联合创始人胡健表示,DeepSeek能力得到验证,企业认可度提高。考虑到数据安全,私有化集群算力成本较高,轻量级一体机成为企业尝鲜阶段的更好选择。
满血版一体机未必真满血
企业针对DeepSeek大模型不同参数版本推出了不同机型,主要成本集中在GPU上,一体机价格差异较大。
有的展台上,个人使用的满血版DeepSeek一体机价格8.98万元;有的展台上,两台满血版671B一体机售价上百万元。
所谓满血版,即671B的DeepSeek模型。市面上一体机中,有的可“跑满血”,有的运行70B、32B模型;有的为量化版本,有的为全精度版本。
一位AI领域创业者表示,DeepSeek一体机市场火爆,但信息混乱。有的所谓跑DeepSeek的,实际可能是70B或32B蒸馏后的模型。671B模型与32B模型对硬件要求相差至少一个数量级,导致一体机价格差异。
同时,业界对“满血”标准不统一。有的满血版是量化后的满血,模型性能下降。DeepSeek官方公布的参数精度是FP8,运行原版模型需较高硬件要求。
胡健表示,满血版一体机中,除原版模型外,还有量化版和蒸馏版,性能均低于原版。
一体机为过渡需求
胡健指出,现阶段用户想尝鲜,企业想卖一体机,市场鱼龙混杂。模型版本、并发数、吞吐量决定一体机在企业内的适用程度。
并发数是影响一体机性能的关键因素。胡健介绍,低价满血版一体机并发数低,影响使用体验。满血版一体机并发数在200以内。
行云集成电路创始人兼CEO季宇表示,并发数越多,用户体验越差。高并发下,输入输出速度影响实际体验。
多位业内人士表示,DeepSeek一体机市场火爆但挑战重重,综合使用成本高昂,为过渡性产品,无法满足大规模使用,企业最终将上云。
胡健认为,当前大模型与业务场景结合仍处于试点阶段,DeepSeek一体机是过渡产品。一旦与业务场景结合,一体机并发不够,需建私有化机房或利用公有云、混合云解决。
“开箱即用”的条件
DeepSeek技术革新降低了AI大模型本地化部署的成本和门槛。广发证券计算机首席分析师刘雪峰提到,随着DeepSeek本地化部署的开展,算力一体机有望放量。
但CCF数据发展委员会主任陆志鹏表示,一些企业误将DeepSeek模型部署到服务器上即为一体机,导致客户采购后发现效果不佳,引发法律纠纷。
胡健介绍,结合使用场景的DeepSeek一体机开箱即用概率更高。对于脱离场景的一体机,需接入和治理数据,整理数据库,二次开发或微调。
蔺文强建议企业根据自身需求采购一体机,考虑性能、性价比、国产化需求等。
新华三展台工作人员表示,一体机要考虑数据安全问题,采购时需考虑厂家技术能力、修复服务及DeepSeek版本。
4月底,行云集成电路推出10万元级满血版一体机,受到市场关注。季宇表示,一体机行业处于早期阶段,市场秩序有待完善,希望能持续降低价格,扩大体验覆盖面。
(文章来源:澎湃新闻)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。

