AI导读:

新年伊始,AI赛道持续火热。近日,国内AI Infra创业企业清程极智发生工商变更,新增多家投资机构,注册资本增加。公司联合创始人汤雄超为字节跳动前高级研发工程师,公司聚焦AI Infra赛道,推出自研高性能推理引擎“赤兔”和旗舰系统“八卦炉”。AI Infra作为连接算力和应用的AI中间层基础设施,其技术和商业发展前景备受关注。

新年伊始,AI赛道持续保持高温态势,吸引了众多投资者的目光。

近日,国内AI Infra领域的创业企业——北京清程极智科技有限公司(简称“清程极智”)宣布发生工商变更,新增了北京市人工智能产业投资基金(有限合伙)、北京中科创星硬科技中小企业创业投资合伙企业(有限合伙)、北京考拉鲲鹏科技成长基金合伙企业(有限合伙)等多家投资机构,注册资本也由约115.4万元增至约138.4万元。值得注意的是,作为早期天使轮投资方,智谱近期已退出了清程极智,退出前持股比例为2.16%。对于此事,《科创板日报》记者试图联系智谱,但未获得回应。

清程极智的联合创始人汤雄超,是字节跳动的前高级研发工程师,于2022年加入字节跳动。他带领团队聚焦于AI Infra赛道,致力于提供智能算力系统软件服务。

清程极智成立于2023年12月,法定代表人为汤雄超。公司经营范围涵盖了人工智能理论与算法软件开发、人工智能基础资源与技术平台、人工智能基础软件开发等多个领域。目前,公司由北京清程万象科技中心(有限合伙)、北京清程纵横科技中心(有限合伙)及上述新增股东共同持股。

在产品方面,清程极智推出了自研的高性能推理引擎“赤兔(Chitu)”。该引擎具备低延迟、高吞吐、低显存占用、系统运行稳定等技术优势,已支持文本、图片和视频等多种模态,并适配了多款国产芯片。此外,公司的旗舰系统“八卦炉”在某国产芯片集群训练Llama2-70B场景下,加速效果接近2倍。该系统具有较强的通用性,能针对不同硬件架构和目标模型提供针对性的性能优化方案,满足预训练和个性化微调等多样化业务需求。

AI Infra赛道指的是在大模型的生态系统中,除算力外,为支持大模型训练和部署流程构建的各种底层软件技术设施。随着ChatGPT的火爆,大模型和相关应用不断涌现,AI Infra作为连接算力和应用的中间层基础设施,其技术和商业发展前景备受关注。一位投资国内AI Infra早期创企的头部投资人表示,由于大模型的发展尚处于早期阶段,快速构建和训练调优模型更受重视。然而,在行业成熟后,应用层发展起来后,基础设施的支撑将越来越重要。因此,他个人非常看好AI Infra的前景。

随着AI应用的日益广泛,未来AI算力需求将持续攀升。据预测,到2026年,大模型推理在算力使用中的占比有望达到60%以上。在国内AI Infra领域,除了清程极智外,还有无问芯穹、基流动等清华系公司。其中,智谱也曾投资过这两家企业。而在国外,英伟达、亚马逊、Lepton AI、OctoAI等企业以及伯克利大学开发的vLLM也在该赛道展开竞争。

清程极智的核心团队来自清华,其联合创始人汤雄超为清华大学计算机系博士,毕业后曾在深信服工作,后加入字节跳动负责计算密集型产品的架构。团队首席科学家为清华大学计算机系教授翟季冬,研究方向包括高性能计算、编程语言和编译优化、性能评测等。在商业化方面,清程极智已与多家芯片厂商、算力中心、AI应用开发商以及基础模型预训练厂商达成了商业合作。

自成立以来,清程极智已完成了两轮融资。本轮投资方之一北京市人工智能产业投资基金表示,当前我国各地智算中心在GPU大集群上的建设和运营经验尚显不足,而清程极智作为国内有充足潜力的AI Infra企业,核心团队国内稀缺,具备编译和并行系统双重背景,能提供完整并行系统而非单一框架,具备百万亿级参数模型训练经验,且具备异构算力集群训推优化经验。该基金于2023年底成立,截至目前,已公开投资了包括面壁智能、智谱、深势科技等多个知名项目。

另一投资方中科创星也表示,清程极智核心团队在大模型出圈之前,就具备大模型在国产卡上的训练优化能力。是国内少有的完全掌握从底层编译器到上层并行加速全栈研发能力的团队,在国内市场尤为空缺的编译器和并行训练推理系统等核心技术软件方面,具备完整的自主研发能力。

(图片及文章来源:科创板日报)