AI导读：

DeepSeek开源首个针对Hopper GPU优化的MLA解码内核FlashMLA，旨在提高大语言模型在GPU上的运行效率和吞吐量。FlashMLA能突破GPU算力瓶颈，降低成本，推动大模型落地应用，加速AI普惠进程。

　　2月24日，Deepseek启动“开源周”，并开源了首个针对Hopper GPU优化的高效MLA解码内核FlashMLA，专为处理可变长度序列而设计，现已投入生产使用。据DeepSeek介绍，该解码内核在H800上能实现3000 GB/s的内存带宽与580 TFLOPS的计算性能。

　　FlashMLA是一个针对大语言模型在H800等GPU上的优化方案，能显著提升模型的响应速度和吞吐量，对实时生成任务尤为重要。这一技术通过加速解码过程，提高了AI在处理高性能任务时的效率。

　　MLA（Multi-Layer Attention，多层注意力机制）旨在提高Transformer模型处理长序列时的效率和性能。通过多个头的并行计算，MLA让模型能同时关注文本中不同位置和语义层面的信息，捕捉长距离依赖关系和复杂语义结构。DeepSeek在V2版本中首次引入MLA，显著减小了KV缓存大小。

　　DeepSeek开源FlashMLA的影响深远。它像给AI推理引擎装上“涡轮增压器”，使大模型在处理复杂任务时更快、更省资源，降低了技术门槛。FlashMLA不仅是一项技术优化，更是打破算力垄断、加速AI普惠的关键。

　　FlashMLA能突破GPU算力瓶颈，降低成本。传统解码方法在处理不同长度序列时，GPU并行计算能力被浪费。而FlashMLA通过动态调度和内存优化，充分利用GPU算力，提升吞吐量，降低推理成本。

　　此外，FlashMLA推动大模型落地应用。它支持动态处理变长输入，提升AI应用响应速度和用户体验，加速商业化进程。开源FlashMLA后，开发者可免费获得“工业级优化方案”，促进创新应用诞生。

　　网友对DeepSeek的开源行动表示赞赏，并期待其开源更多代码。上周，DeepSeek宣布将陆续开源5个代码库，以透明方式分享进展。DeepSeek自称探索AGI的小公司，致力于通过开源加速AI行业发展。

（文章来源：第一财经）