在AI推理加速领域，PCIe显卡长期被认为性能不及专用加速器，但一项最新优化成果正在改写这一认知。通过内核补齐与通信重构，基于PCIe显卡的DeepSeek推理吞吐量实现了近7倍的提升，以1.5台6000D的配置即可跑赢一台B300。这一突破不仅展示了PCIe显卡的潜力，也为推理部署的成本与效率平衡提供了新思路。
事件概览
一项针对DeepSeek推理任务的优化研究显示，通过技术手段解决PCIe显卡在AI推理中的固有瓶颈，系统吞吐量获得了接近7倍的提升。具体而言，优化后的方案仅需1.5台6000D设备即可达到一台B300的计算性能。6000D与B300均为当前主流的AI推理加速硬件，前者基于PCIe接口，后者为专用计算单元。这一结果意味着PCIe显卡在推理场景中可能被严重低估。
核心信息
内核补齐
传统PCIe显卡在执行大模型推理时，由于显存带宽和计算核心利用率不足，往往无法充分利用硬件潜力。内核补齐技术通过优化底层算子执行路径，将原本分散的计算任务重新整合，减少冗余数据传输和等待时间。具体而言，针对DeepSeek模型中的矩阵乘法、注意力机制等核心操作，重写了部分内核代码，使计算资源与数据流动更加匹配。这一改进使得单个PCIe显卡的推理效率显著提升，为整体吞吐量翻倍奠定了基础。
通信重构
多卡协同推理时，PCIe总线的带宽和延迟往往成为性能瓶颈。传统通信模式采用同步传输策略，导致各卡频繁等待数据交换。通信重构技术引入了异步流水线和数据压缩机制，将跨卡通信的延迟降低约60%。同时，通过优化PCIe链路调度算法，使得多张显卡可以并行处理更多批次请求，从而大幅提高整体吞吐量。经过实测，通信重构后的多卡系统在DeepSeek推理任务中，总吞吐量相比未优化时提升了近7倍。
硬件对比
优化后的1.5台6000D系统（即两台6000D中一台完全利用，另一台利用部分算力）即可达到一台B300的推理输出能力。1.5台6000D的总体拥有成本（TCO）显著低于一台B300，对于大规模推理服务部署而言，这意味着可以用更低的硬件投入获得同等性能。6000D本身为常见PCIe显卡，而B300则为专用加速器，其采购价格通常为前者的数倍。这一对比凸显了PCIe显卡在性价比方面的潜在优势。
影响与观察
这一优化成果对AI推理领域具有多方面影响。首先，它打破了“PCIe显卡不适合大模型推理”的固有观念，为数据中心和边缘设备提供了更灵活的硬件选择。许多已有PCIe显卡基础设施的企业，可通过软件优化直接升级推理能力，无需大规模更换硬件。其次，内核补齐和通信重构均为可复用的技术方案，其他大模型推理任务也可能从中受益。不过，值得注意的是，近7倍的提升是在特定模型（DeepSeek）和特定硬件组合（6000D vs B300）下取得的，其他模型或硬件配置的效果可能有所不同。
此外，这一结果也提示行业应重新审视PCIe显卡在AI推理中的定位。专用加速器在极致性能和功耗比方面仍有优势，但PCIe显卡凭借广泛的兼容性和较低的门槛，在成本敏感型场景中可能更具竞争力。未来，随着PCIe标准和显卡架构的持续演进，其推理性能还有进一步提升空间。
结语
内核补齐与通信重构共同释放了PCIe显卡在DeepSeek推理中的潜力，使其吞吐量实现近7倍跃升，仅用1.5台6000D即可匹敌一台B300。这项成果表明，通过软件层面的深度优化，PCIe显卡完全有可能在高性能推理领域占据一席之地。对于正在寻求平衡性能与成本的AI开发者而言，这无疑是一个值得关注的方向。
信息来源：量子位，查看原始信息。本文由 AI ONLINE 基于公开资料整理，信息可能随时间变化，请以官方发布为准。