多模态大模型推理成本半年下降 80%

多模态大模型的推理成本在过去半年下降了约 80%，这一降幅远超同期纯文本模型。核心驱动力来自三个方面：模型架构创新、推理框架优化与专用芯片竞争。

架构层面，混合专家（MoE）与视觉编码器共享权重的方案大幅减少了每次推理激活的参数量；推理层面，连续批处理与投机解码让 GPU 利用率翻倍。

专用推理芯片的入局打破了单一生态的价格锚点，云厂商的竞价实例价格战让长视频理解、批量图像处理等此前「算不起」的场景进入企业预算区间。

真正的变化不是「便宜了」，而是产品逻辑变了。

对企业而言，真正的变化不是「便宜了」，而是产品逻辑变了：以前在「要不要加多模态能力」之间权衡，现在只需考虑「在哪个环节加」。实时质检、图文客服、视频内容审核等场景的落地周期从季度缩短到周。

需要警惕的是成本曲线不会永远陡峭下降。当架构红利释放完毕，下一轮降本将依赖模型蒸馏与端侧部署——这也意味着数据与评测体系的建设要提前布局。