近日，阿里云与联通数智达成深度技术合作，在真武系列AI芯片上，基于联通元景MaaS平台四维一体推理框架的Uni-Infer，完成了对Qwen3.5-397B、DeepSeek-V4、MiniMax-M2.7等主流大模型推理性能的深度优化；其中端到端的模型整体推理性能，较业界最优开源基准大幅提升，标志着“国芯+国模”全自主技术路线的工程化能力迈上新台阶。

此次优化重点针对通用智能体场景常见的长上下文、高并发等特点，已完成对OpenClaw、UniClaw等主流智能体的高效稳定支撑。长上下文场景下缓存命中率和高并发请求处理能力显著提升，端到端响应时间缩短至10秒以内，为用户提供更快速、流畅的交互体验，也充分验证了真武系列AI芯片支撑大规模智能体推理服务的工程化能力。

该方案后续将落地联通智算中心，以专属云形态面向政府、金融、能源、运营商等大型政企客户及高校、科研院所提供规模化AI推理服务；同步在联通内部办公协同、研发编码等场景规模化应用。联通数智规划一年内完成重点大型政企客户部署落地，日均处理Token量迈上千亿级台阶，加速国产大模型从"可用"走向"用得起、用得稳、用得放心"。

四维一体元景推理框架Uni-Infer

此次攻关依托联通数智自研的四维一体元景推理框架Uni-Infer展开，覆盖芯片、模型、算网、平台四个层面的协同优化：

模算融合：基于真武计算架构深度适配，通过高性能算子重构与融合、混合并行策略优化、推理关键参数自适应寻优等技术，模型推理速度实现大幅度提升

模型优化：通过投机解码、低比特量化、分页KV缓存等技术，推理延迟显著降低，推理吞吐明显提升；

算网模融合：元景MaaS平台网关采用粘性会话路由技术，将相同前缀请求调度至同一节点，提升缓存命中、减少重复计算，首token延迟大幅缩短；

平台工程层面：面向大规模智能体并发场景完成端到端链路调优，保障服务稳定性与可扩展性。

系统级协同优化下，"真武系列AI芯片+国模"整体推理性能较业界最优开源基准实现大幅提升。

阿里云将与联通数智紧密合作，依托全自主研发的技术路线，通过持续优化“国模+真武系列AI芯片”的推理算效比，降低Token生成与供给成本，推动Token经营实现规模化供给，为AI应用的广泛落地提供高效、稳定、可持续的智能算力支撑。

阿里真武AI芯片携手联通数智，推理性能工程化能力迈上新台阶_热门资讯-阿里云政企业务