华为与湖北移动在现网环境中完成全国运营商首个AI推理加速方案测试。该方案基于华为OceanStor A800存储与昇腾A3超节点架构,搭载UCM(推理记忆数据管理)技术,通过外置存储提供PB级KV Cache。测试使用MiniMax M2.5和GLM-5.1模型,在8K至190K长序列下,首Token延迟优化26%~93%,单卡Token输出效率提升56%~372%。随着序列增长,优势放大,有效解决了长序列推理的容量瓶颈。
补充中文 AI 产业、产品和资本市场动态,减少只看海外来源的偏差。
中 — 来源为稳定 RSS 或专业媒体,适合作为新闻线索继续追踪。
-
华为发布HarmonyOS 7,聚焦空间计算与智能体架构
Auto: IT之家
-
华为宣布星闪协议栈7月15日全量开源15万行代码
Auto: IT之家
-
华为Mate 80等多款机型将升级支持星闪电竞专链功能
Auto: IT之家
-
松延动力发布首款开源鸿蒙消费级人形机器人N2
Auto: IT之家
-
华为乾崑详解全维防碰撞系统CAS 5.0,新增全时域安全目标
Auto: IT之家
-
华为联合湖北移动完成AI推理加速测试,长序列吞吐率提升372%
Auto: IT之家 · 当前新闻