苹果在WWDC上推出CoreAI引擎接替CoreML,专为端侧大模型推理优化。测试显示,在M4 Mac上运行Qwen3 0.6B模型时,CoreAI解码速度约为MLX的2.47倍;iPhone 17 Pro上约为1.6倍。当模型规模升至8B时,优势收窄至5%。持续负载测试中,CoreML配合神经引擎在iPhone上表现更优。横向对比,谷歌LiteRT-LM在iPhone上运行Gemma时RAM占用仅641MB,远低于MLX的2900MB。
补充中文 AI 产业、产品和资本市场动态,减少只看海外来源的偏差。
中 — 来源为稳定 RSS 或专业媒体,适合作为新闻线索继续追踪。
-
华为云发布智果园Agentic入口,支持调用DeepSeek等大模型
Auto: IT之家
-
Helion 内核集成 vLLM 实现 FP8 推理,跨 GPU 性能验证
PyTorch Blog
-
苹果CoreAI端侧推理框架测试:M4 Mac上解码速度是MLX的2.47倍
Auto: IT之家 · 当前新闻