【第375期】Apple_Intelligence_技术解密：端云双模型、数据隐私与极致优化，如何重塑AI未来？

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。

今天的主题是：

Apple Intelligence Foundation Language Models

Summary

该技术报告介绍了为 Apple Intelligence 功能提供支持的两个多语言、多模态基础语言模型：一个约 30 亿参数的设备端模型和一个具有新颖 Parallel-Track Mixture-of-Experts (PT-MoE) 架构的服务器模型。报告详细阐述了模型的架构创新、负责任的 AI 方法、使用许可语料库和网络抓取等方式获取的训练数据，以及用于提高效率的 Quantization-Aware Training (QAT) 等优化技术。此外，它还介绍了新的 Foundation Models 框架，该框架允许开发人员通过 Swift-centric 的指导式生成和工具调用功能来利用这些模型。报告最后提供了模型在 MMLU 和 MMMLU 等基准测试上的评估结果，并重申了 Apple 对 隐私保护和负责任 AI 的承诺。

原文链接：https://arxiv.org/abs/2507.13575