重磅！苹果推出 Core AI 框架，为自研芯片优化端侧生成式 AI

在 2026 年 WWDC 大会上，苹果发布了 Core AI 框架 ，Core ML 的官方继任者。

该框架旨在让开发者能够完全在设备本地运行大语言模型和生成式 AI，同时支持自定义转换后的 PyTorch 模型和预优化的开源模型。

苹果表示，新的 Core AI 框架提供了一个统一的架构，可在 iPhone、iPad、Mac 以及 Apple Vision Pro 上部署 小至仅 30 亿参数的视觉模型、大至最高 700 亿参数的推理模型） 。

Core AI 是 Apple Intelligence 的底层技术，随着苹果下一代操作系统与工具链发布，开发者将可使用该框架打造苹果所称的 “自定义智能功能”。

Core AI 只能在 Apple Silicon 上运行，确保用户数据隐私、零服务器依赖，也不会产生按词元计费的云端开销。

Core AI 的关键能力包括：统一硬件访问，工作负载可使用单个 API 在 CPU、GPU 和神经网络引擎上无缝运行；内存安全的 Swift API 可实现零拷贝数据路径和对推理内存的精细控制；提前（AOT）编译技术，将运算预处理工作转移至设备外部完成，实现近乎瞬时的模型加载速度。

如前所述，你可以使用 Core AI PyTorch

🔗 原始来源

如果你要核对细节，可以再看原文： InfoQ AI原文链接