Core ML

Core ML 针对各种类型模型的设备端性能进行了优化,能够充分利用 Apple 芯片并尽可能地减少内存占用空间和功耗。

新功能

Core ML 的更新将帮助你在设备上更快、更高效地优化和运行先进的生成式机器学习和人工智能模型。Core ML Tools 提供了更精细的组合式权重压缩技术,可帮助你将大语言模型和扩散模型移植到 Apple 芯片上。模型现在可以包含多个函数并高效管理状态,从而能够更灵活高效地执行大语言模型和适配器。Core ML 框架还添加了新的 MLTensor 类型,它能提供一种高效、简单且熟悉的 API,用于表达多维数组的运算。Xcode 中的 Core ML 性能报告进行了更新,现在可对模型中每个运算的支持和预估费用提供深入分析。

观看最新视频

更深入地体验 Core ML

完全在设备端运行模型

Core ML 模型会严格地仅在用户的设备上运行,因此无需任何网络连接,让你的 App 保持响应灵敏的同时保护用户数据的私密性。

运行高级机器学习和人工智能模型

Core ML 为生成式人工智能模型提供了高级模型压缩支持、有状态模型和 Transformer 模型运算的高效执行。

将模型转换为 Core ML

使用 Core ML Tools 可以将来自 TensorFlow 或 PyTorch 等库的模型转换为 Core ML,转换将比以往更加轻松简单。

打开了 Xcode 窗口的 Mac Studio 和 Apple Studio Display。

Xcode 整合

Core ML 与 Xcode 紧密集成。在编写任何代码之前,先探索你的模型的行为和性能。利用自动生成的 Swift 和 Objective‑C 接口,轻松地将模型整合到你的 App 中。利用 Core ML 和神经网络引擎 Instrument 对你 App 的 Core ML 支持的功能进行性能分析。

性能报告

无需编写任何代码,即可生成在互联设备上测量到的模型性能报告。查看负载和预测时间的摘要以及每次运算的运算单元使用情况的细分。保存、加载和比较不同设备和模型优化的性能报告。

使用 Instrument 进行性能分析

使用 Core ML Instrument 对 App 进行性能分析,以查看 Core ML API 调用和相关模型。了解 Core ML 将工作调度给硬件的时间和位置,同时更明确地了解 Metal 和神经网络引擎 Instrument。

实时预览

你可以直接在 Xcode 中预览模型对示例数据文件的行为,也能通过设备摄像头和麦克风实时预览。

加密模型

Xcode 支持模型加密,从而为你的机器学习模型提供了额外的安全保障。

功能强大的 Apple 芯片

Core ML 旨在以最有效的方式充分发挥强大的硬件技术优势,包括中央处理器、图形处理器和神经网络引擎,以便尽可能地提高性能,同时尽量减少内存占用和功耗。

开始使用 Core ML

Create ML

无需编写任何代码,直接在你的 Mac 上构建和训练 Core ML 模型。

进一步了解

Core ML 工具

使用 coremltools Python 软件包,将来自第三方训练库的模型转换为 Core ML。

进一步了解

模型

从机器学习社区中已转换为 Core ML 的模型入手。

浏览模型