开始使用 Foundation Models 框架

Foundation Models 框架是在你的 App 中使用任意大语言模型的最佳方式。无论要生成简要总结还是创建动态智能体,这个框架都能满足你的需求。

    概览

    Foundation Models 框架是原生 Swift API,可用于将任意大语言模型集成到你的 App 中,包括直接访问设备端和专用云计算中的 Apple Foundation Models。框架中内置了强大的功能,如引导式生成、工具调用、图像理解和 Dynamic Profile,为你提供了打造独特体验所需的一切。

    图像理解

    多模态提示词支持同时传递文本和图像,让你的 App 能够对视觉内容进行推断。这为基于图像理解打造全新类别的体验提供了可能,操作非常简单,只需将图像附加到你的提示词即可。Vision 框架也已直接集成,为你的模型提供专门构建的工具,例如用于精准文本提取的 OCR,以及用于快速扫码的条形码读取器,所有这些处理全部在设备端完成。

    模型支持

    Foundation Models 框架让你可以直接访问 Apple 智能核心的设备端基础模型,从而打造智能、私密且无需互联网连接的体验。

    设备端模型对于许多任务非常有用,但有时你需要更大的模型来处理更复杂的工作流程。Foundation Models 框架现已扩展为支持服务器模型 (如 Claude、Gemini 等),所有模型均通过相同的 Swift API 调用,并全面支持工具调用和引导式生成等功能。任何模型提供商均可创建符合 Language Model 协议的 Swift 软件包,这个协议是框架的基础组件,让你能够为你的 App 选择合适的语言模型。

    受支持的第三方模型

    专用云计算

    对于刚刚起步的开发者,只要注册了 App Store Small Business Program 且在 App Store 中的首次下载次数低于 200 万次,便可访问在专用云计算上运行的 Apple Foundation Models,而不需要支付任何云 API 费用。*这提供了前沿智能以及无可比拟的隐私保护,确保用户的数据不会被储存,也不会被 Apple 或任何其他方访问。

    进一步了解专用云计算

    Dynamic Profile

    Dynamic Profile 是全新的声明式 API,可用于实时持续更新会话的模型、工具和指令。你可以定义描述文件 (每个描述文件都有自己的模型、温度、推理级别和工具集),并在单个连续会话中切换描述文件,而不是创建使用固定配置的会话。会话记录会在每次描述文件切换时共享,因此你的 App 只需更少的提示词,就能获得更强的上下文智能。Dynamic Profile 是精心设计的自适应构建块:可用于构建 AI 智能体、技能或 App 所需的任何其他高级抽象。

    Evaluations 框架

    Evaluations 框架让你能够测试提示词,并验证智能驱动的功能在各种动态条件下能否正常工作,这弥补了单元测试难以覆盖的场景。无论你是在迭代指令、切换模型,还是调整 Dynamic Profile,Evaluations 都能让你在发布前确信 App 的行为表现稳定可靠。

    CLI

    macOS 27 中新增的 fm 命令行工具让你能够简化脚本编写、实现模型工作流程自动化,并加速开发流程,而无需编写任何一行 App 代码。你可以快速制作原型,从而完成从构想到实现的快速转化。

    开源

    为了帮助你开始采用新兴的 AI 模式,Foundation Models 框架实用工具包在框架之上增加了实验性抽象,包括自定技能、上下文管理帮助程序,以及连接到你所选托管模型的聊天补全客户端。

    适用于 Python 的 Foundation Models SDK 将框架扩展到了 Python 生态系统,让你能够与 Python 中的热门工具和评估包集成。

    要求

    《Foundation Models 框架的可接受使用情形要求》(Acceptable Use Requirements for the Foundation Models framework) 概述了 Apple Foundation Models 的禁止使用情形。此外,根据《AI 法案》的第 53(1)(b) 条,我们向有意将 AFM 3 Cloud 集成到 AI 系统中的 AI 系统提供商提供相关信息和文档。