Foundation Models 프레임워크 시작하기
Foundation Models 프레임워크는 앱에서 대규모 언어 모델을 사용하는 가장 좋은 방법입니다. 간략한 요약을 생성하는 경우든, 동적 에이전트를 만드는 경우든, 이 프레임워크는 필요한 모든 것을 제공합니다.
개요
Foundation Models 프레임워크는 대규모 언어 모델을 앱에 통합하기 위한 네이티브 Swift API로, 온디바이스 및 비공개 클라우드 컴퓨팅에서 Apple Foundation Models에 직접 접근할 수 있는 기능을 포함합니다. 가이드 생성, 도구 호출, 이미지 이해, 동적 프로파일 같은 강력한 기능이 내장되어 있어, 고유한 경험을 빌드하는 데 필요한 모든 것을 제공합니다.
멀티모달 프롬프트를 사용하면 텍스트와 함께 이미지를 전달할 수 있으므로 앱이 시각적 콘텐츠에 대해 추론할 수 있습니다. 따라서 이미지 이해를 활용하여 새로운 카테고리의 경험을 빌드할 수 있습니다. 간편하게 프롬프트에 이미지를 첨부하기만 하면 됩니다. Vision 프레임워크도 직접 통합되어 있어 정밀한 텍스트 추출을 위한 OCR과 빠른 코드 스캔을 위한 바코드 리더 등 특별히 설계된 도구를 모델에 제공하며, 이 모든 것을 온디바이스로 사용할 수 있습니다.
Foundation Models 프레임워크를 사용하면 Apple Intelligence의 핵심인 온디바이스 파운데이션 모델에 직접 접근하여 인터넷 연결 없이 작동하는 스마트한 비공개 경험을 빌드할 수 있습니다.
온디바이스 모델은 다양한 작업에 매우 유용하지만, 더 복잡한 작업 흐름을 위해 더 큰 모델이 필요한 경우도 있습니다. Foundation Models 프레임워크는 이제 동일한 Swift API를 통해 Claude, Gemini 등과 같은 서버 모델로 확장되며, 도구 호출 및 가이드 생성과 같은 기능을 전체 지원합니다. 모든 모델 제공자는 Language Model 프로토콜을 준수하는 Swift 패키지를 생성할 수 있습니다. 이 프로토콜은 프레임워크의 기본 구성요소로, 앱에 적합한 언어 모델을 선택할 수 있도록 해 줍니다.
지원되는 타사 모델
비공개 클라우드 컴퓨팅
이제 막 시작한 경우, App Store Small Business Program에 등록되어 있고 최초 App Store 다운로드 수가 2백만 회 미만인 개발자는 클라우드 API 비용 없이 비공개 클라우드 컴퓨팅에서 실행되는 Apple Foundation Models에 접근할 수 있습니다.* 이 모델은 탁월한 개인정보 보호 기능을 갖춘 최첨단 인텔리전스를 제공하므로, Apple이나 다른 누구도 사용자의 데이터를 저장하거나 해당 데이터에 접근할 수 없습니다.
동적 프로파일은 세션의 모델, 도구, 지침을 즉석에서 지속적으로 업데이트할 수 있는 새로운 선언적 API입니다. 고정된 구성으로 세션을 생성하는 대신에, 각 프로파일을 고유한 모델, 온도, 추론 수준, 도구 세트로 정의하고 하나의 연속 세션 내에서 프로파일 간에 전환할 수 있습니다. 세션 전사문은 모든 프로파일 전환에 걸쳐 공유되므로, 앱이 더 적은 프롬프팅으로 더 풍부한 맥락 인텔리전스를 얻을 수 있습니다. 동적 프로파일은 적응형 기본 요소로 설계되었으므로, 이를 사용하여 AI 에이전트, 스킬 또는 앱에 필요한 기타 상위 수준 추상화를 구축할 수 있습니다.
Foundation Models 프레임워크로 에이전틱 앱 경험 빌드하기
Instruments로 에이전틱 앱 경험 디버깅 및 프로파일링하기
Core Spotlight를 사용한 LLM 검색
Evaluations 프레임워크
Evaluations 프레임워크를 사용하면 프롬프트를 테스트하고 인텔리전스 기반 기능이 다양한 동적 조건에서 올바르게 작동하는지 검증할 수 있으며, 이는 유닛 테스트만으로는 확인할 수 없는 사항입니다. 지침에 대한 반복 작업을 하는 경우든, 모델을 전환하는 경우든, 동적 프로파일을 조정하는 경우든, Evaluations를 사용하면 출시 전에 앱의 동작이 올바르게 유지된다고 확신할 수 있습니다.
CLI
macOS 27의 새로운 fm 명령줄 도구를 사용하면 스크립팅을 간소화하고, 모델 작업 흐름을 자동화하며, 앱 코드를 한 줄도 작성하지 않고 개발을 가속화할 수 있습니다. 빠르게 프로토타입을 제작하여 아이디어에서 구현까지 빠르게 진행할 수 있습니다.
오픈 소스
최신 AI 패턴 도입을 시작할 수 있도록 Foundation Models 프레임워크 유틸리티 패키지는 프레임워크 위에 실험적 추상화를 추가합니다. 여기에는 맞춤형 스킬, 맥락 관리 헬퍼, 개발자가 선택한 호스팅 모델에 연결되는 Chat Completions 클라이언트가 포함됩니다.
Foundation Models SDK for Python은 프레임워크를 Python 생태계로 확장하여, Python의 인기 도구 및 평가 패키지와 통합할 수 있도록 해 줍니다.
요건
Foundation Models 프레임워크의 허용되는 이용 요건에서는 Apple Foundation Models의 금지되는 이용을 규정합니다. 또한 AI법 제53(1)(b)조에 따라, AFM 3 Cloud를 AI 시스템에 통합하려는 AI 시스템 제공자에게 정보와 문서를 제공합니다.