AI 및 머신 러닝의 새로운 기능

Foundation Models 프레임워크는 네이티브 Swift API로, Apple Intelligence를 구동하는 동일한 온디바이스 모델에 바로 접근할 수 있습니다. 이제, Apple Foundation Models, 클라우드 모델인 Claude나 Gemini, 또는 언어 모델 프로토콜을 준수하는 다른 제공자를 비롯하여 모든 언어 모델을 이용해 작업할 수 있습니다.

멀티모달 프롬프트는 이미지를 텍스트와 함께 전달하여 앱이 시각적 콘텐츠에 대해 추론할 수 있도록 합니다. 또한, OCR이나 바코드 리더와 같은 Vision 프레임워크 도구를 모델에서 바로 호출할 수 있습니다. 이 모든 건 온디바이스로 작동합니다. Dynamic Profiles를 이용해 모델이나 도구, 지침을 즉석에서 전환하면 앱의 동작이 지속적인 세션 내에 적용됩니다.

App Store에서 앱의 최초 다운로드 건수가 총 2백만을 넘지 않았다면, 우수한 개인정보 보호 기능을 가진 비공개 클라우드 컴퓨팅의 최신 Apple Foundation Models에 접근할 수 있습니다. 또한, Evaluations 프레임워크를 사용하면 AI 기능이 다양한 조건하에서 제대로 작동하는지 검증해 유닛 테스트만 사용했을 때보다 더 정확히 확인할 수 있습니다.

Core AI는 OS에 직접 빌드된 새로운 프레임워크로, Apple Silicon용으로 제작되어 모델을 온디바이스로 가져오고, 지원 도구 및 기술을 갖추는 최고의 방법을 제공합니다. 메모리 안정성을 갖춘 최신 Swift API를 이용해 AI 모델을 로드하고, 전문화하며, 완전히 온디바이스로 구동할 수 있습니다. 이를 통해 사용자 데이터를 비공개로 유지하고 서버 의존성과 토큰 비용 없이 앱의 반응성을 유지합니다. 선제적인 컴파일 지원으로 로드 시간이 빨라져, 모델은 실행되는 하드웨어에 맞게 자동으로 전문화됩니다. 추론 메모리, 제로 데이터 경로 복사, 스테이트풀 실행에서의 세밀한 제어를 통해 모든 Apple 플랫폼 전반의 소형 비전 모델에서 대규모 생성형 AI까지, 모든 기능을 구동하는데 필요한 성능을 제공합니다.

MLX는 Apple Silicon용 오픈 소스 배열 프레임워크로, 그 어느 때보다 빠른 속도를 자랑하며 대규모 언어 모델의 실험, 훈련, 세부 조정 기능이 더욱 강화되었습니다. 올해는 Metal 4와 GPU Neural Accelerators의 지원 덕에 성능이 대폭 향상되었고, Thunderbolt 기반 RDMA로 Mac 전반에서 훈련 확장이 가능해 앉은 자리에서 심도 있는 모델 연구와 접근성 세부 조정을 할 수 있습니다.

새로운 Evaluations 프레임워크는 사용자에게 도달하기 전에 프롬프트를 테스트하고 인텔리전스 기반 기능이 안정적으로 작동하는지 검증하는 도구를 제공합니다. 개발 워크플로에 바로 빌드된 체계적인 평가 기능과 함께 AI 기반 경험에서 자신있게 빌드해, 기능이 의도대로 작동되는지 확인한 다음 출시하세요.