Codificación conjunta: Incorpora la IA en el dispositivo a tu app mediante la estructura Foundation Models

Aprende a usar la estructura FoundationModels de Apple para crear una app que aproveche la inteligencia del dispositivo para planificar viajes. La estructura permite crear funcionalidades avanzadas, privadas y de alto rendimiento en macOS, iPadOS, iOS y visionOS. La app genera itinerarios de lugares emblemáticos seleccionados, para lo cual elige de forma autónoma los puntos de interés mediante la llamada de herramientas. El proceso implica el uso de ingeniería de prompts, el uso de playgrounds de Xcode, la transmisión de resultados y la creación de perfiles de la app para lograr un rendimiento óptimo.

La funcionalidad Playground actualizada de Xcode agiliza el proceso de iteración de código para los desarrolladores de Swift. Ofrece comentarios en el momento, similar a las vistas previas de SwiftUI, para que puedas escribir y probar el código en tiempo real. Al usar la estructura FoundationModels, puedes interactuar con un modelo a través de prompts. Playground ejecuta automáticamente el código a medida que se escriben las prompts, lo que permite obtener comentarios rápidos sobre el resultado. Para mejorar la estructura de salida, la funcionalidad de generación guiada te permite anotar estructuras de datos como Generable, lo que permite que el modelo cree y complete automáticamente esas estructuras. Mejora aún más la salida del modelo con la macro Guide, que proporciona restricciones y descripciones para las propiedades. Esto permite un mayor control sobre los datos generados, lo que garantiza que cumplan con requisitos específicos. La estructura también ofrece un protocolo de herramientas flexible que permite al modelo incluir información externa en sus respuestas. Al aprovechar estas funcionalidades, puedes crear una app de planificación de itinerarios que genere itinerarios estructurados basados en las entradas y las preferencias del usuario. La interfaz de la app se actualiza dinámicamente a medida que se genera el itinerario, lo que proporciona una experiencia de usuario perfecta.

En el ejemplo se crea una app de planificación especializada que usa un modelo fundacional en el dispositivo para mejorar su funcionalidad. Para lograr esto, se definen herramientas personalizadas que se ajustan a un protocolo específico. Estas herramientas tienen nombres, descripciones y funciones de llamada únicos. Una herramienta obtiene puntos de interés de MapKit basándose en el lugar emblemático que seleccionó la persona. La herramienta toma la información de la persona y genera una enumeración de diferentes categorías de puntos de interés, como restaurantes, museos o puertos deportivos, usando el conocimiento del mundo para determinar las categorías más prometedoras para un lugar emblemático específico. Implementa el método de llamada para esta herramienta, que interactúa con MapKit, mediante una consulta en lenguaje natural generada por el modelo y la categoría seleccionada. Luego, la herramienta filtra y arroja los puntos de interés relevantes dentro de un rango específico. Para integrar la herramienta en la app de planificación, crea una instancia de la herramienta con el lugar emblemático que seleccionó el usuario y pásala al inicializador de sesión del modelo. El modelo puede entonces decidir de forma autónoma cuándo invocar la herramienta y con qué frecuencia. En el ejemplo también se demuestra qué hacer en aquellas situaciones en las que el modelo fundacional en el dispositivo no está disponible, como cuando el dispositivo no es elegible para Apple Intelligence, cuando el usuario no optó por suscribirse o cuando el modelo no está listo. En el ejemplo se implementan actualizaciones de interfaz y mensajes de error apropiados para guiar al usuario en estos casos. También se explora la posibilidad de transmitir el itinerario a medida que el modelo lo produce, lo que permite a la persona comenzar a leer recomendaciones de inmediato en lugar de esperar a que se genere el itinerario completo.

El código usa una estructura de datos PartiallyGenerated, una versión opcional de la estructura Generable, para procesar un itinerario actualizado de forma incremental. A medida que llegan nuevos datos, la interfaz se actualiza con cada versión parcial, mostrando primero las propiedades disponibles (por ejemplo, el título, luego la descripción y luego los planes diarios). forEach de SwiftUI muestra los planes diarios que se generaron parcialmente. Se agregan animaciones y transiciones de contenido para realizar actualizaciones fluidas. Es posible optimizar el rendimiento usando el instrumento de Foundation Models para reducir la demora inicial.

Para optimizar el rendimiento de la app, en el ejemplo se crean perfiles en un iPhone físico usando la app Instruments en la Mac. Se agrega el instrumento de Foundation Models y se analiza el tiempo que toma cargar los modelos y generar un itinerario. Hay dos optimizaciones principales. Precalentar la sesión. Al cargar el modelo de lenguaje en el dispositivo antes de que el usuario realice una solicitud, como cuando se toca un lugar emblemático, se reduce la latencia inicial. Establecer IncludeSchemaInPrompt como false. Esta optimización evita insertar esquemas de generación en las prompts, lo que reduce el recuento de tokens y la latencia, especialmente para solicitudes posteriores o cuando las instrucciones incluyen ejemplos completos del esquema. Después de implementar estas optimizaciones, la app de ejemplo muestra una reducción sustancial en el recuento de tokens de entrada y el tiempo de respuesta total, lo que mejora significativamente su eficiencia.