-
Ejecuta una IA agéntica local en la Mac con MLX
Ejecuta agentes de IA de forma local con privacidad, baja latencia y acceso sin conexión. Descubre cómo los avances de MLX y el hardware de la Mac hacen posible la ejecución de potentes flujos de trabajo agénticos directamente en el dispositivo. Explorarás agentes de código como OpenCode, verás cómo se integran en Xcode, aprenderás técnicas de escalamiento en varias Mac y descubrirás cómo integrar herramientas a la perfección, sin tener que salir de tu computadora.
Capítulos
- 0:00 - Introducción
- 0:32 - El chat y el ciclo agéntico
- 2:42 - Pila de IA agéntica local
- 4:36 - Configura tu propio agente
- 5:39 - Cómo hacer que los agentes sean rápidos
- 6:53 - Concurrencia e inferencia distribuida
- 9:20 - Más ejemplos
- 13:01 - Próximos pasos
Recursos
- MLX Swift LM on GitHub
- MLX Swift Examples
- MLX Examples
- MLX Swift
- MLX LM - Python API
- MLX Explore - Python API
- MLX Framework
- MLX
Videos relacionados
WWDC26
- Explora la computación numérica en Swift con MLX
- Explora la inferencia y el entrenamiento distribuidos con MLX
WWDC25
-
Buscar este video…
-
-
4:40 - Set up MLX-LM and start the local server
# Step 1: Install MLX-LM pip install mlx-lm # Step 2: Start the server mlx_lm.server --model mlx-community/Qwen-3.5-4B-8bit # Step 3: Point your agent to the server curl -X POST \ http://127.0.0.1:8080/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{"model":"default_model","messages":[{"role":"user","content":"Hello!"}]}' -
5:18 - Configure an agent to use your local MLX server
{ "$schema": "https://opencode.ai/config.json", "model": "mlx/default_model", "small_model": "mlx/default_model", "provider": { "mlx": { "npm": "@ai-sdk/openai-compatible", "name": "MLX (local)", "options": { "baseURL": "http://127.0.0.1:8080/v1" }, "models": { "default_model": { "name": "Default MLX Model" } } } } } -
8:33 - Launch distributed inference with MLX
mlx.launch --hostfile hosts.json \ --backend jaccl \ /remote/path/to/mlx_lm.server \ --model mlx-community/Qwen-3.5-122B-A3B-8bit
-