-
Execute IA agêntica localmente no Mac usando o MLX
Execute agentes de IA localmente com privacidade, baixa latência e acesso offline. Descubra como os avanços do MLX e o hardware do Mac viabilizam poderosos fluxos de trabalho agênticos inteiramente no dispositivo. Você explorará agentes de código, como OpenCode, verá como eles se integram ao Xcode, aprenderá técnicas para ampliar a capacidade usando vários Macs e descobrirá como integrar ferramentas perfeitamente, sem sair da sua máquina.
Capítulos
- 0:00 - Introdução
- 0:32 - O chat e o ciclo agêntico
- 2:42 - Pilha de IA agêntica local
- 4:36 - Configuração do seu próprio agente
- 5:39 - Como tornar os agentes rápidos
- 6:53 - Concorrência e inferência distribuída
- 9:20 - Mais exemplos
- 13:01 - Próximas etapas
Recursos
- MLX Swift LM on GitHub
- MLX Swift Examples
- MLX Examples
- MLX Swift
- MLX LM - Python API
- MLX Explore - Python API
- MLX Framework
- MLX
Vídeos relacionados
WWDC26
- Explore a computação numérica em Swift com o MLX
- Explore inferência e treinamento distribuído com o MLX
WWDC25
-
Buscar neste vídeo...
-
-
4:40 - Set up MLX-LM and start the local server
# Step 1: Install MLX-LM pip install mlx-lm # Step 2: Start the server mlx_lm.server --model mlx-community/Qwen-3.5-4B-8bit # Step 3: Point your agent to the server curl -X POST \ http://127.0.0.1:8080/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{"model":"default_model","messages":[{"role":"user","content":"Hello!"}]}' -
5:18 - Configure an agent to use your local MLX server
{ "$schema": "https://opencode.ai/config.json", "model": "mlx/default_model", "small_model": "mlx/default_model", "provider": { "mlx": { "npm": "@ai-sdk/openai-compatible", "name": "MLX (local)", "options": { "baseURL": "http://127.0.0.1:8080/v1" }, "models": { "default_model": { "name": "Default MLX Model" } } } } } -
8:33 - Launch distributed inference with MLX
mlx.launch --hostfile hosts.json \ --backend jaccl \ /remote/path/to/mlx_lm.server \ --model mlx-community/Qwen-3.5-122B-A3B-8bit
-