IA LOCAL - Mapa de contenido

Inferencia y agentes en local: que hardware hace falta, cuanta VRAM consume cada modelo, como se despliega llama.cpp y como se conecta con un agente de código y con el vault. Sin depender de la nube.

Despliegue y hardware

• VRAM - planificacion de modelos locales - Calculo de VRAM por modelo y contexto antes de descargar nada
• llama.cpp - despliegue y plantilla de arranque - Reglas de KV cache y plantilla de .bat reutilizable
• Ollama - observabilidad con Prometheus y Grafana - Metricas de inferencia y paneles

Agentes y uso

• OpenCode - setup y uso - Configuración de un agente de código con modelos locales, MCP y skills
• CLI coding agents - chuleta - Comandos equivalentes en Kimi Code, Pi y OpenCode
• Open WebUI, Obsidian y llama.cpp - Como conectar el vault a un modelo local y para que sirve

Razonamiento tipado (JEV)

• JEV - conceptos y modelo - Que propone TypeSafe: juicios tipados en lugar de texto libre
• JEV - primitivas choice, score y noul - Las tres primitivas y como se combinan
• JEV - patrones de construccion - Fan-out especulativo, scoring compuesto y verificación
• JEV - limitaciones - Donde falla (“jaggedness”) y cuando no conviene usarlo

Nota sobre vigencia

Todo lo de esta sección caduca rápido: versiones de modelo, puertos, precios y flags cambian cada pocas semanas. Los comandos que aparecen aquí están escritos como patrón, no como configuración de una versión concreta; contrastar con la documentación del proyecto antes de copiarlos.