¿Qué modelo te respondió de verdad? Fallback, atribución y evidencia

Cuando una cadena de proveedores falla y activa un respaldo, la respuesta puede venir de otro modelo. Sin modelo servido y receipt, “funcionó” es una opinión.
IA, LLMs, machine learning aplicado al mundo real.

Cuando una cadena de proveedores falla y activa un respaldo, la respuesta puede venir de otro modelo. Sin modelo servido y receipt, “funcionó” es una opinión.

Kolibri-1 tiene 78,1B parámetros y 3,46B activos. Su Q4 pesa 47,45 GB y está pensado para máquinas de 64 GB de RAM. La pregunta no es si cabe, sino a qué velocidad.

NVIDIA metió un modelo de 74B y 9B activos en 22,1 GB con una mezcla de IQ2, NVFP4 y Q8. La pregunta no es si cabe, sino qué se sacrifica y cuánto contexto queda.

La semana dejó tres modelos abiertos de frontera. El problema no es la licencia: es que sus checkpoints, aun en 2 bits, siguen necesitando cientos de gigabytes.

La mayoría de los fallos de un agente local no son del modelo: son del contrato de admisión. Renderizar, contar, reservar y rechazar convierte un error opaco en una causa accionable.

FLUX.3 Image Klein añade layout control por cajas, pero su presupuesto de memoria va de 13,4 a 20,7 GB. En 16 GB hay que elegir quant, offload y contexto.

LFM2.5-24B-A2B tiene 24B parámetros y solo 2B activos por token. Para un agente que iterará veinte veces, esa diferencia pesa más que el benchmark de un turno.

La recuperación de contexto no es subir la ventana. Es ingeniería de estados: guardar lo importante, compactar sin romper pares herramienta/resultado y restaurar el modelo al terminar.

JetBrains puso un MoE de 12B con 2,5B activos en un Q4 de 7,52 GB. Cabe en 12 GB, promete 47% en SWE-bench y tiene un bug abierto en Metal. Esto es lo que se puede esperar y lo que hay que medir.

Octubre de 2026 pasó de “2 bits es una exageración” a “2 bits es el artefacto oficial”. Tres releases explican el cambio y obligan a leer la VRAM de otra manera.