KV Cache: el reto de guardar conversaciones de 100GB

KV Cache: el reto de guardar conversaciones de 100GB

La KV Cache se ha convertido en uno de los grandes retos para escalar los LLMs: guardar el contexto de una conversación no significa almacenar texto, sino enormes tensores por cada token y capa del modelo. A partir de ahí aparece el verdadero problema: una conversación larga puede ocupar decenas o cientos de GB, saturar la VRAM de las GPUs y obligar a diseñar sistemas capaces de paginar, compartir, mover y reutilizar esa caché entre GPU, RAM, SSD y red. La idea central: los LLMs modernos no escalan solo con más cálculo, sino gestionando una memoria gigantesca de la forma más inteligente posible. Participan en la tertulia: Paco Zamora, Josu Gorostegui y Guillermo Barbadillo. Recuerda que puedes enviarnos dudas, comentarios y sugerencias en: https://x.com/TERTUL_ia Más info en: https://ironbar.github.io/tertulia_inteligencia_artificial/

Dartmouth (1955): Los orígenes de la IA

La conferencia de Dartmouth marca el inicio de la investigación en inteligencia artificial. Conoce qué temas trataron y otras curiosidades en este capítulo. Participan en la tertulia: Iñigo Olcoz, Josu Gorostegui y Guillermo Barbadillo. Recuerda que puedes enviarnos dudas, comentarios y sugerencias en: https://x.com/TERTUL_ia Más info en: https://ironbar.github.io/tertulia_inteligencia_artificial/

Más allá del modelo: el harness de Claude Code

Este capítulo analiza la arquitectura interna (harness o envoltorio determinista) de Claude Code, revelando mediante una filtración de código de marzo de 2026 cómo este sistema gestiona el contexto, la memoria, las herramientas tipadas y un robusto entorno de permisos en cascada. El texto demuestra con datos y benchmarks que el rendimiento de un agente no depende solo del modelo (como Opus 4.6), sino de la calidad de la ingeniería de software que lo rodea. Así, se concluye que la verdadera evolución agéntica reside en el harness —que industrializa el bucle de ejecución, optimiza costes con caché por contenido y paraleliza acciones de forma segura— y no únicamente en las capacidades abstractas de la IA. Participan en la tertulia: Paco Zamora, Josu Gorostegui y Guillermo Barbadillo. Recuerda que puedes enviarnos dudas, comentarios y sugerencias en: https://x.com/TERTUL_ia Más info en: https://ironbar.github.io/tertulia_inteligencia_artificial/

Inteligencia Artificial en la Guerra

El capítulo aborda el uso de la IA en la guerra desde tres ángulos: su aplicación real en conflictos como Gaza, Ucrania e Irán; el debate político y empresarial entre Anthropic, OpenAI, EE. UU. y Palantir; y las implicaciones científicas, técnicas y éticas. Analizaremos cómo la IA puede acelerar la selección de objetivos, automatizar vigilancia, controlar drones o apoyar tareas de inteligencia, y qué riesgos plantea para la responsabilidad humana y el derecho internacional. La gran pregunta de fondo será si la IA es una herramienta inevitable de la guerra moderna, una nueva forma de disuasión o una frontera peligrosa que deberíamos regular antes de que sea demasiado tarde. Participan en la tertulia: Paco Zamora, Josu Gorostegui, Iñigo Olcoz y Guillermo Barbadillo. Recuerda que puedes enviarnos dudas, comentarios y sugerencias en: https://x.com/TERTUL_ia Más info en: https://ironbar.github.io/tertulia_inteligencia_artificial/

Lejepa, la receta maestra de Yann Lecun

LeJEPA es una evolución de la arquitectura JEPA que aprende el significado profundo de los datos prediciendo representaciones en lugar de píxeles, pero eliminando la necesidad de usar inestables parches históricos (como el aprendizaje contrastivo o modelos maestro-alumno) para evitar que el sistema colapse. Su gran innovación es utilizar SIGReg, un método que soluciona este problema de raíz al obligar a los embeddings a mantener una estructura geométrica de nube esférica (Gaussiana isotrópica). Esto da como resultado un modelo estable, libre de "magia negra" y altamente escalable, donde el rendimiento durante el entrenamiento por fin permite predecir con precisión su éxito en tareas y dominios reales. Participan en la tertulia: Paco Zamora, Josu Gorostegui y Guillermo Barbadillo. Recuerda que puedes enviarnos dudas, comentarios y sugerencias en: https://x.com/TERTUL_ia Más info en: https://ironbar.github.io/tertulia_inteligencia_artificial/