Learning GenAI via SOTA Papers

EP281: Restoring plasticity to over-trained AI

22 min · Ayer
Portada del episodio EP281: Restoring plasticity to over-trained AI

Descripción

Title: When RL Fails after SFT: Rejuvenating Model Plasticity for Robust SFT-to-RL Handoff Source: http://arxiv.org/abs/2606.09932v1 Summary: This paper identifies and solves the critical 'loss of plasticity' bottleneck in the standard LLM post-training pipeline where excessive SFT inhibits subsequent RL optimization. It introduces 'Rejuvenation', a foundational training primitive that uses model fusion and neuron resets to enable robust reasoning gains during RL while preserving SFT-acquired knowledge.

Comentarios

0

Sé la primera persona en comentar

¡Regístrate ahora y únete a la comunidad de Learning GenAI via SOTA Papers!

Prueba gratis

Empieza 7 días de prueba

$99 / mes después de la prueba. · Cancela cuando quieras.

  • Podcasts solo en Podimo
  • 20 horas de audiolibros al mes
  • Podcast gratuitos

Todos los episodios

283 episodios