Agora - The Marketplace of Ideas

The Bleeding Edge

38 min · 16. nov. 2025
Forsidebilde av episoden The Bleeding Edge

Beskrivelse

**Are the state-of-the-art autoregressive decoder-style transformers the only future for large language models?** **We dive into the most fascinating alternatives, including linear attention hybrids that promise huge efficiency gains for long contexts and text diffusion models that generate tokens in parallel instead of sequentially.** Plus, discover how Code World Models are training models to simulate code behavior for improved modeling performance, aiming to develop more capable coding systems.

Kommentarer

0

Vær den første til å kommentere

Registrer deg nå og bli medlem av Agora - The Marketplace of Ideas sitt community!

Prøv gratis

Prøv gratis i 14 dager

99 kr / Måned etter prøveperioden. · Avslutt når som helst

  • Eksklusive podkaster
  • 20 timer lydbøker i måneden
  • Gratis podkaster

Alle episoder

101 Episoder