Agora - The Marketplace of Ideas

The Bleeding Edge

38 min · 16. nov. 2025
Billede af episoden The Bleeding Edge

Beskrivelse

**Are the state-of-the-art autoregressive decoder-style transformers the only future for large language models?** **We dive into the most fascinating alternatives, including linear attention hybrids that promise huge efficiency gains for long contexts and text diffusion models that generate tokens in parallel instead of sequentially.** Plus, discover how Code World Models are training models to simulate code behavior for improved modeling performance, aiming to develop more capable coding systems.

Kommentarer

0

Vær den første til at kommentere

Tilmeld dig nu og bliv en del af Agora - The Marketplace of Ideas-fællesskabet!

Kom i gang

1 måned kun 9 kr.

Derefter 99 kr. / måned · Opsig når som helst

  • Podcasts kun på Podimo
  • 20 lydbogstimer pr. måned
  • Gratis podcasts

Alle episoder

101 episoder