Kana & Mari's SoundRepos (English)

nobodywho-ooo/nobodywho

2 min · 3. Aug. 2026
Episode nobodywho-ooo/nobodywho Cover

Beschreibung

NobodyWho is a Rust-based, on-device inference engine for running GGUF-format large language models locally and offline. It provides streaming chat, conversation and context management, grammar-based tool calling, embeddings, reranking, multimodal input, text-to-speech and speech-to-text, with bindings for Kotlin, Swift, Python, Flutter, React Native and Godot. Inference is powered by llama.cpp with Vulkan and Metal GPU acceleration.

Kommentare

0

Sei die erste Person, die kommentiert

Melde dich jetzt an und werde Teil der Kana & Mari's SoundRepos (English)-Community!

Kostenlos testen

30 Tage kostenlos testen

4,99 € / Monat nach der Testphase. · Jederzeit kündbar

  • Podcasts nur bei Podimo
  • 20 Stunden Hörbücher / Monat
  • Alle kostenlosen Podcasts

Alle Folgen

45 Folgen