Kana & Mari's SoundRepos (English)

nobodywho-ooo/nobodywho

2 min · 3. elo 2026
jakson nobodywho-ooo/nobodywho kansikuva

Kuvaus

NobodyWho is a Rust-based, on-device inference engine for running GGUF-format large language models locally and offline. It provides streaming chat, conversation and context management, grammar-based tool calling, embeddings, reranking, multimodal input, text-to-speech and speech-to-text, with bindings for Kotlin, Swift, Python, Flutter, React Native and Godot. Inference is powered by llama.cpp with Vulkan and Metal GPU acceleration.

Kommentit

0

Ole ensimmäinen kommentoija

Rekisteröidy nyt ja liity Kana & Mari's SoundRepos (English)-yhteisöön!

Aloita maksutta

30 vrk ilmainen kokeilu

Kokeilun jälkeen 7,99 € / kuukausi. · Peru milloin tahansa

  • Podimon podcastit
  • 20 kuunteluaikaa / kuukausi
  • Lataa offline-käyttöön

Kaikki jaksot

45 jaksot