Kana & Mari's SoundRepos (English)

nobodywho-ooo/nobodywho

2 min · 3. aug. 2026
Forsidebilde av episoden nobodywho-ooo/nobodywho

Beskrivelse

NobodyWho is a Rust-based, on-device inference engine for running GGUF-format large language models locally and offline. It provides streaming chat, conversation and context management, grammar-based tool calling, embeddings, reranking, multimodal input, text-to-speech and speech-to-text, with bindings for Kotlin, Swift, Python, Flutter, React Native and Godot. Inference is powered by llama.cpp with Vulkan and Metal GPU acceleration.

Kommentarer

0

Vær den første til å kommentere

Registrer deg nå og bli medlem av Kana & Mari's SoundRepos (English) sitt community!

Prøv gratis

Prøv gratis i 14 dager

99 kr / Måned etter prøveperioden. · Avslutt når som helst

  • Eksklusive podkaster
  • 20 timer lydbøker i måneden
  • Gratis podkaster

Alle episoder

45 Episoder