Model
Llama-3 8B-Q8-gguf
Mistral-0.2 7B-Q8-gguf
Mistral-2.5 7B-Q8-gguf
Llama-3 70B-Q3-gguf
Llama-3.1 70B-Q4-gguf
...
Model Gradio
Llama-3 8B-Instruct
☰
Send