Respuestas al mensaje #747

🇵🇦 Nuestro primer dominio localizado está en español en kiwifarms.pa. Our first localized domain is on Spanish on kiwifarms.pa.

Very slow on CPU, I'm getting around 10 tokens per second on a 13b 4-bit quantized model via llama.cpp CPU mode with a beefy i9 12 core CPU, down...