Respuestas al mensaje #674

🇵🇦 Nuestro primer dominio localizado está en español en kiwifarms.pa. Our first localized domain is on Spanish on kiwifarms.pa.

I'm on an i9-10920X with an NVIDIA 3090, fairly beefy machine. For 33b 4bit, around 20 tokens/s for GTPQ models with ExLlama, 4-5 tokens/s for...