Respuestas al mensaje #22

🇵🇦 Nuestro primer dominio localizado está en español en kiwifarms.pa. Our first localized domain is on Spanish on kiwifarms.pa.

I'm using Unsloth's quants and oobabooga textgen on a 3060. The quant is UD-IQ4_NL, loaded in with Q_8 cache. I'm offloading some weights in...