architecture : llama
GGUF version : 3
layers       : 32
kv heads     : 8
head_dim     : 128
train context: 131072
file type    : Q4_K_M
