![\"Mascote](\"\/wp-content\/uploads\/2026\/09\/llama-cpp-v4.webp\")
<\/p>\n<\/p>\n
Existe um projeto de que quase todo mundo depende sem saber. Quando voc\u00ea roda um modelo local com Ollama, com LM Studio, com Jan ou com aquele app de IA no celular, \u00e9 bem prov\u00e1vel que, l\u00e1 embaixo, quem est\u00e1 fazendo a conta seja o llama.cpp<\/strong> \u2014 um motor de infer\u00eancia escrito em C++ puro, sem Python, sem CUDA obrigat\u00f3rio, sem depend\u00eancia nenhuma.<\/p>\n Este post \u00e9 o guia direto: de onde ele veio, como instalar, como rodar o primeiro modelo e como coloc\u00e1-lo para servir uma API.<\/p>\n A hist\u00f3ria come\u00e7a com uma biblioteca, n\u00e3o com o LLaMA. Em setembro de 2022, o b\u00falgaro Georgi Gerganov<\/strong> come\u00e7ou a escrever a GGML<\/strong> \u2014 uma biblioteca de \u00e1lgebra tensorial em C, feita para rodar r\u00e1pido em CPU comum.<\/p>\n Em mar\u00e7o de 2023 os pesos do LLaMA, da Meta, vazaram. Poucos dias depois, em 10 de mar\u00e7o de 2023<\/strong>, Gerganov publicou o llama.cpp: o modelo da Meta rodando num MacBook, sem GPU, sem Python, sem nada. Foi um daqueles momentos em que a r\u00e9gua do que \u00e9 poss\u00edvel se move de lugar \u2014 at\u00e9 ali, “rodar um LLM” significava alugar GPU de datacenter.<\/p>\n O que veio depois:<\/p>\n Hoje o projeto vive em ggml-org\/llama.cpp<\/a>, licen\u00e7a MIT<\/strong>, com mais de 127 mil estrelas<\/strong> \u2014 e ganhou site pr\u00f3prio, o llama.app<\/a>.<\/p>\n O llama.cpp roda modelos no formato GGUF<\/strong>, e entender isso poupa muita confus\u00e3o.<\/p>\n Um GGUF \u00e9 um arquivo \u00fanico<\/strong> que empacota tudo o que o modelo precisa: os pesos, o tokenizador e os metadados. N\u00e3o h\u00e1 diret\u00f3rio com uma d\u00fazia de arquivos, n\u00e3o h\u00e1 E ele carrega os pesos quantizados<\/strong> \u2014 comprimidos de 16 bits para 8, 5, 4 ou menos por par\u00e2metro. \u00c9 essa compress\u00e3o que faz um modelo de 8 bilh\u00f5es de par\u00e2metros caber em 5 GB em vez de 16, e \u00e9 por isso que ele roda no seu notebook.<\/p>\n A confus\u00e3o mais comum \u00e9 achar que s\u00e3o concorrentes. N\u00e3o s\u00e3o exatamente:<\/p>\nDe onde veio o llama.cpp<\/h2>\n
\n
llama-cli<\/code> deixa de rodar a infer\u00eancia no pr\u00f3prio processo e vira um cliente fino que sobe o llama-server<\/code> por baixo e conversa com ele.<\/li>\n<\/ul>\nGGUF: o formato que faz a coisa toda funcionar<\/h2>\n
config.json<\/code> separado, n\u00e3o h\u00e1 surpresa de “faltou o tokenizador”. Voc\u00ea baixa um arquivo e ele roda.<\/p>\nllama.cpp, Ollama ou vLLM?<\/h2>\n