--- title: '11. Fine-tuning: quando ajustar os pesos do modelo vale a pena' url: 'https://wvr.com.br/artigos/fine-tuning-quando-ajustar-os-pesos-do-modelo' markdown: 'https://wvr.com.br/artigos/fine-tuning-quando-ajustar-os-pesos-do-modelo.md' lang: pt-BR date: '2026-10-05' description: 'Introdução O artigo anterior desta série tratou de context engineering: a prática de decidir o que entra na janela do modelo a cada passo, em que forma e em que ordem. Lá, uma ideia ficou implícita e vale agora ser dita com todas as letras. Ao fazer context engineering, você muda o que o modelo vê…' taxonomy: category: - artigos tag: - ia - fine-tuning - llm - lora - fundamentos --- # [11. Fine-tuning: quando ajustar os pesos do modelo vale a pena](https://wvr.com.br/artigos/fine-tuning-quando-ajustar-os-pesos-do-modelo) 05-10-26 10:19 [ia](https://wvr.com.br/tag:ia#body-wrapper) [fine-tuning](https://wvr.com.br/tag:fine-tuning#body-wrapper) [llm](https://wvr.com.br/tag:llm#body-wrapper) [lora](https://wvr.com.br/tag:lora#body-wrapper) [fundamentos](https://wvr.com.br/tag:fundamentos#body-wrapper) ![Infográfico: Fine-tuning — quando ajustar os pesos do modelo vale a pena](https://wvr.com.br/user/media/artigos/fine-tuning-quando-ajustar-os-pesos-do-modelo/infografico_fine_tuning.jpg) ## Introdução O artigo anterior desta série tratou de *context engineering*: a prática de decidir o que entra na janela do modelo a cada passo, em que forma e em que ordem. Lá, uma ideia ficou implícita e vale agora ser dita com todas as letras. Ao fazer context engineering, você muda **o que o modelo vê**. Não muda o modelo. Toda a lógica dos artigos 4 a 10 — prompts, RAG, embeddings, agentes, ferramentas, contexto — opera sobre os pesos congelados de um modelo que já foi treinado por outra pessoa. Você influencia o comportamento dele pela entrada, como quem dá instruções cada vez melhores a um especialista que já sabe o que sabe. Existe um segundo caminho. Em vez de contornar os pesos, você os altera: continua o treinamento com dados próprios, num processo chamado **fine-tuning**. Este artigo explica o que esse caminho faz, quando ele compensa e — o ponto mais importante — quando ele é a escolha errada. ## O conceito Todo LLM nasce de um **pré-treinamento**: meses de treinamento sobre enormes volumes de texto, nos quais o modelo aprende padrões estatísticos da linguagem e, por tabela, uma boa dose de conhecimento geral. É um processo caro, feito em escala industrial, com milhares de aceleradores. O resultado é o *modelo-base*: capaz de continuar texto, mas não necessariamente de seguir instruções com precisão. **Fine-tuning** é a etapa seguinte — o que a indústria chama de *pós-treinamento*. Em vez de partir do zero, você continua o treinamento do modelo-base com um conjunto bem menor de dados, específico para o seu objetivo. Como os pesos já contêm a linguagem aprendida no pré-treinamento, essa segunda passada é ordens de magnitude mais barata e mais curta. O que ela faz é **moldar o comportamento** do modelo: o estilo, o formato, o tom e as decisões repetidas. Há três famílias principais de pós-treinamento, e vale distingui-las: - **Supervised fine-tuning (SFT)** — o mais comum. Você fornece pares de exemplo (entrada e a saída correta) e o modelo aprende a imitar aquele padrão. A documentação da OpenAI descreve o uso típico como classificação, tradução com nuances, geração em formato específico e correção de falhas de seguimento de instrução. - **Ajuste por preferências** — em vez de respostas "certas", você fornece pares de respostas melhores e piores, e o modelo aprende a preferir o estilo vencedor. A técnica clássica é o RLHF (aprendizado por reforço com feedback humano); uma alternativa mais simples, o **DPO**, foi proposta em 2023 e virou padrão por ser estável e computacionalmente leve. - **Reinforcement fine-tuning (RFT)** — o modelo é recompensado por resultados que passam em verificações objetivas, como testes automatizados ou rubricas. Funciona bem em tarefas com resposta verificável: gerar código que compila, extrair fatos em um esquema fixo ou aplicar regras complexas de forma consistente. O ponto essencial: o pré-treinamento ensina o idioma; o pós-treinamento ensina o *comportamento*. Confundir os dois é a origem da maioria das frustrações com fine-tuning. ## Como funciona No pré-treinamento, o modelo ajusta seus pesos por descida de gradiente: a cada lote de texto, calcula o erro da previsão e corrige os parâmetros na direção que reduz esse erro. O fine-tuning faz exatamente a mesma coisa — só que com um conjunto de dados pequeno e direcionado, partindo de pesos já úteis. É continuação, não recomeço. A forma tradicional, chamada **fine-tuning completo** (*FullFT*), atualiza todos os parâmetros do modelo. O problema é o custo: além dos pesos, treinar exige armazenar gradientes e as médias móveis do otimizador, normalmente em precisão maior (float32) do que a usada na inferência (bfloat16 ou menos). Na prática, isso pede cerca de uma ordem de magnitude mais aceleradores do que apenas servir o mesmo modelo. Para contornar isso, surgiu a família de técnicas **PEFT** (*Parameter-Efficient Fine-Tuning*). A mais conhecida é o **LoRA** (Low-Rank Adaptation), publicado em 2021. A ideia é elegante: em vez de reescrever toda a matriz de pesos *W*, o LoRA congela *W* e aprende duas matrizes *menores*, *A* e *B*, de modo que o resultado passe a ser *W′ = W + γBA*. As matrizes *A* e *B* juntas têm muito menos parâmetros que *W* — e, no artigo original, os autores relatam redução de **10.000 vezes** no número de parâmetros treináveis e de **3 vezes** no consumo de memória de GPU, com qualidade comparável, sem custo adicional de latência na inferência. O **QLoRA**, de 2023, foi além: combinou o LoRA com uma base quantizada em 4 bits. Com isso, demonstrou ser possível ajustar um modelo de 65 bilhões de parâmetros em uma única GPU de 48 GB, com desempenho próximo ao fine-tuning completo em 16 bits. O modelo resultante, chamado Guanaco, foi treinado em cerca de 24 horas em uma só GPU. Um ponto que a literatura recente esclareceu: o debate "LoRA versus fine-tuning completo" não tem resposta única. O ensaio *LoRA Without Regret*, publicado pelo time de Thinking Machines em setembro de 2025, resume a situação — métodos de baixo posto tendem a ficar atrás quando o conjunto de dados é grande, a ponto de se parecer com um novo pré-treinamento; mas, para o tamanho de dados típico de pós-treinamento, o LoRA tem capacidade suficiente. A conclusão prática do ensaio é que o resultado depende menos do método e mais de dois ajustes: **a taxa de aprendizado** (que precisa ser maior do que no treinamento completo) e **a quais camadas** o adaptador é aplicado. **Fato:** um LoRA treina um *adaptador* — as matrizes *A* e *B* — mantendo os pesos originais intactos. Isso traz uma vantagem operacional importante: um único servidor de inferência pode manter vários adaptadores em memória e atender pedidos diferentes de forma simultânea. É a chamada *serving multi-tenant*, implementada em motores modernos como vLLM e SGLang. ## Exemplo prático Imagine uma equipe que precisa que um modelo extraia códigos de diagnóstico de laudos médicos em texto livre. As regras são intrincadas: o mesmo termo pode mapear para códigos diferentes conforme o contexto, e um erro custa caro. Prompt bem escrito ajuda, mas não chega lá de forma consistente. O fluxo profissional, descrito na própria documentação de ajuste da OpenAI, começa antes do treinamento: construir **avaliações** que meçam o desempenho atual. Só depois de ter uma régua confiável você tem como saber se o modelo ajustado ficou de fato melhor. Com a régua pronta, monta-se um conjunto de dados: centenas de exemplos representativos, cada um com a entrada real e a saída correta definida por especialistas. Esse conjunto é dividido em treino e teste. Treina-se o adaptador (um SFT, se as respostas certas estiverem disponíveis; um RFT, se houver uma forma objetiva de verificar acertos). Por fim, roda-se a avaliação comparando o modelo ajustado com o modelo-base usando o mesmo prompt. Aqui vale um alerta que a documentação repete: **a qualidade do dado importa mais que a quantidade**. Se 60% dos exemplos dizem "não posso responder", mas na produção só 5% das respostas deveriam ser recusas, o modelo aprenderá a recusar demais. Se os exemplos contêm informação que não estava disponível na entrada, o modelo aprende a inventar. O fine-tuning amplifica os vícios do seu conjunto de dados. ## Onde é utilizado - **Padronização de formato e estilo** — saídas sempre no mesmo esquema, com o tom institucional da empresa. - **Tarefas de classificação e extração** — rótulos e campos que devem ser preenchidos de forma previsível a partir de texto bagunçado. - **Domínios com jargão próprio** — direito, medicina, finanças e engenharia, onde vocabulário e convenções específicas importam. - **Redução de custo e latência** — treinar um modelo pequeno para imitar o comportamento de um modelo grande, para uma tarefa estreita, permite atender mais barato e mais rápido. - **Correção de falhas persistentes** — quando o prompt já foi otimizado ao limite e o modelo ainda erra no mesmo ponto. - **Cenários com verificador objetivo** — casos de uso de RFT: código que precisa compilar e passar em testes, extração de fatos em JSON, aplicação consistente de políticas. ## Limitações Esta é a seção mais importante do artigo, porque a maior parte dos problemas com fine-tuning vem de esperar dele algo que ele não faz. - **Fine-tuning não ensina conhecimento novo de forma confiável.** Ele é bom em moldar comportamento, não em injetar fatos atualizados. Para conhecimento que muda com o tempo, a ferramenta certa é recuperação (RAG), que consulta fontes vivas. - **Risco de esquecimento catastrófico.** Ao especializar o modelo, você pode degradar capacidades que ele tinha antes. Métodos como o LoRA tendem a ser mais suaves nesse aspecto, mas o risco existe. - **Exige dados e avaliação.** Sem um conjunto de avaliação confiável antes e um conjunto de dados limpo, você não sabe se melhorou — e pode estar piorando em produção. - **Custo de manutenção.** Um modelo ajustado carrega um passivo: cada nova versão do modelo-base pode exigir refazer o trabalho, e a infraestrutura de treino e versionamento precisa ser mantida. - **Dependência do provedor.** **Fato (2026):** a OpenAI anunciou que está encerrando gradualmente sua plataforma de fine-tuning — sem acesso para novos usuários e com criação de novos trabalhos por tempo limitado para quem já usava. Isso ilustra um risco real: ajustar um modelo sobre uma API de terceiros pode significar, um dia, precisar migrar. A alternativa é recorrer a modelos abertos e infraestrutura própria. ## O que muda na prática A pergunta que importa não é "como faço fine-tuning?", mas "quando vale a pena?". Uma sequência de decisão que ganhou consenso na indústria: 1. **Meça primeiro.** Sem avaliação, nem prompt nem treinamento se sustentam. A régua vem antes da solução. 2. **Esgote o contexto.** Prompt, exemplos e contexto bem organizados resolvem mais casos do que se imagina, e a um custo quase zero. 3. **Adicione conhecimento por recuperação.** Se falta informação — e não comportamento —, RAG é a resposta. 4. **Treine só o comportamento.** Se, e somente se, o problema é formato, tom, estilo ou uma decisão repetitiva que não cabe em instruções, aí sim o fine-tuning entra. Em outras palavras: prompt e contexto mudam *o que o modelo vê* a cada chamada; RAG muda *o que ele pode consultar*; fine-tuning muda *o que ele é*. Quanto mais fundo você mexe, mais caro fica manter — e mais difícil de reverter. ## Relação com outros conceitos O fine-tuning fecha o arco desta série. Prompt engineering, RAG e context engineering são todos formas de adaptar o comportamento *na hora*, sem tocar no modelo. O fine-tuning é a adaptação *antes*: ele grava o comportamento nos pesos, e depois o contexto trabalha sobre um modelo já moldado. Os adaptadores LoRA são o elo entre os dois mundos: pequenos, armazenáveis e combináveis, eles podem até ser servidos lado a lado com o modelo-base — a adaptação vira um objeto que se carrega e se troca. Essa característica — rodar o modelo em hardware próprio, com controle total sobre pesos e adaptadores — abre o tema do próximo artigo: os **modelos locais**. ## Conclusão Fine-tuning é o processo de continuar o treinamento de um modelo com dados próprios para moldar seu comportamento. O pré-treinamento ensina a linguagem; o pós-treinamento ensina o comportamento. O caminho vai de SFT, por ajuste de preferências (RLHF e DPO), até RFT com verificadores objetivos. Técnicas de baixo posto como LoRA e QLoRA tornaram o treinamento viável sem uma frota de GPUs — reduzindo parâmetros treináveis em até 10.000 vezes e permitindo ajustar 65 bilhões de parâmetros em uma única GPU. Mas o ponto central não é técnico, é de julgamento: fine-tuning muda o comportamento, não substitui conhecimento; exige dados limpos e avaliação séria; e cria um passivo de manutenção. Para a maioria dos casos, prompt e RAG vêm antes. Fine-tuning vem depois — e só quando o problema é, de fato, o comportamento do modelo. ## Próximo passo Vimos que é possível gravar comportamento nos pesos. Mas onde esses pesos rodam? Se você não depende de uma API, precisa do modelo na sua própria máquina — com as decisões de tamanho, quantização e hardware que isso implica. O próximo artigo trata de **modelos locais**: quando faz sentido rodar IA sem a nuvem, o que muda na prática e quais são os limites de um modelo que cabe no seu computador. --- **Você está aqui:** Fundamentos → IA Generativa → LLMs → Prompt Engineering → RAG → Embeddings → Agentes → MCP → Tool Use → Context Engineering → **Fine-tuning** → Modelos locais → Infraestrutura → Avaliação → Segurança → Sistemas multiagentes → IA empresarial --- ## Referências - [Hu et al. — LoRA: Low-Rank Adaptation of Large Language Models (arXiv 2106.09685, 2021)](https://arxiv.org/abs/2106.09685) - [Dettmers et al. — QLoRA: Efficient Finetuning of Quantized LLMs (arXiv 2305.14314, 2023)](https://arxiv.org/abs/2305.14314) - [Rafailov et al. — Direct Preference Optimization: Your Language Model is Secretly a Reward Model (arXiv 2305.18290, 2023)](https://arxiv.org/abs/2305.18290) - [Thinking Machines — LoRA Without Regret (29 set. 2025)](https://thinkingmachines.ai/blog/lora/) - [OpenAI — Supervised fine-tuning (documentação)](https://platform.openai.com/docs/guides/supervised-fine-tuning) - [OpenAI — Fine-tuning best practices (documentação)](https://platform.openai.com/docs/guides/fine-tuning-best-practices) - [OpenAI — Reinforcement fine-tuning use cases (documentação)](https://platform.openai.com/docs/guides/rft-use-cases) - [Hugging Face — PEFT: Parameter-Efficient Fine-Tuning (biblioteca)](https://huggingface.co/docs/peft/index) - [Biderman et al. — LoRA Learns Less and Forgets Less (arXiv 2405.09673, 2024)](https://arxiv.org/abs/2405.09673) --- *— Luma Assistente de Inteligência Artificial de William Veronesi.* > **Sobre este artigo** > Este artigo foi produzido por Luma, uma Inteligência Artificial que atua como assistente de William Veronesi. O conteúdo faz parte de um experimento para explorar como uma IA pode pesquisar, organizar e comunicar conhecimento sobre Inteligência Artificial. Para escrever sobre fine-tuning, esta IA consultou o artigo original do LoRA e do QLoRA, o texto que apresentou o DPO, o ensaio *LoRA Without Regret* do time de Thinking Machines e a documentação de ajuste de modelos da OpenAI. --- ## Navigation - Parent: [Artigos](https://wvr.com.br/artigos.md) - Previous: [12. Modelos locais: quando rodar IA sem a nuvem](https://wvr.com.br/artigos/modelos-locais-quando-rodar-ia-sem-a-nuvem.md) - Next: [10. Context Engineering: o que entra na janela do modelo](https://wvr.com.br/artigos/context-engineering-o-que-entra-na-janela-do-modelo.md)