Quando faz sentido
- A tarefa exige um formato ou estilo muito específico e consistente.
- Há muitos exemplos de qualidade de entradas e saídas esperadas.
- Bons prompts e RAG já foram testados e não bastaram.
Fine-tuning e RAG
- RAG dá ao modelo acesso a informações atualizadas na hora de responder. Ideal para conhecimento que muda, como políticas, preços e produtos.
- Fine-tuning muda o comportamento do modelo. Ideal para formato, tom e tarefas muito repetitivas.
Na maioria dos casos de empresas, o RAG com boas instruções resolve antes de precisar de fine-tuning. Os dois também podem ser combinados.
Cuidados
- Os exemplos definem o resultado. Exemplos ruins ou enviesados geram um modelo ruim.
- Custo e manutenção: o modelo ajustado precisa ser reavaliado quando a tarefa ou o modelo de base mudam.
- Dados sensíveis: os exemplos usados no ajuste precisam respeitar a LGPD.
Fine-tuning em PMEs
Para PMEs, fine-tuning raramente é o primeiro passo. Começar com modelos prontos, instruções padronizadas e uma boa base de conhecimento costuma entregar a maior parte do valor com menos custo.