Por que acontece
LLMs geram texto prevendo a continuação mais provável. Eles não consultam uma lista de fatos verdadeiros. Quando falta informação, o modelo pode completar a lacuna com algo que soa correto, mas não é.
As chances aumentam quando:
- a pergunta é sobre algo específico da empresa que o modelo não conhece;
- o pedido é vago;
- a resposta exige números, datas ou fontes exatas.
Exemplos
- Informar um prazo de entrega que a empresa não pratica.
- Citar uma lei, artigo ou estudo que não existe.
- Inventar um recurso de produto.
- Errar um cálculo e apresentar o resultado com confiança.
Como reduzir o risco
- Dê à IA as informações certas. Técnicas como RAG fazem o modelo responder com base em documentos da empresa.
- Mantenha uma base de conhecimento atualizada.
- Instrua o modelo a dizer “não sei” quando a informação não estiver disponível.
- Revise o que é crítico, como preços, prazos e informações legais.
- Teste com perguntas reais antes de colocar em produção.
Alucinação em PMEs
Ao usar IA no atendimento ou em documentos, o cuidado com alucinação protege a reputação da empresa. Um assistente que responde “vou confirmar com a equipe” é melhor do que um que inventa uma resposta.