Alucinação de IA: o que é e como conferir a resposta

Por que a IA inventa respostas?

Um modelo de linguagem foi treinado para continuar textos com as palavras mais prováveis, e uma frase provável nem sempre é verdadeira. Sem o documento certo à mão, ele completa a lacuna com algo que soa bem. Quanto mais específica a pergunta (um prazo, um valor, o nome de um cliente), maior o risco.

Como é uma alucinação num caso de empresa?

Na Consultoria Horizonte (empresa fictícia), alguém pergunta a um chat de uso geral qual é o prazo de resposta do contrato padrão. O chat responde “5 dias úteis, conforme a cláusula 7”. O contrato tem 3 dias e não tem cláusula 7. A frase é fluente, a cláusula é falsa e ninguém desconfia.

• Número inventado: prazo, valor, quantidade, data.
• Fonte inventada: uma cláusula, um documento ou uma reunião que não existem.
• Mistura de clientes: o combinado com um cliente atribuído a outro.
• Regra que parece da casa: um procedimento plausível que a empresa nunca adotou.

Quais quatro perguntas conferem uma resposta de IA?

Quatro perguntas, em ordem, cobrem quase todo caso de empresa: tem fonte, a fonte diz isso, a fonte está em dia e os detalhes batem. Se uma falhar, a resposta não serve de base para decidir. O modelo abaixo vai pronto para copiar e colar no seu manual do time.

CHECKLIST: CONFERIR UMA RESPOSTA DE IA ANTES DE USAR

Pergunta feita: ______________________
Resposta recebida (resumo): ______________________

1. TEM FONTE?
[ ] A resposta aponta o documento, a reunião ou o projeto de onde saiu.
Sem fonte: peça "mostre de onde tirou isso" ou trate como orientação geral.

2. A FONTE DIZ ISSO?
[ ] Abri a fonte e li o trecho.
[ ] O trecho sustenta a frase, sem exagero nem mudança de sentido.

3. A FONTE ESTÁ EM DIA?
[ ] Vi a data de atualização.
[ ] O documento não está em rascunho, com revisão vencida nem arquivado.

4. OS DETALHES BATEM?
[ ] Números, prazos e valores são os do original.
[ ] Nomes de cliente, projeto e pessoa estão certos.

Resultado: [ ] usar   [ ] corrigir a pergunta e repetir   [ ] corrigir o documento
Quem conferiu / data: ______________________

Para perguntas sobre contratos, atas ou manuais, use as quatro perguntas junto com a lista de 12 perguntas para IA analisar documentos.

Como a resposta com fonte clicável ajuda a conferir?

Fonte clicável troca “confie em mim” por “confira você”. Cada afirmação termina com um número, e o número leva ao documento, à reunião ou ao projeto de onde ela saiu. A conferência vira abrir um link e ler o trecho, em vez de procurar nos arquivos.

O Assistente do Mentrun trabalha assim. Ele busca nos dados da empresa e termina cada afirmação com o número da fonte. Mostra “Fontes consultadas”, com o tipo e o “atualizado em” de cada uma, e avisa com “Atenção à fonte” quando o documento está em rascunho ou com a revisão vencida. A busca que sustenta isso está explicada em RAG.

• Resposta sem nenhuma fonte recebe o aviso “Resposta sem fonte”, com o pedido de conferir antes de decidir.
• Quando os dados da empresa não trazem a resposta, a tela mostra “Não achei isso nos seus dados”.
• Cada pessoa vê só as fontes que o cargo dela permite abrir.

Como reduzir o risco de alucinação no dia a dia?

Quatro hábitos diminuem a chance de a equipe agir sobre uma resposta inventada. Nenhum deles depende de entender como o modelo funciona por dentro.

1. Pergunte com o nome do cliente, o projeto e o período: “reuniões da Clínica Vitalle em setembro” rende mais que “reuniões”.
2. Use uma IA ligada aos documentos da empresa, como no Assistente de IA para empresas, e não um chat sem acesso ao seu material.
3. Mantenha os documentos em dia: arquive o que não vale mais e revise os que vencem.
4. Faça a conferência das quatro perguntas em tudo o que vira decisão, valor ou promessa ao cliente.

O papel de cada tipo de assistente está no guia de assistente virtual com IA para empresas.