Alucinação de IA
A confiança sem lastro: alucinação é o modelo generativo produzindo informação falsa com a mesma fluência da verdadeira, números inventados, fontes inexistentes, cláusulas que o contrato não tem. Não é defeito ocasional, é consequência da natureza da máquina: ela gera o plausível segundo os padrões aprendidos, e o plausível nem sempre coincide com o factual.
Exemplo Prático
Pedido a resumir um balanço, o assistente afirma uma margem que não está no documento, com naturalidade absoluta. No uso financeiro, o erro fluente é mais perigoso que o erro visível: quem confere número por número pega; quem confia no tom, propaga, e a decisão tomada sobre o número fantasma é real.
PlatomAI Explica
A alucinação é o pecado original dos LLMs e a razão de metade da arquitetura de confiança desta vertical: RAG para ancorar em fontes, revisão humana para assinar, políticas para delimitar o que a máquina pode afirmar sozinha. A régua desta casa é dupla e inegociável: fluência não é evidência, e todo dado gerado que alimenta decisão financeira exige verificação na fonte, porque o modelo não mente, ele simplesmente não sabe a diferença, e quem sabe é você.