O que são alucinações de IA?

Alucinações de IA são erros nos quais a IA gera informações falsas ou sem sentido. Elas são mais comuns em grandes modelos de linguagem (LLMs), geradores de imagens e outros modelos de IA generativa.

Essas alucinações podem parecer confiáveis e corretas à primeira vista, mas uma análise mais detalhada pode revelar imprecisões.

Por exemplo, uma imagem gerada por IA pode parecer boa no geral, mas detalhes como mãos ou texto talvez não sejam gerados com precisão. Ou, se você pedir à IA para fornecer informações e citar fontes, ela pode transmiti-las com precisão, mas referenciar uma fonte onde essas informações não aparecem.

Entender o que é IA ajuda a explicar por que a IA tem alucinações. As IAs são programas de computador treinados em conjuntos de dados. Vieses, lacunas, imprecisões e ambiguidades nesses dados podem causar alucinações.