Alucinação em IA de imagem: o que é e por que importa

Alucinação, no vocabulário de IA, é quando o modelo produz algo que parece plausível, mas não tem base na entrada. Em imagem, aparece como detalhe inventado: uma textura que mudou, um dente diferente, uma assimetria nova, um traço que o rosto original não tinha.

Por que a IA de imagem alucina?

Os modelos de IA generativa aprendem padrões de muitas imagens e preenchem lacunas com o que é estatisticamente provável. Quando a tarefa é alterar só uma região, o modelo precisa decidir o que fazer com o resto, e nem sempre acerta. Técnicas como inpainting tentam restringir a mudança à área escolhida.

Como isso afeta uma simulação facial?

O risco é a projeção mostrar uma mudança que ninguém pediu ou que não é realista. Isso engana o paciente e coloca o profissional numa posição difícil. Os sinais mais comuns são:

• pele com aspecto liso demais ou diferente do original;
• mudança sutil de expressão ou de olhar;
• região vizinha alterada sem ter sido marcada.

Como reduzir o problema?

Delimitar com clareza o que pode mudar, manter instruções restritivas e conferir o resultado antes de mostrar. É o motivo de a conversa com o paciente tratar a imagem como simulação ilustrativa, e de o aceite em consentimento informado incluir o limite da ferramenta.

Se algo parecer fora do esperado, gere de novo ou ajuste a marcação antes de mostrar ao paciente.

Também chamado de: erro de geração, artefato de IA.