Alucinación en IA de imagen: qué es y por qué importa

Alucinación, en el vocabulario de la IA, es cuando el modelo produce algo que parece plausible, pero no tiene base en la entrada. En imagen, aparece como un detalle inventado: una textura que cambió, un diente diferente, una asimetría nueva, un rasgo que el rostro original no tenía.

¿Por qué alucina la IA de imagen?

Los modelos de IA generativa aprenden patrones de muchas imágenes y completan lagunas con lo que es estadísticamente probable. Cuando la tarea es alterar solo una zona, el modelo debe decidir qué hacer con el resto, y no siempre acierta. Técnicas como el inpainting intentan restringir el cambio al área elegida.

¿Cómo afecta esto a una simulación facial?

El riesgo es que la proyección muestre un cambio que nadie pidió o que no es realista. Eso engaña al paciente y pone al profesional en una posición difícil. Las señales más comunes son:

• piel con aspecto demasiado liso o distinto del original;
• cambio sutil de expresión o de mirada;
• zona vecina alterada sin haber sido marcada.

¿Cómo reducir el problema?

Delimitar con claridad lo que puede cambiar, mantener instrucciones restrictivas y revisar el resultado antes de mostrarlo. Es el motivo por el cual la conversación con el paciente trata la imagen como una simulación ilustrativa, y por el cual la aceptación en el consentimiento informado incluye el límite de la herramienta.

Si algo parece fuera de lo esperado, genera de nuevo o ajusta el marcado antes de mostrárselo al paciente.

También llamado: error de generación, artefacto de IA.