Quieres detectar un deepfake? Los ojos podrían ser una pista reveladora

Las pistas para detectar deepfakes pueden encontrarse en los ojos.

Investigadores de la Universidad de Hull en Inglaterra informaron el 15 de julio que los reflejos en los ojos ofrecen una forma potencial de descubrir imágenes generadas por IA de personas. El enfoque se basa en una técnica también utilizada por los astrónomos para estudiar galaxias.

En imágenes reales, los reflejos de luz en los globos oculares coinciden, mostrando, por ejemplo, el mismo número de ventanas o luces de techo. Pero en imágenes falsas, a menudo hay una inconsistencia en los reflejos. "La física es incorrecta", dice Kevin Pimbblet, un astrónomo observacional que trabajó en la investigación con la entonces estudiante de posgrado Adejumoke Owolabi y presentó los hallazgos en la Reunión Nacional de Astronomía de la Royal Astronomical Society en Hull.

Para realizar las comparaciones, el equipo primero utilizó un programa informático para detectar los reflejos y luego utilizó los valores de píxeles de esos reflejos, que representan la intensidad de la luz en un píxel dado, para calcular lo que se llama el índice Gini. Los astrónomos utilizan el índice Gini, desarrollado originalmente para medir la desigualdad de la riqueza en una sociedad, para comprender cómo se distribuye la luz en una imagen de una galaxia. Si un píxel tiene toda la luz, el índice es 1; si la luz está distribuida de manera uniforme entre los píxeles, el índice es 0. Esta cuantificación ayuda a los astrónomos a clasificar las galaxias en categorías como espirales o elípticas.

En el trabajo actual, la diferencia en los índices Gini entre los globos oculares izquierdo y derecho es la pista de la autenticidad de la imagen. Para aproximadamente el 70 por ciento de las imágenes falsas examinadas por los investigadores, esta diferencia fue mucho mayor que la diferencia para imágenes reales. En imágenes reales, tendía a no haber diferencia o una diferencia mínima.

"No podemos decir que un valor en particular corresponda a la falsedad, pero podemos decir que indica que hay un problema, y quizás un ser humano debería echar un vistazo más de cerca", dice Pimbblet.

Él enfatiza que la técnica, que también podría funcionar en videos, no es una solución infalible para detectar la falsificación. Una imagen real puede parecer falsa, por ejemplo, si la persona parpadea o si está tan cerca de la fuente de luz que solo un ojo muestra el reflejo. Pero la técnica podría ser parte de una batería de pruebas, al menos hasta que la IA aprenda a hacer los reflejos correctamente.