Los ojos no mienten: astrónomos encuentran una nueva forma de detectar deepfakes de IA

Astrónomos de la Universidad de Hull han desarrollado un nuevo método para detectar imágenes generadas por IA analizando los reflejos en los ojos. La investigación fue presentada en la Conferencia Nacional de Astronomía de la Real Sociedad Astronómica.

La nueva técnica ha sido adaptada de herramientas que los astrónomos suelen utilizar para estudiar galaxias, permitiendo detectar inconsistencias en los reflejos de luz en los ojos. La líder de la investigación, la estudiante de maestría Adejumoke Owolabi, trabajó bajo la supervisión del profesor de astrofísica Kevin Pimbblett.

El principio del método es simple: un par de ojos iluminados por la misma fuente de luz generalmente tienen reflejos idénticos en ambos ojos. Sin embargo, muchos sistemas generativos a menudo no siguen esta regla al crear imágenes, lo que resulta en diferencias en los reflejos.

Pimbblett explicó que la técnica desarrollada permite detectar automáticamente los reflejos en los ojos y comparar sus características morfológicas entre el ojo izquierdo y el derecho. Como resultado, se descubrió que los deepfakes y otras generaciones de IA a menudo muestran diferencias significativas en los reflejos.

El equipo utilizó métodos de astronomía para cuantificar los reflejos en los ojos, incluyendo el coeficiente de Gini, que generalmente se usa para medir la distribución de luz en imágenes de galaxias. Un valor del coeficiente cercano a 0 indica una distribución uniforme de luz, mientras que un valor cercano a 1 indica luz concentrada en un solo píxel.

Pimbblett señaló que el estudio de los reflejos oculares es realmente similar a medir las formas de las galaxias. Los investigadores incluso intentaron aplicar los parámetros CAS (concentración, asimetría, suavidad) utilizados para medir la distribución de luz en las galaxias, pero este método resultó menos efectivo para detectar generaciones de IA.

Aunque el método de análisis de reflejos oculares muestra promesas, puede ser menos efectivo si los modelos de IA comienzan a tener en cuenta reflejos físicamente correctos. Además, el método requiere un primer plano claro de los ojos para funcionar. El enfoque también puede dar falsos positivos, ya que incluso en fotografías reales a veces se observan inconsistencias en los reflejos debido a diferentes condiciones de iluminación o post-procesamiento.

Sin embargo, el análisis de los reflejos oculares puede convertirse en una herramienta útil en el arsenal de medios para detectar deepfakes, junto con el análisis de la textura del cabello, la anatomía, los detalles de la piel y la consistencia del fondo. Pimbblett enfatizó que el método no es perfecto, pero señaló que proporciona una base para crear un potente sistema integral para detectar falsificaciones digitales.