Wil je een deepfake herkennen? De ogen kunnen een hint geven

Aanwijzingen voor deepfakes kunnen in de ogen zitten.

Onderzoekers aan de Universiteit van Hull in Engeland meldden op 15 juli dat oogreflecties een mogelijke manier bieden om AI-gemaakte afbeeldingen van mensen te identificeren. De benadering vertrouwt op een techniek die ook door astronomen wordt gebruikt om sterrenstelsels te bestuderen.

In echte afbeeldingen komen lichtreflecties in de ogen overeen, waarbij bijvoorbeeld hetzelfde aantal ramen of plafondlampen te zien is. Maar in valse afbeeldingen is er vaak een inconsistentie in de reflecties. "De natuurkunde klopt niet," zegt Kevin Pimbblet, een waarnemend astronoom die samenwerkte aan het onderzoek met toenmalige promovendus Adejumoke Owolabi en de bevindingen presenteerde op de Nationale Astronomiebijeenkomst van de Royal Astronomical Society in Hull.

Om de vergelijkingen uit te voeren, gebruikte het team eerst een computerprogramma om de reflecties op te sporen en gebruikte vervolgens de pixelwaarden van die reflecties, die de intensiteit van het licht op een gegeven pixel vertegenwoordigen, om te berekenen wat de zogenaamde Gini-index wordt genoemd. Astronomen gebruiken de Gini-index, oorspronkelijk ontwikkeld om ongelijkheid in rijkdom in een samenleving te meten, om te begrijpen hoe het licht over een afbeelding van een sterrenstelsel is verdeeld.

In het huidige werk is het verschil in de Gini-indices tussen de linker- en rechteroogbollen de aanwijzing voor de echtheid van de afbeelding. Voor ongeveer 70 procent van de valse afbeeldingen die de onderzoekers hebben onderzocht, was dit verschil veel groter dan het verschil voor echte afbeeldingen. In echte afbeeldingen was er vaak geen of nauwelijks verschil te zien.

"We kunnen niet zeggen dat een bepaalde waarde overeenkomt met vervalsing, maar we kunnen wel zeggen dat het een aanwijzing is dat er een probleem is, en dat misschien een mens er nog eens naar moet kijken," zegt Pimbblet.

Hij benadrukt dat de techniek, die ook kan werken voor video's, geen wondermiddel is voor het detecteren van vervalsing. Een echte afbeelding kan er bijvoorbeeld uitzien als een valse afbeelding als de persoon knippert of als deze zo dicht bij de lichtbron staat dat alleen het ene oog de reflectie laat zien. Maar de techniek zou een onderdeel kunnen zijn van een reeks tests - tenminste totdat AI leert om reflecties correct weer te geven.