Vill du upptäcka en deepfake? Ögonen kan avslöja det

Ledtrådar till deepfakes kan finnas i ögonen.

Forskare vid University of Hull i England rapporterade den 15 juli att ögonreflektioner erbjuder ett potentiellt sätt att suss ut AI-genererade bilder av människor. Tillvägagångssättet bygger på en teknik som också används av astronomer för att studera galaxer.

I verkliga bilder matchar ljusreflektioner i ögongloberna och visar till exempel samma antal fönster eller taklampor. Men i falska bilder finns det ofta en inkonsekvens i reflektionerna. "Fysiken är felaktig", säger Kevin Pimbblet, en observationsastronom som arbetade med forskningen med den dåvarande doktoranden Adejumoke Owolabi och presenterade resultaten vid Royal Astronomical Society's National Astronomy Meeting i Hull.

För att utföra jämförelserna använde teamet först ett datorprogram för att detektera reflektionerna och använde sedan dessa reflektioners pixelvärden, som representerar ljusintensiteten vid en given pixel, för att beräkna vad som kallas Gini-index. Astronomer använder Gini-indexet, som ursprungligen utvecklades för att mäta ojämlikhet i välstånd i ett samhälle, för att förstå hur ljus fördelas över en bild av en galax. Om en pixel har allt ljus är indexet 1; om ljuset är jämnt fördelat över pixlar är indexet 0. Denna kvantifiering hjälper astronomer att klassificera galaxer i kategorier som spiral eller elliptisk.

I det aktuella arbetet är skillnaden i Gini-indexen mellan vänster och höger ögonglob ledtråden till bildens äkthet. För cirka 70 procent av de falska bilderna forskarna undersökte var denna skillnad mycket större än skillnaden för riktiga bilder. I verkliga bilder tenderade det att vara ingen, eller nästan ingen, skillnad.

"Vi kan inte säga att ett visst värde motsvarar förfalskning, men vi kan säga att det är ett tecken på att det finns ett problem, och kanske borde en människa ta en närmare titt", säger Pimbblet.

Han understryker att tekniken, som även skulle kunna fungera på videor, inte är någon silverkula för att upptäcka fejk. En riktig bild kan se ut som en bluff, till exempel om personen blinkar eller om den är så nära ljuskällan att bara ett öga visar reflektionen. Men tekniken kan vara en del av ett batteri av tester - åtminstone tills AI lär sig att få reflektioner rätt.