Deepfakes zijn vaak maar moeilijk te ontdekken en dat kan grote gevolgen hebben. Astronomen hebben misschien de oplossing in handen, want ze zeggen met behulp van ruimtetechnologie te kunnen zien of we te maken hebben met een nepplaatje dat met AI is gemaakt.
Hiervoor kijkt het naar de oogballen. Die blijken namelijk niet alleen de spiegel van de ziel, maar ook de weerspiegeling van de echte wereld te bevatten. En bevatten ogen die niet, dan heb je dus te maken met een deepfake. Nu is dat een wel heel platgeslagen uitleg van dit gegeven, maar dat is wel hoe je het kunt zien. Of eigenlijk: hoe computers het kunnen zien, want veel details zullen je met het blote oog weinig zeggen.
Volgens de onderzoekers van de University of Hull zijn de weerkaatsingen in het oog bij de echte mensen normaal, terwijl dat bij AI-personen natuurkundig gezien niet klopt. Als een paar ogen naar hetzelfde kijkt, dan is de reflectie hetzelfde. Het licht reflecteert en daarin kun je dan een vormpje ontdekken. Veel AI-afbeeldingen staan niet stil bij die reflectie en daardoor zijn die vaak per oog inconsequent. Het ene oog laat dan bijvoorbeeld heel veel witte vlekjes zien en het andere niet. Daaraan zie je al vrij snel dat er iets niet in de haak is.
An unbelievable job on a deepfake video. This is brilliant you’re going to love it 👇🏾 pic.twitter.com/x24O39pPcp
— Armand Hamouth (@AreMond2) July 22, 2024
Wat heeft dit slimme foefje nu werkelijk te maken met de ruimte? Wetenschappers gebruiken dit ook als ze naar melkwegstelsels kijken om de mate van lichtconsistentie waar te nemen. Hoewel je dit soort reflectieproblemen ook vaak met je eigen ogen kunt spotten, is computersoftware daar net even beter in. Die kan heel snel door heel veel foto’s heen gaan. Dat is dan ook wat de onderzoekers hebben gedaan: een techniek ontwikkeld om oogbalreflecties automatisch te detecteren en dan de vormen van de reflectie door een index laten gaan om de linker en rechter met elkaar te vergelijken, schrijft ArsTechnica. Hiervoor gebruikten ze het Gini coëfficiënt dat kijkt naar de verdeling van licht in foto’s van de ruimte. Het kijkt hoe groot de concentratie van licht is per pixel en welke vorm het geheel aanneemt. Om de vormen van objecten in de ruimte waar te nemen wordt ook deze techniek gebruikt.
Nu hoeft deze vondst niet te betekenen dat we nu voor altijd alle deepfakes kunnen ontdekken, want AI kan ook slim zijn en leren dat dat hetzelfde moet zijn, waardoor het moeilijker te detecteren valt wanneer het licht dat op het oog valt niet gelijk is. Ook heb je niet altijd een geweldige close-up van ogen tot je beschikking. Bovendien worden echte foto’s soms onterecht opgemerkt als AI, omdat ze soms in de verwerking een foutje in het oog krijgen. Je kunt er dus niet helemaal vanuit gaan, maar mocht iemand je een foto voorschotelen en vragen of het een deepfake is, dan kun je nu zelf alvast een eerste gooi doen door slechts te kijken naar de poppetjes van iemands ogen.
