Virtuell ordningsmakt ska bekämpa falska videor

I dag är deepfakes vanligare än någonsin och tekniken har förfinats så mycket att det numer kan vara omöjligt att urskilja de falska videorna med blotta ögat. Nu försöker teknikföretag att ta kontroll över de manipulerade klippen genom att använda deras egna algoritmer som vapen.

Teknikföretag ska eliminera deepfakes

Deepfakes baseras på artificiell intelligens, som skapar en digital kopia av en person – exempelvis Barack Obama – med hjälp av en stor mängd bilder, videor och ljud av personen i fråga.

Personerna bakom en deepfake kan få offret att säga och göra vad som helst som ett slags digital marionett. I dag har manipulationen blivit så övertygande att det är näst intill omöjligt att skilja sanning från lögn.

Det är dock inte bara politiker som råkar illa i deepfake-maskinen.

Med hjälp av deepfake som framgångsrikt imiterade chefens röst, lyckades tjuvar 2019 lura ett brittiskt energibolag på mer än 2,3 miljoner kronor.

Året efter spred klimataktivistgruppen Extinction Rebellion en deepfake av den belgiske premiärministern, i vilken hon kopplade klimatkrisen till covid-19.

Nu har några av världens största teknikföretag dock tagit upp kampen mot deepfakes.

Google och Facebook har lagt ut tvåsiffriga miljonbelopp på att fånga och plocka bort falska videor innan de hinner göra skada.

Och det nederländska företaget Deeptrace har redan framgångsrikt eliminerat falska videor genom att följa en mycket enkel idé: Tekniken bakom deepfakes vänds mot dem själva.

Algoritm agerar polis

Deepfakes är artificiell intelligens, baserad på två algoritmer som kopplas ihop i ett så kallat generative adversarial network (GAN, ett nätverksbaserat system för maskininlärning) och ligger i konstant strid med varandra.

Den ena är den kreativa algoritmen. Den matas med och analyserar stora mängder data om den person som ska imiteras, för att åstadkomma bästa möjliga deepfake. Algoritmen analyserar ansiktsdrag, hår, skuggor och så vidare i olika vinklar och skapar till slut en deepfake.

Den andra algoritmen kontrollerar arbetet och fungerar som polis. Algoritmen analyserar detaljer som felplacerade pixlar, hur själva ansiktet rör sig i förhållande till huvudet och så vidare. Om kontrollalgoritmen hitta några fel, så rapporterar den det till en kreativ algoritm, som får i uppgift att korrigera felen och skapa en ny, förbättrad version.

Den kreativa algoritmen ska alltså godkännas av den kontrollerande algoritmen, och först när den kontrollerande algoritmen inte längre ser videon som en förfalskning, är en deepfake färdig.

Detaljerna gör helheten

Deepfakes blev på allvar kända för den breda allmänheten 2017, när en användare på webbplatsen Reddit började ladda upp videor med främst pornografiskt innehåll. Kort senare kunde användarna hitta videor, i vilka ansiktena av berömda popsångerskor som Taylor Swift och Katy Perry hade manipulerats in i porrfilmer.

Sedan dess har tusentals deepfake-videor dykt upp på internet med innehåll som omfattar allt från pornografi till politik. Och nu har forskare och företag föresatt sig att hitta något sätt att avslöja dessa videor innan de hinner spridas.

Ett av de företagen är nederländska Deeptrace. Företaget har konstruerat en algoritm som ska kontrollera innehåll. Algoritmen har matats med många tusentals timmar med riktiga och förfalskade videor, varefter den har fått i uppgift att hitta skillnaderna.

Enligt Henry Ajder, chef för hotinformation hos Deeptrace, måste de dyka ned i de allra minsta detaljerna för att avslöja deepfakes.

"De flesta deepfakes kan inte upptäckas av det mänskliga ögat, vilket innebär att felen ligger på pixelnivå. Vår algoritm är bland annat tränad att hitta pixlar där de inte hör hemma: små grupper av pixlar som antingen är för mörka eller för ljusa [jämfört med omgivningarna, reds. anm.]", berättar Henry Ajder.

En deepfake skapas genom att åtskilliga bilder och videor kombineras, och då händer det att felaktiga pixlar smyger sig in. Därför genomgår algoritmen varje enskild pixel i varenda bild – ofta flera tusen per video – för att hitta avvikelser. Och sådana har algoritmen hittat många av.

I december 2018 spårade Deeptrace upp över 14 000 videor på internet, som de klassificerade som deepfakes. För att hitta dem måste de konstant förbättra sig själva – för det är vad deepfake-videorna gör:

"Gärningsmännen blir hela tiden bättre på att konstruera deepfakes, så vi måste hela tiden förfina vår algoritm för att hitta dem", säger Henry Ajder.

Mimik kan vara akilleshälen

Medan Deeptrace fokuserar på att hitta fel i själva kvaliteten av en deepfake – dålig upplösning, felplacerade pixlar och så vidare – har forskaren Shruti Agarwal vid Kaliforniens universitet i Berkeley valt ett annat tillvägagångssätt.

Hon lade märke till att Barack Obama rörde huvudet lite upp till höger eller vänster, varje gång han sade "Hej, alla!". Det inspirerade henne att undersöka om deepfakes kunde imitera hur en person talar och hur ansiktet rör sig i förhållande till vad som sägs.

Därför skapade hon ett analysprogram för att kartlägga kännetecknen bakom mimiken hos fem politiker, som kan ha avslöjat deepfakes största akilleshäl. Deepfakes lägger bara in en persons ansiktsdrag ovanpå en annan person utan att ta hänsyn till mimik.

Agarwals algoritm upptäckte 94 procent av de deepfake-videor som hon körde genom programmet. Lösningen kräver dock en hel del bilder av personens mimik, så algoritmen fungerar bäst med kändisar som det redan existerar många bilder av.

Jakten är på gång

Tekniken bakom deepfakes har utvecklats till en nivå, där det krävs avancerade algoritmer för att avslöja dem. Och i takt med att tekniken hela tiden förbättras blir det svårare att upptäcka en deepfake innan det är för sent.

Både Google, Facebook och Twitter har lanserat projekt som ska upptäcka och ta bort de fejkade videorna, innan de hinner sprida felaktig information på internet.

Facebook har lagt ut miljontals dollar på att finansiera akademiska institutioner, med bild- och videoanalyser på programmet och som samtidigt forskar i hur deepfake-videor kan utplånas.

Google har spelat in intervjuer med skådespelare, som de därefter har konstruerat 3000 deepfakes av. Materialet har nu lagts ut på internet, där forskare och IT-specialister kan använda dem till att träna sin algoritm att upptäcka deepfakes.

För att vi ska kunna skilja fakta från fiktion i framtiden är det hög tid att vidta åtgärder mot de falska videorna. Som den "falske" Obama säger i deepfake-videon från 2018:

"Det låter kanske enkelt, men hur vi agerar i framtiden i den här eran av information, blir avgörande för om vi överlever eller om vi hamnar i något slags förvriden dystopi."