Our website does not support Internet Explorer.

To get the best experience on our website and of our content, please use a more modern browser like Edge, Chrome, Safari or similar.

Virtuell ordningsmakt ska bekämpa falska videor

Det amerikanska presidentvalet har i år varit en kamp om sanningen. Lögner, fake news och falska videor har dykt upp från båda håll. Men nu tar företag över hela världen upp kampen mot lögnerna.

Shutterstock

"Donald Trump är en jubelidiot", säger USA:s före detta president Barack Obama i en video från 2018. Obama har dock aldrig själv yttrat de orden. Rösten i videon är en imitation gjord av den amerikanske komikern Jordan Peele, medan ansikte och mimik har skapats av artificiell intelligens.

Videoklippet gjordes för att illustrera hur lätt det är att lura tittarna med så kallade deepfakes – levande bilder och ljud skapade för att manipulera användarna med felaktig information.

VIDEO: Se Barack Obama utsättas för deepfake här

2018 gjorde den amerikanska nyhetssajten BuzzFeed en deepfake-video av Barack Obama i samarbete med komikern Jordan Peele, som imiterar den före detta presidentens röst. Videon gjordes i syfte att visa publiken hur lätt det är manipulera tittare med dagens teknik.

I dag är deepfakes vanligare än någonsin och tekniken har förfinats så mycket att det numer kan vara omöjligt att urskilja de falska videorna med blotta ögat. Nu försöker teknikföretag att ta kontroll över de manipulerade klippen genom att använda deras egna algoritmer som vapen.

Teknikföretag ska eliminera deepfakes

Deepfakes baseras på artificiell intelligens, som skapar en digital kopia av en person – exempelvis Barack Obama – med hjälp av en stor mängd bilder, videor och ljud av personen i fråga.

Personerna bakom en deepfake kan få offret att säga och göra vad som helst som ett slags digital marionett. I dag har manipulationen blivit så övertygande att det är näst intill omöjligt att skilja sanning från lögn.

Det är dock inte bara politiker som råkar illa i deepfake-maskinen.

Med hjälp av deepfake som framgångsrikt imiterade chefens röst, lyckades tjuvar 2019 lura ett brittiskt energibolag på mer än 2,3 miljoner kronor.

Året efter spred klimataktivistgruppen Extinction Rebellion en deepfake av den belgiske premiärministern, i vilken hon kopplade klimatkrisen till covid-19.

Barack Obama har varit ett populärt mål för många deepfakes – inte minst en av regissören och komikern Jordan Peele, som spridits över hela världen för att den är så välgjord. Tekniken bakom de förfalskade videorna utvecklas hela tiden och samtidigt blir det allt svårare att upptäcka dem. Videon med Obama kan användas som lärobok för att avslöja deepfakes genom att rikta uppmärksamheten mot speciellt tre olika ansiktsdrag.

Så genomskådar du en deepfake

Den förfalskade videon med Barack Obama kan användas som en lärobok i hur man avslöjar deepfakes genom att fokusera på tre olika ansiktsdrag.

  • Ögonen bör blinka

    En deepfake är sammansatt av en massa bilder och videor, som datorn försöker sätta ihop till en trovärdig helhet. Ibland kan det uppstå små avvikelser i ögonrörelserna, som ger ett onaturligt intryck – som exempelvis att ögonen plötsligt tittar bort från kameran eller att personen i videon aldrig blinkar. I Obama-videon har de misstagen rättats till.

  • Tinningarna får inte vara pixlade

    Eftersom deepfakes oftast konstrueras genom att byta ut ansikten, kan små oregelbundenheter i kanten av ansiktet avslöja bluffen. Vid Obamas vänstra tinning kan du se att håret ibland rör sig en aning, trots att Obama själv inte rör sig.

  • Munnen bör hålla pauser

    Om munnen rör sig konstant smyger sig avslöjande fel också lättare in i videon, eftersom munrörelserna inte kan följa med i orden till 100 procent och därmed blir osynkroniserade. Många deepfakes har också svårt att återge tänderna trovärdigt. I Obama-videon ser det ibland ut som om tänderna i underkäken smälter ihop med underläppen.

Nu har några av världens största teknikföretag dock tagit upp kampen mot deepfakes.

Google och Facebook har lagt ut tvåsiffriga miljonbelopp på att fånga och plocka bort falska videor innan de hinner göra skada.

Och det nederländska företaget Deeptrace har redan framgångsrikt eliminerat falska videor genom att följa en mycket enkel idé: Tekniken bakom deepfakes vänds mot dem själva.

Algoritm agerar polis

Deepfakes är artificiell intelligens, baserad på två algoritmer som kopplas ihop i ett så kallat generative adversarial network (GAN, ett nätverksbaserat system för maskininlärning) och ligger i konstant strid med varandra.

Den ena är den kreativa algoritmen. Den matas med och analyserar stora mängder data om den person som ska imiteras, för att åstadkomma bästa möjliga deepfake. Algoritmen analyserar ansiktsdrag, hår, skuggor och så vidare i olika vinklar och skapar till slut en deepfake.

Den andra algoritmen kontrollerar arbetet och fungerar som polis. Algoritmen analyserar detaljer som felplacerade pixlar, hur själva ansiktet rör sig i förhållande till huvudet och så vidare. Om kontrollalgoritmen hitta några fel, så rapporterar den det till en kreativ algoritm, som får i uppgift att korrigera felen och skapa en ny, förbättrad version.

Den kreativa algoritmen ska alltså godkännas av den kontrollerande algoritmen, och först när den kontrollerande algoritmen inte längre ser videon som en förfalskning, är en deepfake färdig.

Kreativ algoritm tuggar i sig data

En kreativ algoritm matas med stora mängder video-, ljud- och bilddata om en person. Ju mer bildmaterial, ju fler vinklar och ju bättre upplösning det finns av personen, desto bättre kan algoritmen lösa uppgiften.

Lasse Alexander Lund-Andersen/Shutterstock

En version av en deepfake skapas

Algoritmen smälter ihop ljud och munrörelser från ett annat talande ansikte med originalet. Utifrån den stora mängden visuella data skapar algoritmen de mest naturliga ansiktsdragen i form av exempelvis hår, skuggor och ögon. Resultatet skickas därefter till den kontrollerande algoritmen för att godkännas.

Lasse Alexander Lund-Andersen/Shutterstock

Kontrollerande algoritm agerar polis

Den kontrollerande algoritmen utvärderar arbetet genom detaljerat gå igenom allt som kan vara problematiskt. Den är kodad att kontrollera om personen blinkar, om munnen rör sig på ett naturligt sätt, om de små pixlarna ser naturliga ut och så vidare.

Lasse Alexander Lund-Andersen

Processen upprepas

Den kreativa algoritmen får feedback som listar fel i dess deepfake – exempelvis pixlar som hackar lite i kanten av ett ansikte. Algoritmen sätter sedan i gång med att släta ut den delen av ansiktet och arbetar sig igenom de olika felen. Till slut skickar den en ny version till den kontrollerande algoritmen. Processen fortsätter tills den kontrollerande algoritmen är nöjd.

Detaljerna gör helheten

Deepfakes blev på allvar kända för den breda allmänheten 2017, när en användare på webbplatsen Reddit började ladda upp videor med främst pornografiskt innehåll. Kort senare kunde användarna hitta videor, i vilka ansiktena av berömda popsångerskor som Taylor Swift och Katy Perry hade manipulerats in i porrfilmer.

Sedan dess har tusentals deepfake-videor dykt upp på internet med innehåll som omfattar allt från pornografi till politik. Och nu har forskare och företag föresatt sig att hitta något sätt att avslöja dessa videor innan de hinner spridas.

Ett av de företagen är nederländska Deeptrace. Företaget har konstruerat en algoritm som ska kontrollera innehåll. Algoritmen har matats med många tusentals timmar med riktiga och förfalskade videor, varefter den har fått i uppgift att hitta skillnaderna.

Enligt Henry Ajder, chef för hotinformation hos Deeptrace, måste de dyka ned i de allra minsta detaljerna för att avslöja deepfakes.

"De flesta deepfakes kan inte upptäckas av det mänskliga ögat, vilket innebär att felen ligger på pixelnivå. Vår algoritm är bland annat tränad att hitta pixlar där de inte hör hemma: små grupper av pixlar som antingen är för mörka eller för ljusa [jämfört med omgivningarna, reds. anm.]", berättar Henry Ajder.

En deepfake skapas genom att åtskilliga bilder och videor kombineras, och då händer det att felaktiga pixlar smyger sig in. Därför genomgår algoritmen varje enskild pixel i varenda bild – ofta flera tusen per video – för att hitta avvikelser. Och sådana har algoritmen hittat många av.

I december 2018 spårade Deeptrace upp över 14 000 videor på internet, som de klassificerade som deepfakes. För att hitta dem måste de konstant förbättra sig själva – för det är vad deepfake-videorna gör:

"Gärningsmännen blir hela tiden bättre på att konstruera deepfakes, så vi måste hela tiden förfina vår algoritm för att hitta dem", säger Henry Ajder.

Mimik kan vara akilleshälen

Medan Deeptrace fokuserar på att hitta fel i själva kvaliteten av en deepfake – dålig upplösning, felplacerade pixlar och så vidare – har forskaren Shruti Agarwal vid Kaliforniens universitet i Berkeley valt ett annat tillvägagångssätt.

Hon lade märke till att Barack Obama rörde huvudet lite upp till höger eller vänster, varje gång han sade "Hej, alla!". Det inspirerade henne att undersöka om deepfakes kunde imitera hur en person talar och hur ansiktet rör sig i förhållande till vad som sägs.

2019 utsattes Facebooks grundare, självaste Mark Zuckerberg, för digital manipulation, då en deepfake med honom själv i huvudrollen florerade på Facebook. I klippet sitter Zuckerberg och erkänner att han har total kontroll över miljontals människors liv och framtid. Facebooks tidigare politik gick ut på att inte avlägsna videor från sin plattform – inte ens om det rörde sig om deepfakes. Men nu har det blivit annat ljud i skällan. I ett pressmeddelande från januari 2020 skriver Facebook att man nu ska ta bort innehåll som avsiktligt skapats eller manipulerats för att vilseleda åskådarna.

Därför skapade hon ett analysprogram för att kartlägga kännetecknen bakom mimiken hos fem politiker, som kan ha avslöjat deepfakes största akilleshäl. Deepfakes lägger bara in en persons ansiktsdrag ovanpå en annan person utan att ta hänsyn till mimik.

Agarwals algoritm upptäckte 94 procent av de deepfake-videor som hon körde genom programmet. Lösningen kräver dock en hel del bilder av personens mimik, så algoritmen fungerar bäst med kändisar som det redan existerar många bilder av.

Jakten är på gång

Tekniken bakom deepfakes har utvecklats till en nivå, där det krävs avancerade algoritmer för att avslöja dem. Och i takt med att tekniken hela tiden förbättras blir det svårare att upptäcka en deepfake innan det är för sent.

Både Google, Facebook och Twitter har lanserat projekt som ska upptäcka och ta bort de fejkade videorna, innan de hinner sprida felaktig information på internet.

Facebook har lagt ut miljontals dollar på att finansiera akademiska institutioner, med bild- och videoanalyser på programmet och som samtidigt forskar i hur deepfake-videor kan utplånas.

Google har spelat in intervjuer med skådespelare, som de därefter har konstruerat 3000 deepfakes av. Materialet har nu lagts ut på internet, där forskare och IT-specialister kan använda dem till att träna sin algoritm att upptäcka deepfakes.

För att vi ska kunna skilja fakta från fiktion i framtiden är det hög tid att vidta åtgärder mot de falska videorna. Som den "falske" Obama säger i deepfake-videon från 2018:

"Det låter kanske enkelt, men hur vi agerar i framtiden i den här eran av information, blir avgörande för om vi överlever eller om vi hamnar i något slags förvriden dystopi."

Läs också:

Obama
Hjärnan

5 skäl till att vänsterhänta är bäst

0 minuter
Hjärnan

Ny forskning: Vänsterhänta är bättre på matematik

1 minut
Teknik

Forskare förvandlar insekter till videodrönare

2 minuter

Logga in

Ogiltig e-postadress
Lösenord behövs
Visa Dölj

Redan prenumerant? Prenumererar du redan på tidningen? Klicka här

Ny användare? Få åtkomst nu!

Nollställ lösenord.

Skriv in din e-postadress, så skickar vi anvisningar om hur du återställer ditt lösenord.
Ogiltig e-postadress

Kontrollera din e-post

Vi har skickat ett e-postmeddelande till med instruktioner om hur du återställer ditt lösenord. Kontrollera ditt skräppostfilter om meddelandet inte har kommit.

Uppge nytt lösenord.

Skriv in ett nytt lösenord. Lösenordet måste ha minst 6 tecken. När du har upprättat ditt lösenord blir du ombedd att logga in.

Lösenord behövs
Visa Dölj