Our website does not support Internet Explorer.

To get the best experience on our website and of our content, please use a more modern browser like Edge, Chrome, Safari or similar.

Virtuell ordningsmakt ska bekämpa falska videor

Artificiell intelligens manipulerar ansikten och röster i så kallade deep fakes – falska videor som suddar ut gränsen mellan fakta och fiktion. Företag runt om i världen slåss mot deep fakes med hjälp av virtuella detektiver som kan spåra de manipulerade videoklippen genom att vända tekniken mot sig själva. Men nu har forskare hittat ett effektivt sätt att slå tillbaka.

Buzzfeed

"Donald Trump är en jubelidiot", säger USA:s före detta president Barack Obama i en video från 2018. Obama har dock aldrig själv yttrat de orden. Rösten i videon är en imitation gjord av den amerikanske komikern Jordan Peele, medan ansikte och mimik har skapats av artificiell intelligens.

Videoklippet gjordes för att illustrera hur lätt det är att lura tittarna med så kallade deepfakes – levande bilder och ljud skapade för att manipulera användarna med felaktig information.

VIDEO: Se Barack Obama utsättas för deepfake här

I dag är deepfakes vanligare än någonsin och tekniken har förfinats så mycket att det numer kan vara omöjligt att urskilja de falska videorna med blotta ögat. Nu försöker teknikföretag att ta kontroll över de manipulerade klippen genom att använda deras egna algoritmer som vapen.

Teknikföretag ska eliminera deepfakes

Deepfakes baseras på artificiell intelligens, som skapar en digital kopia av en person – exempelvis Barack Obama – med hjälp av en stor mängd bilder, videor och ljud av personen i fråga.

Personerna bakom en deepfake kan få offret att säga och göra vad som helst som ett slags digital marionett. I dag har manipulationen blivit så övertygande att det är näst intill omöjligt att skilja sanning från lögn.

Det är dock inte bara politiker som råkar illa i deepfake-maskinen.

Med hjälp av deepfake som framgångsrikt imiterade chefens röst, lyckades tjuvar 2019 lura ett brittiskt energibolag på mer än 2,3 miljoner kronor.

Året efter spred klimataktivistgruppen Extinction Rebellion en deepfake av den belgiske premiärministern, i vilken hon kopplade klimatkrisen till covid-19.

Barack Obama on ollut suosittu deepfake-videoiden kohde. Yksi niistä on ohjaaja ja koomikko Jordan Peelen käsialaa, ja se on kiertänyt pitkään maailmaa, koska se on ollut niin hyvin tehty. Väärennettyjen videoiden tekemiseen käytetty tekniikka kehittyy koko ajan, ja niiden havaitseminen vaikeutuu. Obaman videon avulla voidaan havainnollistaa sitä, miten huomio kannattaa kiinnittää etenkin kolmeen eri kasvojen piirteeseen.

Så genomskådar du en deepfake

Den förfalskade videon med Barack Obama kan användas som en lärobok i hur man avslöjar deepfakes genom att fokusera på tre olika ansiktsdrag.

  • Ögonen bör blinka

    En deepfake är sammansatt av en massa bilder och videor, som datorn försöker sätta ihop till en trovärdig helhet. Ibland kan det uppstå små avvikelser i ögonrörelserna, som ger ett onaturligt intryck – som exempelvis att ögonen plötsligt tittar bort från kameran eller att personen i videon aldrig blinkar. I Obama-videon har de misstagen rättats till.

  • Tinningarna får inte vara pixlade

    Eftersom deepfakes oftast konstrueras genom att byta ut ansikten, kan små oregelbundenheter i kanten av ansiktet avslöja bluffen. Vid Obamas vänstra tinning kan du se att håret ibland rör sig en aning, trots att Obama själv inte rör sig.

  • Munnen bör hålla pauser

    Om munnen rör sig konstant smyger sig avslöjande fel också lättare in i videon, eftersom munrörelserna inte kan följa med i orden till 100 procent och därmed blir osynkroniserade. Många deepfakes har också svårt att återge tänderna trovärdigt. I Obama-videon ser det ibland ut som om tänderna i underkäken smälter ihop med underläppen.

Nu har några av världens största teknikföretag dock tagit upp kampen mot deepfakes.

Google och Facebook har lagt ut tvåsiffriga miljonbelopp på att fånga och plocka bort falska videor innan de hinner göra skada.

Och det nederländska företaget Deeptrace har redan framgångsrikt eliminerat falska videor genom att följa en mycket enkel idé: Tekniken bakom deepfakes vänds mot dem själva.

Algoritm agerar polis

Deepfakes är artificiell intelligens, baserad på två algoritmer som kopplas ihop i ett så kallat generative adversarial network (GAN, ett nätverksbaserat system för maskininlärning) och ligger i konstant strid med varandra.

Den ena är den kreativa algoritmen. Den matas med och analyserar stora mängder data om den person som ska imiteras, för att åstadkomma bästa möjliga deepfake. Algoritmen analyserar ansiktsdrag, hår, skuggor och så vidare i olika vinklar och skapar till slut en deepfake.

Den andra algoritmen kontrollerar arbetet och fungerar som polis. Algoritmen analyserar detaljer som felplacerade pixlar, hur själva ansiktet rör sig i förhållande till huvudet och så vidare. Om kontrollalgoritmen hitta några fel, så rapporterar den det till en kreativ algoritm, som får i uppgift att korrigera felen och skapa en ny, förbättrad version.

Den kreativa algoritmen ska alltså godkännas av den kontrollerande algoritmen, och först när den kontrollerande algoritmen inte längre ser videon som en förfalskning, är en deepfake färdig.

Kreativ algoritm tuggar i sig data

En kreativ algoritm matas med stora mängder video-, ljud- och bilddata om en person. Ju mer bildmaterial, ju fler vinklar och ju bättre upplösning det finns av personen, desto bättre kan algoritmen lösa uppgiften.

Lasse Alexander Lund-Andersen/Shutterstock

En version av en deepfake skapas

Algoritmen smälter ihop ljud och munrörelser från ett annat talande ansikte med originalet. Utifrån den stora mängden visuella data skapar algoritmen de mest naturliga ansiktsdragen i form av exempelvis hår, skuggor och ögon. Resultatet skickas därefter till den kontrollerande algoritmen för att godkännas.

Lasse Alexander Lund-Andersen/Shutterstock

Kontrollerande algoritm agerar polis

Den kontrollerande algoritmen utvärderar arbetet genom detaljerat gå igenom allt som kan vara problematiskt. Den är kodad att kontrollera om personen blinkar, om munnen rör sig på ett naturligt sätt, om de små pixlarna ser naturliga ut och så vidare.

Lasse Alexander Lund-Andersen

Processen upprepas

Den kreativa algoritmen får feedback som listar fel i dess deepfake – exempelvis pixlar som hackar lite i kanten av ett ansikte. Algoritmen sätter sedan i gång med att släta ut den delen av ansiktet och arbetar sig igenom de olika felen. Till slut skickar den en ny version till den kontrollerande algoritmen. Processen fortsätter tills den kontrollerande algoritmen är nöjd.

Detaljerna gör helheten

Deepfakes blev på allvar kända för den breda allmänheten 2017, när en användare på webbplatsen Reddit började ladda upp videor med främst pornografiskt innehåll. Kort senare kunde användarna hitta videor, i vilka ansiktena av berömda popsångerskor som Taylor Swift och Katy Perry hade manipulerats in i porrfilmer.

Sedan dess har tusentals deepfake-videor dykt upp på internet med innehåll som omfattar allt från pornografi till politik. Och nu har forskare och företag föresatt sig att hitta något sätt att avslöja dessa videor innan de hinner spridas.

Ett av de företagen är nederländska Deeptrace. Företaget har konstruerat en algoritm som ska kontrollera innehåll. Algoritmen har matats med många tusentals timmar med riktiga och förfalskade videor, varefter den har fått i uppgift att hitta skillnaderna.

Enligt Henry Ajder, chef för hotinformation hos Deeptrace, måste de dyka ned i de allra minsta detaljerna för att avslöja deepfakes.

"De flesta deepfakes kan inte upptäckas av det mänskliga ögat, vilket innebär att felen ligger på pixelnivå. Vår algoritm är bland annat tränad att hitta pixlar där de inte hör hemma: små grupper av pixlar som antingen är för mörka eller för ljusa [jämfört med omgivningarna, reds. anm.]", berättar Henry Ajder.

En deepfake skapas genom att åtskilliga bilder och videor kombineras, och då händer det att felaktiga pixlar smyger sig in. Därför genomgår algoritmen varje enskild pixel i varenda bild – ofta flera tusen per video – för att hitta avvikelser. Och sådana har algoritmen hittat många av.

I december 2018 spårade Deeptrace upp över 14 000 videor på internet, som de klassificerade som deepfakes. För att hitta dem måste de konstant förbättra sig själva – för det är vad deepfake-videorna gör:

"Gärningsmännen blir hela tiden bättre på att konstruera deepfakes, så vi måste hela tiden förfina vår algoritm för att hitta dem", säger Henry Ajder.

Mimik kan vara akilleshälen

Medan Deeptrace fokuserar på att hitta fel i själva kvaliteten av en deepfake – dålig upplösning, felplacerade pixlar och så vidare – har forskaren Shruti Agarwal vid Kaliforniens universitet i Berkeley valt ett annat tillvägagångssätt.

Hon lade märke till att Barack Obama rörde huvudet lite upp till höger eller vänster, varje gång han sade "Hej, alla!". Det inspirerade henne att undersöka om deepfakes kunde imitera hur en person talar och hur ansiktet rör sig i förhållande till vad som sägs.

Därför skapade hon ett analysprogram för att kartlägga kännetecknen bakom mimiken hos fem politiker, som kan ha avslöjat deepfakes största akilleshäl. Deepfakes lägger bara in en persons ansiktsdrag ovanpå en annan person utan att ta hänsyn till mimik.

Agarwals algoritm upptäckte 94 procent av de deepfake-videor som hon körde genom programmet. Lösningen kräver dock en hel del bilder av personens mimik, så algoritmen fungerar bäst med kändisar som det redan existerar många bilder av.

Jakten är på gång

Tekniken bakom deepfakes har utvecklats till en nivå, där det krävs avancerade algoritmer för att avslöja dem. Och i takt med att tekniken hela tiden förbättras blir det svårare att upptäcka en deepfake innan det är för sent.

Både Google, Facebook och Twitter har lanserat projekt som ska upptäcka och ta bort de fejkade videorna, innan de hinner sprida felaktig information på internet.

Facebook har lagt ut miljontals dollar på att finansiera akademiska institutioner, med bild- och videoanalyser på programmet och som samtidigt forskar i hur deepfake-videor kan utplånas.

Google har spelat in intervjuer med skådespelare, som de därefter har konstruerat 3000 deepfakes av. Materialet har nu lagts ut på internet, där forskare och IT-specialister kan använda dem till att träna sin algoritm att upptäcka deepfakes.

Forskare lurar den virtuella polisen för första gången

De algoritmer som används för att avgöra om en video är en deepfake har lurats av vetenskapen för första gången.

Forskarna avslöjade att detektorerna i den algoritm som avgör om videon är falsk eller inte kan duperas genom att en motriktad bild sätts in i varje videobildruta.

När algoritmen har bedömt att en video är falsk utifrån vissa bestämda parametrar, sätts de motriktade bilderna in och rättar till de fel som fick algoritmen att kategorisera videon som falsk.
Metoden använder på så sätt algoritmens egen logik mot den själv, vilket får systemet att missta sig.

Forskarna bakom manipulationen kommer att använda sin nyvunna kunskap till att förbättra den virtuella polisen.

För att vi ska kunna skilja fakta från fiktion i framtiden är det hög tid att vidta åtgärder mot de falska videorna. Som den "falske" Obama säger i deepfake-videon från 2018:

"Det låter kanske enkelt, men hur vi agerar i framtiden i den här eran av information, blir avgörande för om vi överlever eller om vi hamnar i något slags förvriden dystopi."

Läs också:

Logga in

Ogiltig e-postadress
Lösenord behövs
Visa Dölj

Redan prenumerant? Prenumererar du redan på tidningen? Klicka här

Ny användare? Få åtkomst nu!

Nollställ lösenord.

Skriv in din e-postadress, så skickar vi anvisningar om hur du återställer ditt lösenord.
Ogiltig e-postadress

Kontrollera din e-post

Vi har skickat ett e-postmeddelande till med instruktioner om hur du återställer ditt lösenord. Kontrollera ditt skräppostfilter om meddelandet inte har kommit.

Uppge nytt lösenord.

Skriv in ett nytt lösenord. Lösenordet måste ha minst 6 tecken. När du har upprättat ditt lösenord blir du ombedd att logga in.

Lösenord behövs
Visa Dölj