Deepfakes: Så lätt kan du luras med falska videobudskap

Falska videor från kriget i Ukraina är bara början på syntetisk videomanipulation av dina sinnen med deepfake-tekniken. Här lär du dig att genomskåda de tekniska tricken.

Falska videor från kriget i Ukraina är bara början på syntetisk videomanipulation av dina sinnen med deepfake-tekniken. Här lär du dig att genomskåda de tekniska tricken.

Screendump / Twitter

Sanningen sägs bli det första offret i alla krig som det aktuella mellan Ryssland och Ukraina, där båda länderna har använt den manipulerande deepfake-tekniken till att sprida felaktig information om varandra.

Senast dök en falsk video upp med Ukrainas president Volodymyr Zelenskyj, i vilken det har använts deepfake-manipulation så att presidenten tycks framställa en uppmaning till ukrainarna att överge sig till ryssarna.

Tidigare har även Ukraina fabricerat en något mer satirisk deepfake-video med Rysslands president Vladimir Putin, som i klippet säger att han är världens mest hatade man och uppmanar alla att sluta upp runt Ukraina.

Deepfake med AI-motor

Det ska erkännas att de här första förfalskade videorna från kriget inte är särskilt raffinerade för en rutinerad mediakonsument. Men det kan de komma att bli senare.

För efter en haltande start på 1990-talet blir deepfake-tekniken med AI som manipuleringsmotor hela tiden markant bättre på att få exempelvis kända personer att framstå som avsändare av obskyra budskap.

Grundprincipen med att skapa en falsk person med samma utseende och röst som de kända offren sker genom att mata AI:n med enorma mängder bilder och videoklipp av offret.

På så sätt tränar systemet sin mönsterigenkänning i bland annat ansiktsdimensioner och rörelser.

Därefter spelas en ny video in – nu med den falska personens ansikte och rörelser.

Den nya videon läggs till offrets igenkännliga drag via AI:n, som med mänskliga preferenser styr hur den slutgiltiga deepfake-videon vävs ihop.

När kropps-, ögon- och munrörelser väl är på plats kan rösten återskapas med datorhjälp.

Beroende på skicklighet kan deepfake-producenter träffa så rätt som när en tysk chef 2019 förlorade drygt två miljoner kronor till bakomliggande personer, som först hade kopierat chefens röst och sedan i telefon fick en kollega att överföra beloppet till en ungersk leverantör.

Så avslöjar du deepfake

Förutom tekniska knep fungerar deepfake i samspel med din uppfattning av ljud och bild samt inte minst ditt eget minne, som kan spela dig ett spratt.

Tidigare brittisk-amerikanska studier har visat att upp emot 85 procent av vår läsning och kunskap kommer från vad vi upplever och har upplevt genom våra synintryck.

Det är dock bara 20 procent av våra synintryck som bildas från ögonen till hjärnan. Resten kommer från hjärnan själv och speciellt temporalloben, där våra minnen förvaras.

Vår syn är alltså inte bara intryck från ögonen, utan är i hög grad en kombination av vad vi ser, vad vi tidigare har sett och vad vi tror att vi ser.

Vi är alltså generellt sett mycket mer benägna att okritiskt tro på information som bekräftar vår redan befintliga uppfattning av världen eller stöder våra fördomar och förväntningar.

Sådan "konfirmeringsbias" gör oss till lätta deepfake-offer.

Så känner du igen deepfakes

De här sakerna ska du vara uppmärksam på för att avslöja en video som deepfake:

Förändringar i belysning

Extra eller underliga pixlar

Plötsliga ryck och rörelser

Konstig och skiftande hudfärg

Dålig synkronisering av ljud, läppar och ögon

Suddiga delar av personen eller bakgrunden

TESTA DIG SJÄLV:

Kan du hitta tekniska misstag i det här klippet med deepfake-Tom Cruise från början av 2022?