Googles artificiella intelligens utvecklar aggressivt beteende

Google-företaget DeepMind har tagit fram en artificiell intelligens som plötsligt börjar uppföra sig både aggressivt och girigt i tävlingssituationer.

DeepMinds artificiella intelligens bekämpar aggressivt sina motståndare med laservapen vilket man har kunnat uppleva tidigare – på film.
© Paramount Pictures

Publicerad den 02.03.17

Text: Mikkel Skovbo

Laserstrålarna flyger till höger och vänster för att paralysera motståndaren så att den artificiella intelligensen kan ta alla resurserna själv.

Det låter som en domedagsscen från en Terminator-film, men det är faktiskt på riktigt i det spel som företaget DeepMind har utvecklat till sin artificiella intelligens.

Artificiell intelligens skjuter för att vinna

DeepMind har testkört ett enkelt ”fruktinsamlings-spel” 40 miljoner gånger, där två enheter (spelare) tävlar mot varandra om att få flest poäng. De två spelarna styrdes av artificiell intelligens.

Experimentet visade att ju färre poäng som var kvar desto mer aggressivt började den artificiella intelligensen uppföra sig genom att paralysera motståndaren med sin laserstråle.

Det blir krig mellan artificiella intelligenser när resurserna är knappa. De två artificiellt intelligenta spelarna (eller spelbrickorna) är blå respektive röda, poängen gröna och laserstrålarna gula.

Ju mer intelligent, desto mer aggressiv

Anmärkningsvärt var att det var den mest komplexa artificiella intelligensen som oftast blev aggressiv och girig. När DeepMind testade spelet med "dummare" artificiell intelligens delade spelarna i stället poängen mellan sig på ett mer fredligt sätt.

Den mest avancerade artificiella intelligensen lyckades alltså lära sig av sin omgivning och utvecklade en aggressiv taktik till sin fördel – ett beteendemönster som vanligtvis förknippas med människor.

Försöket har ännu inte granskats.