Nu tänker de själva: Bör vi vara rädda för robotarna?
Det vimlar av historier om intelligenta robotar som får ett medvetande – och nu varnar sex tongivande robotföretag oss för att använda deras robotar till att skada andra. Men varför är en sådan kungörelse överhuvudtaget nödvändig – bör vi vara rädda för robotarna? Svaret är komplicerat.
I filmen "The Matrix" från 1999 har robotar förslavat mänskligheten och i "Terminator"-filmerna utspelas ett utplånande krig mellan mänskligheten och ett intelligent vapensystem.
Populärkulturen är fylld av spektakulära krig mellan robotar och människor, men enligt forskarna ligger faran snarare hos de vanliga, till synes fredliga robotarna.
Robotarnas artificiella intelligens är på väg att bli så avancerad att den inte bara kan slå oss i schack och styra våra bilar åt oss – den kan fundera över något så komplicerat som sig själva.
Experterna är oeniga: Förespråkarna förutspår en ljus framtid med robothjälpare, medan kritikerna drar sig för att tala om en kommande domedag.
Vem ska vi tro på?
Minirobot blir medveten
Artificiell intelligens kan delas upp i fyra olika nivåer. Robotar har hittills främst befunnit sig på den mest primitiva nivån: De reagerar på viss input och är bra på specifika uppgifter. Ett exempel är Deep Blue, IBM:s dator, som slog världsmästaren i schack, Garri Kasparov.
På nästa nivå kan robotarna skaffa sig erfarenheter: Röstassistenten Siri lär sig våra röster och blir hela tiden bättre på att besvara våra frågor.
Det tredje steget på AI-trappan är den nivå på vilken de inte bara förstår vad vi säger, utan även vad vi tänker och känner – utifrån exempelvis ordal och ton. I början av 2023 visade en forskare vid Stanfords universitet att chattbotten ChatGPT nu har en människoliknande "intuition" i nivå med en nioårings.
På den översta nivån inom artificiell intelligens hamnar självmedvetenhet. På den nivån kan robotarna föra komplicerade samtal med människor och samtidigt reflektera över "vem" de själva är i relation till andra föremål och individer omkring dem.
Ett exemplar av miniroboten NAO gav försmak av självmedvetenhet under ett försök 2015. Programmerarna hade gjort två andra NAO-robotar stumma och kallade det att ge robotarna ett "fördummande piller".
Robotarna tillfrågades alla tre om vem av dem som hade fått pillret.
NAO-roboten med det oskyldiga utseendet skapade rubriker 2016, när den klarade ett test av dess självmedvetenhet.
Två av dem kunde ju inte yttra sig, men den tredje svarade: "Det vet jag inte". Men sedan rättade den sig själv: "Ursäkta, nu vet jag det. Jag kan bevisa att jag inte har fått pillret".
Roboten visste alltså vem den var i relation till de båda stumma robotarna.
Robotarm är som lekande barn
År 2022 kom sedan nyheten om en ny robotarm byggd av forskare vid Columbiauniversitetet i USA.
Armen utför uppgifter som exempelvis att gripa tag i en boll utan att dess rörelser har programmerats av människor. Den har lärt sig det själv.
Först fumlade och famlade robotarmen i sina helt fria rörelser utan ändamål, som filmades av fem kameror. Med hjälp av filmerna lärde den sig hur den kan sträcka ut sig, böja och vrida sig och så vidare.
Roboten började föreställa sig vart den skulle flytta sig om den aktiverade vissa av sina leder med en viss mängd kraft.
Den blev alltså medveten om sin egen kropp – som ett barn som lär sig att navigera i världen.
Robot blir medveten om sin kropp
Ingenjörer vid Columbiauniversitetet var först att utveckla en robot som är medveten om sin egen "kropp". Roboten har lärt sig att förstå sambandet mellan dess rörelser och det utrymme den intar utan mänsklig inblandning.
1. Kameror filmar robotarms fria lek
Robotarmen böjer, höjer och sänker sig, samtidigt som fem kameror filmar rörelserna och skickar dem vidare till armens artificiellt intelligenta styrdator. Som ett barn i ett spegelrum lär sig roboten hur olika rörelser ser ut.
2. Roboten ritar modell av rörelser
Robotarmens artificiella intelligens börjar rita sin egen form samt riktningen på sina rörelser. För varje rörelse får ritningarna större precision varpå robotarmen styra sig själv allt bättre.
3. Självmedveten AI löser uppgifter
Utifrån erfarenheterna har roboten bildat en självbild – en sorts självmedvetenhet – och kan nu föreställa sig var den ska befinna sig i framtiden om den utför bestämda rörelser. Nu kan roboten exempelvis ta tag i en boll.
Denna begynnande självmedvetenhet bland robotar sprider entusiasm bland de robotingenjörer som förutspår att robotarna kommer att göra våra liv mycket enklare i allt från fabriker till vårdhem.
Hod Lipson, en av forskarna bakom den medvetna robotarmen, anser till och med att självmedvetna robotar kommer att bli ett större genombrott än ett botemedel mot cancer – därför att en självmedveten robot kommer att kunna klara den uppgiften och många fler.
Andra experter ser mer dystert på framtiden.
Elon Musk varnade
År 2017 skrev 1 000 experter inom teknik och artificiell intelligens, bland andra Elon Musk, ett öppet brev till världssamfundet, i vilket de varnade för självständigt tänkande robotar.
Faran förekommer tydligast på slagfälten; år 2020 besköt exempelvis en drönare av typen Kargu-2 libyska rebelltrupper – utan föregående input av människor. Attacken blev det första kända exemplet på användandet av autonoma vapen i aktiv krigföring.
Men robotar kan bli livsfarliga även om vi bortser från dem som har byggts för militära ändamål.
"När denna Pandoras ask väl har öppnats blir det svårt att stänga den igen." Öppet brev från drygt 1 000 experter i artificiell intelligens
Ta exempelvis de i dag välkända robothundarna, av vilka Spot från amerikanska Boston Dynamics är den mest berömda.
Hundens förmåga att exempelvis gå i trappor och forcera hinder gör att den bland annat lämpar sig för arbete med bombröjning eller att hjälpa till vid naturkatastrofer.
Men en stark och smidig robothund är även intressant för personer med andra avsikter. Videor med robothundar som avfyrar maskingevär monterade på ryggarna, har spridits på internet.
Kombinationen av en ultramobil robot som kanske snart får ett medvetande och ett vapen ger inte bara många internetanvändare kalla kårar, utan även människor i robotbranschen.
"Artificiell intelligens kan bli antingen det bästa eller det värsta som någonsin har hänt mänskligheten." Stephen Hawking, teoretisk fysiker
Boston Dynamics tillhörde de sex tongivande robotföretagen som 2022 gick ut med en gemensam kungörelse: Robotar som våra bör inte omvandlas till vapen eller användas till att skada människor.
Men även om robotar inte får utrustas med gevär på ryggen kan de vara farliga.
Självständighet är ett hot
Alla datorer kan hackas och det gäller även datorerna som utgör robotars "hjärnor". Ta exempelvis den lilla, terränggående Husky, som bland annat kan hantera radioaktivt avfall.
Det innebär att människor slipper utföra den farliga uppgiften, men roboten kan i princip bli hackad och tvingas att använda de farliga ämnena till att skada människor.
Robotarna har ett säkert skydd mot hackare, men det finns alltid en risk för att robotarna helt enkelt begår misstag. Det har bland annat skett åtskilliga gånger för de robotar som kan ta över styrningen av bilar.
År 2018 blev en 49-årig fotgängare med en cykel överkörd av en självkörande Uber-bil i Arizona, USA, därför att AI:n inte kunde bestämma sig för om det krävdes en undanmanöver eller inte förrän det var för sent.
Och i början av 2023 utkom en rapport som dokumenterar att Teslas artificiellt intelligenta, självkörande bilar har inte mindre än 19 liv på sitt samvete.
Men den största rädslan är förknippad med att robotar på den högsta nivån av artificiell intelligens – med människoliknande intuition och medvetande – kan löpa bärsärk, så att vi förlorar kontrollen över dem.
Pappersgem kan bli vår undergång
Med avancerad artificiell intelligens kan vi aldrig förutspå hur robotarna ska tänka och handla. Det anser flera experter, bland annat framtidsforskaren Nick Bostrom.
När robotarna blir tillräckligt intelligenta kan de nämligen – oavsett alla goda intentioner – bli livsfarliga.
År 2028 körde en självkörande bil från företaget Uber på och dödade 49-åriga Elaine Herzberg, när hon ledde sin cykel över vägen i Arizona, USA.
Bostrom är särskilt känd för ett tankeexperiment: Ger vi en avancerad artificiell intelligens i uppgift att producera så många pappersgem som möjligt, kan de komma fram till att den kan tillverka fler gem om vi människor inte var vid liv – därför att vi potentiellt kan störa produktionen, exempelvis genom att stänga av roboten.
Kanske kan den till och med använda våra kroppar som råmaterial till gemen.
Bostrom har konstruerat skräckscenariot för att klargöra att en självmedveten robot är omöjlig att kontrollera, även om du ber om hjälp med avgränsade praktiska uppgifter.
Robotar kan bli våra värsta fiender
1. Artificiell intelligens kan hackas
Alla datorer kan hackas, som exempelvis en självkörande bil. Risken demonstrerades 2015 av två säkerhetsexperter, som tog kontroll över gaspedalen och bromsen i en Jeep Cherokee och körde ned bilen i ett dike.
2. Artificiell intelligens kan begå misstag
År 2018 körde en självkörande bil från företaget Uber på en mörk väg i Arizona, USA. När en kvinna ledde sin cykel över vägen framför bilen, kunde bilen inte uppfatta att det var en fotgängare i tid. Kvinnan överlevde inte.
3. AI vänder sig mot oss
Även "oskyldiga" uppgifter kan bli fatala. När forskare 2015 i en simulering bad artificiell intelligens att minska energiförbrukningen under en flygplanslandning, lät roboten flygplanet störta, därför att manövern använde mindre energi.
Robotföretagen, som varnar allmänheten för att använda deras skapelser som vapen, är optimistiska och "ser fram emot en ljus framtid, då människor och robotar arbetar sida vid sida om att lösa några av världens problem".
Ska man tro den berömde, avlidne fysikern Stephen Hawking, blir framtiden mycket ljus – eller mycket mörk. År 2018 sade han att utvecklingen av avancerad artificiell intelligens kan bli:
"Antingen det bästa eller det värsta som någonsin har hänt mänskligheten."