Kommer AI rädda världen, eller förgöra oss? German Bender, utredningschef på Arena Idé och gästforskare vid Harvard, hör till de mer sansade rösterna i en något hysterisk debatt. I artiklar för Arena har han pekat på svagheter i resonemang och forskning kring AI – och betonat att utvecklingen kräver reformer. Sociala och politiska sådana.
»Vår forskning visar att fackligt inflytande är avgörande för att påverka automatiseringen. I länder och branscher där arbetstagare har mindre inflytande anpassas inte tekniken efter de anställdas behov, tvärtom är risken större för negativa effekter«, säger han.
Vad handlar alarmismen om?
»Dels om existentiella risker och dels om att robotarna skulle ta våra jobb. Jag tror att vi måste ta bägge på allvar.«
Vilka är de viktigaste framstegen?
»Det händer så mycket och så snabbt inom AI just nu att det är omöjligt att få överblick och bedöma vad som kommer att bli viktigast. Men området som får mest uppmärksamhet är maskininlärning, särskilt när det gäller språk, bild och ljud. Det har gett oss AI-system som låter som människor, och har mänskliga förmågor som syn och språk, vilket fascinerar många. Samtidigt sker andra viktiga framsteg som inte är jämförbara med mänskliga förmågor. Till exempel kan AI-system som hittar mönster i enorma mängder data användas för att kartlägga DNA och utveckla nya mediciner, eller för att övervaka människor, som i Kina. Det är både hoppingivande och skrämmande.«
»Lösningen är nog att lära sig använda AI, inte att försöka fly till de yrken som för tillfället är mindre påverkade.«
Vad menar du då, mer exakt?
»Hoppingivande är att AI kan hjälpa oss att behandla sjukdomar, minska mänsklighetens negativa effekter på klimatet, minska mängden monotona och farliga arbetsuppgifter samt göra oss mer produktiva. Skrämmande är att AI kan användas för krigföring, kommersiell och politisk övervakning, propaganda, framställning av falsk information och göra människor i vissa yrken arbetslösa. I värsta fall kan vi tappa kontrollen över AI-system som fattar beslut som hotar mänsklighetens existens.«
Du har skrivit att det är svårare att ”automatisera arbetsuppgifter i mer traditionella arbetaryrken med stora inslag av praktiska, snarare än abstrakta, arbetsmoment”. Vad innebär det för maktbalansen i världen, tror du?
»Bra fråga. Kanske skulle det kunna leda till att praktiska yrken som under lång tid haft låg status och alltför låga löner blir högre värderade? Det är väldigt svårt att förutsäga och har att göra med sociala, kulturella och ekonomiska faktorer, inte bara tekniska.«
Enligt diverse larmrapporter löper vissa yrken risk att bli »substituerade« av generativ AI. Vad tänker du om det?
»Många stirrar sig blinda på tekniken. Som sagt – vilka yrken som påverkas och hur beror inte bara på vad som är möjligt att göra rent tekniskt. Jag tror att AI under ganska lång tid kommer att påverka yrken, snarare än ta över dem. Lösningen är nog att lära sig använda AI, inte att försöka fly till de yrken som för tillfället är mindre påverkade.«
Allt som kan automatiseras lär alltså inte automatiseras. Men vad kommer att automatiseras som inte redan är det?
»På riktigt lång sikt kan nog det mesta automatiseras. Men vill vi det? Att automatisera repetitiva eller farliga arbetsuppgifter har jag svårt att se varför någon skulle vara emot. Däremot tycker jag inte att vi ska automatisera sysslor som vi faktiskt tycker om att utföra. I dag styrs utvecklingen dels av kommersiella drivkrafter och dels av vad som är möjligt rent tekniskt. Den mest avancerade AI-forskningen sker nu hos företag som drivs av en kommersiell logik där annonsmodellen dominerar. Vi har redan sett hur destruktiv den modellen varit. Jag tror att vi behöver styra AI-utvecklingen mot svåra problem som att bota sjukdomar, hitta lösningar på klimatkrisen och minska den ekonomiska ojämlikheten. Det är i grunden politiska problem, inte tekniska. Det behövs lite mindre marknad och lite mer demokratisk styrning. En bieffekt av det vore troligen att utvecklingen skulle ske långsammare och med större eftertanke.«
»Jag tror, tyvärr, att risken för existentiella hot de kommande tio åren är större än risken för att en stor andel av jobben ska tas över av AI.«
Vilka branscher har störst nytta av AI?
»Jag kan inte komma på en enda bransch som inte har nytta av AI. I närtid handlar det nog om branscher där man hanterar symboler och data. Eller där mycket av verksamheten går att planera i detalj, som media, finans, juridik, medicin, IT, kommunikation, tillverkningsindustri. Det råkar också vara branscher som omsätter enorma ekonomiska värden och därför kommer att forma AI-utvecklingen efter sina behov.«
En grupp AI-experter med Elon Musk i spetsen skrev i våras ett öppet brev om att AI-utvecklingen bör pausas. Har de rätt?
»Jag skrev en artikel om att AI-utvecklingen behöver saktas ner nästan två månader innan det. Min poäng var att det är orimligt att låta en så farlig teknikutveckling drivas av två kapplöpningar, en mellan stora amerikanska företag och en mellan demokratiska och totalitära stater. Så ja, jag tycker också att utvecklingen går för fort och i fel riktning. Jag tror inte att sex månaders paus är tillräckligt. Och jag tror inte att Elon Musk drivs av altruism, snarare vill han att hans nystartade AI-företag X.AI ska få tid på sig att hinna ikapp konkurrenterna.«
Vad är din syn på singulariteten?
»Om du med singulariteten menar en punkt då AI-system kan förbättra sig själva utan vår hjälp och vi dessutom tappar kontrollen, så tror jag absolut att det kan hända. Jag är väldigt orolig över det. Vi är många som tror att AI-systemen kommer att bli mer intelligenta än människor under vår livstid. Jag tror, tyvärr, att risken för existentiella hot de kommande tio åren är större än risken för att jobben tas över av AI. Jag hoppas verkligen att jag har fel.«
Vad får dig att tro det?
»De existentiella riskerna kan uppstå mycket snabbare än effekterna på arbetsmarknaden, eftersom de kommer mer direkt ur tekniken som sådan. Jag tror att många underskattar skillnaderna mellan olika typer av konsekvenser av AI. Allt kommer inte att ske lika fort.«
Text: Salka Hallström
Foto: Peter Cederling