Annons

Annons

Annons

Annons

Annons

opinionArtificiell intelligens

Aktuella frågor
”Ska algoritmer avgöra vem som ska leva och vem som ska dö?"

Det är frestande att tro att AI, artificiell intelligens, kan vara en hjälp att navigera i etiska dilemman, skriver Dirk Helbing, professor i beräkningsintensiv samhällsvetenskap, och Peter Steele, professor i affärsetik.

Detta är ett debattinlägg.Skribenterna svarar för åsikterna.

I ett välkänt tankeexperiment skenar en spårvagn. Om ingen gör något kommer många människor att krossas. Växlas den in på ett stickspår dör färre.

Bild: Barbro Hallin

Annons

Antropocen, den geologiska epok vi lever i, utmärks av existentiella hot och det är människan som avgör planetens öde. Några av hoten tas upp i handlingsplaner, som FN:s hållbarhetsmål, men mycket tycks fastna mellan insikten att vi måste ändra vårt sätt att leva och våra ingrodda vanor.

I en överbefolkad värld har många ställt frågan ”Vad är mänskligt liv värt?”. Under covid-19-pandemin har den omformulerats till ”Vem ska dö först när resurserna inte räcker till alla?”

Många science fictionböcker tar upp liknande ämnen och ”löser” ofta problem med grymma metoder hämtade ur de mörkaste kapitlen i mänsklighetens historia. Verkligheten ligger inte långt efter. Det är frestande att tro att AI, artificiell intelligens, kan vara en hjälp att navigera i etiska dilemman. AI används redan för att göra en första sortering av covid-19-patienter, avfolkning och datorbaserad dödshjälp har diskuterats.

Annons

Annons

Men ska algoritmer avgöra vem som ska leva och vem som ska dö? Låt oss se närmare på ett välkänt tankeexperiment: En spårvagn skenar. Om ingen gör något kommer många människor att krossas där den far fram. Växlas den in på ett stickspår dör färre människor, men det är växlarens ingripande som kostar dem livet. Tankeleken sägs handla om att rädda liv, men grundfrågan är "Om inte alla kan överleva, vem ska då dö?" Mindre lidande är visserligen bättre än mer lidande, men accepterar man det resonemanget uppstår följdfrågor som kan rubba grunden för vårt samhälle och människovärdet. Till exempel: Om ett självkörande fordon inte kan bromsa snabbt nog, vem ska det då ramma, en mormor eller en arbetslös?

Sådana frågor har ställts i MIT:s Moral Machine Experiment, som samlade in data över hela världen om människors etiska val när det gäller förarlösa fordon. Forskare har sedan diskuterat hur människors etiska ställningstaganden kan "bidra till att utveckla globala, socialt godtagbara principer, inom maskinetik". Men den sortens experiment är ingen bra grund för beslutsfattande. Människor föredrar rättvisa algoritmer. Det skulle kunna innebära att slumpen får avgöra. Men att människor dödas godtyckligt, eller överhuvud taget, strider mot principen om mänsklig värdighet även om döden är smärtfri.

Tankeexperimentet med den skenande spårvagnen visar att det är utgångspunkten som är felaktig. Om den uteslutande leder till oacceptabla lösningar, måste vi istället anstränga oss för att ändra förutsättningarna. Handlar det om självkörande fordon kan man till exempel sänka hastigheten och utrusta dem med bättre bromsar och annan säkerhetsteknik.

Annons

Inte heller vårt samhälles hållbarhet är förutbestämd. Den påverkas av människans beteende, sättet att göra affärer, den ekonomiska infrastrukturen, resandet över jordklotet och de internationella varutransportkedjorna. De riktigt viktiga frågorna är hur det kan komma sig att vi – 50 år efter den banbrytande studien Limits to Growth (Tillväxtens gränser) – fortfarande inte har en cirkulär delningsekonomi. Och varför vi var så illa förberedda för en pandemi som hade förutsagts av så många?

Annons

Big data, artificiell intelligens och digital teknik har inte rustat oss för de utmaningar vi står inför, oavsett om det gäller klimatförändringarna, covid19-pandemin, fejknyheter, hatfylld propaganda eller ens cybersäkerhet. Förklaringen är enkel: Det låter bra att ”optimera” med hjälp av data, men optimeringen bygger på en endimensionell målfunktion som sammanfattar världens komplexitet i ett enkelt register. Det är varken ändamålsenligt eller effektivt. Och det underskattar både människans förmåga att lösa problem och jordens kapacitet att klara påfrestningar.

Naturen optimerar inte; den utvecklas i samspel och klarar sig bättre än mänskliga samhällen både när det gäller hållbarhet och cirkulära underhållssystem. Såväl ekonomin som samhället skulle må bra av naturinspirerade lösningar som liknar ekosystemen.

Vi kan förändra vår plågade värld och bygga in uthållighet och flexibilitet i beslutsfattande och internationellt samarbete. Hållbara system är avgörande för att vi ska kunna handskas med och återhämta oss från överraskningar, katastrofer och kriser som dem vi upplever just nu.

Annons

Motståndskraft kan förstärkas på många vis genom överskott, många olika lösningar, decentraliserade organisationer, deltagande och samverkan, solidaritet och, där det fungerar, med digital hjälp. Sådana lösningar kan bli lokalt hållbara under lång tid. Med andra ord: Hellre än att ”lära sig dö under antropocen”, som författaren Roy Scranton föreslår, bör vi ”lära oss leva”i den tid vi har. Det är den bästa försäkringen mot en utveckling som kan tvinga ut oss på det moraliska gungflyet att välja vem som ska leva och vem som ska dö.

Dirk Helbing, professor i Computational Social Science, beräkningsintensiv samhällsvetenskap, som kombinerar nya beräkningstekniker med samhällsvetenskapliga teorier, och är verksam vid ETH, Eidgenössische Technische Hochschule, i Zürich.

Peter Steele, professor i affärsetik vid USI, Università della Svizzera italiana, i Lugano.

Översättning: Karen Söderberg

Project Syndicate

Nästa artikel under annonsen

Hej! Vi använder cookies.
Vi gör det för att förbättra funktionaliteten på sajten, för att kunna rikta relevant innehåll och annonser till dig och för att vi ska kunna säkerställa att allt fungerar som det ska.
Vår policy