Vem ska de självkörande bilarna välja att döda?

Föreställ dig en självkörande bil som plötsligt tappar bromsförmåga. Rakt fram står en grupp fotgängare. Att svänga undan skulle rädda dem, men samtidigt köra bilen rakt in i en vägg och sannolikt döda föraren. Ett sådant scenario må vara sällsynt i verkligheten, men det tvingar fram en obekväm sanning: någon måste faktiskt bestämma, i kod, hur bilen ska agera – långt innan olyckan någonsin inträffar.

Är det här bara ett teoretiskt tankeexperiment?

Dilemmat bygger på den klassiska så kallade vagn-problematiken inom moralfilosofin, där man tvingas välja mellan att aktivt orsaka skada för att förhindra en större skada. Skillnaden med självkörande bilar är att valet inte längre görs i stundens panik av en människa, utan i förväg av ingenjörer och de algoritmer de skriver. Det gör frågan mindre hypotetisk än den låter – varje beslutsregel som byggs in i systemet är i praktiken en etisk ståndpunkt, oavsett om den formulerats medvetet eller ej.

“Problemet är inte att bilarna kommer hamna i såna här situationer ofta. Problemet är att någon faktiskt måste bestämma svaret innan bilen ens säljs”, som en forskare inom fordonsetik uttryckt det.

Vad tycker allmänheten egentligen bör hända?

Forskare vid bland annat MIT har genom det uppmärksammade projektet Moral Machine samlat in miljontals svar från människor världen över om hur de tycker att självkörande bilar bör agera i olika olycksscenarier. Resultaten visar tydliga mönster, men också stora kulturella skillnader mellan olika delar av världen kring vilka liv som prioriteras.

Några återkommande preferenser som studien identifierat:

• De flesta föredrar att rädda fler liv framför färre, oavsett vem som drabbas
• Fotgängare som följer trafikregler prioriteras ofta högre än de som inte gör det
• Yngre personer tenderar, i undersökningarna, att prioriteras något högre än äldre – en preferens som är etiskt starkt omdiskuterad

Ska bilen alltid skydda sin egen förare i första hand?

Här går åsikterna kraftigt isär, både bland etiker och konsumenter. En del menar att ett fordon som är designat för att i vissa scenarier offra sin egen förare aldrig kommer accepteras av köpare – vem vill äga en bil som teoretiskt kan välja bort en själv? Andra hävdar att ett samhälle inte bör tillåta fordon som systematiskt prioriterar förarens liv över utomståendes, eftersom det i praktiken skulle innebära att gångtrafikanter och cyklister får ett sämre skydd än i dag.

Vem bär egentligen ansvaret om något går fel?

Det är en av de mest komplicerade frågorna juridiskt. Är det biltillverkaren, mjukvaruutvecklaren, eller till och med lagstiftaren som satt ramarna för vad som är tillåtet, som bär ansvaret när en algoritm fattar ett beslut som leder till en persons död? De flesta jurister är överens om att nuvarande lagstiftning i de flesta länder inte är fullt utrustad för att hantera den typen av frågor, vilket gör att regelverket sannolikt kommer behöva utvecklas i takt med tekniken.

Kan lagstiftning lösa problemet åt oss?

Några länder har börjat försöka. Tyskland var tidigt ute med etiska riktlinjer för självkörande fordon, där ett av de centrala ställningstagandena var att ett system aldrig får diskriminera baserat på faktorer som ålder, kön eller funktionsvariation vid ett oundvikligt olycksscenario. Det löser inte alla dilemman, men ger åtminstone tillverkare en tydligare ram att förhålla sig till – snarare än att varje företag ska behöva besvara de djupaste etiska frågorna helt på egen hand.

Finns det något enkelt svar?

Nej, och det är kanske den viktigaste insikten i hela debatten. Det finns ingen universellt “rätt” lösning på hur en bil bör agera i en olycka som inte går att undvika – bara olika avvägningar som speglar olika värderingar. Det gör frågan om vem de självkörande bilarna ska välja att skydda till lika mycket en fråga om vilket samhälle vi vill ha, som en fråga om teknik.