Kan självkörande bilar fatta beslut på liv och död?

Publicerad: 5 Sep 2021
I den bästa av världar kommer de inte att göra det. Målet med maskininlärning, säger förespråkare, borde vara att komma till den punkt där vi frågar om det är etiskt att låta människor köra.

I en kommentar på Twitter uppger Elon Musk, koncernchef för elbilsföretaget Tesla, att den senaste versionen av bolagets kommande system för självkörande bilar som testas i USA inte är bra. Han säger också att arbetet med att förbättra systemet görs så snabbt som möjligt, men att det krävs mycket träning för att systemet ska klara körning både på motorväg och inne i städer. Kommentaren kom bara en vecka efter att den amerikanska trafiksäkerhetsmyndigheten, NHTSA, inlett en granskning av vad som ligger bakom elva trafikolyckor, där Teslas bilar varit inblandade och där förarna använt sig av det autopilotsystem som redan finns i bolagets bilar. Granskningen gäller i praktiken närmare 800 000 Teslabilar av alla olika modeller som sålts i USA de senaste åren.

Det hela späddes sedan på i slutet av förra veckan när två amerikanska senatorer krävde att FTC, den amerikanska myndighet som övervakar konkurrens och konsumentskydd, drar igång en granskning av Teslas marknadsföringsmetoder. Elon Musk har flera gånger kommit med kommentarer om att bolagets bilar snart ska vara självkörande. Nu hävdar senatorerna att bolaget överdriver vad deras bilar klarar av när det gäller självkörande funktioner. De kan därmed bli en fara både för föraren och andra trafikanter.

Bolaget har också fått kritik för att själva namnet Autopilot gör att kunder kan tro att bilarna kan köra själva, när det i praktiken handlar om funktioner som filhållning och automatisk inbromsning. Liknande tongångar har även kommit från Kina, där Tesla fått ordna ett problem med mjukvaran för sitt autopilot-system. I Kina har bolaget också mött anklagelser från konsumenter om kvalitetsproblem och oro för att bilarnas kameror kan hota den personliga integriteten.

I Europa gör myndigheternas regler att Teslas system för att hjälpa till med körningen är mer begränsat än i USA. På bolagets svenska hemsida står också tydligt att de autopilotfunktioner som finns i bilarna kräver aktiv övervakning av föraren. Funktionerna gör inte att bilen kan köra på egen hand.

Men branschens bredare strategi var till att börja med så kallade nivå 1-förarassistansfunktioner. Sedan arbetar man sig stegvis upp till nivå 5 som ännu inte har förverkligats. Bilar eller fordon på nivå 5 ska vara tillräckligt avancerade för att fatta bättre beslut än människor under alla körförhållanden – inklusive scenarier på liv eller död.

Samtidigt kommer det säkerligen införas en ny ansvarsfördelning, säger Bo Ericsson ordförande för Sveriges Fordonsverkstäders Förening (SFVF). ”Föraren” ansvarar för att kraven uppfylls när det gäller framförandet såsom nykterhet, behörighet, att alla i bilen är bältade, rätt lastvikt med mera. Även att ta över körningen då det automatiserade fordonet så kräver det, men få verkar tänka på det. Vem tänker på att fordonsägaren är ansvarig om bilen gör en överträdelse om den kör automatiskt. Grov vårdslöshet under automatiserad körning är ett nytt begrepp som kommer införas och kommer innebära att föraren kan få upp till 2 års fängelse. Det bör man som bilägare beakta innan man programmerar eller manipulerar sin bil, säger Bo Ericsson.

Det är där filosofer med flera länge har tagit upp en av de grundläggande frågorna som står inför en autonom framtid. Hur lär du en bil att snabbt fatta komplexa, livs- eller dödsavgörande beslut under olika scenarier som uppstår på vägen? Forskare säger att branschen är långt ifrån att kunna bestämma hur Artificiell intelligens (AI) ska klara att välja vem som får ta emot den värsta kraften i en olycka med exempelvis mötande fordon. Nu ställer sig många frågan ur ett annat perspektiv, varför inte hindra bilar från att komma i livs- eller dödssituationer över huvud taget?

Artificiell intelligens är bra på mycket, till exempel att känna av att ett objekt av en viss storlek är på vägen, framåt eller åt vilket håll som helst. AI kan också härleda vad objektet kan vara och blir smartare med tiden baserat på miljontals bilder.

AI kanske inte är så användbart för att lösa etiska dilemman som människor ännu inte har nått konsensus om, enligt Dave Grannan, VD för Light, som skapar kamerabaserad perceptionsprogramvara för bilar. Dave Grannan tror inte att någon kommer att vara bekväm med att lämna över dessa beslut till AI.

Det har gjorts försök att kvantifiera mänskliga perspektiv på AI-körbeslut. En metod kom från forskare vid Massachusetts Institute of Technology (MIT), som genomförde en global studie för att hitta en konsensusmetod för där någon fiktivt måste bestämma sig för om man ska styra en bil mot en person, för att rädda en större grupp människor. Generellt tror människor att AI:s ansvar är att skona så många liv som möjligt, även om det innebär att döda några få. Forskarna fann också att människor föredrar yngre liv framför äldre.

Det är uppenbart att trafikolyckor fortfarande är ett stort problem. Tanken med avancerad AI är att förhindra scenarierna som leder till krascher och i oundvikliga fall avgöra vem som ska dö eller skadas.  

Teknikföretaget Provizios hemliga lösning är ett "femdimensionellt" visionssystem som består av high-end radar, lidar och kameraavbildning. Företaget bygger en Intel vision-processor och Nvidia-grafikprocessor direkt på sin interna radarsensor, vilket gör det möjligt för bilar att köra maskininlärningsalgoritmer direkt på radarsensorn. Resultatet är avancerad perceptionsteknik som ser längre och bredare, och bearbetar vägdata snabbare än traditionell autonomiteknik. En snabbanalys ger fordon och förare mer tid att reagera på andra bilar.

Målet är att implementera tekniken i personbilar så att systemet kan lära av mänskliga förare och förstå hur de fattar beslut, innan de låter AI bestämma vad som ska hända. SFVF bevakar och följer utveckling och återkommer med information, säger Claes Åström vd för SFVF.

Kopiera länk
Copy

Artikelarkiv

Bilverkstadspodden
Lyssna på  
17 Sep, 2021, Extern artikel
Pirelli Elect och FCS märkta däck visas på mässa i München
16 Sep, 2021, Extern artikel
Nytt Boss-vinterdäck från Colmec
16 Sep, 2021, Extern artikel
Hankook publicerar sin 12:e årliga ESG-rapport
15 Sep, 2021, Extern artikel
Banrekord med Pirelli P Zero Trofeo R
15 Sep, 2021, Extern artikel
Billiga däck kan bli dyra
31 Aug, 2021, Extern artikel
Är elbilen MG ZS EV ett bra bilköp?
24 Aug, 2021, Extern artikel
Premiär för Tesla Model Y i Sverige
24 Aug, 2021, Extern artikel
Toyota Yaris GR testad
15 Jun, 2021, Extern artikel
Audi e-tron GT vs Porsche Taycan 4S
2 Jun, 2021, Extern artikel
Volvo V70 byggd i Lego
23 Sep, 2021
SFVF:s DÄCKSKOLA - Del 1 Teoretisk utbildning - via Teams
Online med dator - via Microsoft Teams (3 tim), Utbildningsledare: Michael Bergvall
14 Okt, 2021
SFVF:s DÄCKSKOLA - Del 1 Teoretisk utbildning - via Teams
Online med dator - via Microsoft Teams (3 tim), Utbildningsledare: Michael Bergvall
27 Okt, 2021
Uppsägning eller avsked? Vad är skillnaden mellan uppsägning pga. personliga skäl och avsked?
KOSTNADSFRITT WEBBINARIUM - med CvZ Juridik - Online, Mellan 9:00 och 10:00 hålls seminariet och efter 10:00 finns det fortsatt möjlighet att ställa frågor direkt till juristerna.
Visa fler händelser
 Branschorganisationer i samverkan
 Annonser