Deze week verschijnt in het toonaangevende wetenschappelijke tijdschrift Science een artikel over een studie naar het sociale dilemma van zelfrijdende auto’s. Hoe moet de fabrikant de auto bijvoorbeeld programmeren in het geval van een niet te ontwijken botsing met mede-weggebruikers?
Het aantal ongevallen zal in de toekomst als gevolg van autonoom rijdende auto’s sterk afnemen. Tegelijkertijd is een reductie tot nul ongevallen een utopie. Want hoe slim een zelfrijdende auto ook is, het kan – bijvoorbeeld - onmogelijk een plots overstekende voetganger ontwijken.
Stel, je autonome auto rijdt met jou als inzittende op een Amsterdamse gracht. Links water, rechts geparkeerde auto’s. Tussen de geparkeerde auto’s door stuift opeens iemand de straat op. De sensoren van de auto kunnen nog net detecteren dat er zich iemand voor de auto bevindt, maar de remweg zal te lang zijn. Schept de auto de voetganger of stuurt hij zich rechts de geparkeerde auto’s in? Of kiest hij liever links voor een plons in de gracht? Het zijn beslissingen die de programmeurs van de autonome auto’s moeten maken. En reageert de autonome auto bijvoorbeeld auto anders als hij in een split-second een spelend kind voor zich registreert als wanneer het een volwassene betreft?
Inzittenden
Kortom, moet de autonome auto zo geprogrammeerd zijn dat het altijd diens inzittenden maximaal beschermt? Of moet er rekening worden gehouden met het minst aantal slachtoffers? En moet er dan nog een onderscheid zijn tussen zwangere vrouwen, kinderen, hoogbejaarde weggebruikers en een overige categorie? Het zijn morele kwesties waar autofabrikanten en regulerende instanties het hoofd over breken. Bijkomende vraag is: wie bepaalt uiteindelijk de veiligheidsinstellingen- en voorkeuren van de autonome auto? Is dat de overheid, de fabrikant, of de consument zelf. Moeten de inzittenden van de autonome auto zelf kunnen selecteren of de auto hun levens redt, of hen opoffert om anderen te redden?
Opofferen
Onderzoekers verbonden aan het Massachusetts Institute of Technology (MIT) legden dit opofferings- dilemma voor aan hun respondenten. Zo vroegen ze onder meer wat een autonome auto zou moeten doen in het geval dat er tien levens gered zouden kunnen worden door de autonome auto en diens enige inzittende te laten afbuigen en verongelukken. Een overgrote meerderheid (76 procent) koos – niet geheel onverwacht - voor het lot van enige inzittende. Hoe groter het aantal mogelijke slachtoffers, hoe vaker voor het opofferings-scenario werd gekozen. Zelfs als er meerdere inzittenden in het spel waren, werd nog steeds door meer dan de helft van de respondenten gekozen om de groep van tien personen (of meer) het ongeval te laten overleven en de inzittenden niet.
Praktijk
Tot zover de theorie. Later in het onderzoek werd namelijk gevraagd of zij een autonome auto zouden aanschaffen waarbij de fabrikant dergelijk instellingen (de grootste groep overleeft) zou voorprogrammeren. De meeste respondenten antwoorden dat zij een dergelijke auto niet zouden kopen. De autonome auto moet allereerst haar inzittenden beschermen, was de redenatie.
Met deze uitkomsten zijn de autobranche en de regulerende instanties weer aan zet. Want de veiligste autonome auto - de auto die de minste slachtoffers maakt - lijkt minder verkocht te worden dan een model dat altijd prioriteit biedt aan de veiligheid van de kopers; de inzittenden.
Beeld: Iyad Rahwan
