Technology31.10.2018

Hoe moeten zelfrijdende auto’s beslissen over leven en dood?


Fascinerend onderzoek laat zien dat het uitmaakt wie (en waar) je dat vraagt

Het is de discussie die steeds maar weer terugkomt als je praat over zelfrijdende auto’s en andere voertuigen. The Trolley Problem, zoals de theoretische schets van wat te doen bij een onvermijdbaar ongeluk heet, wordt er steeds bijgehaald maar in de realiteit moeten zelfrijdende voertuigen straks met veel meer variabelen rekening houden. Dat betekent dat die systemen straks een moreel kompas nodig hebben. Als de remmen het niet doen en er zitten twee passagiers in de auto, moet de auto dan doorrijden en vijf mensen neermaaien of zichzelf in de berm rijden met als vermoedelijke uitkomst twee dode passagiers?

Lastige vragen, die door onderzoekers van het MIT Media Lab in kaart zijn gebracht via hun site Moral Machine. Daarop staan allerlei scenario’s en je kunt als bezoeker steeds kiezen tussen twee kwaden. Red je het kind of de bejaarde? De manager of de dakloze?Twee daklozen? Één man of twee vrouwen? Drie honden of een mens? Allemaal ‘leuk’ om over na te denken en dat betekent dat het lab inmiddels bijna veertig miljoen (!) beslissingen gemaakt door 2,3 miljoen mensen uit 233 landen heeft kunnen analyseren. Wat blijkt? Wie je redt in verschillende scenario’s heeft veel te maken met waar je woont en dus de cultuur waar je onderdeel van uitmaakt.

West, Oost en Zuid kiezen anders

De verschillen tussen de landen op basis van de mensen die het onderzoek hebben ingevuld is vrij groot. De interactieve kaart laat je een land kiezen en daarnaast kijken of er verschillen zijn met een ander land. Blijkbaar zijn er in Venezuela ten opzichte van Nederland de grootste verschillen in opinie. Zo is de bereidheid om de status van een persoon mee te nemen daar vele male groter (92 procent vond dat belangrijk) dan bij ons, net zoals men het daar belangrijker vindt om vrouwen te sparen ten opzichte van ons. Nederlanders hechten dan weer veel meer waarde aan het in leven houden van mensen ten opzichte van dieren. Ook vinden we het vaak beter om niets te doen, terwijl men daar in elk geval íets wil doen, wat de uitkomst ook moge zijn. Zo zijn er allerlei aspecten die meegeteld worden, al is dat niet meteen duidelijk als je de test aan het doen bent.

Dat heeft dus alles te maken met waarden en normen: in Nederland en veel andere Westerse landen maakt het meer mensen uit of je de verkeersregels ook hebt opgevolgd, terwijl dat in de armere landen niet als heel belangrijk wordt gezien. De mate van ongelijkheid in een land is blijkbaar een goede indicator voor hoe belangrijk status wordt gezien bij het redden van levens. Hoe ongelijker, hoe meer mensen met status beschermd worden. In landen als Zweden is het dan weer precies andersom, en heb je als executive net zoveel kans als een dakloze om doodgereden te worden door een zelfrijdende auto.

Waar is iedereen het wel over eens?

Ondanks al die verschillen – waar hier nog wat dieper op wordt ingegaan – zijn er echter ook overeenkomsten. De meeste mensen zijn het er over eens dat een auto beter een mens kan sparen dan een dier, dat het beter is om twee mensen te laten overleven dan eentje en dat er bij een keuze tussen jong en oud moet worden gekozen voor de mensen die hun leven nog voor zich hebben. Daarna wordt het wat rommeliger, maar misschien is dat voor dit moment nog niet zo’n probleem.

De onderzoekers denken dat er uiteindelijk verschillende ethische programma’s moeten komen die de cultuur van de plek waar een auto rijdt meeneemt in de besluitvorming. Daar zitten ook wel wat haken en ogen aan (wat als ik met mijn ‘bij rood oversteken is vette pech, voetganger’ zelfrijdende auto uit Nederland bij een ongeluk betrokken raak terwijl ik naar Italië ben gereden?) maar het loopt vooral nog te ver voor de technologische mogelijkheden van zelfrijdende auto’s uit.

Zo gaat een zelfrijdende auto het nog lang niet zien. Beeld: Moral Machine
Zo gaat een zelfrijdende auto het nog lang niet zien. Beeld: Moral Machine

Kiezen zonder alle informatie

Als je ziet hoe zelfrijdende auto’s op dit moment de wereld zien is het nog niet in de buurt van de schematische voorbeelden die we in de test zien. Een auto kan niet zien wie er jong, oud, van hoge status of dik is en of er sprake is van katten of honden. Een auto ziet vormen of andere auto’s (met daarin een onbekend aantal passagiers) en moet dus op basis daarvan beslissingen gaan maken. Natuurlijk zou er een hele hoop van die informatie via een AI-systeem met beeldherkenning gedaan kunnen worden, maar die systemen redden het niet om in de enkele milliseconden die bij een storing of ongeluk zijn om een beslissing te nemen de nodige data aan te leveren. Een zelfrijdende auto moet een vaste set regels aan boord hebben die op elk moment in een flits gevolgd kunnen worden.

Dan is er weinig anders mogelijk dan simpelweg het recht van de meeste te kiezen: liever één persoon in de auto de berm in, dan twee personen aanrijden. Zo mogelijk tegen een andere auto of object aanknallen met een zo laag mogelijke kans op overlijden van de passagier(s). Er voor kiezen om niet de andere weggebruiker omver of aan te rijden, behalve misschien als die er niet had mogen zijn volgens de verkeersregels. Daar valt wel het een en ander over te beslissen, maar een groot gedeelte van de geavanceerde vragen die door dit onderzoek gesteld worden zijn misschien pas over 30 jaar relevant, als de technologie in zelfrijdende auto’s goed genoeg is om een weloverwogen beslissing te maken. Tot die tijd is het voornamelijk interessant om te zien wie wat waar in leven wil houden.

[Afbeeldingen © Burak K – Pexels]

Patrick Smeets

Game-enthousiast, tech blogger en presentator. Was ooit rockster. Local celebrity in Limburg maar ziet graag veel van de wereld. Er zijn niet genoeg kattenGIFjes in de wereld.

...

Verder lezen over Technology

Man creëert een werkende e-bikebatterij van weggegooide vapes

Vapen is in Nederland mede door wet- en regelgeving niet zo populair, maar in andere landen wel. Deze creatieveling maakte er een e-bikebatterij van.

Technology05.11.2024

Man creëert een werkende e-bikebatterij van weggegooide vapes

10 momenten dat The Sphere in Las Vegas er fantastisch uitzag

Je kunt The Sphere natuurlijk naast de Ziggodome leggen en dan zeggen dat het allebei gebouwen zijn met een visueel effect, maar dat is toch niet helemaal hetzelfde, he? Dit zijn 10 momenten waarop The Sphere er fantastisch uitzag.

Technology19.10.2024

10 momenten dat The Sphere in Las Vegas er fantastisch uitzag

AI-toekomst schudt op zijn grondvesten met kelderende Big Tech-aandelen

Big Tech zit in de problemen. In een paar dagen tijd zijn de grootste techbedrijven ter wereld honderden miljarden kwijt.

Technology06.08.2024

AI-toekomst schudt op zijn grondvesten met kelderende Big Tech-aandelen

De Nijmeegse Vierdaagse start met een digitale vluchtstrook

Er doen meer dan 45.000 mensen mee met de Vierdaagse qua wandelen, maar door de Vierdaagse-feesten is het nog veel drukker in de stad Nijmegen.

Technology15.07.2024

De Nijmeegse Vierdaagse start met een digitale vluchtstrook

Man dacht Iron Man te zijn maar zijn eigen EHBO faalt

Supergaaf hoe Iron Man met magneten werkt, maar dat is niet iets dat je thuis moet proberen. Dat deed een man uit Wuhan helaas wel.

Technology11.07.2024

Man dacht Iron Man te zijn maar zijn eigen EHBO faalt

De ruimte ruikt naar… rotte eieren?

We hebben het vaak over de oneindigheid van de ruimte, de temperatuur en natuurlijk het feit dat er geen geluid bestaat. Maar wat we ons misschien niet vaak genoeg hebben afgevraagd is: hoe ruikt de ruimte eigenlijk?

Technology09.07.2024

De ruimte ruikt naar… rotte eieren?

In Brabant is het aantal startups met 22 procent toegenomen

Het aantal Brabantse startups is sinds 2020 spectaculair gegroeid. Met 1462 startups heeft Brabant nu de op twee na grootste startup-populatie van alle Nederlandse provincies. Dit is een stijging van bijna 22 procent ten opzichte van 2020, toen er 1200 startups waren. Deze cijfers komen naar voren uit het vandaag gepubliceerde Birch-rapport, dat in opdracht van startuporganisatie Braventure is uitgevoerd.

Startups27.06.2024

In Brabant is het aantal startups met 22 procent toegenomen

Formule 1-auto’s in 2026 worden kleiner en duurzamer

Het is voor de tweede keer sinds 2022 dat de FIA nieuwe regels bepaalt voor de auto's. Wat vooral opvalt is dat de auto’s kleiner worden.

Automotive07.06.2024

Formule 1-auto’s in 2026 worden kleiner en duurzamer

Verder lezen over Toekomst

De toekomst van leren: KLM en de impact van AI

Tijdens een Communitydag georganiseerd door NPULS sprak Timothy Druiventak van KLM.  Zijn lezing ging over over de rol van leren in het oplossen van zakelijke problemen bij KLM, met name in de context van technologie en kunstmatige intelligentie (AI).

Artificial Intelligence29.10.2024

De toekomst van leren: KLM en de impact van AI

Crikorama verkozen tot winnaar James Dyson Award 2024

Crikorama is een compact thuissysteem om zelf krekels te kweken. De levenscyclus van krekels kan volledig worden beheerd door het systeem waardoor het een duurzaam en milieuvriendelijk alternatief biedt voor vlees. De uitvinder van het systeem wint hiermee de James Dyson Award 2024 in Nederland.

Technology11.09.2024

Crikorama verkozen tot winnaar James Dyson Award 2024

zelf krekels kweken!
Challenge: Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst

In de kassen van Wageningen University & Research in Bleiswijk zijn vijf teams van over de hele wereld begonnen aan de volgende fase van de Autonomous Greenhouse Challenge. De opdracht? Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst.

Technology04.09.2024

Challenge: Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst

Dit was het VINT Symposium van 2024

Voor de 30e keer was er het VINT Symposium in het Spant! te Bussum. Dit jaar stond het thema 'Echt Slim' centraal, wat een interessant perspectief bood op de rol van intelligentie in technologie. Elk jaar biedt het symposium de kans om nieuwe technologische trends en inzichten te verkennen, en dit jaar was geen uitzondering.

Events04.07.2024

Dit was het VINT Symposium van 2024

met als thema 'Echt Slim'
Merganser: een Offshore Floating Solar platform in de Noordzee

Met steun van energieproducent RWE heeft het Nederlands-Noorse bedrijf SolarDuck haar Offshore Floating Photo-Voltaic (OFPV) platform geïnstalleerd - een op zee drijvend platform dat zonne-energie opwekt.

Nieuws04.07.2024

Merganser: een Offshore Floating Solar platform in de Noordzee

In Brabant is het aantal startups met 22 procent toegenomen

Het aantal Brabantse startups is sinds 2020 spectaculair gegroeid. Met 1462 startups heeft Brabant nu de op twee na grootste startup-populatie van alle Nederlandse provincies. Dit is een stijging van bijna 22 procent ten opzichte van 2020, toen er 1200 startups waren. Deze cijfers komen naar voren uit het vandaag gepubliceerde Birch-rapport, dat in opdracht van startuporganisatie Braventure is uitgevoerd.

Startups27.06.2024

In Brabant is het aantal startups met 22 procent toegenomen

Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis

Eerder deze maand organiseerde het Jeroen Bosch Ziekenhuis (JBZ) een symposium getiteld ‘Artificial Intelligence’. Dit evenement was speciaal bedoeld voor de medewerkers van het ziekenhuis om hen bewust te maken van de mogelijkheden van Artificial Intelligence (AI) en de impact ervan op hun dagelijkse werk en regionale samenwerking.

Artificial Intelligence26.06.2024

Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis

De eerste legale E-step in Nederland: UrbMob Kick&Go

Steeds vaker zie je in Nederland op straat mensen (met name jongeren) met een e-step voorbij komen. E-step zijn dan ook al in grote getale verkrijgbaar. Maar helaas riskeer je daarmee vaak wel de kans op een boete. Of er...

Gadgets20.06.2024

De eerste legale E-step in Nederland: UrbMob Kick&Go

Verder lezen over Zelfrijdende auto

Tesla’s robtaxi Cybercab is er en lijkt heel futuristisch

Cybercab is een zelfrijdende taxi die moet gaan concurreren met onder andere Uber, maar ook het openbaar vervoer. 

Automotive11.10.2024

Tesla’s robtaxi Cybercab is er en lijkt heel futuristisch

De Tesla Cybercab wordt helemaal niet zo duur

Tesla staat op het punt om zijn Cybercab te onthullen in de studio’s van Warner Bros. De robotaxi zou in oktober worden onthuld na enige vertraging.

Automotive24.09.2024

De Tesla Cybercab wordt helemaal niet zo duur

Robottaxi’s blijken lang niet zulke brokkenpiloten als mensen

Robottaxi's blijken vrij capabel: robottaxi’s zouden 73 procent minder ongelukken veroorzaken dan auto’s met menselijke chauffeur.

Automotive11.09.2024

Robottaxi’s blijken lang niet zulke brokkenpiloten als mensen

Zelfrijdende taxi’s in San Francisco blijven ‘s nachts maar toeteren

Zelfrijdende taxi's doen het best goed in San Francisco, maar wat deze bolides in hun vrije tijd doen maakt sommige inwoners van de stad helemaal gek.

Automotive19.08.2024

Zelfrijdende taxi’s in San Francisco blijven ‘s nachts maar toeteren

Tesla stelt de aankondiging van zijn Robotaxi uit

Tesla lijkt het met zijn Robotaxi niet vlekkeloos te vergaan: de geplande aankondiging van de vloot wordt verplaatst.

Automotive12.07.2024

Tesla stelt de aankondiging van zijn Robotaxi uit

Zijn zelfrijdende auto’s inderdaad veiliger dan menselijke chauffeurs?

Er zijn dan minder ongelukken en je komt sneller op je bestemming aan met een zelfrijdende auto. Klopt dat?

Automotive20.06.2024

Zijn zelfrijdende auto’s inderdaad veiliger dan menselijke chauffeurs?

Eerste race met zelfrijdende race-auto’s was uiterst vreemd

Een race zoals de Formule 1, maar dan iets langzamer, iets minder auto's en zonder coureurs. Hoe? De zelfrijdende race-auto's uit de A2RL.

Automotive29.04.2024

Eerste race met zelfrijdende race-auto’s was uiterst vreemd

Deze zelfrijdende auto kan ook autonoom driften

Een auto die uit zichzelf kan rijden en beslissingen neemt op de weg is tegenwoordig al niet eens meer zo bijzonder, maar eentje die daarbij ook nog kan driften, zeker wel. Geely toont een testauto die zich goed staande...

Automotive29.03.2024

Deze zelfrijdende auto kan ook autonoom driften