Zelfrijdende auto en de kerstgedachte

In deze tijd van het jaar hoor je geregeld “kerst is denken aan anderen”. Een mooie gedachte, waar niet altijd uitvoering aan wordt gegeven. Je hoort ook geregeld “zelfrijdende auto’s zijn veiliger dan menselijke besturing”. Een mooie gedachte, maar de vraag is: veiliger voor wie? Voor de inzittende, of ‘denkt’ de auto ook aan anderen?

Nog even en de zelfrijdende auto is een normaal verschijnsel in het straatbeeld. De introductie van zo’n revolutionaire ontwikkeling brengt nieuwe juridische vraagstukken met zich mee. Vorige week gaven Wouter Pors en Thijs van den Heuvel een lezing over dit onderwerp tijdens de eerste Legal Tech Snack van Bird & Bird. Verschillende onderwerpen zijn aan bod gekomen: technologische ontwikkelingen als de CHAdeMO stekker, LiDAR en 5G en manieren om technologie te beschermen en te delen (bijvoorbeeld in patent pools). Ook was er aandacht voor ontwikkelingen in wet- en regelgeving en mogelijke aansprakelijkheid bij ongelukken of verkeersovertredingen. En wat gebeurt er met data die deze auto’s registeren en hoe staat het met onze privacy? Ten slotte is het morele dilemma van de zelfrijdende auto behandeld: moet een zelfrijdende auto voorrang geven aan de veiligheid van anderen boven de veiligheid van de inzittenden?

De zelfrijdende auto moet denken aan anderen? 

Iedereen kent waarschijnlijk het “trolley probleem”. In de klassieke uitvoering rijdt een trein (of trolley) over een spoor. Vijf mensen zijn vastgebonden op het spoort dat de trein zal volgen. Maar er is ook een wissel, die bij omzetting de trein naar een anderd spoor zal sturen. Op dit spoort ligt één persoon vastgebonden. Jij bedient de wissel. Wat doe je? Red je de vijf mensen ten koste van die ene persoon? Is er een verschil tussen passieve betrokkenheid bij de dood van vijf mensen en een actieve handeling waardoor één persoon komt te overlijden?

Er zijn vele varianten op dit probleem denkbaar. De vijf mensen zijn allen moordenaars, de ene persoon is een medisch onderzoeker met een nobelprijs die belangrijk onderzoek doet naar een dodelijke ziekte. Kan en mag je het leven van de een hoger waarderen dan het leven van een ander?

Ook in het verkeer moeten mensen soms keuzes maken. De remmen van de auto blokkeren tijdelijk en er zijn twee opties. Rechtdoor blijven rijden, maar dan is het raken van een voetganger onvermijdelijk. Óf de auto de muur inrijden, waarmee de voetganger weliswaar wordt gered, maar de bestuurder er zeer slecht van afkomt. In een splitsecond maakt een menselijk bestuurder een afweging. Bij zelfrijdende auto’s moet een programmeur lang van te voren een weloverwogen beslissing nemen.

Recent onderzoek, gepubliceerd in Science, wijst uit dat veel mensen weliswaar positief staan tegenover zelfrijdende auto’s die ‘denken’ aan anderen (ten koste van de veiligheid van de inzittenden), maar dat ze daar niet zelf in zouden willen rijden. Ze zouden ook tegen wet- en regelgeving zijn die ‘zelfopoffering’ verplicht zou stellen. Kortom, de meeste mensen hopen dat anderen wél voor een zelfrijdende auto kiezen die het publiek belang voorop stelt, maar zelf zouden ze afzien van de aankoop van zelfrijdende auto’s als de veiligheid van de passagiers geen prioriteit zou hebben. Vanuit commercieel oogpunt lijkt het dus verstandiger auto’s zo te programmeren dat ze de veiligheid van de inzittenden voorrang geven.

Naast het artikel in Science heeft MIT ook de “Moral Machine” gepubliceerd. Op deze website worden verschillende morele dillema’s getoond waar een zelfrijdende auto moet kiezen tussen twee kwaden. Het is ook mogelijk om eigen scenario’s te creëren. Probeer het zelf. Wij zijn benieuwd, kiezen jullie deze kerst voor jezelf of voor anderen?

Aansprakelijkheid

Welke keuze je ook maakt, de scenario’s van de Moral Machine leiden steevast tot (dodelijke) ongelukken. Wie is daarvoor aansprakelijk?  In Nederland geldt de algemene norm dat de bestuurder van de auto aansprakelijk is. Maar de wetgever is er daarbij altijd van uitgegaan dat een mens ook daadwerkelijk de uiteindelijke controle over de auto heeft. In geval van zelfrijdende of semi-zelfrijdende voertuigen kan de aansprakelijkheid – naast de bestuurder of bezitter van de auto – ook komen te liggen bij de fabrikant van de auto of bijvoorbeeld de producent van de hardware, software en/of de aanbieder van de elektronische communicatienetwerken – zowel van de auto zelf als van andere auto’s en elektronische verkeersdiensten. Een aanpassing van wet- en regelgeving lijkt onvermijdelijk en op Europees en internationaal niveau wordt daar al enige tijd over onderhandeld. Daarnaast zullen verzekeraars en makelaars een belangrijke rol spelen. Zij zullen zich waarschijnlijk in toenemende mate gaan richten op bedrijven die betrokken zijn bij de productie of exploitatie (Uber-achtige diensten) van zelfrijdende auto’s, maar de risico’s zijn moeilijk in te schatten en historische schadedata ontbreken. Dat maakt goede productontwikkeling en premiestelling lastig. Ook is het niet ondenkbaar dat verschillende fabrikanten zelf verzekeringen zullen gaan faciliteren, uiteraard binnen de grenzen van de financiële regulering en privacyregels, daarbij geholpen door de enorme hoeveelheden data die zij verzamelen over verkeerssituaties en risico’s.

Meer weten of de juridische aspecten van zelfrijdende auto’s? Neem contact op met Wouter Pors of Evelyn Tjon-En-Fa