Verkeersrecht en Autonome Voertuigen: “zoek de fout” wordt problematisch
Mr. dr. R.W. de Bruin *
1. Inleiding & casus
Als men de te verwachten innovaties binnen de voertuigtechnologie beziet, lijkt autonomie het sleutelwoord. In de Europese Unie (en ver daarbuiten) richten onder meer wetgevers1) en de autofabrikanten hun pijlen op het doen ontwikkelen en toepassen van kunstmatige intelligentie om daarmee het rijden verregaand te automatiseren.
De Amerikaanse Society of Automotive Engineers heeft de stappen in de (te verwachten) autonomisering gerubriceerd in een standaard.2) De SAE onderscheidt zes stappen, van level 0 “no automation” tot level 6 “full automation”. De tussenliggende stappen zijn: 1, “driver assistance” die de situatie beschrijft waarin enkele rijtaken kunnen worden overgenomen door het voertuig; 2, “partial automation” waarbij versnellen, remmen en sturen gedeeltelijk door het voertuig wordt gedaan maar de bestuurder te allen tijde de controle moet kunnen overnemen; 3, “conditional automation” waarbij sommige aspecten van het rijden volledig worden uitgevoerd door het voertuig (zoals rijden op de snelweg en in de file), en een bestuurder af en toe nog zal moeten ingrijpen; 4, “high automation” waarbij in principe alle rijtaken door het voertuig zelf kunnen worden uitgevoerd, maar een bestuurder desgewenst nog zou kunnen ingrijpen.
Toenemende automatisering leidt op den duur dus tot het stapsgewijs afnemen van de macht van de autobestuurder om diens voertuig te besturen. Uiteindelijk zouden de technologische ontwikkelingen zelfs moeten resulteren in volledig autonome voertuigen (AV's), die niet eens meer hoeven te zijn uitgerust met een stuur en gas- of rempedaal. Innovatie op het gebied van AV's zou diverse problemen kunnen helpen oplossen, onder meer ten aanzien van congestie, CO2-uitstoot3), gebruik van fossiele energie en verkeersonveiligheid – zo’n 95% van de verkeersongevallen wordt immers veroorzaakt door menselijke fouten.4)
Hoewel het de vraag is wanneer “level 5” en daarmee de verwachte veiligheidsverbeteringen bereikt worden, zal zelfs die technologie niet kunnen voorkomen dat er AV-ongelukken plaatsvinden. In dit artikel beschouw ik aan de hand van een casus waarbij een AV-ongeval plaatsvindt, welke actoren al dan niet aansprakelijk zouden kunnen zijn uit hoofde van de toepassing van de huidige regels inzake de risicoaansprakelijkheid voor gemotoriseerden, onrechtmatige daad en productaansprakelijkheid.5) Daarna wordt bezien welke invloed de te verwachten risico- c.q. aansprakelijkheidsverdeling zou kunnen hebben op AV-ontwikkelaars enerzijds, en potentiële AV-verkeerslachtoffers anderzijds. Tot slot schets ik enkele contouren voor het aanpassen van de huidige regels, om (spoiler alert) tot een verbetering te komen van die regels, gelet op de waarschijnlijke disbalans in de aansprakelijkheidsverdeling tussen consumenten, AV-inzittenden en producenten. Daarbij besteed ik aandacht aan de in Europees verband aanbevolen aanpassingen aan de productaansprakelijkheidsregels en – met name – het EP-voorstel inzake civiele aansprakelijkheid voor kunstmatige intelligentie.6) De analyses in dit artikel baseer ik op mijn proefschrift, waarin ik onderzoek heb gedaan naar de wisselwerking tussen regulering van aansprakelijkheid en privacy, innovatie, en maatschappelijke acceptatie van innovatie op gebied van autonome voertuigen.7)
Casus:
· Het is 4 uur ’s nachts;
· Een AV (level 5, dus volledig autonoom) wijkt te laat uit en schampt achtereenvolgens twee fietsers en botst vervolgens op een andere auto;
· De fietsers hebben letsel en schade aan hun rijwielen;
· De inzittende van de andere auto heeft licht beenletsel, en flinke beschadigingen aan haar voertuig;
· De AV-inzittende, tevens voertuigeigenaar, komt met de schrik vrij, maar er is aanzienlijke schade aan de auto;
· Het is bekend dat de fietsers door rood reden, terwijl de AV “groen licht had”;
· Ook bekend is dat de AV op eigen initiatief een software-update had doorgevoerd aan de “crash-avoidance-module” net voorafgaand aan het ongeluk, dus zonder dat de autoproducent of de voertuigeigenaar daar enige invloed op heeft uitgeoefend;
· De AV-producent is gevestigd in de EU.
2. Risicoaansprakelijkheid gemotoriseerden
De fietsers kunnen de AV-eigenaar aanspreken op grond van artikel 185 Wegenverkeerswet (WVW), dat zeer waarschijnlijk ook van toepassing zal zijn op ongevallen met autonome voertuigen.8) Dat artikel regelt in geval van ongelukken op de openbare weg, dat de eigenaar (of houder) van een motorrijtuig dat bij het ongeval betrokken is, risico-aansprakelijk9) is jegens niet-gemotoriseerde slachtoffers – behoudens overmacht. Als aansprakelijkheid gevestigd kan worden, komen letselschade en zaakschade voor vergoeding in aanmerking, met uitzondering van schade “aan loslopende dieren, een ander motorrijtuig in beweging of aan personen en zaken die daarmee worden vervoerd”.10) Uit deze hoofdregel volgt dus dat de fietsers de AV-eigenaar kunnen aanspreken, maar dat die route niet openstaat voor de eigenaar van de andere auto.11)
Hoewel het relatief eenvoudig lijkt om de aansprakelijkheid te vestigen aan het adres van de AV-eigenaar, schetst de casus wel enkele punten die de AV-eigenaar zou kunnen opvoeren in een overmachtsverweer. Die punten zijn gelegen in de omstandigheid dat de fietsers een rood verkeerslicht hebben genegeerd en het feit dat er mogelijk een verkeerde software-update heeft plaatsgevonden.12) Uit vaste rechtspraak volgt dat overmacht niet gemakkelijk aannemelijk kan worden gemaakt, zeker niet als een slachtoffer de leeftijd van 14 jaar nog niet heeft bereikt.13) Voor “oudere” slachtoffers geldt dat er alleen sprake van overmacht kan zijn als de aangesprokene rechtens geen enkel verwijt kan worden gemaakt, en (dus) het ongeluk volledig eens anders fout is, die zó onwaarschijnlijk was dat de aangesproken bestuurder daar redelijkerwijs geen rekening mee behoefde te houden.14) Deze regels indachtig lijkt het niet waarschijnlijk dat de bestuurder een succesvol beroep kan doen op overmacht vanwege het negeren van het rode licht door de fietsers,15) of vanwege het mogelijke defect aan zijn crash-avoidance module. Nota bene: het is denkbaar dat de toepasselijkheid van het overmachtsverweer verder zal worden beperkt naar mate voertuigen intelligenter en autonomer worden. Met Tjong Tjin Tai en Boesten deel ik de opinie dat AV's beter in staat zouden moeten zijn om gevaar dat buiten het voertuig ligt te herkennen, daarop te anticiperen en ongelukken te voorkomen, waardoor er dus minder ruimte komt voor het succesvol in stelling brengen van het overmachtsverweer.16)
Wat betreft het bepalen van de omvang van de schadevergoeding gelden de 50- en de 100%-regel die uit de vaste jurisprudentie volgen. Het wettelijke uitgangspunt is dat in beginsel alle schade die redelijkerwijs toerekenbaar is dient te worden vergoed door degene die uit hoofde van artikel 185 WVW aansprakelijk is17), tenzij bijvoorbeeld bewezen kan worden dat het slachtoffer “eigen schuld” had aan het ontstaan van het ongeval.18) In dat geval dient, ingevolge de hoofdregel van artikel 6:101 lid 1 BW, de vergoedingsplicht te worden verminderd naar rato van het aandeel eigen schuld aan het ontstaan van het ongeval (ook hier dient dus een causaliteitstoets plaats te vinden), voor zover dat billijk is, gelet op de “uiteenlopende ernst van de gemaakte fouten of andere omstandigheden van het geval” (in de literatuur wordt dit wel de billijkheidscorrectie genoemd). Deze hoofdregel is in verregaande mate uitgewerkt in de verkeersaansprakelijkheidsjurisprudentie. Uit die jurisprudentie volgt onder meer dat het Betriebsgefahr dat inherent is aan het doen rondrijden van motorrijtuigen, ertoe leidt dat het vrijwel nooit billijk wordt geacht om een hoger eigen-schuld percentage dan 50% vast te stellen, ook al leverde de gedraging van het slachtoffer een feitelijk groter aandeel in het ontstaan van het ongeval.19) Als het slachtoffer jonger is dan 14 jaar, geldt de 100%-regel: in dat geval komt in beginsel alle schade voor vergoeding in aanmerking en speelt eigen schuld geen rol20) – behoudens hoogst uitzonderlijke gevallen waarin sprake is van opzet, of aan opzet grenzende roekeloosheid.21) Terug naar de casus: de fietsers kunnen waarschijnlijk met succes de AV-eigenaar aanspreken voor vergoeding van de geleden letsel- en zaakschade. Het is echter goed voorstelbaar dat het negeren van het rode licht mede heeft geleid tot het ontstaan van het ongeluk en de schade. Dit zou (tenzij zulks onbillijk blijkt) kunnen leiden tot een maximale korting van 50% op de door de AV-eigenaar te betalen schadevergoeding, ervan uitgaande dat de slachtoffers ouder zijn dan 14 jaar.
3. Onrechtmatige daad
Waar artikel 185 WVW voor de “andere voertuigeigenaar” geen grond kan vormen om een aansprakelijkstelling op te funderen, dient te worden bezien of het algemene vangnet van artikel 6:162 BW soelaas biedt. Om met succes een beroep op de generieke onrechtmatige daad te doen, is het nodig om te stellen en te bewijzen dat er sprake was van a) een normoverschrijding22); die b) kan worden toegerekend aan de overtreder; c) schade; en d) causaliteit tussen de normoverschrijding en de geleden schade.
Het aantonen van een normschending door de AV-eigenaar is lastig. De enige twee aanknopingspunten die de casus biedt, zijn het uitwijken en de software-update aan de crash-avoidance-module. Onderzocht moet worden of het uitwijken niet had mogen gebeuren en/of die update voorkomen had moeten worden, indien die ertoe heeft geleid dat de AV daardoor op een wijze is gaan rijden die in strijd is met de maatschappelijke zorgvuldigheid23), hetgeen waarschijnlijk een diepgravende technische analyse vergt. Wat de update betreft: het ging hier dus om een “gepushte” update, en is het maar de vraag a) in hoeverre de AV-eigenaar had behoren te voorzien dat het hier zou gaan om een foutieve update, en b) of deze überhaupt had kúnnen belemmeren dat de update werd doorgevoerd. De jurisprudentie biedt in dit geval weinig specifieke aanknopingspunten nu de daarin geformuleerde zorgvuldigheidsregels die door een bestuurder in acht dienen te worden genomen, met name zijn gericht op het gedrag van medeweggebruikers, en (nog) geen rekening houden met de steeds verdergaande autonomisering.24) De huidige zorgvuldigheidsnorm is overigens wel streng gesteld in de jurisprudentie25), en behelst mede dat er te allen tijde rekening moet worden gehouden met fouten van andere verkeersdeelnemers, behoudens fouten die zo onwaarschijnlijk waren dat daarmee in redelijkheid geen rekening diende te worden gehouden.26)
Ofschoon het dus lastig zal zijn om een normschending te distilleren uit de omstandigheden van de casus, zij opgemerkt dat de toerekenbaarheid waarschijnlijk een minder grote hobbel zal blijken bij een aansprakelijkstelling. Het volstaat dat kan worden aangetoond dat de normschending “rechtens verwijtbaar” is, zo volgt uit onder meer het Meppelse Ree-arrest van de Hoge Raad.27) Het stellen en bewijzen van causaliteit tussen de eventuele normschending en de geleden schade levert grotere problemen op.28) Ook daarvoor geldt dat er technisch onderzoek dient plaats te vinden aan de crash-avoidance-module om de csqn-relatie te kunnen aantonen – wat niet mee zal vallen gelet op het zelflerende karakter van de ingebakken algoritmes, nog afgezien van de andere factoren (met name het gedrag van de fietsers) die tegen eventueel causaliteitsbewijs zouden kunnen worden ingebracht.
De conclusie is dat het niet voor de hand ligt dat de AV-eigenaar op de voet van artikel 6:162 BW aansprakelijk kan worden gesteld29), en dat waarschijnlijk de “andere voertuigeigenaar” ook hier achter het net vist.
4. Productaansprakelijkheid
De Europese productaansprakelijkheidsrichtlijn uit 198530) is in Nederland geïmplementeerd in artikel 6:185 en volgende BW. Een producent is aansprakelijk voor de schade die wordt veroorzaakt door een gebrek in zijn product.31) Het slachtoffer dient ingevolge artikel 6:188 BW het gebrek, de schade en het causale verband te bewijzen.
Artikel 6:186 eerste lid BW stipuleert dat een product gebrekkig is “indien het niet de veiligheid biedt die men daarvan mag verwachten”, gelet op alle relevante omstandigheden maar met name a) de presentatie van het product; b) het redelijkerwijs te verwachten gebruik daarvan; en c) het tijdstip waarop het product in het verkeer werd gebracht. Hoewel het nog de vraag is of AV-besturingssoftware in alle omstandigheden als “product” kan worden aangemerkt32), lijkt de communis opinio dat als software (in casu wellicht de crash-avoidance-module) tot gevolg heeft dat de hardware gebrekkig wordt, er sprake kan zijn van toepasselijkheid van het productaansprakelijkheidsregime.33)
Om te bepalen of er sprake is van een gebrek, dient er gekeken te worden naar de objectieve, redelijke verwachtingen bij het algemene publiek.34) Wat dat betekent voor de veiligheid van AV's is overigens nog niet duidelijk. Er kan worden gedebatteerd over de mate van redelijkerwijs te verwachten veiligheid. Moet een AV beter zijn en veiliger rijden dan een excellente menselijke bestuurder35), of volstaat het als een AV even veilig rijdt als een gemiddelde bestuurder?36) Zolang dit geen uitgemaakte zaak is, zal het lastig zijn om te voorspellen of een mogelijk kapotte crash-module de hele AV gebrekkig maakt. De vraag of er inderdaad sprake was van een fout in de crash-avoidance-module kan overigens – wederom – niet worden beantwoord zonder dat er grondig technisch onderzoek wordt verricht aan de software, in te stellen door of vanwege de slachtoffers die hun schade willen verhalen op de AV-producent.
Mocht een gebrek kunnen worden bewezen, dient vervolgens de causale relatie tussen het gebrek en de schade te worden aangetoond. Ook hier dient een csqn-toets te worden uitgevoerd. De vraag is dan of de schade niet was ontstaan als men het gebrek wegdenkt. Dat is lastig, gegeven de omstandigheid dat de fietsers door rood reden, waardoor de AV een omtrekkende beweging moest maken. In uitzonderlijke gevallen kan de rechter te hulp schieten door bijvoorbeeld een bewijsvermoeden te hanteren, of – in hoogst uitzonderlijke gevallen – door proportionele aansprakelijkheid aan te nemen,37) maar daar mag men dus niet te gemakkelijk vanuit gaan.
De aangesproken producent heeft een heel aantal verweren dat hij in stelling kan brengen tegen een claim.38) Zo is er de mogelijkheid om een eigen-schuldverweer te voeren (bijvoorbeeld tegen de fietsers, als die hem zouden aanspreken).39) Daarnaast kan de producent aansprakelijkheid afwenden als hij kan aantonen dat “het gelet op de omstandigheden, aannemelijk is (mijn cursivering, RWdB) dat het gebrek [...] niet bestond op het tijdstip waarop hij [de producent, RWdB] het produkt in het verkeer heeft gebracht, dan wel dat dit gebrek later is ontstaan”.40) In de geschetste casus is het zeer wel denkbaar dat dit verweer opgeld doet: aannemende dat er sprake was van een vanwege de auto-update gebrekkige crash-avoidance-module, kan de producent wellicht aannemelijk maken (i.e. een lagere drempel dan het “bewijs” dat anderzijds door de slachtoffers moet worden geleverd) dat dit gebrek niet bestond toen de AV van de band afrolde en werd verkocht aan de eigenaar.41) Ook zou de producent het ontwikkelingsrisicoverweer in stelling kunnen brengen. Dat bevrijdt hem van aansprakelijkheid als “het op grond van de wetenschappelijke en technische kennis op het tijdstip waarop hij [de producent, RWdB] de AV in het verkeer bracht, onmogelijk was het bestaan van het gebrek te ontdekken”.42) Daarvoor zal de producent moeten aantonen dat het objectief onmogelijk was om het gebrek te kunnen kennen uit de beschikbare bronnen.43) Zo niet, is het denkbaar dat hij (ook) op deze grond de claim kan afschudden.
Ten aanzien van de schadeposten die onder de productaansprakelijkheidsregels voor vergoeding in aanmerking komen, moet het volgende worden opgemerkt. Letselschade wordt wel vergoed,44) maar zaakschade echter beperkt: schade aan het eigen voertuig van de AV-eigenaar komt niet voor vergoeding in aanmerking,45) en schade aan de fietsen en het voertuig van de “andere AV-eigenaar” indien de schade hoger is dan € 500,-.46)
5. Knelpunten en oplossingsrichtingen
Afgezien van de fietsers is het voor de slachtoffers van het AV-ongeluk maar zeer de vraag of de respectievelijke schades verhaald kunnen worden. Daaraan liggen diverse feitelijke en juridische onzekerheden ten grondslag. Eén van de juridische knelpunten behelst de redelijke veiligheidsverwachtingen die men mag hebben ten aanzien van AV’s (hetgeen van belang is bij het kunnen funderen van een onrechtmatige daad en een gebrek in de zin van het productaansprakelijkheidsregime). Een andere betreft de kwestie of het autonome, zelflerende karakter van de AV-algoritmes kan worden toegerekend aan een producent, of dat zulks juist tot exoneratie van aansprakelijkheid dient te leiden. In feitelijk opzicht leidt toenemende autonomie tot groeiende complexiteit aangaande onder meer het vaststellen van eventuele fouten en de schade-oorzaken. Die knelpunten leiden er in combinatie met de huidige processuele regels toe (die niet in het voordeel van de slachtoffers zijn in het geval van AV-ongelukken), dat het in feite in veel gevallen lastig zal zijn voor (gemotoriseerde) AV-slachtoffers om hun schade te verhalen.
Het tamelijk grote risico dat AV-slachtoffers met hun schade blijven zitten, zal mijns inziens niet bijdragen aan de maatschappelijke bereidheid om AV-technologie te vertrouwen en te omarmen – nog afgezien van de vraag hoe de te verwachten risicoverdeling zich verhoudt tot de fundamenten onder de regels inzake verkeersaansprakelijkheid en productaansprakelijkheid.47) Tegelijkertijd is die risicoverdeling ook ongunstig voor innovatoren die hun AV-technologie aan de man willen brengen. A contrario: het maatschappelijke vertrouwen in de veiligheid van de technologie, en in de “reparatieve capaciteiten” van het recht in het geval van AV-ongelukken zijn cruciaal voor de acceptatie van AV’s in de maatschappij, en dus de economische vooruitzichten voor de producenten daarvan.48)
De Uniewetgever heeft deze en andere AI-gerelateerde problemen scherp in beeld. Er worden op dit moment diverse suggesties gedaan om AI in algemene zin te reguleren, en om oplossingen te bieden voor (onder andere) het type problemen dat ook in dit artikel wordt geschetst voor slachtoffers van AI-gerelateerde schade in het bijzonder. Zo heeft het Europees Parlement in 2020 een verordening voorgesteld om civiele aansprakelijkheid voor AI te reguleren49), en heeft de Europese Commissie na de evaluatie van de productaansprakelijkheidsrichtlijn in 201850), een openbare raadpleging uitgevaardigd inzake “Civielrechtelijke aansprakelijkheid – Aanpassing van de regels aan het digitale tijdperk en kunstmatige intelligentie”.51) Op 28 september jongstleden heeft de EC twee nieuwe richtlijnvoorstellen uitgevaardigd. Het ene voorstel betreft een complete herziening van de productaansprakelijkheidsrichtlijn (VRPA).52) Het andere behelst de introductie van een “nieuw’ Europees aansprakelijkheidsregime voor AI (RAAI).53)
Het EP-voorstel uit 2020 behelst in essentie het reguleren van een nieuwe, EU-brede sui generis risicoaansprakelijkheid voor operators van AI-systemen.54) Het EP-voorstel maakt een onderscheid tussen “gewone”55) en “hoog-risico”56) AI-systemen. Waarschijnlijk vallen AV's onder hoog-risico AI-systemen. De operator van een hoog-risico AI-systeem is risico-aansprakelijk voor alle schade die wordt veroorzaakt door het AI-systeem en de daarmee verbonden activiteiten, toepassingen of processen57), behoudens in geval van overmacht58), en wel tot een maximum van € 2 miljoen in geval van dood of letselschade59), of € 1 miljoen in gevallen van onder andere “significante” immateriële schade, economische- en zaakschade (de “eigen” zaken van het slachtoffer niet uitgezonderd).60) De operator dient zich adequaat tegen deze risico’s te verzekeren.
Mocht de beoogde regeling ongeschonden de diverse wetgevingsstadia doorkomen, zal daarvan het resultaat ongetwijfeld zijn dat een heel aantal van de hierboven geïndiceerde problemen van AV-slachtoffers niet bewaarheid zullen worden: hun schade wordt “by default” gecompenseerd – tot op zekere hoogte. Waarschijnlijk leidt deze grofmazige oplossing echter wel tot andere problemen. Door het aansprakelijkheidsrisico integraal te beleggen bij de verzekeraar van de operator zou er bijvoorbeeld voor de verzekerde in beginsel weinig stimulans overblijven om schade te voorkomen – die is immers verplicht verzekerd – en om daarmee AI-systemen uit te rollen die zo veilig mogelijk zijn.61) Anderzijds zal het lastig zijn om aanvankelijke premies te berekenen, en zeker indachtig de potentiële risico’s ligt het voor de hand dat die niet mals zullen zijn.62) Ik kan mij voorstellen dat die premies worden verdisconteerd in de prijzen van de betreffende producten. Bovendien leidt zo’n nieuw, eigenstandig AI-aansprakelijkheidsraamwerk niet tot het oplossen van de onderliggende structurele problemen in de bestaande, maar in beginsel door de jaren heen mooi uitgebalanceerde specifieke aansprakelijkheidsregels. Hoewel die problemen aan het licht komen door de opkomst van nieuwe technologie, en de “standaardreactie” van de wetgever vaak is om dan technologie-specifieke regels te verschaffen63), is het mijns inziens beter om de bestaande regimes op een technologie-onafhankelijke, en dus toekomstbestendige wijze aan te passen.
Om die reden zouden volgens mij de bestaande regels als volgt moeten worden herzien. De aansprakelijkheid voor motorvoertuigen dient EU-breed te worden geharmoniseerd, waarbij een aangepaste versie van artikel 185 WVW als basis kan dienen.64) Die aanpassing moet erop zien dat elk slachtoffer van de risicoaansprakelijkheidsregeling gebruik kan maken: het aantonen van een fout (of gebrek) zal dan niet nodig hoeven zijn, waardoor het regime van artikel 6:162 BW65) dus geen aanpassing behoeft. Ook dient als uitgangspunt 100% van de schade voor vergoeding in aanmerking te komen, tenzij overmacht kan worden bewezen, waarmee de vergoedingsverplichting kan worden verminderd. Overmacht kan bestaan uit opzet of bewuste roekeloosheid, doordat het slachtoffer bijvoorbeeld een verplichte veiligheidsupdate niet zou hebben geïnstalleerd, of de software heeft gemodificeerd.66) Daarnaast moet, om een overmachtsverweer mee te kunnen funderen, geregeld worden dat de technische gegevens beschikbaar worden gemaakt op een wijze die bruikbaar is voor de procespartijen.67)
De Europese Commissie kiest in de RAAI voor weer een andere aanpak dan het Parlement in 2020, en lijkt het niet aan te durven om een nieuw risico-aansprakelijkheidsregime in het leven te roepen. In plaats daarvan harmoniseert de RAAI een deel van het bewijsrecht in AI-gerelateerde kwesties die volgens een nationaal (buitencontractueel) fout-aansprakelijkheidsmechanisme worden geregeld. Om te beginnen legt de RAAI een aanbieder of gebruiker van een hoog-risico AI-systeem68) dat (vermoedelijk) schade heeft veroorzaakt de verplichting op om relevant bewijsmateriaal dat hem ter beschikking staat, op verzoek van een (potentiële) eiser voor die eiser te bewaren69), en ter beschikking te stellen – na daartoe door de rechter veroordeeld te zijn.70) Daarvoor is het wel nodig dat een potentiële eiser “feiten en bewijzen overleg[t] die volstaan om de geloofwaardigheid van een vordering tot schadevergoeding te staven”.71) Ook moet de potentiële eiser eerst al het andere doen “wat redelijk is om het relevante bewijsmateriaal van de verweerder te verkrijgen”.72) Geeft een verweerder geen gevolg aan een bevel om bewijsmateriaal te bewaren of ter beschikking te stellen, moet de rechter uitgaan van het (weerlegbare) vermoeden dat “een relevante zorgvuldigheidsplicht waarvoor het gevraagde materiaal als bewijs moest dienen met het oog op de desbetreffende vordering tot schadevergoeding, niet is nagekomen”.73) Ook regelt de RAAI een (weerlegbaar) “causaliteitsvermoeden” tussen de “schuld” van een verweerder, en een gedraging (of het nalatig achterwege blijven van een gedraging) van een AI-systeem (de “systeem-output”).74) Let wel, dit betreft dus niet een vermoeden van causaliteit tussen een normschending en opgetreden schade, maar lijkt veeleer een attributievermoeden te zijn, waarbij dus de systeem-output wordt gerelateerd aan een normschending die aan de verweerder is toe te rekenen. Een dergelijk vermoeden moet worden aangenomen als aan drie voorwaarden is voldaan. Ten eerste moet de eiser aantonen (of de rechter een vermoeden ter zake aannemen) dat er een zorgvuldigheidsnorm is geschonden “die rechtstreeks bedoeld is om bescherming te bieden tegen de geleden schade”.75) Ten tweede moet het zo zijn dat “op basis van de omstandigheden van het geval [...] redelijkerwijs [kan] worden aangenomen dat de schuld de door het AI-systeem gegenereerde output of het verzuim door het AI-systeem om output te genereren heeft beïnvloed”.76) Ten derde moet de eiser hebben aangetoond dat de systeem-output de schade heeft veroorzaakt.77)
Hoewel deze bewijsregelingen een stap in de goede richting zijn voor (potentiële) AV-slachtoffers, bieden deze niet de bescherming die zou uitgaan van het risico-aansprakelijkheidsregime dat door het Europees Parlement in 2020 werd voorgesteld.
De VRPA biedt een stuk meer bescherming voor potentiële slachtoffers van gebrekkige AV's. Zonder de VRPA hier in zijn geheel te kunnen bespreken, merk ik hierna een aantal in het oog springende veranderingen op ten opzichte van de huidige productaansprakelijkheidsregels. Om te beginnen wordt de definitie van “product” behoorlijk uitgebreid, waardoor bijvoorbeeld ook “software” onder de reikwijdte valt.78) Daarnaast is er een setje nieuwe omstandigheden opgevoerd waarmee rekening moet worden gehouden bij het vaststellen van “gebrekkigheid”. Zo moeten bijvoorbeeld de gebruiks- en onderhoudshandleidingen worden meegewogen,79) net als het redelijk voorzienbare “misbruik”80) van het product, en het “zelflerende” vermogen van het product nadat het in het verkeer is gebracht.81) Dat geldt ook voor het mogelijke effect dat het product heeft op andere producten die (naar redelijke verwachting) tezamen met het betreffende product worden gebruikt; eisen aan de productveiligheid, met inbegrip van “cyber security” vereisten; en de specifieke verwachtingen van eindgebruikers van een product.82) Voorts wordt het producentenbegrip zodanig uitbreid dat vrijwel alle actoren in de productie- en distributieketen daaronder komen te vallen.83) Net als bij de RAAI kan een nationale rechter een producent bevelen om (het noodzakelijke) bewijs te bewaren en/of ter beschikking te stellen aan een slachtoffer van een (vermeend) gebrekkig product, zodra een slachtoffer aannemelijk maakt dat hij recht heeft op schadevergoeding onder de nieuwe regels.84) Hoewel de bewijslast niet verandert (gebrek, schade en causaliteit moeten door het slachtoffer worden bewezen),85) geldt ook hier een bewijsvermoeden van “gebrekkigheid” van het product indien er geen gehoor is gegeven aan een bevel tot het ter beschikking stellen van bewijs.86) Eenzelfde vermoeden moet worden aangenomen indien het slachtoffer aantoont dat er een verplichte veiligheidsnorm werd geschonden voor zover die norm ziet op het beschermen tegen de schade die is opgetreden, en ook indien het slachtoffer aantoont dat de schade het gevolg is van het duidelijke niet-functioneren (“obvious malfunction”) van het product bij normaal gebruik, onder normale omstandigheden.87) Er moet een causaliteitsvermoeden worden aangenomen (hier wél tussen gebrek en schade) wanneer een gebrek is vastgesteld, en de schade van het soort is dat typisch is voor het betreffende gebrek.88) Tot slot mag een rechter bewijsvermoedens ten aanzien van gebrekkigheid en/of causaliteit aannemen in bepaalde gevallen waarin het slachtoffer zich geconfronteerd ziet met excessieve problemen vanwege technische of wetenschappelijke complexiteit bij het bewijzen van het gebrek en/of de causaliteit.89) Dat mag alleen in die gevallen waarbij de eiser aannemelijk maakt dat het product heeft bijgedragen aan het ontstaan van de schade, en het aannemelijk was dat het product gebrekkig was, of dat het gebrek een aannemelijke oorzaak van de schade was (of allebei).90) Hoewel de meeste verweren voor producenten ongewijzigd zijn overgenomen in de VRPA, is er een bijzondere regeling getroffen ten aanzien van de exoneratie voor gebreken die zijn ontstaan nadat het product in het verkeer werd gebracht.91) Op die uitzondering kan namelijk geen beroep worden gedaan indien de aangesproken producent a) nog gerelateerde diensten levert; b) software, updates en upgrades levert; of c) juist geen software updates of upgrades meer levert terwijl hij dat wel zou moeten doen om het product veilig te houden.
De VRPA is daarmee een grote stap voorwaarts voor slachtoffers die onder het oude regime al snel in bewijsnood zouden komen te verkeren, en waarbij producenten zich al te gemakkelijk op de “later-ontstane-gebreken” of de ontwikkelingsrisico-exceptie kunnen beroepen, hoewel die laatste mogelijkheid blijft bestaan voor producenten. Natuurlijk is het de vraag “wat er overblijft” van de voorgestelde regeling, en of de huidige redactie niet al te nadelig is voor de positie van producenten en hun ketenpartners. Mij lijkt dat overigens niet snel aan de orde – en uiteindelijk komt het verbeteren van de slachtofferpositie ook de acceptatie van AV-innovatie ten goede.
6. Conclusie
De huidige aansprakelijkheidsregels zijn nog niet opgewassen tegen de komst van de zelfrijdende auto. Zowel de slachtoffers als de AV-innovatoren zullen er last van hebben dat de balans in de risicoverdeling uitslaat in het nadeel van de slachtoffers. Om tot een betere verdeling te komen zou mijn suggestie niet zijn om een nieuw generiek risicoaansprakelijkheidsregime te reguleren, maar om gebalanceerde en toekomstbestendige aanpassingen te doen in de bestaande, specifieke, aansprakelijkheidskaders.
1. Zie onder meer Communication from the Commission, ‘Europe 2020, A strategy for smart, sustainable and inclusive growth’, COM(2010) 2020 final; Commission Staff Working Document, ‘Better regulations for innovation-driven investment at EU level’, via https://ec.europa.eu/research/innovation-union/pdf/innovrefit_staff_working_document.pdf; European Commission, “Horizon Europe Strategic Plan (2021-2024)”, February 2021, doi:10.2777/083753, via https://op.europa.eu/en/web/eu-law-and-publications/publication-detail/-/publication/3c6ffd74-8ac3-11eb-b85c-01aa75ed71a1.
2. “SAE International Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicles J3016-202104” (SAE 2021), beschikbaar via https://www.sae.org/standards/content/j3016_202104/.
3. Zie onder meer Z. Wadud, D. MacKenzie & P. Leiby, “Help or hindrance? The travel, energy and carbon impact of highly automated vehicles”, Transportation Research Part A: Policy & Practice 86, pp. 1-18.
4. Zie OECD, “OECD Factbook 2013: Economic, Environmental and Social Statistics", 2013, via http://www.oecd-ilibrary.org/sites/factbook-2013-en/06/02/03/index.html?contentType=&itemId=/content/chapter/factbook-2013-50-en&containerItemId=/content/serial/18147364&accessItemIds=&mimeType=text/html en B. Walker Smith, “Human error as a cause for vehicle crashes”, 18 november 2013, via http://cyberlaw.stanford.edu/blog/2013/12/human-error-cause-vehicle-crashes.
5. In E. Tjong Tjin Tai & S. Boesten, “Aansprakelijkheid, zelfrijdende auto’s en zelfsturende objecten”, NJB 2016, 91 (10) wordt betoogd dat ook artikel 6:173 BW zou kunnen (of moeten kunnen) worden toegepast op AV-ongelukken. Gelet op de huidige redactie van deze bepaling en de afwezigheid van bruikbare jurisprudentie, ben ik echter van mening dat de toepasselijkheid thans beperkt is. Die opinie fundeer ik onder meer op het feit dat zeer gemakkelijk het verweer in stelling kan worden gebracht dat wanneer de eigenaar van een gebrekkige zaak geen objectieve kennis had van het gevaar dat daaruit voortsproot, er geen aansprakelijkheid kan zijn. Zie onder meer F.T. Oldenhuis, “5.13 De ‘tenzij-formulie’ in art 6:173 BW”, in: C.J.J.M. Stolker, (red.), Groene Serie Onrechtmatige Daad, Deventer: Wolters Kluwer 2020 (online editie), no. 5.13; Hoge Raad 17 december 2010, ECLI:NL:HR:2010:BN6236 (Wilnis), no. 4.4.6; en Hoge Raad, 30 november 2012, ECLI:NL:HR:2012: BX7487 (Paalrot), no. 4.4, als besproken in mijn proefschrift: R.W. de Bruin, Regulating Innovation of Autonomous Vehicles: Improving Liability & Privacy in Europe (diss. Universiteit Utrecht), Amsterdam: deLex 2022, p. 131-134.
6. Europees Parlement, P9_TA(2020)0276, “Civil liability regime for artificial intelligence – European Parliament resolution of 20 October 2020 with recommendations on a civil liability regime for artificial intelligence (2020/2014(INL))”, via https://www.europarl.europa.eu/doceo/document/TA-9-2020-0276_EN.html, Hierna: EP-voorstel.
7. R.W. de Bruin, Regulating Innovation of Autonomous Vehicles: Improving Liability & Privacy in Europe (diss. Universiteit Utrecht), Amsterdam: deLex 2022.
8. Artikel 1 lid 1 sub c WVW definieert motorrijtuigen immers als “alle voertuigen, bestemd om anders dan langs spoorstaven te worden voortbewogen uitsluitend of mede door een mechanische kracht, op of aan het voertuig zelf aanwezig dan wel door elektrische tractie met stroomtoevoer van elders, met uitzondering van fietsen met trapondersteuning”.
9. Giesen betoogt overigens in dit tijdschrift (2019, nr. 1, p. 2-8) dat artikel 185 WVW geen puur risico-aansprakelijkheidsregime creëert, maar bezien moet worden als een regime dat een “(zeer) zware schuldaansprakelijkheid” behelst (p. 3).
10. Artikel 185 lid 3 WVW.
11. Uit artikel 185 lid 4 WVW volgt dat “andere wettelijke bepalingen” niet worden uitgesloten, en dat bijvoorbeeld de aansprakelijkheid van de AV-eigenaar zou kunnen worden gebaseerd op een actie uit onrechtmatige daad: zie verder onderdeel 3.
12. Hoewel men de vraag kan stellen in hoeverre die software-update al dan niet voor rekening van de voertuigeigenaar komt – die overigens nog niet is beantwoord in de rechtspraak.
13. Zie in dit verband onder meer Hoge Raad 31 mei 1991, NJ 1991/721 (Marbeth van Uitregt); Hoge Raad 2 juni 1995, NJ 1997/700 (Marloes de Vos) en Hoge Raad 1 juni 1990, NJ 1991/720 (Ingrid Kolkman). Zie ook R. Rutten en V. Oskam, “Overmacht in het verkeer: een zeldzaamheid of toch niet?”, VR 2016/26.
14. Zie J. Hijma, & M.M. Olthof, “433b Aansprakelijkheid voor motorrijtuigen”, Compendium Nederlands vermogensrecht, Deventer: Wolters Kluwer 2017/433b; A.S. Hartkamp & C.H. Sieburgh, Asser serie 6-II – De verbintenis in het algemeen, tweede gedeelte, 2019, no. 283-284. Zie ook C. van Dam & G. van Maanen “Traffic liability in The Netherlands”, in W. Ernst (red.), The development of traffic liability, vol. 5., Cambridge: Cambridge University Press 2010, p. 138, 139 en hun referenties naar Hoge Raad 22 mei 1922, NJ 1992/527 (ABP/Winterthur) en onder andere Hoge Raad 24 december 1982, NJ 1983/443, VR 1983/40 (Wijman/Corten); Hoge Raad 23 mei 1986 NJ 1987/482 (Frank van Holsteijn).
15. Vgl. Hoge Raad 16 februari 1996, NJ 1996/343, VR 1996/195 (Staat/Royal Nederland), waaruit onder meer volgt dat een gemotoriseerde rekening dient te houden met (niet-gemotoriseerde) verkeersdeelnemers die zich niet houden aan de verkeersregels. Overigens werd overmacht in die casus wel aangenomen, omdat de chauffeur in kwestie geen rekening behoefde te houden met fietser Plomp die door rood reed en ineens achter een andere, geparkeerde, bus opdook voor de wielen van chauffeur Ketelaar.
16. Zie Tjong Tjin Tai & Boesten 2016, p. 659, door mij besproken in De Bruin 2022, p. 126. Zie anders: N. Lavrijsssen & M. Wijtering, “De zelfrijdende auto en het overmachtsverweer van art. 185 WVW”, VR 2019/64, (afl. 5) p. 4.
17. Artikel 6:98 BW.
18. Artikel 6:101 BW.
19. Zie bijvoorbeeld C. van Dam & G. van Maanen, “Traffic liability in The Netherlands”, in W. Ernst (red.) The development of traffic liabiliy, vol 5, Cambridge: Cambridge University Press 2010, p. 143-144; A.S. Hartkamp & C.H. Sieburgh, Asser serie 6-II – De verbintenis in het algemeen Deventer: Kluwer 2019, nrs. 285-286; Hoge Raad 28 februari 1992, NJ 1993/566 (IZA/Vrerink); en Hoge Raad 24 december 1993, NJ 1995/236 (Anja Kellenaers). Deze 50%-regel wordt slechts doorbroken indien er sprake is van opzet of bewuste roekeloosheid aan de zijde van het slachtoffer, zo volgt uit onder meer Hoge Raad 30 maart 2007, NJ 2008/64.
20. Hoge Raad 2 juni 1995, NJ 1997/700 (Marloes de Vos).
21. Hoge Raad 31 mei 1991, NJ 1991/721 (Marbeth van Uitregt). In de praktijk komt dit vrijwel nooit voor; zie bijvoorbeeld Hartkamp & Sieburgh 2010, nr. 285; Van Dam & Van Maanen 2010, p. 139.
22. Ik laat het relativiteitsleerstuk ex artikel 6:163 BW hier bewust achterwege.
23. Zie onder meer Tjong Tjin Tai & Boesten 2016, p. 657; M.A. van Wijk, Verkeersaansprakelijkheid, het civiele en strafrechtelijke schuldbegrip bij verkeersongevallen, Tilburg: Celsus 2014, p. 55.
24. Door wetgevers en in de literatuur wordt uiteraard nagedacht over het vormgeven van de beoordeling van de “verkeersfouten” in de toekomst. Tjong Tjin Tai en Boesten (2016, p. 660) suggereren bijvoorbeeld dat AV-bestuurders “actief” zouden moeten nagaan of er updates beschikbaar zijn, en die vervolgens installeren: zulks nalaten zou onzorgvuldig moeten worden geacht, net als het doen rijden van een AV in “omstandigheden waarin een redelijk handelend persoon had behoren te weten dat de auto minder goed zou functioneren” (ibidem), i.e. in extreme weersomstandigheden of in drukke menigten. In Engeland is onlangs de Electric and Autonomous Vehicles Act 2018 (AEVA 2018) in werking getreden. In die wet wordt een uitzondering gemaakt op de risicoaansprakelijkheid van de verzekeraar van een AV bij “contributory negligence” (eigen schuld) van degene onder wiens gezag de AV opereert. Dat is bijvoorbeeld het geval als deze het voertuig autonoom op de weg laat rijden wanneer dat niet “appropriate” (passend) is (artikel 3(2) AEVA 2018, zie mijn bijdrage in NJB: R.W. de Bruin, “De Automated and Electric Vehicles Act, Een Britse oplossing voor aansprakelijkheidsvraagstukken rondom autonome(re) auto’s” NJB 2-2- afl. 11, nr. 687, p. 742-753.
25. Zie bijvoorbeeld Hoge Raad 15 januari1993, NJ 1993, 568 (Puts/Ceha); Hoge Raad 14 juli 2000, C99/128HR, (X/Haagsche Tramweg Maatschappij); geciteerd in Giesen 2019, p. 4.
26. HR X/Haagsche Tramweg Maatschappij.
27. Hoge Raad 11 november 1983, NJ 1984, 331 (Meppelse ree).
28. Dat probleem zal minder groot zijn indien er wél een norm zou zijn geschonden die is gericht op het voorkomen van een specifiek gevaar – en dat dat specifieke gevaar zich heeft verwezenlijkt. In dat geval kan de omkeringsregel worden toegepast door de rechter, die aldus mag aannemen dat er een causaal verband aanwezig is tussen de normschending en de ontstane schade (zie Giesen 2019, p. 5 en diens bespreking van de vaste jurisprudentie, waaronder Hoge Raad 26 januari 1996, NJ 1996/607 (Dicky Trading II); Hoge Raad 16 juni 2000, NJ 2000/248 (Sint Willibrord/V); Hoge Raad 5 juni 2009, NJ 2009/257 (X/AXA)). Hoewel deze omkeringsregel geen omkering van de bewijslast meebrengt (en de causaliteitsaanname kan worden ontzenuwd door degene die de norm heeft geschonden, zónder dat er tegendeelbewijs behoeft te worden geleverd), brengt dit de gelaedeerde in een minder benarde bewijspositie.
29. Mocht dat overigens toch lukken, gelden er grosso mode dezelfde regels inzake het bepalen van de omvang van de aansprakelijkheid als bij artikel 185 WVW, hierboven behandeld onder nummer 2.
30. Richtlijn 85/374/EEG, OJL 210 (hierna: Richtlijn), in Nederland geïmplementeerd in Boek 6, Titel 2, Afdeling 3 BW.
31. Artikel 185(1) BW.
32. Zie bijvoorbeeld P. Kleve & R.V. de Mulder, 'Voor een goed begrip – Weerwoord naar aanleiding van de reacties op ‘De juridische status van software’ ', NJB 1990, p. 283-285, als besproken in R.J.J. Westerdijk, Produktenaansprakelijkheid voor software – Beschouwingen over de aansprakelijkheid voor informatieprodukten, Deventer: Kluwer 1995, p. 83. Zie ook HvJEU 10 juni 2021, C-65/20, ECLI:EU:C:2021:471 (Krone Verlag), r.o. 42, waarin werd besloten dat informatie in een krant niet kan worden aangemerkt als software. Of dat ook voor software in het algemeen, en AI-algoritmes in het bijzonder geldt is overigens (nog) de vraag, zie verder De Bruin 2022, p. 79-81.
33. Zie bijvoorbeeld D. Fairgrieve et al., “Product Liability Directive”, in P. Machnikowski (red.), European Product Liability – An Analysis of the State of the Art in the Era of New Technologies, Cambridge (UK): Intersentia 2016 p. 47; K. Alheit, “The applicability of the EU Product Liability Directive to software”, Comparative and International Law Journal of Southern Africa, vol. 4, issue 1 2001, p. 188-209; N.E. Vellinga, Legal Aspects of Automated Driving (diss.), Groningen: Rijksuniversiteit Groningen 2020, via https://doi.org/10.33612/diss.112916838, p. 144, en N.E. Vellinga, “Zelfrijdende auto’s en aansprakelijkheidsrisico’s voor wegbeheerders”, NJB 2019/147.
34. Fairgrieve et al. 2016, p. 52-53; E.F.D. Engelhard & R.W. de Bruin 2018, Liability for Damage Caused by Autonomous Vehicles, Den Haag: Eleven International Publishing 2018 p. 16.
35. Zie M. Schellekens, “Self-driving cars and the chilling effect of liability law”, Computer Law & Security Review 2015, vol. 31, p. 517.
36. Zie E. Palmerini, F. Azzarri, F. Battaglia et al., “D. 6.2 Guidelines on Regulating Robotics”, 22 september 2014, p. 57.
37. Zie Hoge Raad 13 maart 2006, ECLI:NL:2006:AU6092 (Nefalit/Karamus); Hoge Raad 24 december 2014 ECLI:NL:HR:2010:BO1799 (Fortis/Bourgogne).
38. Artikel 185 lid 1 (a-f) en lid 2 BW.
39. Artikel 185 lid 2 BW.
40. Artikel 185 lid 1 sub b BW.
41. Er kan wel worden betoogd dat dit soort gebreken inherent is aan zelflerende technologie, maar dat is (uiteraard) nog geen voorwerp geweest van thans gepubliceerde rechterlijke beslissingen.
42. Artikel 6:185 lid 1 sub e BW.
43. HvJEU 29 mei 1997, C-300/95, ECR 1997, I-02649 (Commissie/Verenigd Koninkrijk), r.o. 26-29.
44. Artikel 6:190 lid 1 sub a BW.
45. Deze schade zou kunnen worden verhaald uit hoofde van een algemene onrechtmatige daad-claim, die naar analogie met het productaansprakelijkheidsregime pleegt te worden toegepast in dit soort kwesties. Zie Hartkamp & Sieburgh 2019, no. 263; A.L.M. Keirse “The Netherlands” in: Machnikowski (red.) 2016, p. 313.
46. Artikel 6:190 lid 1 sub b BW.
47. De Bruin 2022, p. 282-286.
48. Ibidem.
49. Zie hierboven voetnoot 6.
50. Waaruit onder meer volgde dat de aansprakelijkheidsverdeling bij AI-gerelateerde productaansprakelijkheidskwesties niet evenredig is (want in het nadeel van de slachtoffers), en dat (daarbij) ook de bewijslastverdeling voor problemen zorgt. Zie het Report from the Commission to the European Parliament, the Council and the European Economic and Social Committee, on the Application of the Council Directive on the approximation of the laws, regulations, and administrative provisions of the Member States concerning liability for defective products (85/374/EEC) {SWD(2018) 157 final} {SWD(2018) 158 final}, COM(2018), via https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM:2018:246:FIN; en Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee, The Committee of the Regions on “the road to automated mobility: An EU strategy for mobility of the future”, COM(2018) 283 Final, via https://ec.europa.eu/transport/sites/transport/files/3rd-mobility-pack/com20180283_en.pdf.
51. Zie https://ec.europa.eu/info/law/better-regulation/have-your-say/initiativ….
52. Europese Commissie, COM(2022) 495 - Proposal for a directive of the European Parliament and of the Council on liability for defective products (https://single-market-economy.ec.europa.eu/document/3193da9a-cecb-44ad-9a9c-7b6b23220bcd_en).
53. Europese Commissie, COM(2022) 496, final – Richtlijnvoorstel betreffende de aanpassing van de regels inzake niet-contractuele civielrechtelijke aansprakelijkheid aan artificiële intelligentie (AI), (https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52022PC0496).
54. Artikel 3(d) EP-voorstel. Er worden twee typen operators onderscheiden. De frontend operator is degene die een zekere mate van controle kan uitoefenen over de risico’s die zijn verbonden met het functioneren van het AI-systeem en die voordeel heeft van de inzet van dat systeem (Vrije (vertaalde) interpretatie van artikel 3(e) EP-voorstel). de backend operator is degene die de eigenschappen van het AI-systeem bepaalt, en het van (input) data voorziet, die ondersteunende diensten verleent, en die daarmee dus ook een zekere mate van controle kan uitoefenen over de met het AI-systeem verbonden risico’s (artikel 3(f) EP-voorstel.
55. Artikel 3(a) EP-voorstel.
56. Artikel 3(c) EP-voorstel.
57. Artikel 4(1) EP-voorstel.
58. Andere verweren, die bijvoorbeeld gelden voor operators voor “gewone” AI-systemen (zie artikel 7 en volgende EP-voorstel), onder andere houdende dat er met voldoende mate van zorgvuldigheid werd opgetreden (due diligence), of dat er een andere “autonome” activiteit plaatsvond die gebruik maakte van het systeem, waarbij het systeem zelf niet voor de schade zorgde, gelden daarbij niet.
59. Artikel 5(a) EP-voorstel.
60. Artikel 5(b) EP-voorstel.
61. Zie M. Faure, “Economic Criteria for Compulsary Insurance”, The Geneva Papers on Risk and Insurance, 2006, vol. 31, p. 149 en volgende.
62. Zie voor een uitgebreidere argumentatie langs deze lijnen Engelhard & De Bruin 2018, p. 90, De Bruin 2022, p. 313 en verdere verwijzingen aldaar.
63. Zie ook Cock Buning, M. de, Auteursrecht en informatietechnologie (diss.), Amsterdam: Otto Cramwinckel Uitgever 1998, p. 221-222.
64. Ook de Franse Loi Badinter kan als basis dienen: daarvoor zijn zelfs minder inhoudelijke wijzigingen nodig. Zie De Bruin 2022, hoofdstuk 4.3.3.
65. Dit geldt ook voor artikel 6:173 BW.
66. Vgl de AEVA 2018.
67. Dat vergt ook een aanpassing in de regels inzake de bescherming van persoonsgegevens; zie De Bruin 2022, hoofdstuk 8 en 9, en p. 341-342.
68. Deze en andere begrippen (waaronder “aanbieder”, “gebruiker”, “AI-systeem” en “hoog risico AI-systeem” worden – op niet al te transparante en soms zelfs ondoorgrondelijke wijze – gedefinieerd in de voorgestelde AI-verordening (voorgestelde Verordening van het Europees Parlement en de Raad COM (2021) 206 final, tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (https://eur-lex.europa.eu/legal-content/NL/ALL/?uri=CELEX:52021PC0206)), en de bijbehorende bijlagen. Ik acht het waarschijnlijk dat autonome voertuigen als “hoog risico AI-systemen” kunnen worden begrepen in de zin van de AI-verordening.
69. Artikel 3(3) RAAI.
70. Artikel 3(1) RAAI.
71. Idem.
72. Lid 2.
73. Lid 5.
74. Artikel 4 RAAI.
75. Artikel 4(1)(a) RAAI. Lid 2 treft een nadere regeling voor aanbieders van hoog-risico AI-systemen. In deze bepaling wordt geregeld dat als er door een aanbieder in strijd wordt gehandeld met bepaalde verplichtingen die uit hoofde van de AI-verordening op hem rusten, dit schending van de zorgvuldigheidsnorm oplevert. Lid 3 treft een vergelijkbare regeling voor gebruikers van hoog-risico AI-systemen.
76. Sub b.
77. Sub c.
78. Artikel 4(1) VRPA.
79. Artikel 6(1)(a) VRPA.
80. Sub b.
81. Sub c.
82. Subs d, f en h.
83. Artikel 7 VRPA. Componentenproducenten (lid 1), importeurs en vertegenwoordigers (2), “fulfilment service providers” (4), natuurlijke of rechtspersonen die het product modificeren (5), distributeurs (6) en online platforms/tussenpersonen kunnen onder omstandigheden worden aangesproken als ware zij “producent”.
84. Artikel 8 VRPA.
85. Artikel 9(1) VRPA.
86. Artikel 9(1)(a) VRPA.
87. Subs b en c.
88. Artikel 9(3) VRPA: “[...] the damage caused is of a kind typically consistent with the defect in question”.
89. Lid 4.
90. Subs a en b.
91. Artikel 10(1)(c) VRPA.