Herbert was eerder deze week de gespreksleider van het webinar Kick-off ethisch kader, dat het Verbond organiseerde. Hij legde in zijn openingswoord helder uit wat het kader wel is en wat niet. “Het is niet het zoveelste ethisch kader of een kader dat alleen bedoeld is voor artificial intelligence (AI). Het is ook zeker geen papieren tijger, maar bindende zelfregulering voor onze leden waar de Stichting toetsing verzekeraars op gaat toezien.”
Groeimodel
Wat het wel is? Een principle based kader dat is gebaseerd op zeven principes. Zo moeten data gedreven toepassingen robuust en veilig zijn en daarnaast voldoende rekening houden met privacy, diversiteit/non-discriminatie, maatschappelijk welzijn, verantwoordelijkheid, transparantie en menselijke autonomie. Herbert sprak over “een groeimodel”, omdat het volgens hem nadrukkelijk de bedoeling is dat verzekeraars (van elkaar) gaan leren en het kader steeds aanscherpen en actualiseren. Hij benadrukte daarbij dat ook het Verbond nog niet klaar is. “Hoe concreter het kader wordt en hoe scherper de do’s en dont’s in beeld komen, hoe spannender ook het level playing field wordt. Nederlandse verzekeraars staan immers niet alleen. We kunnen te maken krijgen met toetreders van buiten de landsgrenzen die aan cherrypicking doen en alleen de goede risico’s uit de markt plukken. Daarnaast moeten we ook dealen met datapartijen die wel binnen onze landsgrenzen opereren, maar buiten de sector staan. We moeten er met andere woorden voor zorgen dat het ethisch kader een concurrentievoordeel oplevert en geen nadeel wordt.”
"Hoe concreter het wordt, hoe spannender het level playing field"
Regelgeving voor AI
Catelijne Muller, een van de sprekers tijdens het webinar, wijdde op haar beurt ook wat woorden aan dat level playing field. “De Europese Commissie is nu bezig met het opstellen van regelgeving voor AI. Dat komt in het eerste kwartaal van 2021 op ons af. Er wordt veel gediscussieerd, maar het idee is om de zogenoemde high risk AI (denk onder meer aan gezichtsherkenning) aan een aantal toezichtvereisten te onderwerpen.”
Muller is lid van de EU High Level Expert Group AI en wordt wel gezien als de ‘geestelijk moeder’ van het kader dat er nu ligt, omdat dat mede is gebaseerd op de Europese richtlijnen voor verantwoord gebruik van AI. “Het is mijn missie om ervoor te zorgen dat AI op een verantwoorde manier in de samenleving landt. Anders dan veel mensen denken, zijn data namelijk niet neutraal. Het zijn ook geen feiten. Data kunnen rommelig, incompleet of zelfs vooringenomen zijn.”
AI opereert ook niet in een wetteloze wereld, zegt Muller. “Stel dat een bedrijf een nieuw product in de markt zet dat niet helemaal doet wat er van mag worden verwacht. Dan rijst vaak de vraag wie er aansprakelijk is voor de schade. Mijn antwoord is dan altijd: als een hond een kind bijt, is niet die hond aansprakelijk, maar zijn eigenaar. De aansprakelijkheidsregels gelden dus ook gewoon voor AI-systemen.”
Ethiek in de praktijk
Namens Nationale-Nederlanden gaf Anton Bosman tijdens het webinar een klein kijkje in de keuken. De verzekeraar is in de tweede helft van vorig jaar al begonnen met een interne guideline voor AI-toepassingen. Deze guideline is opgesteld met drie belangrijke vragen in het achterhoofd: kunnen we het? Mogen we het? En willen we het? Bosman: “Denk aan vervolgvragen als: kunnen we de techniek aan? En is er wel voldoende data? Voldoen we aan de AVG en voorkomen we dat er kwetsbare groepen ontstaan of (in)directe discriminatie? Is het ook transparant en uitlegbaar? Voldoen we aan onze eigen waarden?”
De guideline, die NN intern al veel heeft gebracht (bijvoorbeeld het inrichten van een goede governance en als toetsingskader), zal een levend document blijven, verwacht Bosman. “Wij streven nu naar een bredere policy en awareness binnen de bedrijfsonderdelen, ook internationaal. Dat doen we met positieve voorbeelden, maar we laten ook zien hoe het niet moet.”
Valkuilen
Ethicus Edgar Karssing (Nyenrode) was uitgenodigd om verzekeraars te waarschuwen. “Ik gebruik daarvoor graag het boek van Mary Wollstonecraft Shelley. De hoofdpersoon, Victor Frankenstein, creëert leven dat echter zorgt voor dood en verderf. Uiteindelijk gaat hij zelf ook ten onder. Mijn boodschap aan verzekeraars is: zorg dat je geen Victor Frankenstein wordt.”
De valkuilen die Karssing noemde, waren onder meer ‘niet nadenken over de toekomst’ en ‘geen verantwoordelijkheid nemen voor de gevolgen van techniek’. “Een van de valkuilen is dat verzekeraars het ethisch kader als business as usual zien, terwijl het gaat over vertrouwen in nieuwe technologische ontwikkelingen. Dat moet je verdienen. Waar sta je voor? Doe je de goede dingen op de goede manier? Ik zou verzekeraars willen aanraden om verder te kijken dan hun neus lang is. Kijk niet alleen naar de normen, maar ook naar de waarden. Pak gerust het EU-kader erbij, waarin al die waarden netjes worden uitgelegd. Als je de ‘open’ normen van het ethisch kader goed wilt interpreteren, heb je het achterliggende verhaal namelijk keihard nodig.”
"Mijn boodschap aan verzekeraars? Zorg dat je geen Victor Frankenstein wordt"
Hoogmoed
Andere tip die Karssing voor verzekeraars in petto had, was om de Hoe-vraag te blijven stellen. “Neem daarnaast je verantwoordelijkheid voor de techniek. Neem bijvoorbeeld ethiek meteen bij het design al mee. Ontwikkel met andere woorden niet alleen de auto, maar ook de stoplichten. En doe het niet alleen. Het ethisch kader is een oproep voor een dialoog.”
Zijn laatste waarschuwing was misschien wel de belangrijkste. “Pas op voor hoogmoed. Dat is niet voor niks een van de belangrijkste hoofdzonden. Zorg er daarom voor dat je niet alleen op eigen faam uit bent. En ja, er is moed voor nodig om met het ethisch kader aan de slag en dus met de billen bloot te gaan, maar voorkom vinkjesgedrag. Het hogere doel van het kader is immers niet om vinkjes te zetten, maar om bij te dragen aan je eigen missie en aan het vertrouwen van de klant. Als het een verzekeraar lukt om zijn data gedreven processen zo in te richten dat deze bijdragen aan het vertrouwen, is hij op de goede weg.”
Meer weten over het ethisch kader? Kijk op onze website.