Vertrouwen in kunstmatige intelligentie komt van twee kanten

“Om ervoor te zorgen dat AI zowel intern als extern kan worden vertrouwd, moeten organisaties aantonen dat ethiek en aansprakelijkheid zijn ingebed in de hele levenscyclus, van ontwerp tot gebruik,’ blogt Anne Laure Thieullent van Capgemini. Ik kan dit van harte onderschrijven. Dit is een absoluut noodzakelijk voorwaarde. Maar is dit ook een voldoende voorwaarde om vertrouwen te krijgen in de toepassing van kunstmatige intelligentie bij een organisatie of bedrijf?

Betrouwbaarheid is ook een deugd

“Trustworthiness”, betrouwbaarheid, is een van de waardes die een kunstmatig intelligent systeem moet honoreren. Een betrouwbaar algoritme doet wat het belooft. Niet alleen nu, maar ook in de toekomst. Eigenlijk is het Engelse woord “trustworthiness” beter: het systeem is waardig om vertrouwd te worden. Misschien is de vertaling “vertrouwenwekkend” beter. Op die manier definieert de EU ook betrouwbaarheid. “Als het niet aantoonbaar is dat AI het vertrouwen waard is, kan dat subversieve gevolgen hebben en de acceptatie ervan door burgers en consumenten worden belemmerd, en daarmee de realisatie van de enorme economische en sociale voordelen van AI ondermijnen,” schrijft de Europese Commissie.

We moeten ons wel realiseren dat betrouwbaarheid niet alleen voorkomt uit het vervullen van ethische waardes, maar ook een ethische waarde op zich is. Het is dus niet alleen een instrumentele waarde om economisch en sociaal voordeel te behalen, maar ook een richtlijn voor goed gedrag.

“Betrouwbaarheid is een morele waarde die als een deugd wordt beschouwd. […] Een persoon kan zijn betrouwbaarheid bewijzen door een toegewezen verantwoordelijkheid te vervullen – en in het verlengde daarvan, verwachtingen niet in de steek te laten,” luid een omschrijving van betrouwbaarheid.

Vertrouwen in kunstmatige intelligentie en betrouwbaarheid van kunstmatige intelligentie liggen in elkaars verlengde. Laat ik het zo zeggen: we kunnen alleen kunstmatige intelligentie vertrouwen wanneer de waarde betrouwbaarheid ten alle tijden gegarandeerd is. Dat het algoritme doet wat beloofd op een verantwoordelijke wijze en ons niet in de steek laat of gaat bedriegen.

Betrouwbaarheid is meer dan voldoen aan een lijstje

De laatste jaren zijn veel ethische principes geformuleerd rondom vertrouwen in kunstmatige intelligentie. Algoritmes die aan de eisen van deze lijstjes voldoen, zijn betrouwbaar. Capgemini gebruikt de volgende principes:

1. Zorg voor een zorgvuldig afgebakende impact
2. Wees duurzaam
3. Wees eerlijk
4. Wees transparant en verklaarbaar
5. Wees controleerbaar, met duidelijke verantwoordelijkheden
6. Wees robuust en veilig
7. Respecteer privacy en gegevensbescherming

Dit zijn uitstekende ethische principes voor kunstmatige intelligentie. En opdrachtgevers, ontwerpers, ontwikkelaars moeten hun uiterste best doen deze principes te realiseren. Daarover is er geen discussie.

Maar zijn we er dan? Soms wordt de suggestie gewekt van wel. Als ik voldoe aan de voorwaarden, dan ben ik betrouwbaar. Maar betrouwbaarheid is een waarde. En ethische waardes laten zich niet in checklists vatten, hoe graag we ook zouden willen. We moeten meer doen. Betrouwbaarheid moet geïnternaliseerd zijn. Wij als personen, op organisaties, willen betrouwbaar zijn. Niet alleen omdat het moet, maar omdat we zo willen zijn.

Jan Tullberg, expert op het gebied van Business Ethics, diept het verder uit. Hij verdeelt vertrouwen op in twee aspecten: vertrouwenwekkend zijn en vertrouwen geven. Eigenlijk is het heel simpel: je kunstmatige intelligent systeem kan wel betrouwbaar zijn, als je gebruikers of klanten dat niet zo zien, heb je er niets aan. Je klanten moeten je het vertrouwen geven of gunnen. Vertrouwen komt van twee kanten.

Het laten voldoen van het algoritme aan allerlei ethische principes om het vertrouwenwekkend te doen zijn, is dus niet voldoende. Gebruikers en klanten moeten jou, je organisatie of bedrijf, ook betrouwbaar vinden. Maar dan blijft de vraag, is het hebben van ethische AI-applicaties voldoende om als organisatie of bedrijf als vertrouwenwekkend te worden gezien?

Vertrouwen in AI komt niet alleen

Ik ben bang van niet. Ik denk dat daar meer voor nodig is. Ethische AI-applicaties kunnen ertoe leiden dat klanten vertrouwen krijgen in het bedrijf dat deze applicaties maakt of gebruikt. Maar klanten hebben meer vertrouwen in AI-applicaties die worden gemaakt of gebruikt door bedrijven die ethisch handelen.

“Consequent gerangschikt als een van de meest ethische bedrijven ter wereld en door het gebruik van AI als een cruciale, transformerende dienst voor zijn klanten, voelt Capgemini de verplichting om zijn toewijding aan de ethische toepassing van AI tot uitdrukking te brengen,“ schrijft Zhiwei Jiang van Capgemini.

Daarom bewandelt Capgemini twee sporen. Capgemini wil ethische algoritmes en AI-toepassingen maken voor hun klanten. Maar Capgemini wil ook een ethisch bedrijf zijn over de volle breedte. De ethiek van de AI-toepassingen die Capgemini maakt zijn ook een gevolg van dat streven. En ethische AI-toepassingen vormen een bewijs dat Capgemini een ethisch bedrijf wil zijn. Die twee dingen zijn met elkaar verstrengeld.

“Volgens gegevens van de Edelman Trust Barometer 2019 weigert tot 75% van de consumenten ronduit te kopen van onethische bedrijven, terwijl 86% zegt loyaler te zijn aan ethische bedrijven. Vertrouwen is nu een concurrentievoordeel geworden, waarbij bedrijven zich haasten om AI te adopteren om het ethisch te gebruiken op manieren die vertrouwen wekken van klanten, partners en het publiek,” schrijft Carly Read op CX Today.

Het gaat hier dus over geloofwaardigheid. Voor vertrouwen is ook geloofwaardigheid nodig. Zonder geloofwaardigheid kunnen je AI-algoritmes niet vertrouwenwekkend zijn. Ook al voldoen ze aan alle eisen en principes, als dat niet wordt geloofd kom je niet ver. “Betrouwbaarheid moet vanuit de kern van de werkwijze van een organisatie komen. Alle schakels moeten betrouwbaar, aanspreekbaar, transparant en relatiegericht zijn,” schrijft Marieke Karssen.

Ethische applicaties worden vertrouwd wanneer ze komen van geloofwaardige organisaties. Ethisch AI-applicaties kunnen je helpen geloofwaardig te worden of te blijven. Vertrouwen in AI komt van twee kanten.

Auteur

Reinoud Kaasschieter