Niet zo slimme AI is best wel nuttig

Steeds weer wordt verteld hoe computers en intelligente machines de wereld zullen gaan overnemen, de mensheid gaan overtroeven en misschien zelfs kwaadaardig kunnen worden. Of dat computers de grote problemen van de wereld, zoals klimaatverandering en epidemieën, gaan oplossen. Maar ook verschijnen er steeds weer artikelen waarin wordt beschreven hoe artificiële intelligentie (AI) niet levert wat ze belooft.

De vraag, die daarom we op dit moment moeten stellen, is: Is Artificiële Intelligentie wel zo intelligent als we verwachten? En mijn vervolgvraag is dan: Is dit erg?

Wat verwachten we eigenlijk van intelligente machines? Dat ze creatief zijn, onverwachte dingen doen, ons verrassen met iets nieuws, de krenten uit de pap pikken? Maar wie weet hoe bijvoorbeeld Machine Learning werkt, weet dat dit eigenlijk niet kan. Wie in feite een leeg systeem laat leren op grote hoeveelheden data, zal dat algoritme uit die grote hoeveelheden data het gemiddelde halen.

“Een van de fouten die wij hebben gemaakt als nerds en computerwetenschappers, is dat we het kunstmatige intelligentie hebben genoemd.” (Jim Stolze, schrijver en ondernemer)

Want helaas of niet, het gemiddelde komt meestal in onze maatschappij nou eenmaal het meeste voor. Het uitzonderlijke verdrinkt in de zee van data. Waar ons brein nog enigszins in staat is het uitzonderlijke, de afwijking, te zien zijn veel machines daar amper toe in staat. Machines weten eigenlijk niet wat ze met uitzonderingen aan moeten, tenzij ze expliciet verteld is wat met uitzonderingen te doen.

“A” in AI als in “automatisering”?

Misschien moeten we minder nadruk op het intelligente in Artificiële intelligentie leggen. Als het doel van AI om de menselijke intelligentie goed na te bootsen of te overtreffen nu niet haalbaar is, moeten we dan niet anders over AI gaan denken? En dat gebeurt al. Succesvolle AI-implementaties zien AI niet zo zeer als een superslimme tool, maar vooral als een tool om processen mee te automatiseren. Processen die bijvoorbeeld erg arbeidsintensief zijn, zoals bij de toepassing van Rapid Process Automation (RPA). Of zelfs processen die niet eens door mensen gedaan kunnen worden, zoals bij high frequency trading op de beurs.

Als we AI vooral zien als een methode om te automatiseren, kunnen we AI op een meer realistische wijze gebruiken. Om meer dingen sneller en goedkoper te doen. En misschien, maar niet noodzakelijkerwijs, beter dan mensen. Want zoals ik al beschreef is AI vooral goed in het verwerken van veel voorkomende gevallen. Niet bij het doen van uitzonderlijke dingen. Juist automatisering richt zich op deze bulk van veel voorkomende gevallen. Hier is het meeste rendement te halen. Uitzonderingen hoeven niet geautomatiseerd te worden, die kunnen handmatig blijven worden afgehandeld. Op deze wijze hebben heel veel organisaties hun processen ingericht, nog voordat Artificiële intelligentie en Machine Learning toegepast konden worden.

In een artikel uit 2017 stelt Tom Rikert dat alleen bij automatisering je een Return-On-Investment (ROI) krijgt die je AI-project pas echt rendabel maakt. AI-projecten zijn complex en duur, dus ze moeten wel voldoende meerwaarde opleveren. En dat kan alleen wanneer AI veel werk uit handen neemt.

“Je kunt niet zomaar wat AI op een probleem strooien en een goed resultaat verwachten. De misvatting is vaak dat je dat kunt, maar ieder goed model is gebaseerd op kennis van het domein en waartoe de technologie in staat is.” (Simen Norrheim Larsen, application consultant bij Capgemini)

“This level of near total automation requires a ton of trust, hence the value of domain experts to set it up and AI learning to capture data, patterns, and insights at scale,” stelt Rickert. Dus naast een uitstekende datakwaliteit hebben we ook veel expertise nodig om deze data te doorgronden en efficiënt – en bovenal ethisch – in te zetten. Dat gaat de AI-software niet vanzelf voor je doen.

Automatisering kan ook ethische problemen geven

Het is juist die ethische – of onethische – toepassing van Artificiële intelligentie die problemen veroorzaakt die in de krant komen: AI discrimineert bevolkingsgroepen, benadeelt individuen en maakt ernstige beoordelingsfouten. Er zijn toepassingen van AI die ethisch onverantwoord zijn maar er zijn toepassingen die ethisch verantwoord zijn. Vaak ligt de oorzaak niet zozeer in de AI-software zelf, maar in de data die gebruikt wordt om de AI te leren. Als daar vooroordelen in vastgelegd zijn, impliciet of expliciet, zal de AI-software die genadeloos oppakken. Daarom zien we bij Capgemini de ethiek van AI als onderdeel van de data ethiek.

“Ethiek programmeren zal een heel lastige dobber worden omdat er vooralsnog geen perfect moreel algoritme bestaat.” (Max Herold, organisatie-adviseur bij de Rijksoverheid)

En omdat bij automatisering we graag algoritmes autonoom willen laten werken, moeten we extra alert zijn op fouten. Dan maakt het eigenlijk weinig uit of het algoritme intelligent, lerend of “dom” is. Fout is fout. Het verschil is wel dat bij zogenaamde “domme” of geprogrammeerde algoritmes het gemakkelijker is de bron van de fout op te sporen dan bij AI-modellen. Want bij ingewikkelde Machine Learning-systemen is het amper te achterhalen waar binnen het model een foute afslag is genomen. De modellen zijn niet de debuggen, ze zijn eigenlijk ondoorzichtig: een black box.

Heb ik echt lerende systemen nodig?

Omdat Artificiële Intelligentie ondoorzichtig kan zijn, is het moeilijk om uit te kunnen leggen hoe en waarom de AI-model een beslissing heeft genomen. Voordat we Artificiële Intelligentie gaan toepassen, moeten we eerst nagaan of het gebruik van lerende systemen echt noodzakelijk in de situatie waar we het willen gebruiken. Kunnen we zelf de complexiteit van het probleem niet doorgronden en laten we dat dan aan AI over? Kunnen we de situatie vereenvoudigen om zo simpeler oplossingen te kunnen maken? Begrijpen we echt wezenlijk waar de situatie over gaat, of hebben we eenvoudigweg onvoldoende kennis en brengt meer onderzoek wel dat inzicht? Misschien is bescheidenheid hier op zijn plaats. Hoe simpeler, hoe beter, hoe sneller resultaat.

Artificiële Intelligentie kan helpen processen beter te automatiseren. Wanneer zorgvuldig en ethisch toegepast, zijn er grote voordelen te behalen. Pas AI bewust toe, weet dat je toepast en gebruik het niet alleen omdat het hip en modern is en misschien op den duur iets gaat opleveren. Ook financiële voordelen omdat het vooral loont AI voor de bulkverwerking toe te passen. De toepassing van AI binnen automatiseringstrajecten is misschien niet de erg baanbrekend, maar wel realistisch. En dat realisme is broodnodig om Artificiële Intelligentie nuttig, rendabel en ethisch in te zetten.

Auteur

Reinoud Kaasschieter