AI-oplossing succesvol in productie

Hoe maak je AI beschikbaar in productie?

Vanuit het vakgebied Data Science zien we dat intelligente oplossingen niet altijd de eindstreep halen omdat de focus vaak ligt op de ontwikkeling van de modellen en niet zozeer op het in productie nemen van de oplossing. Data Scientists Martin Heemskerk en Michiel Konings spreken uit eigen ervaring. Samen deden ze mee aan de Capgemini Global Data Science Challenge om wetenschappers te helpen om met behulp van AI, walvissen te beschermen. Zij vertellen hoe je dergelijke oplossingen wél succesvol naar productie brengt en wat de uitdagingen zijn waarmee je rekening moet houden.

De focus op eenvoud bij Deep Learning technieken

Bij het naar productie brengen van Deep Learning technieken is het van belang dat de focus ligt op het eenvoudig beschikbaar maken van de functionaliteit. Door van tevoren stil te staan bij het einddoel van het model en een bijpassende architectuur uit te werken, kan de kloof tussen de ontwikkeling en het in productie nemen van het model zo klein mogelijk worden gehouden. Dit doe je als volgt;

  1. Je begint door jezelf te verplaatsen in de eindgebruiker en na te denken aan wat de minimale functionaliteit is die het werk kan vergemakkelijken.
  2. Vervolgens stel je vast hoeveel gebruikers er zijn en hoe het gebruik er uit gaat zien. Als voorbeeldvraag hierbij: moet er iedere week 1 grote vraag verwerkt worden, of moet het model ieder moment van de dag beschikbaar zijn om kleine vragen van veel gebruikers tegelijk te kunnen verwerken?
  3. Zodra je dit in kaart hebt kan je gaan focussen op de aanwezige resources die de klant tot beschikking heeft om de uiteindelijke functionaliteit te kunnen draaien.
  4. Met al deze informatie bij elkaar besluit je hoe je het model beschikbaar maakt. Wellicht kies je ervoor om gebruik te maken van open source tooling (zoals Python) om de functionaliteit beschikbaar maken voor de klant.

Hosting Artificial Intelligence oplossingen in de Cloud

Dit leidt tot een voorbeeld zoals hieronder dat vervolgens in de cloud gehost kan worden:

Artificial intelligence naar productie

De architectuur die nu ontwikkeld is maakt gebruik van een open source web application framework dat gemakkelijk te implementeren is binnen meerdere infrastructuren/platformen zoals in ons geval AWS. De toepassing van deze architectuur wordt nu ook succesvol ingezet bij klanten van Capgemini zodat eindgebruikers op een zorgvuldige wijze de toegevoegde waarde van AI kunnen ervaren.

Succesvol Data Science / AI-oplossingen implementeren?

Wil je binnen jouw organisatie succesvol Data Science / AI-oplossingen implementeren? Neem dan contact met ons op via het contactformulier op de Perform AI pagina voor een eerste advies.