Etisk tillämpning av AI en växande fråga för företag och organisationer – men hanteringen är ojämn.

Även om företag blir mer medvetna om de etiska dimensioner och frågeställningar som kommer med ökad användning av AI finns brister i hur dessa omhändertas. När det handlar om rättvisa (65 %) och möjlighet att granska utfall och beslut (45 %) har utvecklingen stått stilla sedan den förra rapporten. För området transparens har siffran sjunkit från 73 % till 59 %. Detta trots att 58 % av tillfrågade företag och organisationer säger sig ha arbetat med att informera anställa kring konsekvenser som användande av system med AI kan medföra.

Rapporten visar också att 70 % av kunder kräver att utfall och beslut från system med AI tydligt ska kunna förklaras. De förväntar sig också transparens och rättvisa i kontakten med system från företag som tillämpar AI.

Frågor kring etisk tillämpning är idag grundläggande
Lagstiftning och riktlinjer från bland EU och andra organisationer bidrar till att sätta fokus på frågan om etiska principer för användning av AI. Under 2020 etablerade US Federal Trade Commission (FTC) rekommendationer som innebär att system med AI som fattar ett för kunden negativt beslut, till exempel ett avslag på en låneansökan, måste kunna visa kunden vilken data som beslutet grundats på. Kunden ska ha möjlighet att identifiera och korrigera felaktigheter. Inom detta område visar rapporten att utvecklingen går åt fel håll. 2019 informerade 73 % av tillfrågade verksamheter sina kunder om hur de kan påverkas av beslut tagna med hjälp av AI. I årets rapport har denna siffra sjunkit till 59%.

En orsak till den lägre siffran för 2020 kan vara att COVID-19 både förändrat konsumentbeteenden och medfört ökad komplexitet för systemen. Brist på historiska data från motsvarande situationer som kan användas för träna system gör att företag idag måste justera sina system utifrån en ny normalbild där konsumenter agerar annorlunda än tidigare. Denna utveckling kan ha bidragit till minskad transparens

AI som diskriminerar eller ger dålig kundupplevelse kan bli kostsamt
Många företag och organisationer inom offentlig sektor har accelererat sitt användande av AI i sin kamp för att lindra effekterna av COVID-19 och den globala pandemin. I takt med att denna utveckling fortsätter ökar också kraven på verksamheter att tillse att kunder känner fortsatt tillit till, och får en god upplevelse i mötet med tjänster som använder AI. Det finns rapporter om fall där social och kulturell särbehandling har färgat data som samlats in för användning i vård och offentlig sektor¹

Det är inte bara i offentlig sektor som diskriminering rapporterats. Studien visar att 65 % av de tillfrågade beslutsfattarna kände till fall där system med AI uppträtt diskriminerande. Nära 60 % av verksamheter i studien har på något sätt utsatts för rättslig granskning eller upplevt missnöje bland kunder till följd av användning av AI. Missnöjda kunder berättar gärna om negativa upplevelser och avråder andra från att anlita det företag eller organisation man upplever sig dåligt behandlad av (45 %). Nästan lika många (39 %) säger att de aktivt kommer att söka en förklaring till behandlingen eller i framtiden välja att interagera med en person istället (39%) även om det medför en högre kostnad. 27 % säger att de helt skulle avsluta sin relation en verksamhet som givit dem en negativ upplevelse som följd av diskriminerande AI.

Ägarskap och tydligt ansvarstagande för etiska AI-frågor är vägen framåt
Endast 53 % av verksamheterna i studien har idag en roll i organisationen som ansvarar för etiska frågor kopplade till användning av AI. Det kan krävas för att säkerställa att frågan om korrekt etisk tillämpning av artificiell intelligens ska få tillräcklig vikt och uppmärksamhet i ledningen.

Ytterligare en aspekt är frågan om ansvarstagande för beslut och resultat som nåtts med hjälp av AI. Det är viktigt att ledningen för verksamheter som använder system med AI tar ansvar för eventuella händelser där diskriminering och negativ särbehandling kan påvisas. Endast hälften av de företag och organisationer som ingår i studien har idag formaliserade möjligheter för anställda och kunder att anonymt flagga för incidenter och problem som uppkommit till följd av system som använder AI.

Rapporten framhåller sju saker som organisationer kan göra för att säkerställa att AI-system utformas och används utan risk för brister gällande etik och särbehandling. Utöver de sju punkterna betonar rapporten också vikten av ledarskap, kultur och interna processer inom området².

• Tydliggör syftet med varje AI-system och kartlägg vilka effekter och situationer som kan uppstå till följd av systemets funktion
• Arbeta proaktivt med att tillämpa AI där det har positiva effekter för samhälle och miljö
• Säkerställ att system med AI omhändertar frågor kring mångfald och integration både vid utformning och användning
• Använd de tekniska möjligheter som finns för att göra systemen mer transparenta och förståeliga
• Skapa en mänsklig upplevelse i kontakt med AI och tillse att systemen övervakas av människor
• Utforma tekniskt robusta och säkra AI-system
• Upprätthåll hög integritet genom att ge människor möjlighet att styra i sin interaktion med AI

”Givet den potential som AI har vore det synd om frågor kring etik begränsas till regelverk för att skydda kunder och användare. Om vi istället placerar de etiska dimensionerna av AI i centrum kan vi skapa funktioner och effekter som på allvar bidrar till ett bättre samhälle. All data vi redan har och den teknik som nu utvecklas kan då användas. Vi ser vilka möjligheter som finns och vill vara med att hjälpa till att driva omställning, säger Ann Hellenius, chef över Capgemini Invent i Sverige och Finland.

För att ladda ner och läsa den fulla rapporten. Klicka här.

Metod
Datainsamlingen till rapporten 2020 har genomförts i april och maj 2020. 2 900 konsumenter i sex länder och 884 beslutsfattare i tio länder har besvarat undersökningen. Bland rollerna för studiens beslutsfattare finns IT, AI-utvecklare, dataforskare, sälj- och marknadschefer. Resultaten har jämförts med tidigare inhämtade data från 5 000 konsumenter och 722 beslutsfattare där en studie utfördes mellan april och juni 2019. Djupintervjuer med ett antal experter och akademiker inom området etisk tillämning av AI har också genomförts i augusti och september 2020.

Om Capgemini
Som en global ledare inom konsult-, teknik- och ingenjörstjänster samt digital transformation ligger Capgemini i innovationens framkant. Vi möter därmed våra kunders behov inom molntjänster, digitalisering och plattformar. Med 50 års erfarenhet och en gedigen branschspecifik kompetens gör vi det möjligt för organisationer att förverkliga sina affärsmål genom ett brett spann av tjänster, från strategiarbete till drift- och förvaltningsuppdrag. Capgemini är ett ansvarstagande och multikulturellt företag med 265 000 anställda i nästan 50 länder med målsättningen att genom teknik frigöra människors energi för skapandet av en inkluderande och uthållig framtid. 2019 omsatte Capgemini tillsammans med förvärvet Altran 17 miljarder euro.

Besök oss på www.capgemini.com.

Om Capgemini Research Institute

Capgemini Research Institute är Capgeminis interna avdelning för data-drivna insikter. Institutet publicerar forskning kring effekterna av digital teknik på stora traditionella företag. Teamet utnyttjar ett globalt nätverk av experter från Capgemini och arbetar nära akademiska och tekniska partners. Institutet har forskningscenter i Indien, Storbritannien och USA. Capgemini Research Institute rankades nyligen som topp i världen för sin kvalitativa forskning och oberoende analyser.

Läs mer på: www.capgemini.com/research-institute/

Reference Link:-

[1]  SSIR, “The Problem With COVID-19 Artificial Intelligence Solutions and How to Fix Them,” Juni 2020

[2]  De sju dimensionerna för etiskt användande av AI baseras sju motsvarande principer som definierats av Europakommissionen.