Ethisches Bestreben: Menschenzentrierte KI

Künstliche Intelligenz (KI) wird unsere Welt in immer größerem Ausmaß verändern. Doch laut Yashowardhan “Yash” Sowale kommt es darauf an, das Potenzial der KI zu nutzen, anstatt ihr freien Lauf zu lassen, damit sie ihr Leistungsversprechen erfüllt.

Yash arbeitet seit mehr als acht Jahren bei Capgemini und ist jetzt VP und Leiter der Architektur für unseren globalen Geschäftsbereich Insights and Data. Außerdem leitet er das Center of Excellence für Unternehmensarchitektur.

“Ich führe große Transformationsprogramme für meine Kunden durch und stehe an der Spitze der Umsetzung von KI”, sagt er. “Ich bin auch Community-Leiter, Mentor und arbeite regelmäßig mit Hochschulen zusammen. Meine Tage sind randvoll mit spannenden Veranstaltungen und neuen Dingen, die es zu entdecken gilt.” Sicherzustellen, dass KI eine Kraft für das Gute ist, ist Teil dieser täglichen Arbeit.

American Dreams

Bevor er zu Capgemini kam, arbeitete Yash für Unternehmen wie Montgomery Watson Harza (jetzt Stantec), NIH, Sallie Mae, Verizon und Lockheed Martin. Seine allererste leitende Rolle im Bereich Architektur führte ihn bis hin zur Arbeit mit US-Bundesbehörden und Beamten.

“In den frühen 2000er Jahren hatte ich das Privileg, an einem Projekt des Weißen Hauses namens US Presidential Libraries/Electronic Records Archives für das Executive Office of the President zu arbeiten”, sagt er. “Es war eine unglaubliche Erfahrung, einen digitalen Tresorraum mit mehreren Petabyte zu entwerfen und zu entwickeln, dessen Sicherheit den Bundesgesetzen für sensible Daten entsprach.”

Eine lebenslange Leidenschaft

Seit Beginn seiner Karriere bis heute ist künstliche Intelligenz ein Thema, das Yash sehr am Herzen liegt.

“Zu Beginn meiner Karriere im Jahr 1993 arbeitete ich am Tata Institute of Fundamental Research (TIFR), einer der führenden wissenschaftlichen Forschungseinrichtungen in Indien”, sagt er. “Ich war so etwas wie ein Amateur, wenn es um Datenwissenschaft ging. Ich arbeitete an Konzepten, die damals sehr fortschrittlich waren, wie Fuzzy-Logik, neuronale Netze und die Synthese und Generierung von Schriften für indische Sprachen. So begann mein Interesse an KI.”

Heute leitet Yash das Capgemini-Offering “Ethical AI Flying Squad” und ist bei Capgemini führend in der Auseinandersetzung mit diesem Thema. “Da KI mittlerweile viele Aspekte von Wirtschaft und Gesellschaft beeinflusst, ist die Beziehung zwischen Menschen und dieser neuen Technologie an einem kritischen Punkt angelangt”, sagt er. “Wir müssen sicherstellen, dass wir die Kontrolle über die KI haben und nicht umgekehrt”.

Abbau von Vorurteilen

Yash zufolge wird Diskriminierung als Folge von KI-gestützten Technologien zunehmend zu einer Herausforderung. Er zitiert einen Bericht der US-Notenbank über algorithmische Verzerrungen bei der Kreditvergabe im Finanzdienstleistungssektor, die zu einer hohen Zahl von Kreditverweigerungen für Frauen führen.

Yash erklärt, dass dies passieren kann, wenn ein KI-Modell Daten verwendet, die von einflussreichen Institutionen gesammelt wurden und nur Datenpunkte aus bestimmten, nicht repräsentativen sozialen Demografien oder Schichten enthalten. Oft werden auch Daten von beliebten Open-Source-Datenanbietern verwendet, die möglicherweise begrenzt oder einseitig sind.

“Sie kann in bestimmten Bevölkerungsgruppen zu digitalen Ausgrenzungen führen”, sagt er. “Organisationen bauen Systeme auf, die sich auf das tägliche Leben der Menschen auswirken, daher müssen wir uns darauf konzentrieren, Vorurteile auf faire, erklärbare und transparente Weise zu beseitigen.

Nutzen für Organisationen

“Um integrativ und fair zu sein, müssen Unternehmen Vorurteile bei der technischen Herangehensweise an ein Projekt und bei der Einstellung einer Vielzahl von Mitarbeitern – von Ingenieuren bis hin zu Entscheidungsträgern – beseitigen”, sagt Yash.

“Außerdem profitieren Unternehmen davon, ethischer zu sein”, erklärt er. “Die Mitarbeiter bevorzugen im Allgemeinen integrativere Unternehmen, und diese übertreffen in der Regel ihre Konkurrenten in Bezug auf Marktanteil und Performance.”

Yash zufolge liegt das daran, dass eine Vielzahl von Mitarbeitern mehr Kreativität und Ideen einbringen kann. Außerdem können sie die Produkte während des gesamten Entwicklungsprozesses umfassend analysieren, was das Risiko einer negativen Kundenreaktion reduziert.”

Er unterstrich die Bedeutung der Inklusion und verwies auf eine Studie des Capgemini Research Institute, die ergab, dass integrative Unternehmen mit 1,7-mal höherer Wahrscheinlichkeit Innovationsführer in ihrem jeweiligen Markt sind. Der Bericht stellte eine positive Korrelation zwischen dem Grad der Vielfalt und den Gewinnmargen fest und legt nahe, dass ein Drittel der Arbeitssuchenden sich nicht bei einem Unternehmen bewerben würde, dem es an Vielfalt mangelt.

Gemeinsame Wertvorstellungen

Durch die Festlegung einer Reihe von Grundsätzen zur ethischen KI nimmt Capgemini eine Vorreiterrolle in diesem Bereich ein, und Yash ist froh, ein Unternehmen gefunden zu haben, das mit seinen Werten im Einklang steht.

“Capgemini ist als eines der ethischsten Unternehmen der Welt anerkannt”, sagt er. “Die Werte des Unternehmens leiten mich in allen Bereichen meiner Arbeit”.

Darüber hinaus empfindet er das einzigartige Arbeitsumfeld als innovations- und forschungsfördernd. “Capgemini ist ein flexibles, unterstützendes Unternehmen, das Raum für Neues bietet, den Mitarbeitern den Mut gibt, mit neuen Ideen zu experimentieren, und den Unternehmergeist fördert”, sagt er.

Neue Dimensionen

Yash leitet derzeit ein neues Projekt in einem zukunftsweisenden Bereich – Datenverflechtungen und Datenökosysteme – das, wie er sagt, “alle Bereiche eines Unternehmens in die Lage versetzen soll, Daten zur Optimierung von Diensten zu nutzen, ohne eine unüberschaubar komplexe Plattform zu schaffen, und ihnen Werkzeuge und Techniken an die Hand gibt, um aus Daten an verschiedenen Berührungspunkten Erkenntnisse zu gewinnen”.

Mit seiner Innovations- und Unterstützungskultur hilft Capgemini Yash und seinen Kollegen, sicherzustellen, dass KI eine positive Triebkraft für die Menschheit ist. Auf diese Weise gestaltet das Unternehmen die Zukunft der Ethik im Technologiesektor und schafft die Grundlagen für eine bessere Welt für alle.