Zum Inhalt gehen

Mit Trustworthy AI sicher in die Zukunft: Vertrauen in künstliche Intelligenz schaffen  

Capgemini Karriere
21. Okt. 2024

Trustworthy AI erweist sich als wichtiger Pfeiler für eine verantwortungsvolle Zukunftsgestaltung. Hier erfährst du, warum eine vertrauenswürdige KI unverzichtbar ist und wie sie die Brücke zwischen Innovation und ethischen Werten schlägt.

Künstliche Intelligenz nimmt großen Einfluss auf unseren Alltag und unsere Geschäftswelt. Denn sie ermöglicht es Computern und Maschinen, Aufgaben zu übernehmen, die normalerweise menschliches Denken erfordern. Mit Hilfe von KI lassen sich beispielsweise Kunden teil-automatisiert betreuen, Trends aufspüren oder Dienstleistungen personalisieren. Doch neben diesen Vorteilen, birgt KI auch Risiken. In ihrer Rolle als Director AI bei Capgemini beschäftigt sich Sarah Engel mit der Frage, wie KI vertrauenswürdig gestaltet und eingesetzt werden kann. Im Interview erklärt sie, warum ethische und regulatorische Überlegungen bei der Entwicklung und beim Einsatz von KI essenziell sind und wie sie Unternehmen dabei begleitet, künstliche Intelligenz vertrauenswürdig zu gestalten.

Trustworthy AI: Transparenz herstellen und Vertrauen schaffen 

Sarah, warum ist Vertrauen in Technologien, speziell in KI, für Nutzer*innen wichtig? 

Trustworthy-AI

Künstliche Intelligenz ist ein komplexes System, das aus den von uns bereitgestellten Daten lernt. Daher kann KI keine absolute Genauigkeit garantieren und trifft oft Entscheidungen, die für Laien und manchmal sogar für Expert*innen nur schwer nachvollziehbar sind. Diese Intransparenz kann das Vertrauen in KI-gestützte Entscheidungen mindern und die Akzeptanz der Technologie behindern. Denn schließlich müssen Nutzer*innen darauf vertrauen können, dass die KI korrekte und faire Entscheidungen trifft und die persönlichen Daten sicher und vertraulich behandelt. Viele Unternehmen sind sich darüber bewusst, wie wichtig die Verknüpfung von künstlicher Intelligenz und Ethik ist, insbesondere in Bezug auf den Datenschutz und die Erklärbarkeit von KI-gestützten Entscheidungen. 

Welche Herausforderungen birgt KI konkret? 

KI-Systeme können voreingenommen sein, wenn die Daten, aus denen sie lernen, nicht repräsentativ sind oder Verzerrungen enthalten. Auch der Datenschutz und die Sicherheit sollten bei der Entwicklung der KI im Fokus stehen, da künstliche Intelligenz häufig den Zugriff auf sensible Daten erfordert und diese zur Verbesserung ihrer Funktionalität speichert. Zusätzlich erschwert die Komplexität der KI-Modelle die Transparenz und Nachvollziehbarkeit ihrer Entscheidungen, wie zu Beginn bereits erläutert. Umso wichtiger ist es, dass KI so entwickelt und eingesetzt wird, dass sie sicher, transparent, nachvollziehbar und ethisch ist. 

Wieso sind ethische als auch rechtliche Überlegungen für Unternehmen bei der Entwicklung von KI-unterstützten Lösungen wichtig? 

Unternehmen tragen Verantwortung für ihre Mitarbeitenden, ihre Produkte bzw. Dienstleistungen, die sie anbieten, ihren Umgang mit Kunden und eben auch für den sicheren Umgang mit KI-basierten Technologien.  

Eine aktuelle Studie Turbocharging Software with Gen AI des Capgemini Research Institute zeigt jedoch, dass 61 Prozent der Unternehmen, die mit KI-unterstützten Lösungen arbeiten, noch kein Governance-Framework etabliert haben. Des Weiteren offenbart die Studie, dass 40 Prozent der Mitarbeitenden, die mit KI arbeiten, entsprechende Schulungen von ihrem Unternehmen erhalten. 63 Prozent der Softwareexpert*innen greifen bei der Nutzung generativer KI auf nicht-autorisierte Tools zurück – dies stellt ein erhebliches Sicherheits- und Rechtsrisiko für Unternehmen dar. Denn ohne klare Governance steigt das Risiko von Problemen wie Text-Halluzinationen, Datenlecks und Urheberrechtsverletzungen.  

Daher sollten bei der Entwicklung von KI-Systemen rechtliche Rahmenbedingungen und die Überprüfung dieser immer eine zentrale Rolle spielen. Denn Unternehmen müssen sicherstellen, dass ihre KI-Systeme den geltenden rechtlichen Anforderungen entsprechen, um Verstöße und damit einhergehende Geldstrafen und rechtlichen Konsequenzen zu vermeiden. Doch auch die Etablierung von ethischen Richtlinien ist bei der Entwicklung von KI-Systemen unabdingbar, um zu gewährleisten, dass die KI faire und gerechte Entscheidungen trifft. Nur durch eine Kombination aus rechtlicher Compliance und ethischen Standards kann sichergestellt werden, dass KI-Systeme im Sinne einer Trustworthy bzw. Responsible AI sicher und vertrauenswürdig eingesetzt werden. 

Inwiefern trägt der EU AI Act zur Etablierung eines verbindlichen rechtlichen Rahmens für den Einsatz von Künstlicher Intelligenz bei? 

Aufgrund der zuvor genannten Risiken ist es unerlässlich, nicht nur darauf zu vertrauen, dass Unternehmen Sicherheitsmechanismen rund um KI etablieren, sondern auch ein übergreifender rechtlicher Rahmen geschaffen wird. Der EU AI Act ist ein wegweisender Schritt in diese Richtung und setzt weltweit einen neuen Standard für die gesetzliche Regelung von einer KI. Der Act verfolgt einen risikobasierten Ansatz, sprich er klassifiziert KI-Systeme in verschiedene Risikokategorien – von minimalem bis hin zu unannehmbaren Risiko – und definiert spezifische Anforderungen für jede Kategorie. So müssen beispielsweise KI-Systeme mit hohem Risiko, wie HR-Systeme im Gesundheitswesen oder im Bereich kritischer Infrastruktur, strengen Transparenz- und Sicherheitsanforderungen entsprechen. Zu den wesentlichen Anforderungen gehören unter anderem die Dokumentation der verwendeten Daten, ein Risiko-Management-System und menschliche Aufsicht.

Capgemini unterstützt Unternehmen bei der Entwicklung einer Trustworthy AI

Wie können Unternehmen eine zukunftssichere und wertebasierte KI-Strategie entwickeln? 

Eine Trustworthy AI, also wertebasierte KI-Strategie, bedarf der Berücksichtigung von drei wichtigen Aspekten. Zunächst ist es wichtig, Richtlinien und Prinzipien zu etablieren, die den Umgang mit KI regeln. Dazu gehören Maßnahmen zur Vermeidung von Bias, zur Sicherstellung der Transparenz in Entscheidungsprozessen und zum Schutz der persönlichen Unternehmens- und Kundendaten. Gleichzeitig ist es wichtig, dass es interdisziplinäre Teams gibt, damit unterschiedliche Perspektiven und Expertisen in die Entwicklung der Responsible AI miteinfließen und letztendlich gewährleistet ist, dass das KI-System auch den Unternehmenswerten und -normen entspricht. Neben Daten- und KI-Expert*innen sollten daher die Rechtsabteilung, das Risiko- und Compliance-Management, HR und der Betriebsrat involviert werden. Um sicherzustellen, dass alle Mitarbeitenden ein einheitliches Verständnis der ethischen und rechtlichen Anforderungen im Umgang mit KI haben, sollten regelmäßige Schulungen veranstaltet werden.  

Wie unterstützt Capgemini Unternehmen bei der Umsetzung von einer Responsible AI?

Wir begleiten Unternehmen vom Design, über die Implementierung, bis hin zum Betrieb, verfolgen also einen End-to-End-Ansatz. Dabei konzentrieren wir uns nicht nur auf die technische Seite, sondern unterstützen auch in organisatorischen sowie strategischen Fragen.  Es sind daher unterschiedliche Skills gefragt; entsprechend stellen wir Teams auf und involvieren sowohl Techies, beispielsweise AI Engineers, Data Scientists, als auch Strateg*innen, Designer*innen, Jurist*innen und fachliche Expert*innen. Häufig kommen Kunden bereits mit bestehenden Problemen auf uns zu oder erhalten durch die neuen Regularien einen Weckruf, sind sich aber unsicher, wie sie vorgehen sollen. Wir suchen dann gemeinsam nach Lösungsansätzen und entwickeln eine passende KI-Strategie.

Inwiefern ist Trustworthy AI ein Innovationstreiber? 

Auch wenn Unternehmen die Einführung von Trustworthy AI zunächst oft als Herausforderung ansehen, bietet sie nach erfolgreicher Implementierung einen erheblichen Return on Investment: mehr Projekte gehen live und stiften einen Mehrwert. Denn bereits die Auseinandersetzung mit Trustworthy AI bzw. Responsible AI fördert Innovationen, da sie dazu anregt, zu hinterfragen, wie KI-basierte Konzepte besonders langlebig und kundenfreundlich gestaltet werden können. Das schafft Raum für kreative Lösungen, die das Unternehmen voranbringen und langfristigen Erfolg sichern.  

Das Thema Vertrauen ist aber nicht nur für die Endprodukte, die unsere Kunden einsetzen, sondern auch für die eigene Unternehmenskultur relevant. Mitarbeitende identifizieren sich eher mit einem Unternehmen, das Vertrauenswürdigkeit in den Mittelpunkt ihres Handelns stellt. Die Verbindung von künstlicher Intelligenz und Ethik zahlt sich also gleich doppelt aus und macht Unternehmen zukunftsfähig.

Deine Begeisterung für generativer KI kennt keine Grenzen? Als Gen AI Solutions Consultant bist du nicht nur Teil der Zukunft – du gestaltest sie mit.

Eine spannende Karriere in einem inspirierenden Umfeld: KI-Ethik bei Capgemini

Wie bleibst du bezüglich der neusten Entwicklungen im Bereich KI-Ethik auf dem Laufenden?

Ich promoviere neben meinem Job im Bereich KI Governance. Das bietet mir eine wertvolle Ressource. Auch das kollegiale Arbeitsumfeld von Capgemini ist sehr hilfreich. Innerhalb unseres Unternehmens haben wir globale und lokale Communities, in denen interdisziplinäre Gruppen zusammenkommen und sich über die neusten Entwicklungen austauschen. Darüber hinaus nehme ich regelmäßig an branchenspezifischen Konferenzen wie die globale KI Governance- Konferenz der IAPP teil, halte selbst Vorträge oder tausche mich mit meinem internationalen Netzwerk aus, um stets auf dem neuesten Stand zu bleiben. 

Gibt es bei Capgemini Schulungen im Bereich der KI-Ethik?

Bei Capgemini gibt es sowohl Schulungen für alle Mitarbeitenden, um das Bewusstsein für die Risiken von KI zu schärfen, als auch spezialisierte Trainings zu Responsible AI. Hier lernen wir beispielsweise, wie KI-Bias gemessen und reduziert werden können. Wir betonen dabei auch die Bedeutung von „Ethics & Compliance by Design“ – also die Einbeziehung ethischer und rechtlicher Überlegungen während des gesamten Entwicklungsprozesses.

Was würdest du anderen empfehlen, die sich für eine Karriere im Bereich KI- Ethik und KI-Governance interessieren? 

Folgt eurer Begeisterung und kombiniert diese mit technischem Wissen.  Es gibt viele Wege, die eigene Karriere zu gestalten – egal, ob ihr aus der Medizin, Philosophie, Psychologie oder einem anderen Studiengang kommt! Der Weg muss nicht zwangsläufig über ein Informatikstudium führen. Für Interessierte gibt es aber mittlerweile auch Studiengänge mit dem Schwerpunkt KI-Ethik oder KI-Governance.  

Ganz gleich wie ihr euren Karriereweg gestaltet – wichtig ist Offenheit für eine fachübergreifende Zusammenarbeit. Auch Wissbegierde und eine Affinität für IT-Themen sind wichtige Voraussetzungen sowie der Wille, die Zukunft positiv mitzugestalten. 

Danke, Sarah! 

Du brennst für innovative Technologien und möchtest die Zukunft positiv mitgestalten?

Klick dich weiter ins Jobportal und bewirb dich jetzt bei Capgemini!

Jetzt auf dem Karriereblog weiterlesen: