Künstliche Intelligenz: Unternehmen handeln bei ethischen Fragestellungen zögerlich

Wie Organisationen ethisch robuste und vertrauenswürdige KI-Systeme aufbauen können

Trust me, I’m AI.

Das Bewusstsein für ethische Fragestellungen beim Einsatz von Künstlicher Intelligenz (KI) ist in Unternehmen und Verwaltungen gestiegen. Dennoch fällt die diesjährige Erfolgsbilanz gemischt aus, da nur in Teilbereichen Verbesserungen erzielt wurden. Zu diesen und weiteren Erkenntnissen kommt die Studie AI and the ethical Conundrum: How Organizations can build ethically robust AI Systems and gain Trust”. Sie hebt auch hervor, dass der Fokus auf ethische Aspekte entscheidend ist, um das transformative Potenzial von KI für Umwelt, Wirtschaft und Gesellschaft auszuschöpfen.

 Organisationen sehen zunehmend den Handlungsbedarf hinsichtlich ethischer KI-Systeme und sind sich bewusst, dass sie potenziell zu diskriminierenden Entscheidungen führen können. Dennoch verzeichnen KI-Systeme 2020 allein in der ethischen Dimension Erklärbarkeit Fortschritte gegenüber 2019. Dem gegenüber steht die Erwartungshaltung der Verbraucher, dass Unternehmen solche die Entscheidungsfindung durch KI genau herleiten können und KI-Modelle grundsätzlich fair und vorurteilsfrei agieren sowie Interaktionen transparent ablaufen.

Zusammenfassend nennt die Studie sieben zentrale Maßnahmen, die für den Aufbau eines ethisch robusten KI-Systems entscheidend sind und die sich an den von der EU-Kommission formulierten Prinzipien für eine ethische KI orientieren. Wichtig dabei ist, dass diese auf einem belastbaren Fundament aus Führung, Steuerung („Governance“) und internen Prozessen basieren müssen. Organisationen sollten daher:

  • den beabsichtigen Zweck des KI-Systems präzise beschreiben können und die potenzielle Gesamtwirkung ermitteln
  • KI aktiv zum Nutzen von Gesellschaft und Umwelt einsetzen
  • die Prinzipien von Vielfalt und Inklusion im gesamten Lebenszyklus der KI-Systeme verankern
  • die Transparenz mit Hilfe geeigneter Technologie-Werkzeuge optimieren
  • sicherstellen, dass KI-Erfahrungen auf den Menschen ausgerichtet sind und KI-Systeme unter menschlicher Aufsicht stehen
  • gewährleisten, dass KI-Systeme technisch robust sind
  • die Privatsphäre schützen, indem Nutzern die Kontrolle über ihre KI-Interaktionen gegeben wird

Für die Studie befragte das Capgemini Research Institute insgesamt 2.900 Konsumenten in sechs Ländern sowie knapp 900 Führungskräfte in zehn Ländern, jeweils einschließlich Deutschland. Die Ergebnisse wurden zudem mit verschiedenen Studien des Vorjahres verglichen.

 

Studie Ethics In AI

Dateigröße: 5,75 MB File type: PDF

Infografik Ethics In AI

Dateigröße: 683,94 KB File type: PDF

Capgemini Research Institute

Capgemini’s #1 ranked in-house think tank on all things digital