{"id":1246,"date":"2020-10-01T12:02:00","date_gmt":"2020-10-01T12:02:00","guid":{"rendered":"https:\/\/www.capgemini.com\/at-de\/?post_type=press-release&p=1246"},"modified":"2026-01-20T08:46:37","modified_gmt":"2026-01-20T08:46:37","slug":"studie-zu-ethik-und-kuenstliche-intelligenz-noch-zu-wenig-problembewusstsein-bei-unternehmen","status":"publish","type":"press-release","link":"https:\/\/www.capgemini.com\/at-de\/news\/press-releases\/studie-zu-ethik-und-kuenstliche-intelligenz-noch-zu-wenig-problembewusstsein-bei-unternehmen\/","title":{"rendered":"Studie zu Ethik und K\u00fcnstliche Intelligenz: Noch zu wenig Problembewusstsein bei Unternehmen"},"content":{"rendered":"\t\t
\n\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t

\n\t\t\t\t\t\t\t\t\t\t\tStudie zu Ethik und K\u00fcnstliche Intelligenz: Noch zu wenig Problembewusstsein bei Unternehmen\t\t\t\t\t\t\t\t\t\t<\/h1>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t

<\/p>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t

\n\t\t\t\t\t\t\t\t\t\tOct 1, 2020<\/span>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t\t\t
<\/div>\n\t\t\t\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t
Download press release<\/div>\n\t\t\t\t\t\t\t\t\t\t\t\t\t
132 KB pdf<\/div>\n\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t\t\t
<\/div>\n\t\t\t\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t
Download press release<\/div>\n\t\t\t\t\t\t\t\t\t\t\t\t\t
684 KB pdf<\/div>\n\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t<\/header>\n\t\t<\/div>\n\t\t\n\n\n
\n

Wien, 1. Oktober 2020 \u2013 Das Bewusstsein f\u00fcr ethische Fragestellungen beim Einsatz von K\u00fcnstlicher Intelligenz (KI) ist in Unternehmen und Verwaltungen gestiegen. Dennoch f\u00e4llt ihre diesj\u00e4hrige Handlungsbilanz gemischt aus, da nur in Teilbereichen Verbesserungen erzielt wurden. Ein Grund: Nur 53 Prozent der Organisationen verf\u00fcgen \u00fcber eine F\u00fchrungskraft, die f\u00fcr ethische und vertrauensw\u00fcrdige KI-Systeme verantwortlich ist. Zugleich sind im Vergleich zum Vorjahr mit 62 statt 76 Prozent weniger Verbraucher der Ansicht, dass Unternehmen vollst\u00e4ndig transparent offenlegen, wie pers\u00f6nliche Daten verwendet werden. Zu diesen und weiteren Erkenntnissen kommt die Studie <\/strong>\u201c<\/strong> AI and the ethical Conundrum: How Organizations can build ethically robust AI Systems and gain Trust<\/strong><\/a>\u201d. Sie hebt auch hervor, dass der Fokus auf ethische Aspekte entscheidend ist, um das transformative Potenzial von KI f\u00fcr Umwelt, Wirtschaft und Gesellschaft auszusch\u00f6pfen.<\/strong><\/p>\n\n\n\n

Organisationen sehen zunehmend den Handlungsbedarf hinsichtlich ethischer KI-Systeme: 45 Prozent haben 2020 eine KI-Charta definiert (2019: 5 Prozent) und zwei Drittel (65 Prozent) der F\u00fchrungskr\u00e4fte sind sich bewusst, dass KI-Systeme potenziell zu diskriminierenden Entscheidungen f\u00fchren k\u00f6nnen. 58 Prozent geben zudem an, ihre Mitarbeiter \u00fcber die m\u00f6glichen Auswirkungen der KI-Nutzung aufgekl\u00e4rt zu haben. Dennoch verzeichnen KI-Systeme 2020 allein in der ethischen Dimension Erkl\u00e4rbarkeit Fortschritte gegen\u00fcber 2019. Zudem meinen nur 40 Prozent der KI-Entwickler sowie 27 Prozent der KI-Anwender aus Marketing und Vertrieb nachvollziehen zu k\u00f6nnen, wie Entscheidungen durch KI getroffen werden. Auf Seiten der Verbraucher erwarten hingegen 71 Prozent, dass Unternehmen solche Entscheidungen genau herleiten k\u00f6nnen. Weiterhin setzen 66 Prozent voraus, dass KI-Modelle fair und vorurteilsfrei agieren und Interaktionen transparent ablaufen.<\/p>\n\n\n\n

F\u00fcr die Studie befragte das Capgemini Research Institute insgesamt 2.900 Konsumenten in sechs L\u00e4ndern sowie knapp 900 F\u00fchrungskr\u00e4fte in zehn L\u00e4ndern. Die Ergebnisse wurden zudem mit verschiedenen Studien des Vorjahres verglichen.<\/p>\n\n\n\n

COVID-19 wirkt sich negativ auf die Transparenz von KI-Verfahren aus<\/strong><\/p>\n\n\n\n

Die Studie untersucht KI-Systeme anhand der vier ethischen Dimensionen Erkl\u00e4rbarkeit, Fairness, \u00dcberpr\u00fcfbarkeit und Transparenz und kommt zu dem Ergebnis, dass sich 2020 ausschlie\u00dflich die \u201eErkl\u00e4rbarkeit\u201c verbessert hat: Demnach k\u00f6nnen mit 64 Prozent doppelt so viele Organisationen wie 2019 die Funktionsweise ihrer KI-Systeme in einfacher Sprache erkl\u00e4ren. Eine \u00dcberpr\u00fcfung der Datens\u00e4tze und KI-Systeme zwecks einer fairen Gleichbehandlung aller Gruppen nehmen 65 Prozent (2019: 66 Prozent) vor. Ebenfalls um einen Prozentpunkt auf 45 Prozent sank die Zahl der Unternehmen, die unabh\u00e4ngige Audits bei ihren KI-Systemen gem\u00e4\u00df der \u201e\u00dcberpr\u00fcfbarkeit\u201c ethischer Aspekte durchf\u00fchren. Am st\u00e4rksten ging die Anzahl an Unternehmen zur\u00fcck, die KI-Anwender transparent \u00fcber die m\u00f6glichen Auswirkungen von KI-Entscheidungen informieren; ihr Anteil sank von 73 auf 59 Prozent Dies spiegelt sich auch im gesunkenen Vertrauen der Verbraucher wider, von denen nur mehr 62 Prozent (2019: 76 Prozent) den Unternehmen attestieren, transparent zu agieren.<\/p>\n\n\n\n

Als m\u00f6gliche Ursachen hierf\u00fcr nennt die Studie die gestiegene Komplexit\u00e4t von KI-Anwendungen, den Versuch, Gesch\u00e4ftspraktiken zu sch\u00fctzen sowie die Auswirkungen auf den Algorithmus durch die Corona-Pandemie. Demnach haben ein ver\u00e4ndertes Konsumentenverhalten, der Mangel an historischen Daten f\u00fcr vergleichbare Situationen sowie die ge\u00e4nderte Gewichtung von Sicherheitsaspekten und weiterer Kriterien dazu gef\u00fchrt, dass Systeme neu gestaltet und an die neue Normalit\u00e4t angepasst werden mussten.<\/p>\n\n\n\n

Kundenerwartungen und staatliche Regulierungen \u00fcben Handlungsdruck aus<\/strong><\/p>\n\n\n\n

Viele \u00f6ffentliche und private Institutionen haben zus\u00e4tzliche KI-Technologien eingef\u00fchrt, um den Folgen der Corona-Pandemie zu begegnen. Entsprechend wird das Vertrauen der Verbraucher in KI-Interaktionen k\u00fcnftig umso wichtiger. Zugleich erh\u00f6hen gesetzliche Rahmenbedingungen den Druck auf Unternehmen. So hat die Europ\u00e4ischen Kommission ethische Leitlinien entwickelt[1]<\/a> und die US-Handelskommission FTC Anfang 2020 Richtlinien f\u00fcr eine transparente KI[2]<\/a> aufgestellt. Letztere sehen vor, dass Verbrauchern bei negativen Entscheidungen \u2013 beispielsweise einem abgelehnten Kredit \u2013 die zur Entscheidungsfindung zentralen Datenpunkte offengelegt werden. Damit sollen sie die Chance erhalten, falsche oder irref\u00fchrende Angaben zu korrigieren. Von den Unternehmen geben 62 Prozent an, in ihrer Region geltende Datenschutzbestimmungen wie GDPR zu erf\u00fcllen, eine Steigerung um 13 Prozentpunkte im Vergleich zu 2019.<\/p>\n\n\n\n

Die Studie zeigt, dass Datens\u00e4tze mitunter tats\u00e4chlich soziale und kulturelle Vorurteile (\u201eBias\u201c) aufweisen[3]<\/a>, wobei sich 65 Prozent der F\u00fchrungskr\u00e4fte des Problems diskriminierender Verzerrungen bewusst sind. Einer rechtlichen Pr\u00fcfung wurden bereits 60 Prozent der Unternehmen unterzogen. Insgesamt 22 Prozent der Unternehmen wurden in den letzten drei Jahren von Kunden damit konfrontiert, dass sie KI-basierte Entscheidungen anzweifeln, beziehungsweise die Entscheidungsfindung nachvollziehen wollen. Hierin liegt ein Erfolgsrisiko, da 45 Prozent der Kunden negative Erfahrungen mit Freunden und Verwandten teilen und sie dazu anhalten w\u00fcrden, nicht mit den entsprechenden Unternehmen in Kontakt zu treten. Jeweils 39 Prozent w\u00fcrden bei fragw\u00fcrdigen Entscheidungen eine Erkl\u00e4rung verlangen, beziehungsweise auch h\u00f6here Kosten in Kauf nehmen, um zu einem menschlichen Ansprechpartner zu wechseln. \u00dcber ein Viertel der Verbraucher (27 Prozent) w\u00fcrde den Kontakt zur entsprechenden Organisation abbrechen.<\/p>\n\n\n\n

Rechenschaft f\u00fcr F\u00fchrungskr\u00e4fte in ethischen Belangen etablieren<\/strong><\/p>\n\n\n\n

Unternehmen sollten gem\u00e4\u00df der Studie eine verantwortliche F\u00fchrungskraft, etwa einen Chief Ethics Officer, etablieren, um ethisch robuste KI-Systeme sicherzustellen. Momentan ist diese Funktion in 53 Prozent der Unternehmen vorhanden. \u00dcber einen Ombudsmann oder eine Hotline, an die sich Kunden und Mitarbeiter bez\u00fcglich ethischer Fragen zu KI-Systemen wenden k\u00f6nnen, verf\u00fcgt ebenfalls nur jedes zweite Unternehmen. Zudem sollten auch F\u00fchrungskr\u00e4fte der Gesch\u00e4fts- wie Technologieebenen gew\u00e4hrleisten k\u00f6nnen, dass in ihrem Bereich eingesetzte KI-Anwendungen ethische Ergebnisse liefern.<\/p>\n\n\n\n

Zusammenfassend hebt die Studie sieben zentrale Ma\u00dfnahmen[4]<\/a> hervor, die f\u00fcr den Aufbau eines ethisch robusten KI-Systems entscheidend sind und auf einem belastbaren Fundament aus F\u00fchrung, Steuerung (\u201eGovernance\u201c) und internen Prozessen basieren m\u00fcssen. Organisationen sollten daher:<\/p>\n\n\n\n