KI und das ethische Dilemma: Wie Unternehmen ethisch robuste KI-Systeme aufbauen und Vertrauen gewinnen können

Im Zuge der COVID-19-Krise ist unser Vertrauen in die KI sprunghaft angestiegen. Mehr als je zuvor erwarten wir heute, dass KI uns hilft, physische Interaktionen zu begrenzen, die nächste Pandemiewelle vorherzusagen, unsere Gesundheitseinrichtungen zu desinfizieren und sogar unser Essen zu liefern. Aber können wir ihr vertrauen?

Im neuesten Bericht des Capgemini Research Institute – AI and the Ethical Conundrum: How organizations can build ethically robust AI systems and gain trust – haben wir über 800 Unternehmen und 2.900 Verbraucher befragt, um uns ein Bild vom Stand der Ethik in der KI zu machen. Wir wollten verstehen, was Unternehmen tun können, um zu KI-Systemen zu gelangen, die von vornherein ethisch vertretbar sind, wie sie davon profitieren können und welche Folgen es hat, wenn sie es nicht tun. Wir haben herausgefunden, dass die Kunden zwar immer mehr Vertrauen in KI-gestützte Interaktionen haben, die Fortschritte der Unternehmen in Bezug auf ethische Aspekte jedoch nicht sehr überzeugend sind. Und das ist gefährlich, denn wenn das Vertrauen erst einmal verletzt ist, kann es schwer sein, es wiederherzustellen.

Ethisch fundierte KI erfordert ein starkes Fundament aus Führung, Governance und internen Praktiken in Bezug auf Audits, Schulungen und die Operationalisierung von Ethik. Aufbauend auf diesem Fundament müssen Organisationen:

1. den beabsichtigten Zweck von KI-Systemen klar umreißen und ihre potenziellen Gesamtauswirkungen bewerten
2. Proaktiver Einsatz von AI zur Erreichung von Nachhaltigkeitszielen
3. die Grundsätze der Vielfalt und Einbeziehung proaktiv in den gesamten Lebenszyklus von KI-Systemen einzubinden, um die Fairness zu fördern
4. Verbesserung der Transparenz mit Hilfe von technologischen Werkzeugen, Vermenschlichung der KI-Erfahrung und Gewährleistung der menschlichen Aufsicht über KI-Systeme
5. Gewährleistung der technologischen Robustheit von KI-Systemen
6. Ermöglichen Sie Ihren Kunden Datenschutzkontrollen, damit sie die Verantwortung für KI-Interaktionen übernehmen können.

Weitere Informationen über Ethik in der KI finden Sie in diesem Bericht.