KI für Sicherheitsbehörden

Teil 2: KI – Vier Erfolgsfaktoren für den Einsatz bei Sicherheitsbehörden

Läuft man durch die Straßen, betritt Gebäude oder zückt das Handy – es werden Daten ausgetauscht, konsumiert und produziert. Künstliche Intelligenz (KI) als universelles Set an Datenerkenntniswerkzeugen bietet daher weitreichende Potenziale um Einblicke und Erkenntnisse zu sammeln – oft bereits in Echtzeit und mit steigender Effizienz. Diese großen Chancen gilt es zu nutzen, wobei auch mögliche Risiken diskutiert werden müssen.

Mein 1. Beitrag zum Thema handelte vom Potenzial im Polizeiumfeld – im Rahmen der Identifikation, Interaktion, Automatisierung und Hilfestellung bei Entscheidungsprozessen.

Dieses Potenzial geht einher mit zentralen Fragen zum Umgang mit Daten und auch mit dem Menschen insgesamt. Um die aufgezeigten Chancen ausschöpfen zu können, stelle ich im zweiten Teil die vier, für den erforderlichen Rahmen unverzichtbaren, Grundvoraussetzungen vor, die Sicherheitsbehörden schaffen müssen.

1) Der Erfolg von KI-gestützten Vorhaben steht und fällt mit den zugrunde gelegten Daten

Das Trainieren einer KI benötigt große Mengen von hochqualitativen Trainingsdaten. Dies ist die Voraussetzung, damit Muster verlässlich und effizient erkannt sowie nützliche und vertretbare Handlungsempfehlungen gegeben werden können. Neben der generellen Fehlerfreiheit bedeutet Qualität in diesem Zusammenhang u. a. eine lückenlose Einspeisung von Daten, beispielsweise Fahndungsdaten, um eine stetige Verfügbarkeit zu gewährleisten. Weiterhin führen qualitativ unzureichende Daten zu schlechten Ergebnissen der KI-Anwendung. Eine KI, der nur wenige und noch dazu lückenhafte oder fehlerbehaftete Daten zur Verfügung stehen, ist nicht in der Lage, realitätsrelevante Analysen anzustellen. Eine Datenkultur mit einem hohen Qualitätsanspruch ist für erfolgreiche KI-Einsätze daher unerlässlich.

2) Die Qualität der Daten hängt mit dem Aspekt der Daten- und KI-Ethik zusammen

Angesichts der zunehmenden Übertragung von Analyse- und Entscheidungskompetenzen an autonome Computersysteme steigt die Dringlichkeit der Frage, wie diese Systeme reguliert werden können, um die ethische Vertretbarkeit der aus dem KI-Einsatz resultierenden Handlungen zu gewährleisten? Verschiedene Akteure, von Staaten über zwischenstaatliche Bündnisse bis hin zu zivilgesellschaftlichen Organisationen, beschäftigen sich derzeit mit der Regulierung von Künstlicher Intelligenz – als ein Beispiel seien die „Ethik-Leitlinien für vertrauenswürdige KI“[1] der Expertengruppe für Künstliche Intelligenz der EU-Kommission genannt. Die Beschaffenheit der Datengrundlage spielt neben der Gestaltung des Algorithmus in diesem Zusammenhang insofern eine entscheidende Rolle, da sie maßgebliche Auswirkungen auf die Entscheidungsfindung der KI hat: Obwohl das KI-System selbst kein moralisches Bewusstsein hat, reproduziert es die Entscheidungsmuster, die es in den Trainingsdaten ‚erkannt‘ hat. Wurden beispielsweise in der Vergangenheit – aus bewussten oder unbewussten Vorurteilen heraus – arabischstämmige Bürger häufiger bei der Sicherheitskontrolle an Flughäfen gesondert untersucht, als es bei hellhäutigen Menschen der Fall war, identifiziert eine mit diesen Daten trainierte KI dies als zu wiederholendes Muster und schlägt in Folge ebenfalls bei den entsprechenden Bevölkerungsgruppen häufiger Alarm. Auf diese Weise werden bestehende Diskriminierungsmuster – sogenanntes Racial Profiling – maschinell verstärkt.

3) Datenschutz ist Bürgerrecht und damit auch ein ethisch relevantes Diskussionsfeld

Da KI-Systeme auf umfassende Datenmengen einsetzen können, ist es prinzipiell möglich, personifizierte Profile von Bürgern zu erstellen, die das Risiko einer missbräuchlichen Nutzung bergen. Dieser Aspekt schließt an den dritten Punkt an, der für einen erfolgreichen Einsatz von künstlicher Intelligenz in Sicherheitsbehörden von entscheidender Bedeutung ist: Die Akzeptanz der Bürger. Die Legitimität jeglicher staatlicher Gewalt fußt neben der Einhaltung der rechtlichen Vorgaben auch auf dem Vertrauen der Bürger in ihre verantwortungsvolle Ausübung. Um die Risiken des KI-Einsatzes im öffentlichen Bereich zu minimieren und die Akzeptanz der Bürger für dieses Vorgehen zu gewinnen, stellt Transparenz ein effektives wie unerlässliches Mittel dar, was am Beispiel von Predictive Policing, sprich die datengesteuerte Berechnung wahrscheinlicher Straftaten, veranschaulicht werden kann. Neben einer proaktiven Kommunikation darüber, wo, wann und zu welchem Zwecke Predictive-Policing-Lösungen eingesetzt werden, könnten beispielsweise unabhängigen Kontrollinstanzen Einblick in den Entwicklungsprozess solcher Systeme gewährt werden.[2] Damit ließe sich das Risiko minimieren, dass  die Bürger das Vertrauen in die Staatsgewalt verlieren, indem sie aufgrund von Intransparenz oder erlebtem Machtmissbrauch den Eindruck bekommen, die Sicherheitsbehörden würden die ihnen zur Verfügung stehenden Daten und technischen Hilfsmittel nicht im Einklang mit den Datenschutzbestimmungen und dem Grundsatz der Diskriminierungsfreiheit nutzen.

4) Die interne Akzeptanz ist wie die externe unverzichtbar

Die Sicherheitsbeamten selbst müssen zunächst von den Vorteilen eines KI-Einsatzes in ihrem Arbeitsfeld überzeugt werden. Sie sind letztlich diejenigen, die mit den Anwendungen arbeiten sollen und deshalb einen entscheidenden Beitrag zum Erfolg (oder Misserfolg) eines solchen Vorhabens leisten. Ähnlich wie beim Vertrauen der Bürger ist auch in diesem Zusammenhang ein transparentes Vorgehen essenziell. Alle Bediensteten müssen in einem umfassenden Change-Management-Prozess über das Vorhaben und seine Schritte und Ziele in vollem Umfang aufgeklärt und am Veränderungsprozess aktiv beteiligt werden. Die Gewissheit, Zweifel, Sorgen und Fragen äußern zu können, die von Entscheidungsträgern wahrgenommen und berücksichtigt werden, sowie umfassende Schulungen, die alle Beamten zum sicheren Umgang mit der Technologie befähigen, wirken möglichen Abwehrreaktionen entgegen und schaffen Akzeptanz für den Wandel. Besonders im öffentlichen Sektor, der von Hierarchien und historisch gewachsenen Arbeitsprozessen geprägt ist, stellt ein zielgerichtetes und umfangreiches Change Management einen erfolgskritischen Faktor dar[3].

Wie bei jeder disruptiven Technologie gilt es die Voraussetzungen parallel zur Chancenausschöpfung zu entwickeln und zu pflegen. Nur mit dem richtigen Umgang mit Daten und Bürgern lässt sich KI konzipieren, skalieren und im Rahmen der Aufgaben der Polizei umsetzen.

Letztendlich wird dies auch im Kontext des Polizei 2020 Programms, welches wir im Teil 1 bereits erläutert haben, von Bedeutung sein. Die konsolidierte IT-Infrastruktur der Sicherheitsbehörden, auf die „Polizei 2020“ hinsteuert, bietet in der Tat in Bezug auf Datenverfügbarkeit und Datenqualität die ideale Grundlage für den Einsatz von Predictive Analytics mit dem Ziel, die Präventionsfähigkeiten der Polizei zu stärken.

Wie bei jedem Transformierungsvorhaben müssen das Bundesministerium des Innern (BMI) und die beteiligten nachgeordneten Behörden allerdings bei der Nutzung von KI die ausgeführten notwendigen Grundbausteine – Datenqualität, ethische Standards, Akzeptanz von außen und von innen – legen, um das Konzept „Polizei 2020“ erfolgreich umsetzen zu können.

[1] https://ec.europa.eu/germany/news/20190626-ethische-leitlinien-fuer-kuenstliche-intelligenz-vorgelegt_de.

[2] Vgl. Hartmann, Kai, in: Bode, Felix (2020): Predictive Policing. Eine Bestandsaufnahme für den deutschsprachigen Raum.

[3] https://polizei.nrw/sites/default/files/2018-07/180628_Abschlussbericht_SKALA.PDF.

Teil 1: KI für Sicherheitsbehörden – Potenzial und Ambitionen

Läuft man durch die Straßen, betritt Gebäude oder zückt das Handy – es werden Daten ausgetauscht, konsumiert und produziert. Künstliche Intelligenz (KI) als universelles Set an Datenerkenntniswerkzeugen bietet daher weitreichende Potenziale um Einblicke und Erkenntnisse zu sammeln – oft bereits in Echtzeit und mit steigender Effizienz. Diese großen Chancen gilt es zu nutzen, wobei auch mögliche Risiken diskutiert werden müssen.

Eine digitale Welt mit disruptivem Potenzial

Auch für staatliche Sicherheitskräfte eröffnet ein effektiver und verantwortungsbewusster KI-Einsatz neue Möglichkeiten und könnte dafür sorgen, dass der Informationsaustausch beschleunigt, tiefere Einblicke ermöglicht und Entscheidungen optimiert werden. Im Rahmen des IT-Programms „Polizei 2020“ sollen polizeiliche Informationen besser verfügbar, die Wirtschaftlichkeit gesteigert und der Datenschutz mittels Technik gestärkt werden. Die hier zu behandelnde Frage lautet: Welchen Beitrag kann KI dazu leisten?

Herausforderung 1: Die Digitalisierung von Kriminalität

Die Polizei sieht sich im Angesicht der zunehmenden Digitalisierung aller Lebensbereiche mit einer Vielzahl von Herausforderungen konfrontiert. So macht die Digitalisierung auch vor der Kriminalität nicht Halt. Während sich Personen mit kriminellen Absichten neue technische Möglichkeiten meist ohne Einschränkungen und recht schnell zur Verfolgung ihrer Zwecke nutzen können, agiert die Polizei stets in einem eng gesteckten und klar definierten rechtlichen Kompetenzrahmen. Kriminalität und Strafverfolgung begegnen sich im Kontext der aktuellen gesetzlichen Rahmenbedingungen nicht auf technischer Augenhöhe, was das Risiko birgt, dass Straftäter der Polizei vielfach einen Schritt voraus sind. Der Gesetzgeber steht hier vor der Herausforderung, einerseits die Polizei mit den notwendigen Kompetenzen auszustatten, um Kriminalität im digitalen Zeitalter bekämpfen und Prävention betreiben zu können, andererseits aber auch die Grundrechte auf Privatsphäre und Datenschutz zu wahren und zu schützen. Das Austarieren dieser beiden Ziele ist von entscheidender Bedeutung für die Wahrung von Rechtsstaatlichkeit und die Akzeptanz der staatlichen Gewalt durch die Bürger.

Herausforderung 2: Die Entgrenzung von Kriminalität

Die Digitalisierung der Kriminalität geht nun jedoch mit einer Entgrenzung krimineller Aktivitäten einher. Terrorismus ist ein Beispiel für grenzüberschreitende Kriminalität, die mittels analoger Ermittlungsmethoden nicht oder nur sehr eingeschränkt bekämpft werden kann. Neben einem mangelnden Einsatz technologiebasierter Kontroll- und Ermittlungsinstrumente trägt auch die fehlende Kommunikation zwischen den Sicherheitsbehörden verschiedener Länder dazu bei, dass die Verhinderung und Aufdeckung grenzüberschreitender Kriminalität erschwert wird. Kurz: Globale Probleme machen nicht an Staatsgrenzen Halt und können nicht im strikt nationalen Kontext bewältigt werden.

Herausforderung 3: Echtzeitgefahren verlangen nach Echtzeitlösungen

Eine weitere Herausforderung, mit der die Sicherheitsbehörden konfrontiert sind, ist die Schnelllebigkeit der Kriminalität und die sich daraus ergebenden Echtzeit-Risiken. So ist die Arbeitsweise der Strafverfolgungsbehörden derzeit noch stark darauf ausgelegt zu reagieren, statt präventiv zu agieren. Beispielsweise wird die Polizei im Falle einer Gewaltstraftat, etwa die Beteiligung an einer Schlägerei, sexueller Nötigung oder Mord häufig erst nach Vollendung der Tat alarmiert. Entsprechend kann nicht mehr die Gefahr bekämpft und die eigentliche Tat verhindert werden. Vielmehr wird im Nachgang der Schaden festgestellt und versucht, die Schuldigen dingfest zu machen. Prävention basiert auf der Identifizierung wiederkehrender Verhaltensmuster und der Erstellung entsprechender Prognosen. Neben mangelnden zeitlichen und personellen Ressourcen erschweren auch die Individualisierung und zunehmende Mobilität der Gesellschaft das Erkennen von Mustern und damit die Prävention von Kriminalität. Der Einsatz von Künstlicher Intelligenz kann Prognosen krimineller Aktivitäten unterstützen und dadurch die Effizienz der Polizeiarbeit in der Abwehr von Risiken steigern.

Für diese Schmerzstelle bildet KI durchaus eine Technologie, die mit ihrem disruptivem Potential eine Sicherheitsbehörde erweitern. Dabei sind vier Kerneigenschaften von KI hervorzuheben:

Welche Möglichkeiten bietet KI der öffentlichen Sicherheit?

1. KI identifiziert

Künstliche Intelligenz ermöglicht das Identifizieren von Informationen basierend auf verschiedenen Formen vorhandener Daten – seien es visuelle, sprachliche oder quantitative Daten. Auf diese Weise ist KI in der Lage, von Bildern und Videos über Tonspuren bis hin zu Zahlenreihen vielfältige Informationsquellen auszuwerten. Technologisch können hierfür sowohl Computer Vision und Natural Language Processing als auch Advanced Analytics zum Einsatz kommen. Dabei ist das, was identifiziert wird, durchaus mehrdimensional: Identifiziert werden können spezifische Objekte, Merkmale oder auch Muster.

Die von KI ermöglichte Identifizierung ist insofern für Sicherheitsbehörden relevant, als das sie in Echtzeit Gefahrensituationen erkennbar werden lässt und eine schnelle und effektive Reaktionshandlung möglich macht. Ein anschaulicher Anwendungsfall ist das Erkennen von Gefahren im öffentlichen Raum: Anhand von Mustererkennung lässt sich so zum Beispiel ein Messer in der Hand eines Täters identifizieren, der gerade einen Supermarkt betritt. Auch die Identifizierung von Kriminellen im Rahmen von polizeilichen Gegenüberstellungen – ermöglicht durch den Abgleich mit verfügbaren Datenbanken durch KI – ist ein wichtiger Anwendungsfall.

2. KI automatisiert Prozesse intelligent

Über die Identifizierung hinaus ermöglicht die Nutzung von KI eine weiterführende Verarbeitung von Informationen. Basierend auf erlernten Prozessen ist KI in der Lage, Informationen zuzuordnen, zu labeln und zu klassifizieren. Technisch ist eine solche Verarbeitung mit Intelligent Process Automation umsetzbar. Hierbei wird ein zu automatisierender Prozess zunächst in seinen Einzelschritten analysiert und ggf. optimiert, bevor die KI durch Imitation der vom Menschen getätigten Abläufe darauf trainiert wird, die einzelnen Teilschritte des Prozesses eigenständig durchzuführen. Die intelligente Prozessautomatisierung stellt durch die Einbildung von KI-Elementen, wie Natural Language Processing oder maschinellem Lernen, eine Weiterentwicklung der einfachen Prozessautomatisierung dar.

Diese Technologie birgt großes Potenzial für Sicherheitsbehörden, die sich durch eine intelligente Automatisierung repetitiver Prozesse zugunsten anspruchsvollerer Aufgaben befreien können. Eine solche Automatisierung ist beispielsweise für Bußgeldprozesse oder das Lesen und Validieren von Reisepässen an den Außengrenzen denkbar. Als weiterer positiver Effekt ist zu nennen, dass KI solche Prozesse dank ihre Fähigkeiten zur Selbstoptimierung mit jeder Wiederholung effektiver absolviert.

3. KI kommuniziert

Die Aufnahme und Verarbeitung von Informationen stellen die ‚stille‘ Komponente der KI dar. Sie kann aber auch selbst zu Wort kommen – nämlich durch ihre Fähigkeit zu kommunizieren. Mithilfe von Sprach- und Texterkennung sowie Advanced Analytics nimmt KI Kommuniziertes auf und verarbeitet den Inhalt. Mittels Sprachgenerierung ist sie zudem in der Lage, eine Antworten darauf zu generieren.

Mit dieser Fähigkeit ermöglicht es KI der Polizei, Interaktionsformate mit Bürgern zu entwickeln, Gespräche zu führen und Sachverhalte zu kommunizieren. So ist die Entwicklung einer KI-gesteuerten App denkbar, die als erster und jederzeit verfügbarer Ansprechpartner für Bürger dienen kann. Diese App kann Informationen in Form von Schrift, Bild und Ton wahrnehmen und verarbeiten und eine Art erste Hilfe leisten. Auch die gezielte Weiterleitung von Informationen an relevante Polizeidienststellen ist von großem Wert. Darüber hinaus lassen sich mittels KI Falschmeldungen und Täuschungen leichter erkennen, was ebenfalls eine Entlastung für die Polizeibeamten bedeuten würde.

4. KI unterstützt bei der Entscheidungsfindung

Die Erkenntnisse, die KI aus der Identifizierung von Mustern und Sachverhalten gewinnen konnte, dienen als ideale Basis für Schlussfolgerungen hinsichtlich des weiteren Vorgehens. So kann KI eine aktive Rolle im Rahmen von Entscheidungsprozessen spielen, wenn ihr Vorschlagsmöglichkeiten eingeräumt werden und sie mögliche Richtungen angeben kann. Technologisch ist an dieser Stelle Advanced Analytics, insbesondere Prescriptive Analytics, relevant.

Diese neue Entscheidungskoinstanz kann Sicherheitsbehörden wirksam unterstützen. Zum Beispiel ist KI in der Lage, die Informationen einer sich in Echtzeit entwickelnden Gefahrensituation auszuwerten und den Sicherheitsbeamten auf Basis der gewonnenen Erkenntnisse Handlungsempfehlungen für den Einsatz zu geben. Ebenso kann KI für intelligente Ressourcenplanung an Flughäfen genutzt werden, um die Abläufe rund um die Passagiersicherheit zu optimieren.

Ein hohes Potential – und noch offene Fragen

Indem KI Eigenschaften im Rahmen der Identifikation, Interaktion, Automatisierung und Hilfestellung bei Entscheidungsprozesse ermöglicht, wappnen sich Sicherheitsbehörde mit Mitteln, die den heutigen Herausforderungen einer solcher Organisation im digitalen Zeitalter gerecht werden. Dabei stehen auf dem Weg zur datengestützten Organisation aber noch einzelne Herausforderungen: Wie etwa die Datenqualität, die Datenethik oder auch der notwendige Kulturwandel innerhalb der Prozesse und Strukturen.

Diese Herausforderungen, und wie zu meistern sind, erfahren Sie im Teil II des Artikels.

Vielen Dank an die Co-Autorin Maxi Annabel Hoops für die maßgebliche Erstellung dieses Blogbeitrages.