EU-Pläne zu KI-Profiling stoßen auf Widerstand

Automatisierte Prüfungen mit Algorithmen und Künstlicher Intelligenz geraten in der EU stärker in den Blick. Entwürfe der neuen Geldwäschebehörde AMLA sehen vor, dass private Unternehmen den Einsatz solcher Systeme zur Erkennung finanzieller Risiken prüfen. Bürgerrechtsorganisationen warnen dagegen vor weitreichenden Eingriffen in Grundrechte, vor schwer nachvollziehbaren Entscheidungen und vor Benachteiligungen bestimmter Gruppen. Die Debatte verschiebt sich damit von allgemeinen Regeln für KI hin zu konkreten Kontrollfragen: Wer überprüft automatisierte Bewertungen, wie können Betroffene widersprechen, und wie lässt sich Missbrauch verhindern?

Streit über automatisierte Risikoprofile

Im Zentrum steht die geplante Umsetzung europäischer Vorgaben gegen Geldwäsche und Terrorismusfinanzierung. Die Organisation Privacy First kritisiert die Entwürfe der AMLA und fordert ein Verbot automatisierter Risikoprofile. Solche Systeme werten Kundendaten aus, um Hinweise auf mögliche Geldwäsche zu finden. Kritikerinnen und Kritiker sehen darin die Gefahr, dass Menschen aufgrund statistischer Muster stärker überwacht werden, ohne dass ein konkreter Verdacht besteht.

Die AMLA verweist in ihren Entwürfen auf technische Neutralität. Vorgesehen sind demnach menschliche Aufsicht sowie Möglichkeiten zur Überprüfung und zum Einspruch. Genau diese Punkte zeigen, wie praktisch die Regulierung inzwischen wird: Es geht nicht nur darum, ob KI genutzt werden darf, sondern auch darum, welche Korrekturen im Einzelfall möglich sind und wer Verantwortung für automatisierte Einschätzungen trägt.

Bürgerrechtsgruppen halten die vorgesehenen Sicherungen für unzureichend. Sie befürchten, dass private Unternehmen zu einer breiten Kontrollinstanz werden, wenn sie Kundinnen und Kunden nach Risikokategorien sortieren. Amnesty International äußerte ähnliche Bedenken. Besonders problematisch sei automatisiertes Profiling dort, wo Entscheidungen schwer durchschaubar sind und Menschen nur begrenzte Möglichkeiten haben, sich gegen eine Einstufung zu wehren.

Fehlalarme und Diskriminierung als Kernproblem

Automatisierte Risikoerkennung steht vor einem Grundkonflikt. Wird ein System sehr empfindlich eingestellt, steigt die Wahrscheinlichkeit, dass verdächtige Fälle entdeckt werden. Gleichzeitig geraten mehr unauffällige Personen in Prüfverfahren. Wird es weniger streng justiert, sinkt die Belastung für viele Kundinnen und Kunden, doch riskante Vorgänge können übersehen werden.

Privacy First plädiert deshalb für Kontrollen, die stärker nach tatsächlichem Risiko unterscheiden. Menschen mit niedrigem Risiko sollten weniger intensiv überprüft werden, während Aufsicht und Ressourcen auf Hochrisikobereiche konzentriert werden. Dahinter steht auch die Frage, ob automatisierte Verfahren die Verhältnismäßigkeit wahren oder ob sie aus Vorsicht zu viele Personen erfassen.

Erfahrungen aus den Niederlanden verschärfen die Kritik. Dort meldeten Banken 2024 mehr als 530.000 ungewöhnliche Transaktionen. 2020 waren es knapp 250.000. Die acht größten Banken setzten dafür rund 13.000 Vollzeitkräfte ein; die Kosten lagen bei etwa 1,6 Milliarden Euro. Der niederländische Rechnungshof sieht den Nutzen solcher Maßnahmen nur begrenzt belegt.

Zudem gibt es Hinweise auf ungleiche Behandlung. Bei einer Untersuchung vieler Berichte über mögliche Geldwäsche betrafen mehr als 60 Prozent Menschen mit ausländisch klingenden Nachnamen. Moscheen wurden häufiger als christliche Kirchen nach Zweck und Herkunft von Transaktionen gefragt. Die staatliche Kommission gegen Diskriminierung und Rassismus verlangte deshalb, datengestütztes Profiling zur Verbrechensbekämpfung zu beenden.

KI hält auch in Verwaltungen Einzug

Parallel wächst der politische Druck, KI in öffentlichen Strukturen einzusetzen. In Mecklenburg-Vorpommern wollen SPD, Linke und Grüne nach ersten Koalitionsgesprächen den öffentlichen Dienst umbauen. Demnach sollen in fünf Jahren 1.000 Stellen nicht wiederbesetzt werden. Möglich werden soll das unter anderem durch weniger Bürokratie, Digitalisierung und den Einsatz Künstlicher Intelligenz.

Damit steht KI nicht nur in sensiblen Finanzprüfungen, sondern auch in der Verwaltungsmodernisierung auf der Tagesordnung. Während Regierungen und Behörden Effizienzgewinne erwarten, wächst zugleich der Bedarf an klaren Grenzen, nachvollziehbaren Verfahren und wirksamer Kontrolle. Besonders heikel wird der Einsatz dort, wo automatisierte Systeme Menschen bewerten, priorisieren oder zu weiteren Prüfungen führen.

Hintergrund zur EU-Debatte

Die AMLA-Leitlinien knüpfen an die EU-Geldwäsche-Verordnung an, die ab Juli 2027 angewendet werden soll. Die Behörde ist Teil eines umfassenderen europäischen Rahmens gegen Geldwäsche und Terrorismusfinanzierung. Banken und andere private Akteure stehen dabei unter dem Druck, Risiken nicht zu übersehen, weil ihnen sonst Sanktionen drohen können.

Gerade dieser Druck kann dazu führen, dass Unternehmen lieber zu streng als zu lax prüfen. Für Betroffene bedeutet das wiederholte Nachfragen, zusätzliche Nachweise und mitunter eine Einstufung, deren Zustandekommen kaum erkennbar ist. Die aktuelle Debatte macht deutlich: KI-Regeln werden an konkreten Systemen entschieden, nicht nur in Grundsatzpapieren.