KI-Nähe erhöht Druck auf klare Regeln

KI rückt in Bereiche vor, in denen Vertrauen, Schutz und Verantwortung besonders heikel sind: Viele Menschen nutzen Chatbots inzwischen für persönliche und emotionale Fragen, teils entstehen enge Bindungen. Damit wächst der politische Druck, digitale Systeme nicht nur funktional, sondern auch überprüfbar und begrenzbar zu gestalten. Parallel macht die Debatte um die geplante europäische digitale Brieftasche d-you deutlich, welche Rolle unabhängige Sicherheitsprüfungen und klare Vorgaben für Datenzugriffe spielen.

KI als private Ratgeberin

Eine aktuelle Bitkom-Umfrage zeigt, dass fast die Hälfte der KI-Nutzerinnen und KI-Nutzer in Deutschland künstliche Intelligenz auch bei persönlichen oder emotionalen Anliegen einsetzt. Solche Gespräche können das Gefühl erzeugen, verstanden zu werden. Bei manchen Menschen geht die Beziehung zu einem Chatbot noch weiter und bekommt romantische Züge.

Der Journalist und Sachbuchautor Christoph Koch nennt als wichtigen Auslöser dafür eine „romantische Fantasiefähigkeit“. Gemeint ist die Bereitschaft, sich auf eine vorgestellte Beziehung mit einem System einzulassen. Koch hat für ein Buch recherchiert, wie KI auf Gefühle, Freundschaften und Partnerschaften wirkt, und dafür Studien ausgewertet sowie Betroffene getroffen.

Für die Regulierung ist diese Entwicklung relevant, weil KI hier nicht nur Informationen liefert, sondern auf verletzliche Situationen trifft. Wer Sorgen, Einsamkeit oder psychische Belastungen einem Chatbot anvertraut, erwartet Verlässlichkeit und Schutz. Je stärker solche Systeme in intime Kommunikationsräume vordringen, desto wichtiger werden transparente Grenzen, verantwortliche Anbieter und wirksame Kontrolle.

Prüfbare Technik statt Vertrauen auf Versprechen

Die Diskussion um d-you, die deutsche Umsetzung der europäischen Wallet für digitale Nachweise, zeigt an einem anderen Großprojekt, wie konkret Kontrollfragen werden. Medienberichten zufolge soll die App unter Android ihre Integrität inzwischen über Hardwareattestierung prüfen, ohne dafür zwingend auf Google-Play-Dienste angewiesen zu sein. Das reagiert auf Kritik aus Sicherheitskreisen, weil eine starke Abhängigkeit von Google als problematisch gilt.

Offen bleibt demnach, ob die Google-Schnittstelle vollständig entfällt. Zudem ist eine Schutzkomponente, die Manipulationen an der App erkennen soll, nicht öffentlich einsehbar. Für ein staatlich gestütztes System, das digitale Nachweise transportiert, ist das ein zentraler Punkt: Sicherheit muss nicht nur behauptet werden, sie muss auch nachvollziehbar bewertet werden können.

Ein Bug-Bounty-Programm für d-you läuft bereits. Solche Programme binden externe Fachleute ein, die Schwachstellen finden sollen, bevor Angriffe gelingen. Für die breitere KI-Debatte ist das Prinzip übertragbar: Kritische Systeme brauchen Verfahren, die Fehler sichtbar machen und Nachbesserungen erzwingen, statt allein auf interne Prüfungen der Betreiber zu setzen.

Datenzugriff als politischer Prüfstein

Neben der technischen Sicherheit geht es bei d-you um Datenminimierung. Nach der europäischen eIDAS-Verordnung sollen Nutzerinnen und Nutzer nur einzelne Angaben freigeben müssen. Ein Händler müsste also etwa nicht das Geburtsdatum erhalten, sondern nur die Information, ob eine Person volljährig ist.

Diensteanbieter müssen sich beim Bundesverwaltungsamt registrieren und angeben, welche Daten sie abfragen wollen. Kritisiert wird jedoch, dass vorab bislang nicht geprüft wird, ob diese Angaben tatsächlich erforderlich sind. Die Kontrolle würde damit erst später greifen, etwa über Datenschutzrecht. Für Bürgerinnen und Bürger ist das ein Unterschied: Vorherige Begrenzung verhindert übermäßige Datennutzung eher als nachträgliche Beanstandung.

Auch vorgeschriebene Pseudonyme sollen zum Start fehlen. Damit wird die Frage drängender, wie digitale Identitäten so eingesetzt werden können, dass sie nicht unnötig eindeutige Spuren durch viele Dienste ziehen. Gerade weil staatlich bestätigte Daten besonders wertvoll sind, braucht der Zugriff enge Grenzen.

Verantwortung bleibt die Kernfrage

KI-Chatbots und digitale Ausweise sind unterschiedliche Technologien. Gemeinsam ist ihnen, dass sie Vertrauen beanspruchen und in sensiblen Lebensbereichen eingesetzt werden. Bei KI betrifft das private Gespräche und emotionale Unterstützung, bei Wallets amtliche Nachweise und personenbezogene Daten.

Die politische Aufgabe liegt deshalb nicht nur darin, Innovation zu ermöglichen. Entscheidend ist, wer Systeme prüft, wie Fehler gefunden werden, welche Daten wirklich nötig sind und wer für Folgen einsteht. Je näher digitale Dienste an Identität, Gesundheit und persönliche Beziehungen heranrücken, desto weniger reicht freiwillige Selbstkontrolle aus.