KI-Einsatz erhöht Druck auf Sicherheitsregeln

Der schnelle Einsatz Künstlicher Intelligenz in Unternehmen verschärft die Frage, wie viel Kontrolle Menschen über automatisierte Systeme behalten müssen. Besonders sichtbar wird das im Personalwesen: Dort nutzen Firmen bereits Software zur Vorauswahl von Bewerbungen, während Bewerberinnen und Bewerber zugleich KI für ihre Unterlagen einsetzen. Parallel gewinnen chinesische KI-Modelle in Europa deutlich an Bedeutung. Beides erhöht den Druck auf Unternehmen, klare Regeln für Einsatz, Prüfung und mögliche Eingriffe festzulegen.

Automatisierte Auswahl im Personalwesen

Künstliche Intelligenz verändert die Bewerbungspraxis auf beiden Seiten. Nach einer von Indeed beauftragten Befragung unter 300 Personalentscheidern, über die dpa im Tagesspiegel berichtete, registrieren 56 Prozent der Befragten mehr Bewerbungen je ausgeschriebener Stelle als im Vorjahr. 21 Prozent sprechen von einem starken Zuwachs. Im Schnitt gehen die Befragten davon aus, dass etwa jede dritte Bewerbung mithilfe von KI erstellt wurde.

Das hat Folgen für die Bewertung klassischer Unterlagen. 54 Prozent der befragten Personalverantwortlichen halten Anschreiben inzwischen für weniger aussagekräftig. Auch Formulierungen im Lebenslauf, schriftliche Antworten in Bewerbungsformularen und zu Hause erledigte Aufgaben verlieren aus Sicht vieler Befragter an Gewicht. 41 Prozent geben an, Bewerbungen sofort auszusortieren, wenn sie offensichtlich vollständig von KI verfasst wurden.

Gleichzeitig setzen die Unternehmen selbst verstärkt technische Verfahren ein. 42 Prozent der Befragten nutzen nach eigenen Angaben Software oder KI, um Bewerbungen vorzusortieren. In manchen Fällen endet der Prozess bereits an dieser Stelle: Von den Unternehmen, die solche Hilfsmittel einsetzen, erklärten 11 Prozent, automatisch aussortierte Unterlagen vor einer Absage nicht mehr menschlich prüfen zu lassen. Eine solche Praxis ist nicht zulässig.

Menschliche Prüfung bleibt zentral

Die Zahlen zeigen ein Spannungsfeld: Unternehmen wollen große Bewerbungszahlen bewältigen, dürfen Entscheidungen aber nicht vollständig an Maschinen auslagern. Gerade bei Bewerbungen können automatisierte Systeme erhebliche Folgen für einzelne Menschen haben. Wenn eine Software Unterlagen falsch bewertet oder Muster übernimmt, die bestimmte Gruppen benachteiligen, braucht es wirksame Korrekturmöglichkeiten.

Hinzu kommt der Zeitdruck in Personalabteilungen. 35 Prozent der Befragten nehmen sich für die erste Sichtung höchstens eine Minute. Je knapper diese Prüfung ausfällt, desto wichtiger werden nachvollziehbare Kriterien. Unternehmen müssen daher festlegen, wann technische Vorschläge nur unterstützen und wann ein Mensch verbindlich entscheiden muss.

Chinesische Modelle legen zu

Auch auf dem Markt für KI-Modelle wächst die Dynamik. Das Handelsblatt berichtete unter Berufung auf eine Studie der Friedrich-Naumann-Stiftung, dass chinesische KI-Modelle in der EU im Juli und August bei der Nutzung über bestimmte Schnittstellen einen Anteil von 58 Prozent erreicht haben sollen. In Deutschland lag der Wert demnach bei 61 Prozent. Ein Jahr zuvor soll der Anteil bei etwa 15 Prozent gelegen haben.

Genannt werden Anbieter wie Zhipu AI, Moonshot, Deepseek und Alibaba. Ihre Modelle gewinnen demnach vor allem wegen Preis und Verfügbarkeit an Gewicht. Zugleich stehen chinesische Unternehmen seit Jahren unter Beschränkungen beim Zugang zu besonders leistungsfähigen Chips, weil die USA entsprechende Exportkontrollen eingeführt haben. Trotzdem gelten mehrere Modelle inzwischen als konkurrenzfähig zu führenden Angeboten aus den USA.

Für europäische Unternehmen bedeutet das mehr Auswahl, aber auch neue Prüfpflichten. Wer externe KI-Systeme in Arbeitsabläufe einbindet, muss wissen, welche Daten verarbeitet werden, wie verlässlich die Ergebnisse sind und welche Eingriffsmöglichkeiten bestehen. Das gilt besonders dann, wenn Entscheidungen Kundinnen, Kunden, Beschäftigte oder Bewerbende betreffen.

Einordnung

Die Debatte über Sicherheitsmechanismen für KI-Systeme entsteht nicht im luftleeren Raum. Im Personalwesen zeigt sich bereits, dass Automatisierung reale Entscheidungen beeinflusst. Auf dem Modellmarkt steigt zugleich die Abhängigkeit von wenigen technischen Anbietern, während neue Wettbewerber schnell Marktanteile gewinnen.

Damit rücken praktische Kontrollfragen in den Mittelpunkt. Unternehmen brauchen klare Zuständigkeiten, dokumentierte Verfahren und menschliche Letztentscheidungen dort, wo KI über Chancen, Zugang oder Ausschluss mitbestimmt. Der wirtschaftliche Nutzen von KI bleibt hoch, doch ohne überprüfbare Grenzen wächst das Risiko fehlerhafter oder nicht nachvollziehbarer Entscheidungen.