KI-Kontrolle braucht mehr als den roten Knopf

Humanoide Roboter sollen in deutschen Fabriken Aufgaben übernehmen, während automatisierte Konten in sozialen Netzwerken politische Debatten beeinflussen. Die aktuelle Entwicklung zeigt, dass Kontrolle über KI-Systeme nicht nur eine Frage des Abschaltens ist. Entscheidend wird, ob Betreiber, Unternehmen und Behörden erkennen können, was ein System tut, wo es eingesetzt wird und welche Folgen ein Eingriff hat.

Roboter rücken näher an den Alltag

In Augsburg hat KUKA einen neuen Roboter-Prototyp vorgestellt, wie ZDFheute berichtet. Die Maschine hat noch keine Beine, weil diese zu viel Energie benötigen. Sie soll Gegenstände eigenständig greifen und sortieren können. KUKA gehört seit 2017 zum chinesischen Konzern Midea, entwickelt den neuen Roboter nach eigenen Angaben aber zu großen Teilen in Augsburg.

Konzernchef Christoph Schell verweist darauf, dass ein Großteil der Forschungsausgaben außerhalb Chinas liege, vor allem in Bayern. KUKA beschäftigt in Deutschland weiterhin rund 4.000 Menschen. Die Übernahme durch Midea hatte damals Kritik ausgelöst, weil der Verlust deutscher Technologiekompetenz befürchtet wurde.

Der internationale Druck ist erheblich. Nach Angaben des Robotikverbands IFR wurden 2025 fast 60 Prozent aller neu produzierten Industrieroboter weltweit in China installiert. Für humanoide Roboter erwartet die Bank of America starkes Wachstum: 2035 könnten demnach weltweit zehn Millionen solcher Maschinen ausgeliefert werden.

Auch deutsche Industriekonzerne testen den Einsatz. BMW nutzt im Leipziger Werk humanoide Roboter in einem Pilotprojekt. Dort sollen sie schrittweise Tätigkeiten übernehmen, die als besonders monoton gelten. Projektverantwortlicher Michael Ströbel sagte ZDFheute, es gebe schon heute Schwierigkeiten, Beschäftigte für solche Aufgaben zu finden.

Automatisierte Konten sind schwer zuzuordnen

Während Roboter in Fabriken sichtbar und räumlich begrenzt arbeiten, ist Kontrolle im digitalen Raum schwerer zu fassen. Nach ukrainischen Angriffen auf Rechenzentren des russischen Internetunternehmens Yandex verbreitete sich online die Behauptung, russische Propaganda-Bots seien dadurch in großem Umfang verstummt. Besonders viel Reichweite erzielte ein Beitrag des tschechischen EU-Abgeordneten Tomáš Zdechovský.

Ein Faktencheck von ZDFheute kommt jedoch zu einem anderen Ergebnis. Für den behaupteten direkten Zusammenhang zwischen den Angriffen und einem Rückgang politischer Social Bots gebe es keine überprüfbaren Belege. Eine viel geteilte Grafik weist demnach mehrere Auffälligkeiten auf, darunter Datenpunkte, die über den Zeitpunkt der Veröffentlichung hinausreichen. Zudem fehlen Angaben dazu, welche Aktivität dort genau gemessen wurde.

Zdechovský schrieb ZDFheute, er verfüge derzeit über „keine unabhängig überprüfbaren Daten“, die den Zusammenhang zweifelsfrei belegten. Er habe die Grafik als bereits kursierende Information weiterverbreitet und später eingeräumt, deutlicher auf die fehlende Originalquelle hinweisen zu müssen.

Auch eine zweite Grafik wurde offenbar falsch verstanden. Sie zeigte Daten des IT-Dienstleisters Cloudflare zu einem Rückgang von „Bot traffic“. Gemeint waren dabei vor allem Crawler, also automatische Abrufe von Webseiten für Suchmaschinen. Solche Systeme unterscheiden sich von Social Bots, die sich in Netzwerken als Nutzerkonten ausgeben und politische Inhalte verbreiten.

Abschalten allein klärt wenig

Die beiden Entwicklungen zeigen unterschiedliche Kontrollprobleme. In der Robotik geht es um Maschinen, die in Produktionsabläufe integriert werden und konkrete Handgriffe übernehmen. Dort lassen sich Einsatzort, Aufgabe und Betreiber vergleichsweise klar bestimmen. Bei automatisierten Konten im Netz ist schon die Frage schwieriger, welche Aktivität von Menschen, von Suchmaschinenprogrammen oder von manipulativen Netzwerken stammt.

Auch der ukrainische Präsident Wolodymyr Selenskyj griff die Bot-Gerüchte am Montag in einer Videoansprache beim Warschauer Sicherheitsforum auf. Er sagte, nach den Angriffen auf Yandex sei es auf vielen Social-Media-Seiten leichter geworden. Konkrete Nachweise nannte er dabei nicht.

Für die Debatte über KI-Notaus und technische Kontrolle ist das ein zentraler Punkt: Ein Ausfall von Servern kann einzelne Dienste treffen, erklärt aber nicht automatisch, welche automatisierten Systeme dadurch gestoppt wurden. Ebenso sagt die Existenz eines Roboters wenig darüber aus, wie seine Entscheidungen überwacht, begrenzt oder im Betrieb korrigiert werden.

Deutschland sucht den Anschluss

Deutschland versucht zugleich, in der Robotik nicht weiter zurückzufallen. Neben KUKA gelten Startups als Hoffnungsträger. Neura Robotics aus Metzingen wurde bei einer Finanzierungsrunde im Sommer mit sieben Milliarden US-Dollar bewertet. RobCo aus München erreichte zuletzt ebenfalls eine Bewertung von mehr als einer Milliarde US-Dollar.

Der Volkswirt Benedikt Herles sieht in der Verbindung aus industrieller Stärke, KI und Robotik eine große Chance für Deutschland. Gegenüber ZDFheute sagte er, Roboter seien ein „integraler Bestandteil“ der chinesischen Wirtschaftsstrategie. Für Deutschland stellt sich damit nicht nur die Frage, wie schnell neue Systeme entwickelt werden. Ebenso wichtig wird, wie zuverlässig sie sich beobachten, begrenzen und bei Bedarf aus dem Betrieb nehmen lassen.