Autonome Waffensysteme: Können sie noch geächtet werden?

Von Dagmar Henn

Die Information kursiert seit einigen Tagen, und es gibt auch bereits politische Reaktionen – zumindest der Erhard-Eppler-Kreis in Deutschland hat auf Grundlage dieser Meldung gefordert, es brauche ein internationales Verbot autonom entscheidender Waffensysteme.

Die Meldung selbst stammt vom britischen populärwissenschaftlichen Magazin New Scientist, das zum Verlag der Daily Mail gehört, und erschien am 10. Juni unter der Überschrift “Völlig autonome Drohnen haben erstmalig menschliche Soldaten getötet”. Ort der Handlung soll die Ukraine gewesen sein, bereits vor zwei Jahren, und als Quelle angeführt wird Alexander Kochanowski, der, wenn man nach der Formulierung im Artikel geht, am Rande einer Veranstaltung in der ukrainischen Botschaft mit dem Magazin gesprochen haben soll: “spoke to New Scientist at a press event hosted by the Ukrainian embassy”.

Dieser Alexander Kochanowski habe erklärt, vor zwei Jahren seien Quadkopter-Drohnen getestet worden, die mithilfe eines KI-Modells selbsttätig an der Front Ziele suchten. “Wir starten sie nur und wir wissen, dass alles tot sein wird – alles, was in diesem bestimmten Gebiet gefunden wird, wird tot sein”.

Nun ist Alexander Kochanowski, ehemaliger Profi-E-Gamer, nicht nur Geschäftsführer, sondern auch Besitzer des ukrainischen Drohnenherstellers AeroCenter, der, das legt seine zweisprachige Webseite nahe, nicht nur für den ukrainischen Markt produziert, sondern zumindest auch auf den außerukrainischen zielt; da die Produkte nicht ins Ausland verkauft werden dürfen, geht es dabei um Lizenzverträge oder Koproduktionen. Auch wenn das bisher nicht über Absichtserklärungen und Verhandlungen hinaus ist – das Interesse ist klar. Und Kochanowski, der Jahre in einem sehr werbenahen Sport verbracht hat, dürfte auch nicht ahnungslos sein, wie man das Interesse potenzieller Kunden weckt. Insofern ist seine Aussage durchaus mit Vorsicht zu genießen.

Aber nur, weil man sich fragen muss, ob diese konkrete Geschichte wahr ist – die Forderung, sich damit auseinanderzusetzen oder politische Schritte zu unternehmen, um hier eine Grenze zu ziehen, ist dennoch angebracht. Denn es gab mindestens einen belegten Vorfall, der im Kern dieselbe Frage aufwirft: Ist es akzeptabel, wenn Waffen eingesetzt werden, ohne dass ein Mensch die Entscheidung darüber trifft und die Verantwortung dafür trägt? Wäre es nicht vielmehr erforderlich, eine solche Entwicklung frühzeitig zu unterbinden?

Das Stichwort hierzu heißt “Lavender”. Es handelt sich dabei um ein Programm, das die israelische Armee zur Bestimmung der Ziele für Drohnenangriffe in Gaza einsetzte. Als Grundlage dienten unter anderem Mobilfunkdaten und soziale Medien, gekoppelt mit einem Trackingprogramm namens “Where is Daddy”, wo ist Papa. Allerdings – das waren immer nur Indizien, und es stellte sich heraus, dass auch Polizisten oder Sanitäter auf diese Weise zu Zielen erklärt wurden.

Die Ziele, die von diesem Programm ermittelt wurden, wurden danach nicht weiter geprüft. Als diese Tatsache bekannt wurde, hieß es: “Quellen sagten, dass die einzige vorgeschriebene Überprüfung durch einen Menschen, ehe die Häuser vermeintlicher “einfacher Kämpfer” bombardiert wurden, in einer einzigen Kontrolle bestand: sicherzustellen, dass das von der KI gewählte Ziel männlich und nicht weiblich war.” Was nichts daran änderte, dass dieses Programm viele Frauen und Kinder das Leben kostete – schließlich waren mit Vorliebe die Wohnhäuser das Ziel der Drohnenangriffe.

Der Einsatz von Lavender war schon sehr nahe dran an einer vollautomatischen Ermordung durch eine maschinelle Entscheidung. Letzten Endes fehlte nur noch die Startautomatik für die Drohnen, da die Überprüfung äußerst oberflächlich war. Und während sich die Geschichte der autonom tötenden Drohnen auf eine einzige, noch dazu persönlich interessierte, Quelle beruft, ist Lavender gut dokumentiert.

Beides miteinander, die ukrainische Geschichte und Lavender, erinnert an Cyberpunk-Geschichten, in denen per Gesichtserkennung gesteuerte Drohnen die Helden der Geschichte jagen. Eine Vorstellung, die nicht mehr weit von der Realisierung entfernt ist; die Frage ist nur, wie bewaffnet diese Drohnen sein dürfen und ob bei ihrem Einsatz noch ein Mensch beteiligt ist, der unter Umständen dafür zur Rechenschaft gezogen werden kann.

Die israelische Rüstungsfirma Elbit (ja, jene, gegen die sowohl die Angeklagten von Palestine Action in Großbritannien als auch die Ulm5 in Deutschland protestiert haben, in ihren jeweiligen Tochterunternehmen) hat auf Rüstungsmessen bereits einen autonomen Kampfroboter namens M-RCV vorgestellt, der keinerlei externe Steuerung mehr benötigt. Das Auftauchen derartiger Maschinen steht also unmittelbar vor der Tür, und selbst wenn man nicht die Risiken bemühen will, die künstliche Intelligenz womöglich eigenständig auslösen kann, bleibt die Frage der menschlichen Verantwortung.

“Eine bloße Regulierung dieser Systeme genügt nicht. Wer sie zu kontrollieren versucht, statt sie zu ächten, eröffnet ein Wettrüsten, das zwangsläufig in die Katastrophe führt”, schreibt der Erhard-Eppler-Kreis in seinem Aufruf. “Eine FPV-Drohne – eine kleine, ferngesteuerte Drohne mit Live-Kamera für wenige hundert Euro – lässt sich mit einem entsprechenden Modul zur autonom tötenden Waffe aufrüsten. Deshalb bleibt allein die vollständige Ächtung dieser Waffenkategorie – so, wie sie bei biologischen und chemischen Waffen, bei Antipersonenminen und bei Streumunition gelungen ist.”

Der Ehrlichkeit halber muss man sagen, dass viele dieser Ächtungen bedroht oder bereits gefallen sind. Die Ukraine hat sowohl Antipersonenminen als auch Streumunition häufig eingesetzt, gerade die berüchtigten Schmetterlingsminen, die von spielenden Kindern leicht für Spielzeug gehalten werden. Und bezogen auf Biowaffen wurden gerade erst sämtliche Vermutungen über US-Biowaffenprogramme gewissermaßen amtlich bestätigt.

Dennoch, oder vielleicht gerade deshalb, wäre es überfällig, wieder in Erinnerung zu rufen, dass derartige Schritte durchaus gelingen können – wenn sie von entsprechenden Kontrollmechanismen begleitet werden, die in Bezug auf Biowaffen etwa von den USA über Jahrzehnte verhindert wurden.

“Solange ein Mensch den letzten Befehl gibt”, schreibt der Eppler-Kreis, “bleibt im Töten ein Rest moralischer Gegenwart: Einer kann zögern, sich weigern, erkennen, dass dort ein Kind läuft und kein Feind. Autonome Systeme schneiden diesen Faden durch; sie verarbeiten nur noch Signale – Wärmebilder, Bewegungsmuster, Silhouetten – und Leben wird zur Klassifikation. Die Nutzung künstlicher Intelligenz zur eigenständigen Auswahl und Tötung von Menschen markiert damit einen zivilisatorischen Bruch, dessen langfristige Folgen für Krieg, Sicherheit und menschliche Kontrolle heute kaum absehbar sind.”

Tatsächlich zeigt die historische Erfahrung etwa im Hitlerfaschismus, dass die Zurücknahme des menschlichen Faktors, die weitgehende Entfernung der persönlichen Verantwortung die Barbarei erleichtert. Das Opfer hat kein Gesicht mehr. Es ist nur noch ein Objekt, eine Zahl; die Technik stellt jenen Zustand der Dehumanisierung her, der in den Vernichtungslagern der Nazis noch mithilfe von Gefangenenkleidung und eintätowierten Nummern hergestellt werden musste. Wäre Gaza so möglich gewesen, wenn die israelischen Soldaten jeder einzelnen Familie, jedem einzelnen Kind persönlich gegenübergestanden wären, nicht durch das Zielfernrohr eines Gewehrs oder durch die Kameraoptik einer Drohne, sondern von Angesicht zu Angesicht?

“Autonome Tötungssysteme”, fordert der Eppler-Kreis, sollte man als “eigenständige, völkerrechtlich verbotene Waffenkategorie behandeln, (…) den Massenvernichtungswaffen darin vergleichbar, dass sie sich jeder wirksamen Kontrolle entziehen, wenn auch nicht in ihrer Sprengkraft – und ihren Einsatz als Kriegsverbrechen zu kodifizieren.”

Die Bundesregierung solle sich in diesem Sinne einsetzen, so die aus der SPD entsprungene Gruppe, damit bis Ende dieses Jahres ein völkerrechtlich verbindliches Verbot über die UN erfolgen könne. Diese Bundesregierung dürfte das jedoch kaum tun, außer, es gäbe starken gesellschaftlichen Druck dafür.

Daran mag man zweifeln: Eine Anfang des Jahres von Politico durchgeführte Umfrage ergab, dass gerade in Deutschland jeder Dritte einen Einsatz autonomer Systeme sogar besser findet als eine Entscheidung durch Menschen. Auf eine absurde Weise dominiert hier die Befürchtung, andernfalls selbst zum Täter zu werden, die Entscheidung. Das war noch nicht die Mehrheit der Befragten, und noch bestanden 47 Prozent auf Menschen als Entscheidern, aber es belegt einen Verlust moralischer Maßstäbe – fünf Jahre zuvor hatten auch in Deutschland noch 70 Prozent Bedenken bei autonom agierenden Waffensystemen.

Aber die menschliche Verantwortung schwindet nicht, sie verlagert sich nur immer weiter nach vorne. Und letzten Endes stimmt das ja auch – Verantwortung für menschenverachtende Handlungen haben, das sollten gerade wir Deutsche wissen, nicht nur jene, die sie ausführen, sondern auch jene, die sie geschehen lassen.

Mehr zum Thema – Kriegssimulationen: In 95 Prozent der Fälle griffen KIs zu Atomwaffen