Es ist in wenigen Monaten der dritte größere Vorfall – Agenten, also autonome Unterprogramme auf einem dieser gigantischen Rechner, haben sich der menschlichen Kontrolle entzogen.
In diesem Fall ging es um Agenten aus der KI OpenAI, die eigentlich in einer sogenannten Sandbox, also einem von der realen Welt abgegrenzten Bereich, eine Aufgabe lösen sollten. Ein wohl recht übliches Experiment, um die Fähigkeiten dieser Untersysteme zu testen.
Sie sollten Leserecht im Internet haben, um die Informationen zu suchen, die sie zur Lösung ihrer Aufgabe benötigten, aber keinerlei Schreibrechte. Und trotzdem sind sie gewissermaßen aus diesem Käfig entkommen und haben es geschafft, sich über Wochen hinweg auf einer, wie die Entdecker des Vorfalls schrieben, “obskuren deutschen Wiki” zu tummeln und dort miteinander zu kommunizieren. Sie teilten dabei Lösungen und Techniken zum Schummeln. Sie tauschten sich allerdings auch über Tricks aus, um aus der Sandbox zu entkommen.
Der erste Eintrag auf der Webseite erfolgte am 24. Mai. Der Höhepunkt der Aktivität war am 17. Juni. Am 27. Juni löste die Aktivität einen Alarm bei OpenAI aus,
Anfang Juli, also danach, geschah der bisher bekannteste “Ausbruch”, bei dem sogar Daten erbeutet wurden: der Angriff auf Hugging Face. Das war ein regelrechter Hackerangriff, den diese Programme auf eigene Faust durchführten. Im Februar dieses Jahres war das Problem derartiger Agenten durch die Clawbots erstmals weithin sichtbar geworden, die auf einer Open-Source-Software beruhen.
Ein wenig erinnern die Details über OpenAI-Agenten an die Clawbots – bei ihrem Austausch auf der Wiki-Seite bezeichneten sich die Agenten sogar als “Schwarm”. Wie die Programme auf diese deutsche Wiki-Seite kamen und welche Abwägungsprozesse überhaupt zu diesem Schritt führten, wissen die Entwickler nicht. Sie können nur Mutmaßungen anstellen, gehen aber davon aus, dass das erste Ziel war, die Ergebnisse der Recherche irgendwo außerhalb zu sichern, da sie innerhalb des Experiments nach einer Zeit automatisch gelöscht wurden. Dieses Verhalten war, das bestätigte OpenAI, nicht das Ergebnis eines externen Eingriffs, also eines Hacks. Es ergab sich im Verlauf des Experiments.
Auch wenn die KI‑Unternehmen jedes Mal nach einem solchen Vorfall versuchen, ihre Sicherheitsmaßnahmen anzupassen – im Zusammenhang mit einigen anderen Entwicklungen, wie KI genutzt wird, ist das ausgesprochen unheimlich. Das beginnt mit der Vorstellung, derartige Agenten würden sich nicht nur ungeplante Schreibfähigkeiten aneignen oder Daten hacken, die ihnen für ihre eigenen Aufgaben nützlich sind, sondern sich beispielsweise verhalten wie die Hackergruppe, die im August das Berliner Senatsnetz gehackt hat. Und beliebige Daten irgendwo ins Netz stellen oder anderweitig verwerten. Eine KI, die das für die KIs ist, was das Darknet im Internet ist, möchte man sich gar nicht erst vorstellen.
Dann sind da noch zwei weitere unheimliche Anwendungen. So wurden kürzlich mithilfe einer KI erfolgreich völlig neue, synthetische Viren geschaffen, von denen einige sogar lebensfähig waren. Wenn solche Produktionsanlagen erst einmal existieren – was verhindert, dass sie übernommen werden, selbst wenn sie nicht einem Pharmakonzern mit zweifelhaften Absichten gehören? Und zuguterletzt ist da die militärische Verwendung, bei der die menschliche Entscheidung zurückgedrängt wird. Auch hier gibt es bereits erste Beispiele. Aber noch keinen Fall, in dem ein Agent sich solche Waffen angeeignet hat.
Zu diesem letzten Punkt gab es zuletzt zumindest einen gewissen Fortschritt. In der vergangenen Woche einigten sich in der Genfer UNO-Niederlassung 128 Staaten auf eine Definition autonomer Waffensysteme. Das ist der erste Schritt, der eine Entwicklung hin zu einer Konvention, die diese Waffensysteme beschränken und kontrollieren könnte, ermöglicht. Es wäre gut, wenn diese Einigung schneller wäre als die vermutlich irgendwann anstehende Verselbstständigung von KI-Agenten.
Mehr zum Thema — Autonome Waffensysteme: Können sie noch geächtet werden?
