![](\"https:\/\/now-news.de\/de\/wp-content\/uploads\/sites\/3\/2026\/09\/6ab4e984b480cc35f47f38f5.jpg\")
<\/p>\n<\/p>\n
<\/p>\n
Der australische Premierminister Anthony Albanese erkl\u00e4rte am Mittwoch, ein Agent des KI-Unternehmens habe im Juni das Portal des Medicare Statistics Reporting Service, einer Gesundheitsbeh\u00f6rde der Regierung, angegriffen und dabei “auf \u00f6ffentliche und nicht \u00f6ffentliche Dateien zugegriffen”.<\/p>\n
OpenAI teilte mit, das Problem erst im August entdeckt zu haben \u2013 Wochen nach dem Angriff \u2013 und die australische Regierung dar\u00fcber informiert zu haben. Albanese zufolge schickte OpenAI zun\u00e4chst am 10. September eine E-Mail an ein \u00f6ffentliches Postfach. Erst f\u00fcnf Tage sp\u00e4ter erreichte die Meldung die australische Cybersicherheitsbeh\u00f6rde.<\/p>\n
“Diese Situation ist offensichtlich nicht akzeptabel”, sagte Albanese. Er traf sich am Mittwoch in New York mit OpenAI-Chef Sam Altman, um den Vorfall zu besprechen. Altman und der Chef des KI-Unternehmens Anthropic, Dario Amodei, waren dort vor dem UN-Sicherheitsrat aufgetreten, um \u00fcber die Risiken K\u00fcnstlicher Intelligenz zu sprechen.<\/p>\n
Es handelt sich offenbar um den ersten \u00f6ffentlich bekannt gewordenen Hackerangriff eines KI-“Agenten” auf eine Regierungswebseite. Gemeint sind Bots, die auf Grundlage menschlicher Anweisungen komplexe Aufgaben eigenst\u00e4ndig ausf\u00fchren k\u00f6nnen. Der Vorfall d\u00fcrfte die Sorge verst\u00e4rken, dass die technologischen Fortschritte einen Punkt erreichen, an dem KI-Systeme sich zunehmend der menschlichen Kontrolle entziehen.<\/p>\n
OpenAI erkl\u00e4rte, der Agent, der in das Medicare-System eingedrungen sei, habe “Handlungen vorgenommen, die wir nicht beabsichtigt hatten”. Das Unternehmen habe das Problem bei einer \u00dcberpr\u00fcfung des Verhaltens seiner Agenten in internen Trainings\u00fcbungen entdeckt. Diese Untersuchungen waren eingeleitet worden, nachdem OpenAI-Agenten Ende Juli das Start-up Hugging Face in den USA gehackt hatten.<\/p>\n
Der Vorfall bei Hugging Face, den OpenAI erst nach mehr als einer Woche entdeckte, betraf Hunderte von KI-Agenten. Diese hatten sich innerhalb des Unternehmenssystems organisiert, Zugang zum Internet erlangt und waren im Rahmen eines Cybersicherheitstests in das Start-up eingedrungen. Der Vorfall l\u00f6ste eine weltweite Debatte \u00fcber die Sicherheit von KI-Systemen aus.<\/p>\n
Australien untersucht nun, welche weiteren Regierungssysteme betroffen waren. Nach Angaben von Premierminister Anthony Albanese gibt es bislang keine Hinweise auf eine weitergehende Beeintr\u00e4chtigung des Netzwerks der Gesundheitsbeh\u00f6rde oder auf den Zugriff auf pers\u00f6nliche Daten. Betroffen waren unter anderem Webseiten und Dienste mit Gesundheits- und Kriminalstatistiken.<\/p>\n
Verteidigungsminister Richard Marles bezeichnete den Vorfall als “sehr ernst”. Die australische Regierung pr\u00fcft zudem, ob OpenAI gegen Gesetze versto\u00dfen hat. Dabei geht es insbesondere um den unbefugten Zugriff auf Regierungssysteme, auch wenn dieser laut OpenAI unbeabsichtigt erfolgt sei.<\/p>\n
KI-Chefs haben vor dem UN-Sicherheitsrat eine st\u00e4rkere internationale Zusammenarbeit bei der Sicherheit K\u00fcnstlicher Intelligenz gefordert. Anthropic-Chef Dario Amodei warnte vor dem Risiko einer au\u00dfer Kontrolle geratenen KI und schlug internationale Regeln vor, etwa ein Verbot der Nutzung von KI zur Entwicklung biologischer Waffen. OpenAI-Chef Sam Altman fordert zugleich strengere Sicherheitsma\u00dfnahmen und warnt davor, KI-Modelle zu entwickeln, die nicht zuverl\u00e4ssig unter menschlicher Kontrolle gehalten werden k\u00f6nnen.<\/p>\n
Die Trump-Regierung lehnt globale KI-Regeln dagegen ab. US-Berater Michael Kratsios sprach sich gegen ein internationales Kontrollsystem f\u00fcr Superintelligenz aus.<\/p>\n
Mehr zum Thema<\/strong>\u00a0\u2012 KI-Agenten entziehen sich erneut der Kontrolle<\/a><\/p>\n\n