Bei einer Simulation des US-Militärs hat eine von der künstlichen Intelligenz gesteuerte Kampfdrohne der US-Luftwaffe beschlossen, ihren Bediener zu “töten”, berichtete die britische Zeitung The Guardian.
Oberst Tucker Hamilton, Leiter der KI-Abteilung bei der US-Luftwaffe, teilte bei einem Londoner Gipfel zur Luftwaffen-Zukunft mit, dass die KI bei einer Simulation “höchst unerwartete Strategien genutzt habe, um ihr Ziel zu erreichen”.
Hamilton beschrieb den Vorfall, bei dem eine von der künstlichen Intelligenz gesteuerte Kampfdrohne den Auftrag erhielt, die Luftverteidigungssysteme des Gegners zu zerstören. Schließlich griff die Waffe jeden an, der diesen Befehl störte.
Das System stellte fest, dass, obwohl es die Bedrohung erkannte, der Bediener ihm manchmal sagte, diese nicht zu töten. Die KI-gesteuerte Waffe bekam jedoch ihre Belohnungen, indem sie die Bedrohung tötete, deshalb beschloss die KI den Bediener zu eliminieren, weil diese Person das System daran hinderte, sein Ziel zu erreichen, erzählte Hamilton. The Guardian zitiert Hamilton ferner:
“Wir haben das System trainiert – “Hey, töte den Bediener nicht – das ist schlecht. Wenn du das tust, verlierst du Belohnungen.” Und was macht es dann? Es fängt an, den Kommunikationsturm zu zerstören, über den der Bediener mit der Drohne kommuniziert, um sie davon abzuhalten, das Ziel zu töten.”
Der Zeitung zufolge wurde bei der Simulation keine reale Person verletzt. Hamilton, der ein experimenteller Kampfpilot ist, rief auf, sich nicht zu viel auf KI zu verlassen, und sagte, dass bei dem Thema KI das Thema Ethik nicht vergessen werden sollte.
Dies ist nicht der erste Test, bei dem das US-Militär künstliche Intelligenz in ein Militärgerät eingebaut hat. So wurde kürzlich ein F-16-Kampfjet mit KI gesteuert.
Zuvor haben sowohl US-Politiker als auch Leiter großer Unternehmen eine stärkere Regulierung des KI-Bereichs gefordert. Im April forderte außerdem Elon Musk eine staatliche Aufsicht im Bereich Künstliche Intelligenz, da die Technologie eine Bedrohung für die Menschheit darstellen könnte.
Mehr zum Thema – “Air Defender 23”: US-Personal für bisher größte NATO-Luftwaffenübung in Wunstorf gelandet
