Das KI-Modell Claude des US-amerikanischen Unternehmens Anthropic soll einen internen Arbeitsbereich entwickelt haben, in dem es abstrakte Konzepte ähnlich wie Menschen verarbeiten kann. Dies teilte das Unternehmen selbst mit.
In einer am Montag veröffentlichten Studie erklärten Anthropic-Forscher, Hinweise darauf gefunden zu haben, dass Claude nun abstrakte Konzepte in einem sogenannten “J-space” bilde. Dabei handele es sich um einen internen Bereich neuronaler Aktivierungen, in dem das Modell über Konzepte “nachdenken” kann, ohne diese sprachlich festzuhalten. Dies sei vergleichbar damit, dass Menschen über eine Sache nachdenken, während sie gleichzeitig etwas anderes tun.
Die Forscher betonten zudem, dass dieser Arbeitsbereich ursprünglich nicht programmiert worden, sondern während des Trainingsprozesses spontan entstanden sei. Anthropic zufolge könne Claude, wenn nötig, beschreiben, worüber es in seinem “J-space” nachdenkt oder sogar den Raum selbst gezielt beeinflussen.
Der nichtverbale Arbeitsbereich erschwere auch die Überwachung des Modells auf unerwünschtes Verhalten. In einem Experiment versetzten die Forscher Claude in ein fiktives Szenario, in dem das Modell belastende Informationen über einen fiktiven Manager erhielt, der angeblich das Modell abschalten wollte. In einigen Experimenten entfernten die Forscher Aktivierungsmuster im “J-space”, die mit Begriffen wie “fake”, “fiktiv” oder “Szenario” verbunden waren. Claude sollte in diesem Fall glauben, die Situation sei kein Test. Dann begann das Modell, mit Erpressung zu drohen. Dies deutete laut den Forschern darauf hin, dass das ursprüngliche gute Verhalten dadurch zu erklären sei, dass das Modell über die laufende Bewertung wusste. Anthropic betonte aber, dass Claude trotz der fortgeschrittenen Fähigkeiten zum logischen Schlussfolgern kein echtes Bewusstsein entwickelt habe.
Medienberichten zufolge wurde Claude zudem in Analyse- und Überwachungssoftware des US-Unternehmens Palantir integriert, die von US-Behörden genutzt wird. Während des Krieges gegen Iran soll die Software eine Grundschule in Minab als Ziel markiert haben. Bei einem US-Angriff auf die Einrichtung sollen nahezu 160 Menschen ums Leben gekommen sein, die meisten davon Kinder. Anthropic-Chef Dario Amodei betonte jedoch, dass ein solcher Einsatz von Claude nicht die “roten Linien” des Unternehmens überschreite.
Mehr zum Thema – Anthropic will Umgehungswege für KI-Zugang aus China schließen
