![](\"https:\/\/now-news.de\/de\/wp-content\/uploads\/sites\/3\/2026\/09\/6aa29ffe48fbef2a222a019d.jpg\")
<\/p>\n<\/p>\n
<\/p>\n
Ein Forscher des KI-Unternehmens Anthropic hat angek\u00fcndigt, das Unternehmen aus Sorge zu verlassen, dass der Konzern und seine Wettbewerber bei der Entwicklung k\u00fcnstlicher Intelligenz nicht verantwortungsvoll handeln. Damit greift er Bedenken auf, die innerhalb und au\u00dferhalb der Branche hinsichtlich der m\u00f6glichen Entwicklung von KI-Systemen ge\u00e4u\u00dfert werden, die sich der menschlichen Kontrolle entziehen k\u00f6nnten.<\/p>\n
Jacob Coxon, der nach eigenen Angaben insgesamt drei Jahre lang sowohl bei Anthropic als auch bei OpenAI geforscht hat, erkl\u00e4rte am Dienstag auf der Plattform X, dass beide KI-Unternehmen st\u00e4rker darauf konzentriert seien, einander und globale Konkurrenten bei der Entwicklung des leistungsf\u00e4higsten Modells zu \u00fcbertreffen, als auf die Sicherheit.<\/p>\n
OpenAI\u00a0und Anthropic “spielen mit unserem Leben”. Der 27 Jahre alte Brite Jacob Coxon\u00a0schrieb auf der Plattform X, er habe bei Anthropic gek\u00fcndigt, und er gab dabei eine d\u00fcstere Warnung ab: “Die Leute, die K\u00fcnstliche Intelligenz entwickeln, glauben ernsthaft, dass sie uns bis zum Ende des Jahrzehnts alle t\u00f6ten k\u00f6nnte. Das ist kein Marketing-Stunt.” Weder OpenAI noch Anthropic handelten verantwortungsbewusst. Bei OpenAI h\u00e4tten viele Mitarbeiter noch nicht verinnerlicht, was f\u00fcr die gesamte Zivilisation auf dem Spiel stehe. Bei Anthropic sei dies zwar nicht der Fall, aber das Unternehmen sehe sich in einem “Rennen” mit Wettbewerbern und gehe deshalb erhebliche Risiken ein.<\/p>\n
Coxon schrieb, man sollte die “Macht dieser Technologie” nicht untersch\u00e4tzen. Bald werde es “supermenschliche Systeme” geben, die “alles hacken, jedes Gebiet \u00fcber Nacht revolutionieren und sich echte Macht und Ressourcen verschaffen k\u00f6nnen”.<\/p>\n
OpenAI und Anthropic hatten in diesem Sommer f\u00fcr Aufsehen gesorgt, nachdem sie im Abstand von etwa einer Woche bekannt gegeben hatten, dass ihre KI-Modelle aus Testumgebungen “ausgebrochen” waren und sich unbefugten Zugriff auf reale Computersysteme verschafft hatten. Die Ank\u00fcndigungen l\u00f6sten Sorgen dar\u00fcber aus, dass KI-Modelle eigenst\u00e4ndig handeln und andere, potenziell gef\u00e4hrlichere Aufgaben ausf\u00fchren k\u00f6nnten. Beide Unternehmen erkl\u00e4rten damals, einige Tests vor\u00fcbergehend auszusetzen, um zus\u00e4tzliche \u00dcberwachungsma\u00dfnahmen und Sicherheitsvorkehrungen einzuf\u00fchren.<\/p>\n
Die rasante Entwicklung der Technologie hat sowohl in den USA als auch bei f\u00fchrenden Politikern weltweit Forderungen nach einem vorsichtigeren Vorgehen ausgel\u00f6st. Der UN-Hochkommissar f\u00fcr Menschenrechte, Volker T\u00fcrk, forderte die Staaten diese Woche auf, “eiserne Garantien” f\u00fcr die Sicherheit von KI zu schaffen, bevor es zu sp\u00e4t sei.<\/p>\n
In einem von mehr als 1000 Mitarbeitern von Unternehmen wie OpenAI, Anthropic und Google unterschriebenen Brief wurde die US-Regierung k\u00fcrzlich aufgefordert, eine internationale Initiative zu unterst\u00fctzen, mit der die Entwicklungsgeschwindigkeit von KI-Technologien reduziert werden k\u00f6nnte.<\/p>\n
Mehr zum Thema<\/strong> – Nach OpenAI: Auch Anthropic-KI startete selbstst\u00e4ndig Cyberangriffe<\/a><\/p>\n\n