![](\"http:\/\/just-now.news\/de\/wp-content\/uploads\/sites\/3\/2022\/11\/637b46a5b480cc1794321fa4.jpg\")
<\/p>\n<\/p>\n
<\/p>\n
Eigentlich sollte es ein Durchbruch werden. Doch nach nur wenigen Tagen im Netz\u00a0\u2013 und teils heftiger Kritik vonseiten der\u00a0Twitter-Gemeinde \u2013 hat Meta, ehemals Facebook, die Testversion einer von Meta AI entwickelten K\u00fcnstlichen Intelligenz (KI) wieder vom\u00a0Netz nehmen m\u00fcssen.\u00a0“Galactica” hei\u00dft das Programm, das urspr\u00fcnglich Forschungsarbeiten zusammenfassen, Gleichungen l\u00f6sen und eine Reihe anderer n\u00fctzlicher wissenschaftlicher Aufgaben erledigen sollte, stattdessen aber vage plausibel klingende, aber letztlich unsinnige wissenschaftliche Abhandlungen schrieb. Das verhei\u00dfungsvolle Projekt endete f\u00fcr den Konzern vorl\u00e4ufig in einem Desaster, denn wie alle Sprachmodelle ist Galactica im Grunde nur ein Bot, der zum Leiden des Social-Media-Giganten letztlich nicht dazu in der Lage war, Fakten von Fiktion zu unterscheiden.<\/p>\n
So behaupten Kritiker, das KI-Programm produziere Pseudowissenschaft, sei \u00fcberbewertet und nicht f\u00fcr den \u00f6ffentlichen Gebrauch geeignet. “In allen F\u00e4llen waren die Zusammenfassungen falsch oder voreingenommen, klangen aber richtig und verbindlich”, kritisierte der Direktor des Max-Planck-Instituts f\u00fcr Intelligente Systeme, Michael Black, Galactica in einem Beitrag auf Twitter.\u00a0Einige Forscher stellten zudem infrage, ob gro\u00dfe Sprachmodelle \u00fcberhaupt zur Entscheidungsfindung herangezogen werden sollten. Aufgrund der \u00fcberw\u00e4ltigenden Komplexit\u00e4t solcher Programme sei es nahezu unm\u00f6glich, die von der KI generierten Resultate zu \u00fcberpr\u00fcfen oder auch nur ansatzweise zu erkl\u00e4ren.\u00a0<\/p>\n
\nI asked #Galactica<\/a> about some things I know about and I’m troubled. In all cases, it was wrong or biased but sounded right and authoritative. I think it’s dangerous. Here are a few of my experiments and my analysis of my concerns. (1\/9)<\/p>\n
\u2014 Michael Black (@Michael_J_Black) November 17, 2022<\/a><\/p><\/blockquote>\n<\/div>\n<\/div>\n
Dies ist nat\u00fcrlich ein massives Problem, insbesondere wenn es um wissenschaftliche Forschung geht. Wissenschaftliche Arbeiten beruhen auf strengen Methoden, die textgenerierende KI-Systeme eindeutig nicht nachvollziehen k\u00f6nnen \u2013 zumindest noch nicht. Ein Umstand, der auch Black Sorgen bereitet. Der Forscher f\u00fcrchtet, dass ein System wie Galactica “eine \u00c4ra tiefgreifender wissenschaftlicher F\u00e4lschungen einleiten k\u00f6nnte. Ich denke, das ist gef\u00e4hrlich.” Andere wiederum br\u00fcskierten sich dar\u00fcber, dass die KI f\u00fcr ein breites Spektrum von Forschungsthemen keine Ergebnisse lieferte, was wahrscheinlich auf die automatischen Filter der KI zur\u00fcckzuf\u00fchren ist. Willie Agnew, ein Informatikforscher an der Universit\u00e4t Washington, bem\u00e4ngelte zum Beispiel, dass Abfragen nach “Queer Theory”, “Racism” und “AIDS” immer wieder ins Leere verliefen.\u00a0<\/p>\n
\n\n\nRefuses to say anything about queer theory, CRT, racism, or AIDS, despite large bodies of highly influential papers in these areas. It took me *5 mins* to find this. It is obvious they didn’t have even the most basic ethics review before public release. Lazy, negligent, unsafe. https:\/\/t.co\/zKbSPdIN0I<\/a>pic.twitter.com\/DTQjtn2P21<\/a><\/p>\n
\u2014 Willie Agnew (@willie_agnew) November 16, 2022<\/a><\/p><\/blockquote>\n<\/div>\n<\/div>\n
In anderen F\u00e4llen erstellte die KI gef\u00e4lschte Arbeiten, die sie\u00a0dann sogar real existierenden Autoren zuschrieb. Und als w\u00e4re das noch nicht genug, erfand das Sprachmodell einen Wikipedia-Artikel \u00fcber das Leben von B\u00e4ren im Weltraum. Das neuronale Netzwerk spuckte eine v\u00f6llig an den Haaren herbeigezogene Geschichte \u00fcber einen sowjetischen Weltraumb\u00e4ren namens “Bars” aus, der an Bord einer Sputnik 2-Rakete ins Weltall gelangt sei und noch heute dort leben soll. Geht es um B\u00e4ren in der Raumfahrt, ist das Fantasieprodukt gegebenenfalls noch leicht zu erkennen, problematisch werden die fehlerhaften Ergebnisse dann, wenn der Nutzer selbst nicht \u00fcber das Fachwissen verf\u00fcgt, eine falsche Schlussfolgerung des Programms zu entlarven. Auch deshalb nahm Meta die Demoversion der KI am fr\u00fchen Donnerstagmorgen vorl\u00e4ufig vom Netz.\u00a0<\/p>\n
\n\n\nThank you everyone for trying the Galactica model demo. We appreciate the feedback we have received so far from the community, and have paused the demo for now. Our models are available for researchers who want to learn more about the work and reproduce results in the paper.<\/p>\n
\u2014 Papers with Code (@paperswithcode) November 17, 2022<\/a><\/p><\/blockquote>\n<\/div>\n<\/div>\n
“Wir sch\u00e4tzen das Feedback, das wir bisher von der Community erhalten haben, und haben die Demo vorerst pausiert”, erkl\u00e4rte die mit dem Projekt betraute Meta-Tochtergesellschaft Papers with Code auf Twitter. “Unsere Modelle stehen Forschern zur Verf\u00fcgung, die mehr \u00fcber die Arbeit erfahren und die Ergebnisse des Papers reproduzieren wollen.” Andere\u00a0Meta-Mitarbeiter behaupteten jedoch, die Demo sei als Reaktion auf die Kritik entfernt worden. Es ist nicht das erste Mal, dass Facebook sich nach der Ver\u00f6ffentlichung einer erschreckend voreingenommenen KI erkl\u00e4ren muss. Im August ver\u00f6ffentlichte das Unternehmen eine Demo f\u00fcr einen Chatbot namens BlenderBot 3, der “beleidigende und unwahre” Aussagen machte. F\u00fcr Aufsehen sorgte auch ein von Meta entwickeltes Sprachmodell namens OPT-175B, dem Forscher sp\u00e4ter eine “hohe Neigung” zu “Rassismus und Voreingenommenheit” attestierten.\u00a0<\/p>\n
Galactica ist ebenfalls ein Sprachmodell \u2013 jedoch eines f\u00fcr die Wissenschaft, das nach Angaben des Social-Media-Giganten mithilfe von rund 48 Millionen Beispielen aus wissenschaftlichen Abhandlungen, Webseiten, Lehrb\u00fcchern, Vorlesungsmitschriften und Enzyklop\u00e4dien trainiert wurde. Meta selbst bewirbt das KI-Programm als “eine Abk\u00fcrzung f\u00fcr Forscher und Studenten”. Nach Angaben des Unternehmens kann Galactica\u00a0“akademische Abhandlungen zusammenfassen, mathematische Probleme l\u00f6sen, Wikipedia-Artikel generieren, wissenschaftlichen Codes schreiben, Molek\u00fcle und Proteine annotieren und vieles mehr”.<\/p>\n
Und obwohl die Ergebnisse solcher KI-Programme oftmals doch sehr beeindruckend sind, ist Galactica ein weiteres Beispiel daf\u00fcr, dass die F\u00e4higkeit, glaubw\u00fcrdige menschliche Sprache zu erzeugen, nicht bedeutet, dass das System den Inhalt auch tats\u00e4chlich versteht.<\/p>\n
Eine Erfahrung, die auch der KI-Experte Gary Marcus machte. So bezeichnete er den Output des Meta-Sprachmodells unter anderem als “Bullshit” und merkte an, dass Galactica in die Fu\u00dfstapfen des GPT-3-Textgenerators von OpenAI trete, der sich ebenfalls dadurch auszeichnet, dass er grammatikalisch einwandfreies Zeug ausspucke, das aber totaler Quatsch sei. “Wie soll ich das h\u00f6flich ausdr\u00fccken?”, schrieb der Autor und bekennende KI-Liebhaber auf seiner Webseite<\/a>. “Das Programm schwindelt. Sehr viel.” So verdeutlichte Facebooks Galactica erneut das Dilemma der modernen Sprach-KI: Sie kann eine Menge W\u00f6rter produzieren, die ziemlich genau beim Thema bleiben, aber bei genauerem Hinsehen wenig oder gar keinen Sinn ergeben.<\/p>\n
Und es ist leicht vorstellbar, dass eine KI wie diese \u2013 sollte sie irgendwann mal funktionieren \u2013 missbraucht werden k\u00f6nnte. Ein Student k\u00f6nnte Galactica beispielsweise daf\u00fcr nutzen, Vorlesungsnotizen \u00fcber schwarze L\u00f6cher zu analysieren und das Ergebnis dann als “eigene” Studienarbeit einreichen. Ein Wissenschaftler k\u00f6nnte sie verwenden, um eine\u00a0literarische Abhandlung\u00a0zu schreiben, die er dann bei einer wissenschaftlichen Zeitschrift einreicht. Da das Sprachmodell so trainiert wurde, dass das von ihm ausgespuckte Ergebnis wie von Menschen geschaffen klingt, k\u00f6nnte der kommerzielle Einsatz solcher Programme T\u00fcr und Tor f\u00fcr einen betr\u00fcgerischen Gebrauch der Software \u00f6ffnen.<\/p>\n
\u00dcberdies k\u00f6nnte die Nutzung\u00a0von Galactica f\u00fcr Wissenschaftler ein\u00a0zweischneidiges Schwert sein, wie man sp\u00e4testens bei einem Blick in die Nutzungsbedingungen<\/a>\u00a0erf\u00e4hrt. Die Nutzer des KI-gest\u00fctzten Forschungstools gew\u00e4hren dem Konzern das Recht, s\u00e4mtlichen, mit der Anwendung kreierten Content zu sichten, zu pr\u00fcfen und gegebenenfalls auch “zu verwerten”. So k\u00f6nnte sich\u00a0Meta die weitere Nutzung des vom Programm generierten Textes zum Training seines KI-Modells offenhalten. Zwar gibt der Social-Media-Gigant zugleich an, dass das Urheberrecht am erzeugten Output bei den Nutzern selbst liege, unklar bleibt jedoch, wie die Anwender ihr Urheberrecht im Ernstfall wahren k\u00f6nnen.\u00a0<\/p>\n
Yann LeCun, wissenschaftlicher Leiter von Meta, verteidigt das KI-Programm dennoch und konterte auf Twitter derweil auch weiterhin gegen jede berechtigte Kritik an Galactica. \u00dcber das vorl\u00e4ufige Ende der Anwendung zeigte er sich deshalb best\u00fcrzt. “Die Galactica-Demo ist vorerst offline. Es ist nicht mehr m\u00f6glich, Spa\u00df zu haben, indem man es missbraucht. Gl\u00fccklich?”, schrieb er auf Twitter.\u00a0<\/p>\n
Mehr zum Thema\u00a0<\/strong>\u2013 Google beurlaubt Mitarbeiter, der behauptet, die KI des Unternehmens habe ein Bewusstsein<\/a><\/p>\n<\/div>\n