Laut einem neuen Bericht, der am 7. Februar veröffentlicht wurde, werden von künstlicher Intelligenz generierte Deepfake-Nachrichtensprecher von staatlich verbündeten chinesischen Akteuren verwendet, um pro-chinesische Propagandavideos in sozialen Medien zu bewerben.
Der ausführliche Bericht (pdf) des in den USA ansässigen Forschungsunternehmens Graphika ist das erste Mal, dass es beobachtet, dass „staatlich ausgerichtete Akteure von Einflussnahmeoperationen Videomaterial von KI-generierten fiktiven Personen in ihren Operationen verwenden“.
Graphika stellte fest, dass die gefälschten Nachrichtensprecher für eine wahrscheinlich fiktive Nachrichtenagentur namens „Wolf News“ erstellt wurden, von der behauptet wird, dass sie Technologie verwendet, die von einem in London ansässigen KI-Videounternehmen namens Synthesia bereitgestellt wird.
Laut Graphika wurden die Videos entdeckt, während das Unternehmen pro-chinesische Desinformationsoperationen verfolgte, die als „Spamouflage“ bekannt sind.
„Dieser Satz aus zwei einzigartigen Videos hatte viele der gleichen Eigenschaften wie herkömmliche Spamouflage-Inhalte: Sie waren zwischen anderthalb und drei Minuten lang, verwendeten eine Zusammenstellung von Stock-Bildern und Nachrichtenmaterial aus Online-Quellen und wurden begleitet durch englischsprachige Roboter-Voiceover, die die Interessen der Kommunistischen Partei Chinas vertreten“, sagte Graphika.
Ein solches Video beschuldigte die US-Regierung, versucht zu haben, Waffengewalt durch „heuchlerische Wiederholung leerer Rhetorik“ zu bekämpfen.
Der andere betonte die Bedeutung der Zusammenarbeit zwischen den Vereinigten Staaten und China für die Erholung der Weltwirtschaft.
Videos waren von „niedriger Qualität“
Graphika sagte, es habe Spamouflage identifiziert, das die Deepfakes auf Plattformen wie Twitter, Facebook und YouTube bewirbt, aber dass die Videos von geringer Qualität und „Spam“ seien und dass keines von ihnen mehr als 300 Aufrufe erhalten habe.
China hat den Bericht nicht kommentiert.
Auf der Website von Synthesia heißt es, dass es sich um eine „KI-Videoerstellungsplattform“ handelt, die von Tausenden von Unternehmen verwendet wird, um „Videos in 120 Sprachen zu erstellen“. Das Unternehmen bietet Benutzern mehr als 100 verschiedene „KI-Avatare“, darunter zwei mit den Namen „Anna“ und „Jason“.
Es heißt auch, dass es sich „als Unternehmen, das Pionierarbeit für diese neue Art von Medien leistet“, seiner Verantwortung bewusst ist und dass KI und ähnlich leistungsstarke Technologien „nicht mit Ethik im Nachhinein aufgebaut werden können“.
Aus diesem Grund sagt das Unternehmen, dass es „unsere Software nicht zur öffentlichen Nutzung anbieten wird“ und dass „alle Inhalte einen expliziten internen Überprüfungsprozess durchlaufen werden, bevor sie für unsere vertrauenswürdigen Kunden freigegeben werden“.
Darin heißt es auch, dass „politische, sexuelle, persönliche, kriminelle und diskriminierende Inhalte nicht toleriert oder genehmigt werden“.
Victor Riparbelli, Mitbegründer und Geschäftsführer von Synthesia, sagte der Japan Times, dass Verbraucher, die die Technologie des Unternehmens zur Erstellung der im Graphika-Bericht hervorgehobenen Avatare verwendeten, gegen die Nutzungsbedingungen verstoßen hätten.
Riparbelli sagte, die Konten derjenigen, die dies getan hatten, seien seitdem gesperrt worden und er übernehme „die volle Verantwortung für alles, was auf unserer Plattform passiert“, lehnte es jedoch ab, weitere Einzelheiten zu der Person oder den Personen hinter den Videos von Wolf News preiszugeben.
Pekings neues Gesetz
Riparbelli fügte hinzu, dass das Unternehmen über ein vierköpfiges Team verfügt, das sich dafür einsetzt, zu verhindern, dass seine Deepfake-Technologie zur Erstellung illegaler Inhalte verwendet wird, stellte jedoch fest, dass bestimmte Materialien, die Fehlinformationen enthalten, schwer zu erkennen sind, wenn sie keine Dinge wie offene Hassreden oder explizite Wörter enthalten und Bilder.
„Es ist sehr schwierig festzustellen, ob es sich um Fehlinformationen handelt“, sagte Riparbelli, nachdem ihm laut der Veröffentlichung eines der Videos von Wolf News gezeigt worden war. Der CEO forderte die politischen Entscheidungsträger außerdem auf, klarere Regeln für die Verwendung der KI-Tools festzulegen.
Die Epoch Times hat Synthesia um einen Kommentar gebeten.
Der Bericht von Graphika kommt kurz nachdem Peking ein umfassendes neues Gesetz zur Regulierung von Deepfakes mit dem Namen „Bestimmungen zur Verwaltung der tiefen Synthese von Internetinformationsdiensten“ verabschiedet hat, das im Januar in Kraft getreten ist.
Gemäß den Vorschriften müssen Deep-Synthese-Anbieter unter anderem Systeme zur Benutzerregistrierung und Überprüfung der Benutzeridentität einrichten und unterhalten sowie Überprüfungen und ethische Bewertungen der Deepfake-Dienste und der vom System verwendeten Algorithmen bereitstellen.
Das Gesetz besagt auch, dass Deep-Synthesis-Anbieter auch Verfahren implementieren müssen, um die Veröffentlichung von „falschen, illegalen oder schädlichen Informationen“ durch Deep-Synthesis-Benutzer zu melden und zu unterbinden.
Trotz des neuen Gesetzes hat Washington wiederholt Bedenken über Chinas Fortschritte bei der künstlichen Intelligenz geäußert, von denen es befürchtet, dass sie dem chinesischen Regime einen stärkeren Wettbewerbsvorteil gegenüber den Vereinigten Staaten verschaffen könnten, insbesondere in Bezug auf sein Militär, das zu einem der fähigsten der Welt werden könnte Welt.
Text ist eine Übersetzung vom Epoch Times Artikel:
