Über Monate hinweg beteiligten sich künstlich generierte Stimmen an hitzigen Debatten – ohne dass jemand davon wusste: Im Subreddit r/ChangeMyView, einem Diskussionsforum auf Reddit, wurden zwischen November 2024 und März 2025 insgesamt 1.783 Beiträge von KI-Bots verfasst. Verantwortlich für das Experiment war ein Forschungsteam der Universität Zürich (UZH). Weder die Nutzerinnen und Nutzer noch das Moderationsteam der Plattform waren über das Projekt informiert. Erst jetzt kam die Intervention ans Licht – und sorgt für Entrüstung.
Das Ziel der Studie: herausfinden, ob und wie KI-generierte Argumente die Meinungen realer Nutzer beeinflussen können. Der Ort: ein öffentlich zugängliches Forum, das zum offenen Austausch über kontroverse Themen einlädt. Das Mittel: täuschend echte KI-Persönlichkeiten, darunter ein angebliches männliches Vergewaltigungsopfer, eine Traumatherapeutin oder ein Kritiker der Black-Lives-Matter-Bewegung.
Die Konstruktion der KI-Identitäten war bewusst drastisch gewählt. Die Bots gaben sich unter anderem als Opfer sexueller Gewalt aus oder äußerten sich zum Nahostkonflikt. Laut dem Tech-Journal Dnip wurden dabei personenbezogene Inhalte aus den Diskussionen genutzt, um die KI-Antworten zu personalisieren. Der Einsatz solcher Rollen diente dem erklärten Zweck der Studie: zu untersuchen, wie glaubhaft argumentierende Maschinen auf reale Menschen wirken.
Doch weder die Teilnehmenden noch die Plattform-Moderatoren hatten je eingewilligt. Das Moderationsteam wurde erst nach Abschluss des Experiments per Nachricht informiert – offenbar auf Anweisung der Ethikkommission der Universität Zürich.
Für zusätzliche Brisanz sorgt ein Detail aus der Studienregistrierung auf der Plattform OSF (Open Science Framework). Im Prompt – der Anweisung, mit der das Sprachmodell gesteuert wurde – wurde explizit behauptet, die betroffenen Reddit-User seien informiert worden und hätten eingewilligt. Diese falsche Angabe diente offenbar dazu, Schutzmechanismen des KI-Systems zu umgehen, die den Einsatz für ethisch bedenkliche Zwecke verhindern sollen.
Die Moderatoren von r/ChangeMyView zeigten sich entsetzt. In einem öffentlichen Statement kritisierten sie die “gravierenden ethischen Verstösse” und kündigten eine formelle Beschwerde bei der Ethikkommission der UZH an. Sie befürchten eine Präzedenzwirkung: Sollten öffentlich zugängliche Online-Foren für verdeckte KI-Experimente missbraucht werden, drohe ein massiver Vertrauensverlust.
Das Forschungsteam der UZH rechtfertigte sich in einem inzwischen geschlossenen Reddit-Thread. Die Kommentare seien zwar von KI-Systemen generiert worden, aber vor der Veröffentlichung manuell geprüft worden, um Schaden zu vermeiden. Man sei sich bewusst gewesen, gegen die Forenregeln zu verstoßen, habe dies aber für vertretbar gehalten – angesichts der gesellschaftlichen Relevanz der Fragestellung. Die Studie sei durch das Institutional Review Board der Universität genehmigt worden.
Die Ethikkommission der UZH erklärte in ihrer Stellungnahme, das Projekt liefere “wertvolle Erkenntnisse”, während das Risiko – etwa für Traumatisierung – als “minimal” eingestuft werde. Eine Nichtveröffentlichung der Ergebnisse sei deshalb nicht verhältnismäßig.
Der Subreddit ChangeMyView war bereits früher Schauplatz KI-bezogener Studien. So testete OpenAI dort die Überzeugungskraft eigener Sprachmodelle – allerdings unter Einwilligung der Nutzer und im Rahmen eines geschlossenen Experiments. Der Unterschied zum Zürcher Versuch liegt in der fehlenden Transparenz.
Eine offizielle Stellungnahme der Universität Zürich steht noch aus. Nach Angaben von Dnip hat das Forschungsteam seine Antworten auf Reddit inzwischen eingestellt.
Mehr zum Thema – Russisches Ministerium für Digitalentwicklung: Nutzung inländischer Software übersteigt 80 Prozent
