Klage behauptet, dass der TikTok-Algorithmus gewalttätige Videos bei Minderheiten bewirbt

TikTok wurde von einer weiteren Klage getroffen, diesmal wegen des Todes eines 14-jährigen afroamerikanischen Mädchens.

Die Klage behauptet, dass der Algorithmus der Plattform gewalttätige Videos für Minderheiten fördert.

Meta Platforms Inc., Snap Inc. und die TikTok-Muttergesellschaft ByteDance Ltd. werden ebenfalls als Beklagte in der Klage genannt, die am Mittwoch vor einem Bundesgericht in San Francisco eingereicht wurde.

Das Mädchen, Englyn Roberts, starb im September 2020 nach einem Selbstmordversuch zwei Wochen zuvor. Anwälte, die ihre Eltern vertreten, behaupten, dass TikTok „sich der Verzerrungen in seinem Algorithmus in Bezug auf Rasse und sozioökonomischen Status bewusst ist“, so ein Bericht von Mercury News.

Ihre Eltern, Brandy und Toney Roberts, kauften ihr ein Telefon, als sie zehn Jahre alt war und ihre Passwörter kannte, um ihre sozialen Medien überprüfen zu können – aber das war nicht genug. Das Mädchen war online Mobbing ausgesetzt, von dem sie nichts wussten.

„Wir würden regulieren, Sie kennen ihr Telefon, sie würde es abgeben. Wir hatten die Passwörter für all ihre verschiedenen Social-Media-Konten“, sagten die Eltern gegenüber WAFB.

Sie fügten hinzu: „Sie wurde 13, wir gingen auf eine Kreuzfahrt, und sie bestand nur darauf, dass sie das Telefon haben musste, als könnte sie es nicht weglegen, und dann hat man auf einer Kreuzfahrt die meiste Zeit keinen Internetzugang , also war sie wirklich verärgert, dass sie ihr Telefon nicht erreichen konnte.“

„Als Eltern denkst du, dass du es weißt und du denkst, dass du schlau bist, weil ich der Vater bin, dass ich ihr Handy überprüfen würde, wenn sie zur Schule gehen würde, wir den Passcode hatten, aber was ich einfach nicht wusste, ist wo Die Informationen waren vor allem auf Instagram “, fuhren sie fort.

Die Eltern denken nicht mehr, dass es sich um einfaches Mobbing handelt und dass TikTok absichtlich schädliche Inhalte an Minderheiten sendet.

„Das Social-Media-Produkt von TikTok hat schädliche und gewalttätige Inhalte in größerer Zahl an Englyn Roberts geleitet und gefördert als das, was sie für andere kaukasische Benutzer mit ähnlichem Alter, Geschlecht und Wohnort beworben und verstärkt haben“, behaupten ihre Eltern.

Die Eltern des jungen Teenagers werden von Matthew Bergman, Gründer des Social Media Victims Law Center, vertreten.

„Die Natur dieser Algorithmen und dieser Produkte ist so konzipiert, dass sie süchtig machen, süchtig machend für Teenager und alle drei dieser Teenager, die süchtig nach ihren Produkten wurden und infolgedessen unter Schlafentzug und Angstzuständen litten und nicht davon loskamen“, sagte Bergman WAFB.

Bergman fügte hinzu, dass „ihr Gewinnmodell auf der Maximierung der Bildschirmzeit und des Engagements über allem anderen basiert. Sie tun dies, indem sie Algorithmen entwerfen, die Kinder leiten, Kinder, deren Gehirne nicht vollständig entwickelt sind, um Inhalte zu finden, die Kinder nicht ansehen können.“

Zwei weitere Familien reichten Anfang dieses Monats Klagen wegen widerrechtlicher Tötung gegen den Social-Media-Riesen ein.

Lalani Erika Walton (8) und Arriani Jaileen Arroyo (9) starben beide, als sie versuchten, die virale „Black Out Challenge“ zu versuchen, die auf TikTok viral geworden war.

Die Klage behauptet auch, dass die Mädchen Opfer des Algorithmus der App geworden seien.

„Laut TikTok ist sein proprietärer Algorithmus ‚ein Empfehlungssystem, das jedem Benutzer Inhalte liefert, die für diesen bestimmten Benutzer wahrscheinlich von Interesse sind … der Feed jeder Person ist einzigartig und auf diese bestimmte Person zugeschnitten’“, die Dokumente, die von erhalten wurden Radar-Online-Zustand. „Mit anderen Worten, TikTok hat speziell kuratiert und festgestellt, dass diese Blackout Challenge-Videos – Videos mit Benutzern, die sich absichtlich selbst strangulieren, bis sie das Bewusstsein verlieren – für kleine Kinder angemessen und passend sind.“

Am 26. Februar 2021 wurde Arroyo „an der Hundeleine der Familie hängend“ gefunden. Sie wurde lebend gefunden, musste aber im Krankenhaus beatmet und lebenserhaltend versorgt werden. Sie hatte überhaupt keine Gehirnfunktion mehr. Schließlich beschloss die Familie, sie von der Lebenserhaltung zu nehmen, und sie starb.

Fünf Monate später, am 15. Juli 2021, sah sich Walton während einer Autofahrt Videos an und entdeckte die „Blackout Challenge“. Als sie nach Hause kamen, gingen sie schwimmen und die Stiefmutter machte ein Nickerchen.

Als sie aufwachte, fand sie die Achtjährige „mit einem Seil um den Hals an ihrem Bett hängend“.

In den Gerichtsakten heißt es, dass das Mädchen „der Überzeugung war, dass sie berühmt werden würde, wenn sie ein Video von sich selbst bei der Blackout Challenge posten würde“.

Die Gerichtsakte behauptet, dass TikTok seine Algorithmen entwickelt, um „Benutzer süchtig zu machen und sie dazu zu bringen, so viel Zeit wie möglich mit der Anwendung zu verbringen, durch fortschrittliche Analysen, die ein variables Belohnungssystem schaffen, das auf die Sehgewohnheiten und Interessen der Benutzer zugeschnitten ist“.

Die Familien argumentierten auch, dass der Social-Media-Riese nicht genug tue, um Kinder von ihrer Plattform fernzuhalten.

„TikTok gibt vor, ein Mindestalter von 13 Jahren zu haben, tut aber wenig, um das Alter des Benutzers zu überprüfen oder seine Altersbeschränkungen durchzusetzen, obwohl tatsächlich bekannt ist, dass die Nutzung durch minderjährige Benutzer weit verbreitet ist. TikTok weiß, dass Hunderttausende von Kindern im Alter von nur sechs Jahren derzeit sein Social-Media-Produkt verwenden, unternimmt jedoch keinen Versuch, solche Benutzer zu identifizieren und ihre Nutzung zu beenden“, behaupten die Familien.

In der Klage wird außerdem argumentiert, dass TikTok nichts unternimmt, um „junge Benutzer daran zu hindern, positiv auf hochgefährliche Inhalte wie die Blackout Challenges verwiesen zu werden“.

„TikTok hat Milliarden von Dollar investiert, um sein Produkt absichtlich zu entwerfen und zu entwickeln, um Inhalte für Teenager und Kinder zu fördern, zu ermöglichen und zu verbreiten, von denen der Angeklagte weiß, dass sie problematisch und äußerst schädlich für die geistige Gesundheit seiner minderjährigen Benutzer sind“, heißt es in der Klage Radarbericht.