![](\"http:\/\/just-now.news\/de\/wp-content\/uploads\/sites\/3\/2022\/08\/630b9b2348fbef63654f0553.jpg\")
<\/p>\n<\/p>\n
<\/p>\n
Eine Analyse von Tom J. Wellbrock<\/em><\/p>\n Die Kommunikation mit dem Arzt geht niemanden etwas an. Theoretisch. Aber in der Praxis wird diese Regel immer weiter aufgeweicht, wie zwei V\u00e4ter in den USA feststellen mussten. Nachdem sie sich Sorgen um ihre Kinder gemacht hatten, schickten sie auf Wunsch des Kinderarztes Fotos der Genitalbereiche des Nachwuchses an die Arztpraxis. Und zwar via Google. F\u00fcr die von Google eingesetzte K\u00fcnstliche Intelligenz (KI) deuteten diese Bilder auf sexuellen Missbrauch der Kinder hin.<\/p>\n Das Missverst\u00e4ndnis war schnell aufgekl\u00e4rt, die polizeilichen Ermittlungen wurden zeitnah eingestellt. Doch zu Ende war die Geschichte damit nicht, denn Google sperrte beiden V\u00e4tern s\u00e4mtliche Konten und Dienste. Da beide Android-Handys benutzten, waren auch diese nach der Sache faktisch wertlos. Dadurch wurde den M\u00e4nnern nicht nur ein Gro\u00dfteil ihrer digitalen Teilhabe gesperrt, sie verloren dar\u00fcber hinaus Fotos und andere Daten aus ihrem gesamten Leben.<\/p>\n Zun\u00e4chst die Eigenverantwortung<\/strong><\/p>\n Die Tatsache, dass KI die Fotos der beiden V\u00e4ter als potenziellen Kindesmissbrauch eingesch\u00e4tzt hat, sollte in erster Linie zu h\u00f6chster Vorsicht f\u00fchren. Denn (so in diesem Fall) Google sichtet offenbar s\u00e4mtliche Inhalte, die Menschen speichern, hochladen oder versenden. Da die Fotos der Kinder aufgrund der Genitalbereiche brisant waren, h\u00e4tten die V\u00e4ter sie verschl\u00fcsselt versenden m\u00fcssen.<\/p>\n Auf der anderen Seite ist diese Art des Umgangs mit Missbrauch eine Generalerlaubnis, auf alle Daten von Nutzern zuzugreifen, wenn auch nur ansatzweise die Gefahr besteht, es k\u00f6nnte sich um Kindesmissbrauch handeln. Auch die Gro\u00dfeltern am Strand oder im Garten, die ihre planschenden Enkel beim Bauen einer Burg oder dem Spielen im Planschbecken fotografieren, sind m\u00f6gliche “T\u00e4ter”, wenn die KI entdeckt, dass die Kinder wenig oder nichts anhaben. Das freudige Versenden von Oma und Opa an die Eltern der Kleinen kann also fatale Konsequenzen haben.<\/p>\n Einer der beiden oben genannten V\u00e4ter verlor nach dem Irrtum Googles nicht nur sein Mailaccount und sein vollst\u00e4ndiges Adressbuch, auch s\u00e4mtliche Fotos seines Sohnes, die er gespeichert hatte, waren verloren. Schwierigkeiten bekam der Mann auch, nachdem sein alter, mit Google abgeschlossener Handyvertrag gek\u00fcndigt worden war. Andere Internetdienste hinderten ihn daran, sich in ihre Angebote einzuloggen, weil er seine Handynummer nicht mehr verwenden konnte. Ein nicht unerheblicher Teil seines digitalen Lebens hatte ihm von nun an den Zugang versperrt, er war ausgeschlossen. Wegen eines scheinbar harmlosen Fehlers.<\/p>\n EU-Verpflichtung f\u00fcr Dienste<\/strong><\/p>\n Die Idee der Chatkontrolle ist nicht neu, sie wird immer wieder diskutiert, verworfen, weiterentwickelt und erneut diskutiert. Doch die aktuellen Pl\u00e4ne sind weit fortgeschritten, dass diesmal die Realisierung erfolgt ist sehr wahrscheinlich. Und so richtig und wichtig der Kampf gegen Kinderpornografie und Kindesmissbrauch ist, so fragw\u00fcrdig ist die anlasslose und massenhafte \u00dcberwachung nahezu aller B\u00fcrger. Insbesondere, wenn man bedenkt, dass die betroffenen IT-Unternehmen verpflichtet werden, t\u00e4tig zu werden. Diese Verpflichtung f\u00fchrt im Zweifel eher zu etlichen Aktionen zu viel als zu einer zu wenig. Das zeigt sich unter anderem daran, dass Google die Sperrung der bereits genannten V\u00e4ter nicht wieder aufgehoben hat, das Unternehmen weigert sich schlicht.<\/p>\n Mit Algorithmen gegen Straftaten?<\/strong><\/p>\n Die EU plant unter dem griffigen Namen “Verordnung zur Festlegung von Vorschriften zur Verh\u00fctung und Bek\u00e4mpfung des sexuellen Missbrauchs von Kindern” das Durchleuchten von Messengern, Mails und sozialen Netzwerken. Das soll mittels Algorithmen, die Bildmaterial anhand eines Hashwertes durchst\u00f6bern sollen, geschehen. St\u00f6\u00dft die KI auf ein bekanntes Bild, auf dem Kindesmissbrauch zu sehen ist, kann sie alle anderen Bilder abgleichen. Um die Trefferquote zu erh\u00f6hen, soll “Machine Learning” eingesetzt werden, also selbstst\u00e4ndiges Lernen der KI.<\/p>\n Konzerne wie Snapchat, Google, Facebook und Microsoft benutzen schon l\u00e4nger Instrumente wie die PhotoDNA zur \u00dcberwachung. Dies betrifft jedoch nur unverschl\u00fcsselte Daten und folgt dem Prinzip der Freiwilligkeit. Das will die EU in dieser Form abschaffen und die Unternehmen zur \u00dcberwachung zwingen, was auch entsprechende Meldungen bei Verdachtsf\u00e4llen bedeutet. Zu Beginn dieses Textes wurde bereits geschildert, wie schnell ein solcher “Verdachtsfall” entstehen kann.<\/p>\n Nat\u00fcrlich ist der Anspruch, sexuellen Missbrauch an Kindern aufzudecken, entsprechende Inhalte zu entfernen und die Taten zu melden, vern\u00fcnftig und richtig. Wenn dabei jedoch jeder B\u00fcrger Gefahr l\u00e4uft, selbst zum “T\u00e4ter” zu werden, nur weil die KI etwas falsch interpretiert und das IT-Unternehmen aus Furcht vor Konsequenzen Sperren verh\u00e4ngt und nicht wieder aufhebt, ger\u00e4t durch diese letztlich anlasslose \u00dcberwachung etwas Grunds\u00e4tzliches aus dem Ruder.<\/p>\n Theorie \u2026<\/strong><\/p>\n Folgende Aufgaben kommen auf die IT-Unternehmen zu, wenn die EU-Verordnung (die dann auch \u00fcber nationalen Gesetzen steht) Wirklichkeit wird:<\/p>\n Wie genau und mit welcher Technologie diese hehren Ziele umgesetzt werden sollen, verr\u00e4t die EU nicht.<\/p>\n \u2026 und Praxis<\/strong><\/p>\n Der Einsatz von KI zum Aufst\u00f6bern von Kindesmissbrauch beruht auf dem Prinzip Versuch und Irrtum. Das f\u00fchrt zu einer erheblichen Anf\u00e4lligkeit f\u00fcr Fehler. Trotzdem muss jede Meldung durch die Strafverfolgungsbeh\u00f6rden (h\u00e4ndisch) gepr\u00fcft werden. Hinzu kommt der Plan der Zusammenarbeit zwischen EU und Europol. Das Ergebnis ist eine Massen\u00fcberwachung gravierenden Ausma\u00dfes.<\/p>\n Einfach macht es sich die EU auch beim Einsatz der Algorithmen. Sie schreibt nicht nur nicht vor, welche Technologie verwendet wird, sondern verzichtet auch gro\u00dfz\u00fcgig auf eine Offenlegungspflicht der Dienste. Und: Oft ist die Verifizierung des Alters notwendig. Das funktioniert nur \u00fcber das Vorlegen beziehungsweise Einscannen des Ausweises. Damit ist die anonyme Kommunikation im Grunde Geschichte und Whistleblower, Journalisten oder politisch Verfolgte k\u00f6nnen unter Umst\u00e4nden in eine gef\u00e4hrliche Lage geraten.<\/p>\n Die Folgen f\u00fcr die Menschen<\/strong><\/p>\n “Ich habe nichts zu verbergen!” Immer noch ein Satz, der gern verwendet wird, wenn B\u00fcrger meinen, sich vorbildlich zu verhalten. Daher sei ein Blick auf die Folgen und die m\u00f6glichen Konsequenzen der Chatkontrolle empfohlen:<\/p>\n Nun k\u00f6nnte man einwenden, der Preis ist es wert, wenn sich damit Kindesmissbrauch deutlich reduzieren lie\u00dfe. Das ist ein zweischneidiges Schwert, aber selbst wenn man diese Argumentation zulassen w\u00fcrde, reicht es l\u00e4ngst nicht, um Chatkontrolle und Massen\u00fcberwachung zu rechtfertigen.<\/p>\n Chatkontrolle: F\u00fcr die T\u00e4ter eher unbedeutend<\/strong><\/p>\n Die Aufkl\u00e4rung und Verhinderung von Kindesmissbrauch scheitert in erster Linie an fehlendem Personal. Es geht aber nicht nur um die Zahl der Ermittler, sondern auch um deren Ausbildung und technische Ressourcen, die gezielt eingesetzt werden k\u00f6nnen, ohne nach dem Gie\u00dfkannen-Prinzip zu arbeiten, wie es die massenhafte Chatkontrolle tut.<\/p>\n Und: Oft ist weniger mehr. Die Ermittler stehen schon heute vor dem Problem, strafrechtlich relevante Meldungen von den bedeutungslosen oder den fehlerhaften zu unterscheiden. Wenn die IT-Unternehmen verpflichtet werden, jeden einzelnen Fall, den eine wom\u00f6glich \u00fcberforderte oder schlecht programmierte KI \u00fcbermittelt, zu untersuchen, bleibt am Ende ein Berg von unn\u00fctzem Material, die wahren T\u00e4ter zu finden, wird sogar schwieriger als vorher.<\/p>\n Genaugenommen setzt die EU mit der neuen Chatkontrolle auf die “Kooperationsbereitschaft” der T\u00e4ter. Denn die m\u00fcssen, damit das alles \u00fcberhaupt funktionieren kann, kommerzielle Online-Dienste nutzen. Das machen aber nur die D\u00fcmmsten unter ihnen, alle anderen verzichten auf diese Dienste und setzen stattdessen auf Foren, wo auch Bilder und Videos verschl\u00fcsselt hochgeladen werden k\u00f6nnen, die aufgrund dieser Verschl\u00fcsselung nicht von der KI erfasst werden k\u00f6nnen. Dann werden die Entschl\u00fcsselungsschl\u00fcssel geteilt, andere P\u00e4dophile laden die verschl\u00fcsselten Archive herunter und entschl\u00fcsseln sie mit dem geteilten Schl\u00fcssel.\u00a0\u00a0\u00a0<\/p>\n Die Wahrscheinlichkeit, dass also durch die Massen\u00fcberwachung tats\u00e4chlich T\u00e4ter dingfest gemacht werden k\u00f6nnen, rangiert im absolut vernachl\u00e4ssigbaren Bereich. Im Gegenteil, die T\u00e4ter werden sich noch weiter in den Untergrund zur\u00fcckziehen, weil ihr Risikobewusstsein erh\u00f6ht wird.<\/p>\n Schon jetzt ist zu beobachten, dass die Privatisierung bestimmter Aufgaben fatale Auswirkungen hat und zu einer Art Selbstjustiz von Unternehmen f\u00fchrt, was sich an willk\u00fcrlichen Sperrungen und L\u00f6schungen ablesen l\u00e4sst. Wenn Tech-Unternehmen noch mehr Befugnisse erhalten, wird die Ermittlung schwerer. Um sicherzugehen, wenden IT-Unternehmen schon jetzt die Vorgaben deutlich \u00fcberambitioniert an, um nicht Gefahr zu laufen, f\u00fcr ein Verhalten oder das Unterlassen belangt zu werden.<\/p>\n Und dann gibt es da ja auch noch die Opfer von Kindesmissbrauch. Sie brauchen Schutzr\u00e4ume, auch und gerade digitale, in denen sie mit Anw\u00e4lten oder Therapeuten sprechen k\u00f6nnen. Der Deutsche Kinderschutzbund lehnt die Chatkontrolle kategorisch ab, denn sie kann bei den Opfern das Gef\u00fchl, vertraulich und sicher kommunizieren zu k\u00f6nnen, beeintr\u00e4chtigen. Unter Umst\u00e4nden werden daher eigentlich wichtige Hilfsangebote von Opfern aus Angst nicht mehr angenommen.<\/p>\n Das Fazit muss lauten: F\u00fcr die Verfolgung von Kindesmissbrauch ist die massenhafte \u00dcberwachung wenig hilfreich, mehr noch: Sie behindert die Aufkl\u00e4rungsarbeit um zus\u00e4tzliche Faktoren, die zu den bestehenden Herausforderungen und Problemen hinzukommen.<\/p>\n Wer allerdings ganz andere Ziele verfolgt und an einem Maximum an Daten von B\u00fcrgern interessiert ist, der d\u00fcrfte sich \u00fcber die EU-Pl\u00e4ne freuen. Das k\u00f6nnte \u2013 unter anderem \u2013 die EU selbst sein.<\/p>\n Mehr zum Thema<\/strong> – Rechtsgutachten gegen Patriarchat: Gendern f\u00fcr staatliche Stellen laut Grundgesetz verpflichtend<\/a><\/p>\n<\/p>\n<\/div>\n\n
\n