«Wall Street Journal»: Instagram-Algorithmen fördern Verbreitung von Kinderpornografie

Bild: K. Demeter/Midjourney

Die EU-Kommission hat im letzten Jahr einen Vorschlag zur Bekämpfung des sexuellen Missbrauchs von Kindern vorgelegt. Dieser Vorschlag sieht vor, dass private Anbieter dazu verpflichtet werden können, private Kommunikation zu scannen. Die Verordnung betrifft alle Unternehmen, die ihre Dienste in der EU anbieten. Es gibt jedoch Kritik von verschiedenen Ländern, Anwälten, Bürgerrechtlern und dem wissenschaftlichen Dienst des Europaparlaments, da der Entwurf wichtige Errungenschaften wie das Recht auf Privatsphäre, die freie Meinungsäußerung und die Unschuldsvermutung gefährdet. Dennoch gibt es ein echtes Problem, das gelöst werden muss: Eine Untersuchung des Wall Street Journal (WSJ) kritisiert die Algorithmen von Instagram, da sie die Verbreitung von Kinderpornografie nicht nur nicht verhindern, sondern sogar fördern und große Netzwerke von Pädophilen und Kinderhändlern unterstützen.

Die Untersuchung wurde von der Stanford University und der University of Massachusetts Amherst in Zusammenarbeit mit dem WSJ durchgeführt. Instagram leitet Nutzer über Such-Hashtags zu unangemessenen Inhalten mit Minderjährigen weiter, obwohl dies nicht beabsichtigt ist. Nutzer verwenden dabei Codes und Symbole, um illegale Aktivitäten im Zusammenhang mit Kinderpornografie zu verschleiern und die Algorithmen zu täuschen. Die Untersuchung zeigt, dass Meta, die Muttergesellschaft von Instagram, nicht in der Lage ist, eindeutig illegale Kinderpornografie-Inhalte effektiv zu überwachen. Alex Stamos, der ehemalige Sicherheitschef von Meta und derzeitige Direktor des Stanford Internet Observatory, äußerte Bedenken darüber, wie einfach es für Forscher war, ein weitreichendes Netzwerk illegaler Aktivitäten auf Instagram zu entdecken. Die Forscher identifizierten 405 Verbreiter von „selbstbeworbener Kinderpornografie“, darunter Konten, die angeblich von Kindern selbst geführt wurden. Nach diesen Enthüllungen gab Meta zu, dass es Schwächen bei der Inhaltskontrolle gibt und setzte eine interne Arbeitsgruppe zur Bekämpfung des Problems auf Instagram ein. Meta gab an, in den letzten zwei Jahren 27 pädophile Netzwerke zerschlagen und Tausende von problematischen Hashtags gesperrt zu haben. Dennoch bleibt das Problem bestehen und es sind weitere regulatorische Maßnahmen erforderlich. Es ist jedoch unklar, wie dies geschehen kann, ohne gleichzeitig die Privatsphäre, die Unschuldsvermutung und die Meinungsfreiheit im Netz zu gefährden.

Unterstützen Sie uns mit einer individuellen Spende oder einem Spenden-Abo, um einen wichtigen Beitrag zur journalistischen Unabhängigkeit zu leisten. Wir existieren als Medium nur dank Ihnen, liebe Leserinnen und Leser. Vielen Dank! Oder kaufen Sie unser Jahrbuch 2022 mit unseren besten Texten im Webshop: Bestellung in CHF hier und in EUR hier

Original Artikel Teaser

«Wall Street Journal»: Instagram-Algorithmen begünstigen Verbreitung von Kinderpornographie

Bild: K. Demeter/Midjourney Veröffentlicht am 2. Oktober 2023 von DF. Im letzten Jahr hatte die EU-Kommission einen Verordnungsvorschlag eingebracht, der sexuellen Missbrauch an Kindern bekämpfen soll. Dieser sieht vor, dass private Anbieter zum Scannen privater Kommunikation verpflichtet werden können. Die Verordnung betrifft alle Unternehmen, die ihre Dienste in der EU anbieten. Verschiedene Länder haben sich gegen eine solche Chatkontrolle ausgesprochen, jüngst auch die Schweiz. Auch aus Anwaltskreisen, von Bürgerrechtlern und selbst vom wissenschaftlichen Dienst im Europaparlament gibt es Kritik, denn der Entwurf gefährdet wichtige Errungenschaften wie das Recht auf Privatsphäre, die freie Meinungsäusserung und die Unschuldsvermutung. Allerdings steckt hinter dem Verordnungsvorschlag der EU-Kommission ein echtes Problem, das einer Lösung harrt: Eine aktuelle Untersuchung des Wall Street Journal (WSJ) kritisiert die Algorithmen von

Details zu «Wall Street Journal»: Instagram-Algorithmen begünstigen Verbreitung von Kinderpornographie