Online-Gaming ist das nächste Ziel für „Hassrede

Call of Duty (CoD), eine Videospielserie, die von Activision veröffentlicht wird, ist in die trüben Gewässer der KI-gesteuerten Zensur gesprungen, nachdem eine neue Partnerschaft mit dem KI-Sprachmoderationstool Modulate ToxMod enthüllt wurde. Dies wird in das neueste CoD-Spiel, Modern Warfare 3, integriert sein, das am 10. November dieses Jahres veröffentlicht wird. Derzeit wird es in Modern Warfare 2 und Call of Duty: Warzone getestet. Es wird verwendet, um „schimpfende“ Spieler zu kennzeichnen und Hassrede, rassistische oder homophobe Sprache, Misogynie und jegliches „falsches Geschlecht“ zu identifizieren. Die Spieler haben nicht die Möglichkeit, die KI am Zuhören zu hindern. Neben der neuesten Entwicklung in der Online-Zensur kann dies auch als Eskalation des Krieges gegen Männer betrachtet werden. Die Mehrheit der CoD-Spieler sind männlich und das Spiel wird oft nach einem harten Arbeitstag, spät in der Nacht nach einem Besuch in der Kneipe und mit viel Scherz gespielt. Die KI könnte aufgrund der Natur des Spiels, das konfrontativ ist, von gegnerischen Teams gespielt wird und auch über internationale Grenzen hinweg gespielt werden kann, sehr beschäftigt sein. Einer meiner Onkel war einer der besten 100 Spieler der Welt und die Sprache, die aus seinem Schlafzimmer kam, war, ähm, „ausgewählt“. ToxMod kann in die Sprachchats der Spieler hineinhören und den Ton und die Absicht des verwendeten Textes in den Chats untersuchen – einschließlich Emotionen, Lautstärke und Prosodie – mithilfe ausgeklügelter maschineller Lernmodelle. Die Entwickler behaupten, dass ihr Ziel darin besteht, gegen Schimpfwörter und „toxisches Verhalten“ vorzugehen. Aber warum sollten die Spieler ToxMods Definition von dem, was „toxisch“ ist, vertrauen? Viele werden vermuten, dass das eigentliche Motiv darin besteht, den Spielern eine „inklusive“ Vision einer gesäuberten Gesellschaft aufzuzwingen, die frei von verbotenen Gedanken ist. Was kommt als nächstes – Mikrofone unter unseren Sitzen in Fußballstadien? Leider gewöhnen wir uns daran, dass KI uns ausspioniert. Dies geschieht bereits routinemäßig mit WeChat, einer Plattform, die von vielen Menschen in China und auch weit verbreitet im Westen genutzt wird. TikTok, eine Video-Sharing-App, mit der Benutzer kurze Videos zu jedem Thema erstellen und teilen können – eine weitere chinesische Plattform – gab zu, Ende letzten Jahres US-Benutzer auszuspionieren, was zu Diskussionen über ein Verbot der App führte. Snapchat führte im April dieses Jahres einen eigenen KI-Chatbot ein, der Ihren Standort kennt – obwohl die App versprochen hatte, dies nicht zu tun -, persönliche Fragen stellt und immer nach Ihrem Tag fragt. In George Orwells dystopischem Roman 1984 – den heutzutage leider zu viele für ein Handbuch halten – verwendete die Regierung Teleschirme, um die Bevölkerung zu überwachen und auszuspionieren, indem sie sowohl Informationsübermittler als auch Überwachungsgeräte in öffentlichen und privaten Bereichen verteilte. ToxMod hat alle Merkmale einer weiteren Orwell’schen Prophezeiung, die sich erfüllt. Call of Duty ist ein Spiel für Erwachsene. In einem freien Land sollten Erwachsene vernünftigerweise erwarten können, Privatsphäre zu haben, wenn sie in ihren eigenen Häusern Gespräche führen. Und was wird ToxMod mit all den Daten tun, die es über „Hassrede“ und „toxisches Verhalten“ der Spieler sammelt? Im Moment ist es unklar, aber seien Sie nicht überrascht, wenn in den kommenden Monaten Zahlen auftauchen, wie viele Spieler aufgrund ihrer CoD-Gespräche wegen „Hassrede“ gesperrt werden. Es ist schwer vorstellbar, dass dies bei den Spielern gut ankommt. Wird sich CoD als neuestes Opfer von „go woke, go broke“ wiederfinden, wenn die Spieler ein Spiel verlassen, das ihre privaten Gespräche überwacht und Strafen für das verhängt, was es mithört? Jack Watson, 14 Jahre alt, hat einen Substack-Newsletter namens Ten Foot Tigers über das Fansein von Hull City. Hier können Sie ihn abonnieren

Original Artikel Teaser

Online Gaming is the Next Target for ‘Hate Speech’

Call of Duty (CoD), a video game series published by Activision, has jumped into the murky waters of AI-powered censorship after revealing a new partnership with AI voice moderation tool Modulate ToxMod. This will be built-in to the newest CoD game, Modern Warfare 3, which will be released on November 10th this year. Currently, it is being trailed on Modern Warfare 2 and Call of Duty: Warzone. It will be used for flagging ‘foul-mouthed’ players and identifying hate speech, racial or homophobic language, misogyny and any ‘misgendering’. Players do not have the option to prevent the AI listening in. As well as being the latest development in online censorship, this can also be seen an escalation of the war on

Details zu Online Gaming is the Next Target for ‘Hate Speech’