OpenAI plant die Einführung von Anti-Desinformationswerkzeugen für die Wahlen 2024

ChatGPT-Hersteller OpenAI hat angekündigt, Werkzeuge zur Bekämpfung von Desinformation einzuführen, bevor in diesem Jahr in Ländern, die die Hälfte der Weltbevölkerung beherbergen, Dutzende von Wahlen stattfinden. Der explosive Erfolg des Textgenerators ChatGPT hat eine globale künstliche Intelligenz-Revolution ausgelöst, aber auch Warnungen ausgelöst, dass solche Werkzeuge das Internet mit Desinformation überfluten und Wähler beeinflussen könnten. Angesichts der diesjährigen Wahlen in Ländern wie den Vereinigten Staaten, Indien und Großbritannien erklärte OpenAI am Montag, dass seine Technologie, einschließlich ChatGPT und des Bildgenerators DALL-E 3, nicht für politische Kampagnen verwendet werden darf. „Wir möchten sicherstellen, dass unsere Technologie nicht auf eine Weise verwendet wird, die den demokratischen Prozess untergraben könnte“, erklärte OpenAI in einem Blogbeitrag. „Wir arbeiten immer noch daran, wie effektiv unsere Werkzeuge für personalisierte Überzeugungsarbeit sein könnten“, fügte es hinzu. „Bis wir mehr wissen, erlauben wir es den Menschen nicht, Anwendungen für politische Kampagnen und Lobbyarbeit zu entwickeln.“ KI-gesteuerte Desinformation und Fehlinformationen sind die größten kurzfristigen globalen Risiken und könnten neu gewählte Regierungen in großen Volkswirtschaften untergraben, warnte das Weltwirtschaftsforum in einem letzten Woche veröffentlichten Bericht. Die Sorgen über Wahl-Desinformation begannen vor Jahren, aber die öffentliche Verfügbarkeit von leistungsstarken KI-Text- und Bildgeneratoren hat die Bedrohung verstärkt, insbesondere wenn Benutzer nicht leicht erkennen können, ob der Inhalt, den sie sehen, gefälscht oder manipuliert ist. OpenAI erklärte am Montag, dass es an Werkzeugen arbeite, die zu von ChatGPT generiertem Text zuverlässige Zuschreibungen hinzufügen und Benutzern auch die Möglichkeit geben würden, festzustellen, ob ein Bild mit DALL-E 3 erstellt wurde. „Anfang dieses Jahres werden wir die digitalen Referenzen der Coalition for Content Provenance and Authenticity implementieren – einen Ansatz, der mithilfe von Kryptografie Details über die Herkunft des Inhalts codiert“, erklärte das Unternehmen. Die Koalition, auch bekannt als C2PA, zielt darauf ab, Methoden zur Identifizierung und Rückverfolgung digitaler Inhalte zu verbessern. Zu ihren Mitgliedern gehören Microsoft, Sony, Adobe sowie die japanischen Imaging-Unternehmen Nikon und Canon. OpenAI erklärte, dass ChatGPT, wenn es um prozedurale Fragen zu den US-Wahlen geht, wie zum Beispiel wo man wählen kann, die Benutzer auf autoritative Websites verweisen wird. „Die Lehren aus dieser Arbeit werden unseren Ansatz in anderen Ländern und Regionen beeinflussen“, erklärte das Unternehmen. Es fügte hinzu, dass DALL-E 3 „Sicherheitsvorkehrungen“ hat, die Benutzer daran hindern, Bilder von realen Personen, einschließlich Kandidaten, zu generieren. OpenAIs Ankündigung folgt den im letzten Jahr von den US-amerikanischen Tech-Giganten Google und Facebook-Muttergesellschaft Meta bekannt gegebenen Maßnahmen zur Begrenzung von Wahlbeeinflussung, insbesondere durch den Einsatz von KI. AFP hat zuvor Deepfakes – manipulierte Videos – von US-Präsident Joe Biden, in denen er eine Militärpflicht ankündigt, und von der ehemaligen Außenministerin Hillary Clinton, die den Gouverneur von Florida, Ron DeSantis, als Präsidenten unterstützt, als falsch entlarvt. Vor der Präsidentschaftswahl in diesem Monat in Taiwan wurden gefälschte Aufnahmen und Audios von Politikern in den sozialen Medien verbreitet, wie AFP Fact Check feststellte. Obwohl ein Großteil dieser Inhalte von geringer Qualität ist und nicht sofort klar ist, ob sie mit KI-Apps erstellt wurden, sagen Experten, dass Desinformation eine Vertrauenskrise in politische Institutionen schürt

Original Artikel Teaser

OpenAI to launch anti-disinformation tools for 2024 elections

ChatGPT maker OpenAI has said it will introduce tools to combat disinformation ahead of the dozens of elections this year in countries that are home to half the world’s population. The explosive success of text generator ChatGPT spurred a global artificial intelligence revolution but also triggered warnings that such tools could flood the internet with disinformation and sway voters. With elections due this year in countries including the United States, India and Britain, OpenAI said Monday it will not allow its tech — including ChatGPT and the image generator DALL-E 3 — to be used for political campaigns. “We want to make sure our technology is not used in a way that could undermine” the democratic process, OpenAI said in

Details zu OpenAI to launch anti-disinformation tools for 2024 elections