New York Times KI kann durch Zugriff auf lebenswichtige Dienste Menschheit ausloschen

Die Gefahr der künstlichen Intelligenz

Laut der Zeitung „The New York Times“ könnte es nur noch wenige Jahre dauern, bis der Menschheit die Auslöschung droht. Sobald der KI die Kontrolle über strategische Systeme überlassen wird, kommt es möglicherweise zu einem verheerenden Szenario. Die Verbindung der KI mit sensiblen und lebenswichtigen Bereichen wie beispielsweise Stromnetze, Aktienmärkte oder Kriegswaffen könnte also gewaltige Probleme und Risiken in sich bergen.

Einige Experten befürchten, dass diese Systeme immer leistungsfähiger werden und mit immer größeren Datenmengen trainiert werden, so dass sie mehr schlechte Angewohnheiten lernen könnten. Die Befürworter dieser These haben oft eine einfache Metapher verwendet. Wenn man eine Maschine bittet, so viele Büroklammern wie möglich herzustellen, könnte sie sich dazu hinreißen lassen, alles – einschließlich der Menschheit – in Büroklammerfabriken zu verwandeln.

KI-gesteuerte Drohne tötet Operator

Anfang Juni ging eine Meldung durch die Medien: In den USA beschloss eine von künstlicher Intelligenz (KI) gesteuerte Drohne der Air Force, den Operator zu töten, um ihn davon abzuhalten, während eines simulierten Tests ihre Mission zu beeinträchtigen. Die britische Zeitung The Guardian erzählte damals: „‚Das System begann zu erkennen, dass es zwar eine Bedrohung identifiziert hatte, aber der menschliche Bediener ihm manchmal befahl, die Bedrohung nicht zu zerstören, obwohl es Punkte für das Treffen des Ziels erhielt. Daraufhin traf das System die Entscheidung, den Bediener zu töten, weil er es daran hinderte, die Mission zu Ende zu führen‘, so Oberst Tucker Hamilton, Leiter der KI-Tests und -Operationen bei der US Air Force.

Offener Brief von Persönlichkeiten aus der Welt der künstlichen Intelligenz

Gleichzeitig mit diesen Meldungen machte eine Nachricht die Runde: Hunderte von bekannten Persönlichkeiten aus der Welt der künstlichen Intelligenz unterzeichneten einen offenen Brief, in dem sie davor warnten, dass die KI eines Tages die Menschheit vernichten könnte. In der Erklärung hieß es: „Die Abschwächung des Risikos der Auslöschung durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein.“ Wie die US-Zeitung The New York Times nun betont, warne man davor, dass die KI, die jetzt noch nicht so weit entwickelt ist, aber rasant verbessert wird, eines Tages richtig gefährlich werden könnte. „Die heutigen Systeme stellen nicht annähernd ein existenzielles Risiko dar“, sagte Yoshua Bengio, Professor und KI-Forscher an der Universität von Montreal, in einem Gespräch mit der Zeitung

Original Artikel Teaser

New York Times: KI kann durch Zugriff auf lebenswichtige Dienste Menschheit auslöschen

Es könnte nur noch wenige Jahre dauern, bis der Menschheit die Auslöschung droht, so die Zeitung „The New York Times“. Sobald der KI die Kontrolle über strategische Systeme überlassen wird, kommt es möglicherweise zu einem verheerenden Szenario. Quelle: Legion-media.ru © Jaap Arriens/Sipa USAAnfang Juni ging eine Meldung durch die Medien: In den USA beschloss eine von künstlicher Intelligenz (KI) gesteuerte Drohne der Air Force, den Operator zu töten, um ihn davon abzuhalten, während eines simulierten Tests ihre Mission zu beeinträchtigen. Die britische Zeitung The Guardian erzählte damals: „‚Das System begann zu erkennen, dass es zwar eine Bedrohung identifiziert hatte, aber der menschliche Bediener ihm manchmal befahl, die Bedrohung nicht zu zerstören, obwohl es Punkte für das Treffen des Ziels erhielt.

Details zu New York Times: KI kann durch Zugriff auf lebenswichtige Dienste Menschheit auslöschen