Tech-Experten fordern eine «Pause» bei der KI-Entwicklung

Veröffentlicht am 3. April 2023 von WS.

Die Welt verändert sich mit Riesenschritten. Die Technologie nimmt mittlerweile einen zentralen Platz ein. Manche feiern diese Errungenschaften, bei anderen lösen sie grosse Besorgnis aus. Nun haben sich mehrere prominente Persönlichkeiten aus der Tech-Branche zusammengeschlossen und einen Brief mit einer dringenden Forderung unterzeichnet: den Vormarsch der künstlichen Intelligenz zu stoppen.

Einer der prominenten Namen auf der Liste der Befürworter dieser Massnahme ist Elon Musk. Darüber berichtet La Nacion. Die Gruppe fordert, «dass die Labore das Training von KI-Systemen, die leistungsfähiger sind als GPT-4», sofort und für mindestens sechs Monate aussetzen.

Besonders auffallend seien die wichtigen Namen auf der Liste der etwa 1100 Unterzeichner, so La Nacion. Und damit hat das Portal sicher recht, denn neben Musk finden sich dort auch Yoshua Bengio, Stuart Russell, Apple-Mitbegründer Steve Wozniak, Andrew Yang, Connor Leahy, Emad Mostaque –aber vor allem Yuval Noah Harari, der Berater des Weltwirtschaftsforums ist.

Zur Zukunft der Menschheit hat der israelische Historiker und Bestsellerautor in der letzten Zeit schon einige bemerkenswerte Aussagen gemacht. Wie etwa diese: «Menschen sind nun Tiere, die gehackt werden können», oder: «die gesamte Idee, dass Menschen eine Seele, einen Geist oder einen freien Willen haben, (…) ist vorbei».

Im Mittelpunkt des Aufrufs stehe die Besorgnis, dass die Entwicklung von KI-Systemen, die mit dem Menschen konkurrieren könnten und über menschliche Intelligenz verfügten, Risiken für die Gesellschaft und die Menschheit berge, die die Unterzeichner der Petition als ungeplant und unkontrolliert ansehen würden, fährt La Nacion fort.

«KI-Systeme mit einer dem Menschen ebenbürtigen Intelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen, wie durch umfangreiche Forschungen nachgewiesen und von führenden KI-Labors anerkannt wurde. Wie in den weithin gebilligten Asilomar AI Principles dargelegt, könnte fortgeschrittene KI einen tiefgreifenden Wandel in der Geschichte des Lebens auf der Erde darstellen und muss mit entsprechender Sorgfalt und Ressourcen geplant und verwaltet werden.

Leider findet eine solche Planung und Steuerung nicht statt, obwohl die KI-Labors in den letzten Monaten einen unkontrollierten Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Köpfe begonnen haben, die niemand, nicht einmal ihre Schöpfer, zuverlässig verstehen, vorhersagen oder kontrollieren kann.»

Heutige KI-Systeme würden für den Menschen bei allgemeinen Aufgaben konkurrenzfähig, und wir müssten uns fragen:

«Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten? Sollen wir alle Jobs automatisieren, einschliesslich der Einhaltung von Vorschriften? Sollen wir nicht-menschliche Köpfe entwickeln, die uns irgendwann zahlenmässig überlegen, überlisten, überholen und ersetzen können? Sollen wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren? Solche Entscheidungen sollten nicht an nicht gewählte technologische Führer delegiert werden.»

Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sein könnten, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sein werden. Dieses Vertrauen müsse gut begründet sein und mit dem Ausmass der potenziellen Auswirkungen eines Systems zunehmen. In der jüngsten Erklärung von OpenAI zu künstlicher allgemeiner Intelligenz heisse es:

«Irgendwann könnte es wichtig sein, eine unabhängige Überprüfung einzuholen, bevor mit dem Training künftiger Systeme begonnen wird, und bei fortgeschritteneren Bemühungen zu vereinbaren, die Wachstumsrate der für die Erstellung neuer Modelle verwendeten Berechnungen zu begrenzen.»

Dieser Zeitpunkt sei jetzt gekommen, finden die Unterzeichner des Briefs.