Ist Generative KI schlecht für die Umwelt? Der Kohlenstoff-Fußabdruck von ChatGPT und seinen Verwandten

Generative KI ist die neue Technologie hinter Chatbots und Bildgeneratoren. Aber wie sehr belastet sie die Umwelt? Als KI-Forscherin mache ich mir oft Sorgen um die Energiekosten beim Bau von künstlichen Intelligenzmodellen. Je leistungsfähiger die KI, desto mehr Energie wird benötigt. Was bedeutet das Aufkommen immer leistungsfähigerer generativer KI-Modelle für den zukünftigen CO2-Fußabdruck der Gesellschaft?

„Generativ“ bezieht sich auf die Fähigkeit eines KI-Algorithmus, komplexe Daten zu produzieren. Das Gegenstück ist „diskriminative“ KI, die zwischen einer festen Anzahl von Optionen wählt und nur eine einzige Zahl produziert. Ein Beispiel für eine diskriminative Ausgabe ist die Entscheidung, ob ein Kreditantrag genehmigt wird. Generative KI kann viel komplexere Ausgaben wie einen Satz, einen Absatz, ein Bild oder sogar ein kurzes Video erstellen. Es wurde schon lange in Anwendungen wie Smart Speakern verwendet, um Audio-Antworten zu generieren, oder in der Autocomplete-Funktion, um eine Suchanfrage vorzuschlagen. Es hat jedoch erst kürzlich die Fähigkeit erlangt, menschenähnliche Sprache und realistische Fotos zu generieren.

Die genaue Energiekosten eines einzelnen KI-Modells sind schwer zu schätzen und beinhalten die Energie, die für die Herstellung der Rechenausrüstung, die Erstellung des Modells und die Verwendung des Modells in der Produktion benötigt wird. Im Jahr 2019 stellten Forscher fest, dass die Erstellung eines generativen KI-Modells namens BERT mit 110 Millionen Parametern die Energie eines transkontinentalen Fluges für eine Person verbrauchte. Die Anzahl der Parameter bezieht sich auf die Größe des Modells, wobei größere Modelle im Allgemeinen fähiger sind. Forscher schätzten, dass die Erstellung des viel größeren GPT-3, der 175 Milliarden Parameter hat, 1.287 Megawattstunden Strom verbrauchte und 552 Tonnen Kohlendioxid-Äquivalent erzeugte, was dem Äquivalent von 123 benzinbetriebenen Personenkraftwagen entspricht, die ein Jahr lang gefahren werden. Und das ist nur für die Vorbereitung des Modells, bevor es von Verbrauchern genutzt wird.

H2: Auswirkungen auf die Umwelt

Die Größe ist nicht der einzige Vorhersagefaktor für Kohlenstoffemissionen. Das Open-Access-BLOOM-Modell, das vom BigScience-Projekt in Frankreich entwickelt wurde, ist ähnlich groß wie GPT-3, hat aber einen viel geringeren Kohlenstoff-Fußabdruck und verbraucht beim Generieren von 30 Tonnen CO2eq nur 433 MWh Strom. Eine Studie von Google ergab, dass bei gleicher Größe die Verwendung einer effizienteren Modellarchitektur und eines Prozessors sowie eines grüneren Rechenzentrums den Kohlenstoff-Fußabdruck um das 100- bis 1.000-fache reduzieren kann. Größere Modelle verbrauchen während ihres Einsatzes mehr Energie. Es gibt nur begrenzte Daten zum Kohlenstoff-Fußabdruck einer einzigen generativen KI-Abfrage, aber einige Branchenexperten schätzen ihn auf das Vier- bis Fünffache einer Suchmaschinenabfrage.

H2: Chatbots und Bildgeneratoren

Vor einigen Jahren nutzten nur wenige Menschen außerhalb von Forschungslabors Modelle wie BERT oder GPT. Das änderte sich am 30. November 2022, als OpenAI ChatGPT veröffentlichte. Nach den neuesten verfügbaren Daten hatte ChatGPT im März 2023 über 1,5 Milliarden Besuche. Microsoft integrierte ChatGPT in seine Suchmaschine Bing und machte es am 4. Mai 2023 für alle verfügbar. Wenn Chatbots so beliebt werden wie Suchmaschinen, könnten die Energiekosten für den Einsatz der KIs wirklich ins Gewicht fallen. Aber KI-Assistenten haben viele weitere Anwendungen als nur die Suche, wie das Schreiben von Dokumenten, das Lösen von Mathematikproblemen und das Erstellen von Marketingkampagnen.

H2: Wege nach vorne

Die Zukunft ist schwer vorherzusagen, aber große generative KI-Modelle sind gekommen, um zu bleiben, und die Menschen werden sich wahrscheinlich immer mehr an sie wenden, um Informationen zu erhalten. Wenn ein Schüler beispielsweise jetzt Hilfe bei der Lösung eines Mathematikproblems benötigt, fragt er einen Tutor oder einen Freund oder konsultiert ein Lehrbuch. In Zukunft wird er wahrscheinlich einen Chatbot fragen. Das Gleiche gilt für andere Expertenkenntnisse wie Rechtsberatung oder medizinische Expertise. Während ein einzelnes großes KI-Modell die Umwelt nicht ruinieren wird, könnte der Energieverbrauch ein Problem werden, wenn tausend Unternehmen für unterschiedliche Zwecke leicht unterschiedliche KI-Bots entwickeln, die von Millionen von Kunden genutzt werden. Es sind weitere Forschungen erforderlich, um generative KI effizienter zu gestalten. Die gute Nachricht ist, dass KI auf erneuerbarer Energie laufen kann. Durch die Bereitstellung der Berechnung an Orten, an denen grüne Energie häufiger verfügbar ist, oder durch die Planung der Berechnung zu Zeiten, zu denen erneuerbare Energie verfügbarer ist, können Emissionen im Vergleich zur Verwendung eines von fossilen Brennstoffen dominierten Stromnetzes um den Faktor 30 bis 40 reduziert werden. Schließlich könnte der gesellschaftliche Druck hilfreich sein, um Unternehmen und Forschungslabore dazu zu bringen, die Kohlenstoff-Fußabdrücke ihrer KI-Modelle zu veröffentlichen, wie es bereits einige tun. In Zukunft könnten Verbraucher diese Informationen sogar nutzen, um einen „grüneren“ Chatbot auszuwählen

Original article Teaser

Is Generative AI bad for the Environment? The Carbon Footprint of ChatGPT and Its Cousins

AI chatbots and image generators run on thousands of computers housed in data centers like this Google facility in Oregon. Tony Webster/Wikimedia, CC BY-SA Generative AI is the hot new technology behind chatbots and image generators. But how hot is it making the planet? As an AI researcher, I often worry about the energy costs of building artificial intelligence models. The more powerful the AI, the more energy it takes. What does the emergence of increasingly more powerful generative AI models mean for society’s future carbon footprint? “Generative” refers to the ability of an AI algorithm to produce complex data. The alternative is “discriminative” AI, which chooses between a fixed number of options and produces just a single number. An

Details to Is Generative AI bad for the Environment? The Carbon Footprint of ChatGPT and Its Cousins