ChatGPT verbraucht täglich mehr als 500.000 kWh Strom. Ist Energie der Engpass bei der KI-Entwicklung?

Der New Yorker berichtete kürzlich, dass der tägliche Stromverbrauch von Chat GPT 500.000 Kilowattstunden übersteigen könnte, was dem 17.000-fachen des durchschnittlichen Stromverbrauchs eines amerikanischen Haushalts entspricht. Elon Musk sagte außerdem voraus, dass Stromengpässe in den nächsten zwei Jahren zu einem wesentlichen Hemmfaktor für die Entwicklung künstlicher Intelligenz werden. Aber ist das wirklich der Fall?

Aktuelle Ansichten zum Stromverbrauch von KI basieren hauptsächlich auf Schätzungen und nicht auf tatsächlichen Messungen. Ein von der Information Technology and Innovation Foundation (ITIF) der Vereinigten Staaten veröffentlichter Bericht kommt zu dem Schluss, dass einige ungenaue Studien den Energieverbrauch von KI stark überschätzt haben. Solche Bemerkungen können sich negativ auf die Entwicklung der KI auswirken und die KI daran hindern, ihr Potenzial zur Förderung der Energieeinsparung und Emissionsreduzierung sowie zur Bewältigung ökologischer Herausforderungen auszuschöpfen. Brancheninsider fordern mehr Transparenz bei Brancheninformationen und eine Reduzierung des Missbrauchs von KI-Technologie.

Herausforderungen bei der Bewertung des Energieverbrauchs durch KI:

Viele Faktoren beeinflussen

ITIF ist ein gemeinnütziger Think Tank mit Hauptsitz in Washington, USA. In dem Bericht mit dem Titel „Neubewertung der Bedenken hinsichtlich des Energieverbrauchs künstlicher Intelligenz“ wies das ITIF darauf hin, dass es bei verschiedenen KI-Modellen enorme Unterschiede hinsichtlich des Energieverbrauchs und der CO2-Emissionen gibt, die von vielen Faktoren beeinflusst werden, darunter Chipdesign, Kühlsystem, Rechenzentrumsdesign, Softwaretechnologie, Arbeitslast, Stromquelle usw.

Wenn es darum geht, den Energieverbrauch von KI abzuschätzen, gibt es daher erhebliche Unterschiede in den Schlussfolgerungen verschiedener Studien. Eine Vorabstudie, die 2019 von einem Team der University of Massachusetts Amherst veröffentlicht wurde, schätzte, dass BERT, das damals von Google entwickelte große Sprachmodell, während eines 79-stündigen Trainings etwa 1.438 Pfund Kohlendioxid (ca. 652 Kilogramm) ausstieß, was dem Ausstoß eines Passagiers auf einem Hin- und Rückflug zwischen New York und San Francisco entspricht. Die Studie kam auch zu ähnlichen Schlussfolgerungen für Technologien wie die KI-Neuralarchitektursuche (NAS). Das Papier wurde bei Google Scholar fast 3.000 Mal zitiert und erhielt umfassende Medienberichterstattung.

Unternehmen und Institutionen, die sich mit der KI-Forschung und -Entwicklung beschäftigen, kommen jedoch zu völlig anderen analytischen Schlussfolgerungen. Im Jahr 2021 veröffentlichten Google und die University of California, Berkeley, eine Vorabstudie, in der sie argumentierten, dass die oben genannte Studie die CO2-Emissionen der KI von Google um das 88-fache überschätzt habe. Allerdings erhielt diese Studie mit nur etwa 500 Zitaten weitaus weniger Aufmerksamkeit als die vorherige.

Copyright-Bilder in der Galerie. Der Nachdruck und die Verwendung können zu Urheberrechtsstreitigkeiten führen.

Da die Medien und die Öffentlichkeit dazu neigen, sich auf negative Informationen zu konzentrieren, ist die Wahrscheinlichkeit größer, dass Forschungsergebnisse mit schockierenden Schlussfolgerungen verbreitet werden. Auch die Worte und Taten von Prominenten aus der Technologiebranche verstärken die Botschaft, dass „KI viel Energie verbraucht“. Musk sagte einst voraus, dass sich „der Faktor, der die Entwicklung der KI einschränkt, vom ‚Siliziummangel‘ zum ‚Strommangel‘ wandeln wird“. Sam Altman, CEO von OpenAI, sagte außerdem, dass KI mehr Strom verbrauchen werde, und tätigte eine bedeutende Investition in die Kernfusion.

Aus der Perspektive des gesamten Lebenszyklus

Bewertung des KI-Energieverbrauchs

Der ITIF-Bericht weist darauf hin, dass sich viele aktuelle Studien und Richtlinien auf die KI-Trainingsphase konzentrieren, viele Studien jedoch gezeigt haben, dass KI während des Inferenzprozesses, also des Prozesses, bei dem Menschen KI verwenden, um Ergebnisse auszugeben, mehr Energie verbraucht. Darüber hinaus bewältigen verschiedene KI-Modelle unterschiedliche Arten von Denkaufgaben und der Energieverbrauch variiert stark. Beispielsweise beträgt der Stromverbrauch der Bildklassifizierungsaufgabe bei 1.000 Berechnungsanforderungen 0,007 kWh, während der Stromverbrauch der Bildgenerierungsaufgabe 2,907 kWh beträgt.

Die Autoren des Berichts weisen darauf hin, dass das Training von KI ein einmaliges Ereignis ist, während ihr Einsatz ein langfristiger Prozess ist. Bei der Diskussion über den Energieverbrauch von KI sollte der Schwerpunkt nicht auf dem explosiven Wachstum, sondern auf den langfristigen Auswirkungen liegen. Darüber hinaus werden das Wachstum der KI und ihr Energieverbrauch aus technologiehistorischer Sicht durch die folgenden vier Faktoren begrenzt:

1. Die Kosten für den Infrastrukturbau werden das schnelle Wachstum der KI begrenzen

Die Schlussfolgerung, dass „der tägliche Stromverbrauch von ChatGPT 500.000 kWh übersteigen könnte“, stammt aus der Schätzung von Alex de Vries, dem Autor des Technologieblogs Digiconomist. De Vries sagte außerdem voraus, dass der Stromverbrauch der KI von Google im schlimmsten Fall dem von ganz Irland entsprechen würde und 29,3 TWh (Terawattstunden) pro Jahr erreichen würde. Er wies jedoch auch darauf hin, dass Google, um eine solche Größenordnung zu erreichen, 100 Milliarden Dollar in Chips investieren müsste, zusätzlich zu Milliarden Dollar für den Betrieb von Rechenzentren und Stromkosten. Wenn die Betriebskosten der KI hoch bleiben, werden gewinnorientierte Unternehmen natürlich langsamer vorgehen und ihre Investitionen reduzieren.

2. Das Leistungswachstum der KI hat marginale Auswirkungen

In den letzten Jahren hat die KI in vielen Bereichen kontinuierliche Durchbrüche erzielt, was jedoch auch bedeutet, dass sie bald in eine Engpassphase geraten könnte. Die Erträge aus der Entwicklung und dem Betrieb größerer Modelle werden zunehmend geringer und es wird schwieriger, Spitzenleistungen bei der Verbesserung der Genauigkeit zu erzielen. Daher könnte die Optimierung von KI-Modellen die nächste Forschungs- und Entwicklungsrichtung sein.

3. Verbesserte Leistung von Software und Hardware reduziert den Energieverbrauch der KI

Durch die Optimierung von KI-Modellen und die Weiterentwicklung der Hardwaretechnologie soll der Energieverbrauch von KI gesenkt werden. Eine im Fachmagazin Science veröffentlichte Studie wies darauf hin, dass zwischen 2010 und 2018 die Rechenleistung globaler Rechenzentren um 550 % und der Speicherplatz um 2.400 % zugenommen hat, der Stromverbrauch jedoch nur um 6 % gestiegen ist. Innovationen in den Bereichen Hardware, Virtualisierungstechnologie und Rechenzentrumsdesign haben die Energieeffizienz verbessert und Cloud Computing im großen Maßstab möglich gemacht.

Copyright-Bilder in der Galerie. Der Nachdruck und die Verwendung können zu Urheberrechtsstreitigkeiten führen.

Ebenso wird erwartet, dass Technologien wie Pruning, Quantisierung und Destillation bessere Algorithmen hervorbringen und KI-Modelle schneller und energieeffizienter machen. Das Forschungsteam von Google und der UC Berkeley wies darauf hin, dass der Energieverbrauch der KI bei Google dank verschiedener technologischer Fortschritte in den letzten Jahren stabil geblieben sei, obwohl das maschinelle Lernen mittlerweile 70 bis 80 Prozent der Rechenleistung ausmacht.

4. Der Einsatz von KI wird in einigen Bereichen letztendlich die CO2-Emissionen reduzieren

Insgesamt reduziert die Digitalisierung dieser Aktivitäten den CO2-Ausstoß, wenn Menschen herkömmliche Briefe durch E-Mails ersetzen und DVDs oder Streaming-Kanäle anschauen, anstatt ins Kino zu gehen. Man geht davon aus, dass KI in diesem Zusammenhang auch weiterhin eine Rolle spielen wird, indem sie beispielsweise das Erlebnis von Videoanrufen verbessert und die Durchführung von mehr Remote-Meetings ermöglicht. Darüber hinaus kann KI-Technologie auch zur Steuerung des Stromnetzes und zur Analyse von Klimadaten eingesetzt werden und so zur Bekämpfung des Klimawandels beitragen.

Den Energieverbrauch von KI genau einschätzen

Fördern Sie eine gesunde Entwicklung des Feldes

Aus historischer Sicht sind die Bedenken hinsichtlich der Kohlenstoffemissionen von KI nichts Neues. In den 1990er Jahren sagten einige Leute voraus, dass die Hälfte der künftigen Stromerzeugung für Internetaktivitäten verwendet werden würde; Als Streaming-Medien aufkamen, wurden ähnliche Ansichten geäußert. Heute wissen wir, dass sich keine dieser Befürchtungen bewahrheitet hat. Der ITIF-Bericht ist der Ansicht, dass eine überstürzte Kontrolle des Energieverbrauchs von KI ohne umfassendes Verständnis die Leistungsverbesserung von KI behindern und ihr Entwicklungspotenzial einschränken könnte. Um KI beispielsweise in die Lage zu versetzen, Voreingenommenheit und Hassreden zu beseitigen und die Ausgabe schädlicher Informationen zu vermeiden, sind mehr Schlussfolgerungen erforderlich, was den Energieverbrauch erhöht.

Um die Bedenken der Öffentlichkeit hinsichtlich des Energieverbrauchs von KI auszuräumen, empfiehlt der Bericht den politischen Entscheidungsträgern:

① Legen Sie entsprechende Standards fest, um den Energieverbrauch des KI-Modells offen und transparent zu machen.

2. Ermutigen Sie die Industrie, proaktiv Informationen zum Energieverbrauch von KI-Modellen offenzulegen, damit die Öffentlichkeit fundierte Entscheidungen treffen kann.

3. Berücksichtigen Sie die unbeabsichtigten Folgen der KI-Regulierung für den Energieverbrauch.

④ Nutzen Sie KI, um einen kohlenstoffarmen Regierungsbetrieb zu erreichen.

Einige Organisationen fördern bereits die Offenlegung von Informationen zum Thema KI. Im Dezember 2023 verabschiedete die Europäische Union den Artificial Intelligence Act, das weltweit erste KI-Regulierungsgesetz. Der Gesetzentwurf fordert KI-Entwickler dazu auf, ihre Modelle energieeffizient und nachhaltig zu gestalten und verlangt die Offenlegung entsprechender Informationen.

Copyright-Bilder in der Galerie. Der Nachdruck und die Verwendung können zu Urheberrechtsstreitigkeiten führen.

De Vries forderte außerdem eine stärkere Offenlegung von Informationen und hofft, dass die Entwicklung künstlicher Intelligenz mit der Zeit eingeschränkt wird, so wie es auch bei der Kryptowährungstechnologie der Fall ist. „Die Entwicklung neuer Technologien wie KI und Blockchain war bisher von großer Begeisterung und der Angst, etwas zu verpassen (FOMO) begleitet, was oft zu Anwendungen führt, die den Endbenutzern wenig Nutzen bringen“, heißt es im Digiconomist-Blog.

In einem Bericht im New Yorker sagte die berühmte Wissenschaftsreporterin Elizabeth Kolbert: „Jedes Mal, wenn ChatGPT Informationen ausspuckt (oder einen Highschool-Aufsatz für jemanden schreibt), ist ein hoher Rechenaufwand erforderlich. Schätzungsweise beantwortet ChatGPT täglich etwa 200 Millionen Anfragen und verbraucht dabei mehr als 500.000 Kilowattstunden Strom.“ Mit anderen Worten: Um die Krise des KI-Energieverbrauchs zu bewältigen, können wir vielleicht damit beginnen, den Einsatz von KI bei der Erledigung von Hausaufgaben einzuschränken.

Verweise

[1]ElizabethKolbert.Der obszöne Energiebedarf der künstlichen Intelligenz.TheNewYorker.https://www.newyorker.com/news/daily-comment/the-obscene-energy-demands-of-ai.<2024-03-09/2024-03-09>

[2] LozBlain.ElonMusk:KI wird 2025 der Strom und die Transformatoren ausgehen.NewAtalas.https://newatlas.com/technology/elon-musk-ai/.<2024-03-01/2024-03-12>

[3]DanielCastro.RethinkingConcernsAboutAI'sEnergyUse.CenterforDataInnovation.ITIF.https://itif.org/publications/2024/01/29/rethinking-concerns-about-ai-energy-use/.<2024-01-29/2024-03-04>

[4] Strubell, Emma, ​​​​Ananya Ganesh und Andrew McCallum. „Energie- und Politiküberlegungen für Deep Learning in NLP.“arXivpreprintarXiv:1906.02243(2019).https://arxiv.org/pdf/1906.02243.pdf

[5]Patterson, David, et al. "Carbonemissionsandlargeneuralnetworktraining."arXivpreprintarXiv:2104.10350(2021).https://arxiv.org/abs/2104.10350

[6]OpenAICEOAltmansaysinDavosfutureAIdependsOnEnergyBreakthrough.Reuters.https://www.reuters.com/technology/openai-ceo-altman-says-davos-future-ai-depends-energy-breakthrough-2024-01-16/.<2024-01-16/2024-03-12>

[7] deVries, Alex. „Der wachsende Energieverbrauch der künstlichen Intelligenz.“ Joule7.10 (2023): 2191-2194.

https://www.cell.com/joule/pdf/S2542-4351(23)00365-3.pdf

[8] Eric Masanet et al., „RecalibratingGlobalDataCenterEnergy-UseEstimates“, Science367, Nr. 6481 (28. Februar 2020):984–86, https://doi.org/10.1126/science.aba3758.

[9] Patterson, David, et al. „Der CO2-Fußabdruck des Machine-Learning-Trainings wird stagnieren und dann schrumpfen.“ Computer55.7 (2022): 18-28.

[10]Gesetz zur künstlichen Intelligenz: Rat und Parlament einigen sich auf die ersten Regeln für KI weltweit. Rat der EU. https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/. <2023-12-09/2024-03-12>

[11]PoweringAIcoulduseasmuchelectricityasasmallcountry.Digiconomist.https://digiconomist.net/powering-ai-could-use-as-much-electricity-as-a-small-country/<2023-10-10/2024-03-12>

Autor: Maya Blue Popular Science Creator

Rezension von Yu Yang, Leiter des Tencent Xuanwu Lab