Wo hast du die Aussage im Video gefunden?
Sorry, war falscher link/richtiger youtube-channel https://www.youtube.com/watch?v=LFz4w89SuFY
2 âGefĂ€llt mirâ
Es gibt in den USA auch analysen darĂŒber dass erneuerbare Energien grundsĂ€tzlich ein vollkommener Irrweg sind.
Frage eines vollkommen blanken Laien mit elekrotechnischem Basiswissen :
Um solche InstablitĂ€ten der Spannunsversorgung auszugleichen, gibtâs doch mehrstufige Stromversorgungen mit Spannungsregelung zur Stabilisierung der Spannung des jeweiligen Teilnetzes der Energieversorgung - auch innerhalb von Industriehallen oder eben auch innerhalb von ganzen Rechenzentren - mit vielen Maschinenhallen , GerĂ€tereihen, Gestellen, Gestellladen, EinschĂŒben und Modulen - und genauso vielen - einzeln stabilsierten - Spannungsnivaus und noch mehr âNetzgerĂ€tenâ zur Spannungsversorgung der Teilnetze (innerhalb der Rechenzentren) mit den jeweils niedrigeren Spannungsniveaus ?
Wenn auf der obersten Spannungsebene, von wo die gesamte Versorgung eines Rechenzentrums aus dem öffentlichen Energieversorgnsnetz erfolgt, durch das Rechenzentrum verursachte Spannungschwankungen auftreten, dann dĂŒrfen die dort zulĂ€ssigen Spannungsschwankungen nicht so groĂ werden , dass sie ĂŒber RĂŒckwirkung in andere Netzabschnitte zu Störungen anderer Verbraucher im öffentlichen Energieversorgungsnetz fĂŒhren können. Denn auch auĂerhalb von Rechenzentren gibt es empfindliche Verbraucher, die durch zu groĂe Spannungs- und Frequenz-Schwankungen der elektrischen Energieversorgung in ihrer Funktion gestört oder dadurch sogar beschĂ€digt werden könnten.
FĂŒr die GröĂe solcher zulĂ€ssigen Schwankungen gibtâs sicher auch in den USA nationale - fĂŒr alle an die dortigen Energieversorgungsnetze anzuschlieĂenden Verbraucher gĂŒltigen - Vorschriften.
Ich tippe daher als Ursache fĂŒr behauptete SpannungseinbrĂŒche bei der Versorgung von Rechenzentren aus erneuerbaren Quellen eher auf prĂ€sidentielle Vorgaben, dass erneuerbare Energie in den USA keine Zukunft haben darf , als auf nicht beherrschbare technische Probleme, wenn Rechenzentren ĂŒberwiegend mit elektrischer Energie aus erneuerbaren Quellen versorgt werden wĂŒrden.
Darauf kann man nur mit einem Oldie antworten 
Erich - eine einzelne GB300 GPU braucht ĂŒber 1kW Spitzenleistung. Ein GB300 Rack hat 72 GPUs und 36 CPUs, braucht ca. 120k bis max. 150kW. Die Leistungsaufnahme ist extrem abhĂ€ngig von der Rechenlast und kann innerhalb Sekundenbruchteilen um mehr als das 10-fache schwanken. Beim KI-Lernen gibts laufende kurze Zyklen von Rechnen (100% Maximalleistung) + Daten austauschen (muss synchron sein, mehr als 10x weniger). Und die 100.000 GPUs des GPT6 Trainings pulsieren nicht alle synchron, aber in mittelgroĂen Teilbereichen und ziehen eben gesamt wahrscheinlich ĂŒber 200 MW. Ja, die SW wird inzwischen so umgeschrieben, dass sie ev. auch beim Datenaustausch weiter die GPUs belastet, weil das insgesamt eben nicht geregelt werden kann.
Die KI-Rechenzentren beim Lernen sind eben etwas höchst komplexes, deshalb bitte keine unserer (zwar mĂŒhsam angelernten) ElektrotechnikabschĂ€tzungen verwenden, sondern nachlesen.
P.S. Das Paper Power Stabilization for AI Training Datacenters zeigt einige der Details bzgl. Stromversorgung von KI-Rechenzentren - allerdings noch mit den Àlteren, weniger LeistungsfÀhigen H100.
P.P.S. Ultraschnelles RAM und Netzwerk sind auch Stromfresser, nicht nur CPU und GPU. Meine kleine DGX-Spark braucht ca. 40W fĂŒr eines der (elektrischen) 200gbps Netzwerke (optische/lĂ€ngere/schnellere brauchen mehr, und auch die Switches). Der Speicher (lesen/schreiben von Riesenmengen - es muss ja je Token 1x das Modell mit vielen GB zur GPU/Caches transferiert werden) kostet im Mac ca. 20% der Maximalleistung (je nach Bandbreite/Typ, z.B. mein M2 Max mit 400GB/s dafĂŒr ca. 20-30W, fĂŒr NVIDIA gibts keine Daten). Netzwerk+RAM Leistung fĂ€llt vor allem auch an, wenn nicht gerechnet, sondern synchronisiert wird, d.h. das gleicht Spitzen etwas aus. Den Energiebedarf der gleichbleibenden KĂŒhlung von dauernd 150 MW Rechenleistung kann ich nicht abschĂ€tzen.
2 âGefĂ€llt mirâ
Eine Milliarde ist doch heutzutage keine grosse Summe mehr. Die Hamburger Elbphilamonie, also ein einziges GebÀude, hat ca. 870 Mio Euro gekostet. Und diese Investition hat sich voll rentiert.
Die 1 Mrd. Trainingkosten können sehr schnell wieder eingespielt sein. OpenAI rechnet fĂŒr 2026 mit einem Umsatz von 70 Mrd Dollar.
1 âGefĂ€llt mirâ
Ohne jetzt die von Dir verlinkte Studie schon gelesen zu haben :
Auch andere Verbraucher elektrischer Energie aus öffentlichen Energieversorgungsnetzen benötigen sehr hohe stark und schnell schwankende Energiemengen - z.B. Lichtbogenöfen zum Ersatz fossil betriebener Hochöfen, industrielle SchweiĂanlagen in ProduktionsstraĂen groĂer Maschinen- bzw. Fahrzeugbauer oder viele gleichzeitig in einer Ladestation betriebene SchnelladplĂ€tze mit Lade- Leistungen von vielleicht auch mehr als 1 MW je Ladeplatz .
Jeder Verbraucher elektrischer Energie darf vorgegebene Grenzwerte der Aussendung hochfrequenter Störstrahlung, der zulĂ€ssigen Leistung von ins Netz rĂŒckwirkenden Oberwellen und der Höhe von Blindströmen aus seinen Anlagen nicht ĂŒberschreiten, um die NerzstabilitĂ€t nicht zusĂ€tzlich ( zum immensen Energiebedarf ) zu gefĂ€hrden und Anlagen , GerĂ€te anderer Verbaucher nicht zu stören.
Dies gilt auch fĂŒr Rechenzentren und wird mit steigendem Energiebedarf und verwendungsbedingt hoher SynchronizitĂ€t des schwankenden Energiebedarfes- gleichzeitig fĂŒr alle Einrichtungen/GerĂ€te eines Rechenzentrums - jedenfalls nicht einfacher und âbilligerâ.
Gut vorstellbar, dass solche Probleme zufolge des extrem hohen Leistungsbedarfes tatsĂ€chlich technisch nicht mehr beherrschbar sein könnten- oder nur mit so hohem Aufwand fĂŒr die Energieversorgung dieser Rechenzentren aus öffentlichen Enerieversorgungsnetzen ( mit dort immer höherem Anteil von Energie aus erneuerbaren Quellen ) erreicht werden könnten, dass die Errichtung und der Betrieb lokaler Gaskraftwerke - nur fĂŒr die Versorgung der jeweiligen Rechenzentren - wirtschaflich rentabler möglich ist, aber dadurch die Einhaltung von Klimaschutzzielen in noch weitere Ferne rĂŒcken wird, als sie heute schon kaum mehr rechtzeitig erreichbar sein dĂŒrften. Also KI dann nicht nur âArbeitplatz-Killerâ ist, sondern weltweit auch zu einem weiteren âSargnagelâ unseres Klimas und unserer Umwelt wird.
Ohne Internet zu Hilfe holen - rotierende Massespeicher kaskadiert zu den einzelnen Servern Akkuspeicher mit Umformer - vielleicht gleich ohne Umweg ĂŒber Wechselstrom, gleich die âBrettelnâ versorgen - sozusagen potente Rechner-Netzteile mit Akku. Davon jeweils redundant ausgefĂŒhrt.
Bei diesen HighEnd Maschinen mĂŒsste sich fast alles wĂ€hrend des Laufes tauschen lassen.
Signal an den Bauteil, laufende Prozesse anschlieĂen, umlagern, keine neuen Aufgaben mehr annehmen. Wenn alles Clean kann man den Bauteil tauschen.
AFAIK ging das beim RAM, auch sogar bei CPUs - das Betriebssystem muss nur mitspielen.
War auch nur zur Aufheiterung gedacht
OK, aber wer ist das der da spricht und woher hat er die Zahlen? 
Ich gebs auf. Wir leben anscheinend in zu verschiedenen Welten. Das Paper ist nicht so komplex. Fazit: âŠâPower stabilization is emerging as a critical bottleneck in the continued scaling of AI training workloads.ââŠ
Prozesse beim KI-Lernen umlagern? Das KI-Lernen der Top-Modelle (>10TB Modellgewichte) ist ĂŒber 1000e GPUs synchron (rechnen, synchrones-Ergebnisse-austauschen, nĂ€chstes-rechnen⊠tausende Male pro Sekunde). Und woher kommt die Idee, daĂ in modernen KI-Systemen RAM tauschbar sei - er ist wegen Bandbreite/Latenz immer fix mit der GPU verdrahtet (auch bei den neuen AMD/Apple/NVIDIA/⊠Consumer-Systemen - Steckverbindungen sind viel zu langsam). Ja, die Lernalgorithmen mĂŒssen wegen laufender EinzelausĂ€lle etwas Redundanz eingebaut haben. Aber das Gesamtnetz muss stabil sein.
1 âGefĂ€llt mirâ
Meinte ja nur den Server selbst, die GPUs werden ja nicht ohne CPU auskommen, oder?
WĂ€re interessant den Aufbau zu sehen.
Moderne Hochleistungsrechenzentren haben Batteriespeicher fĂŒr ein paar Minuten Betrieb, um bei Stromausfall bis zum Anspringen einer etwaigen Notstromversorgung weiterarbeiten oder geordnet herunterfahren zu können. Das wird wohl auch in KI-Rechenzentren so sein. Bei einem Stromausfall wĂ€hrend des Trainings wird die jeweilige Trainingsrunde noch fertig gerechnet, dann gespeichert und abgeschalten.
Es gibt technisch keinen Grund, das Training nicht auch mit intermittierender Stromversorgung aus erneuerbaren Energiequellen durchfĂŒhren zu können.
Es gibt technisch auch keinen Grund, dass ein Rechenzentrum eine KĂŒhlung mit Frischwasser braucht. Es gibt dafĂŒr KostengrĂŒnde.
Gier ist ein starker Motivator.
1 âGefĂ€llt mirâ
Das meintest du wohl, zusÀtzlich möglich, wenns mal sehr schnell gehen soll?
Eine Möglichkeiten den aktuellen Zustand sozusagen âein zu frierenâ um spĂ€ter dort wieder fortsetzten zu können?
Dazu bedarfs es nicht flĂŒchtiger RAM Speicher ⊠daran knobeln die Chip Entwickler noch immer.
Bei GPU mĂŒssten sie noch dazu âsauschnellâ sein.