Startseite · Blog · Forschung

Warum Denken keine Energie kostet: Physik neuronaler Netze

Neue physikalische Forschung enthüllt eine überraschende Asymmetrie: Ein neuronales Netz zu betreiben – der "Denk"-Teil – könnte theoretisch null Energie kosten, aber es zu lehren – der "Lern"-Teil – verbrennt immer ein paar Energiequanten pro Fakt. Diese Erkenntnis stellt unsere Annahmen über die Energieeffizienz von künstlichen und biologischen Gehirnen in Frage.

Die Forschung

Der Physiker Alexei V. Tkachenko (verbunden mit dem Brookhaven National Laboratory und der Initiative for the Theoretical Sciences, wie aus den Metadaten des Preprints hervorgeht) veröffentlichte im März 2025 ein Papier auf arXiv, mit der neuesten Überarbeitung im August 2026. Er konstruierte ein mathematisches Modell eines Feedforward-Neuronalen Netzes, dem häufigsten Typ in der KI, und behandelte es als physikalisches System, das den Gesetzen der Thermodynamik unterliegt.

Tkachenko fand zwei exakte Grenzen. Erstens: Wenn das Netz Informationen unendlich langsam (quasistatisch) verarbeitet, ist die für die Inferenz erforderliche Arbeit exakt null – unabhängig von Eingabe, Gewichten oder Bias. Zweitens: Bei jeder endlichen Geschwindigkeit betragen die Energiekosten mindestens die quadratische Wasserstein-2-Distanz zwischen Anfangs- und Endzustand geteilt durch die Dauer. Praktisch bedeutet dies, dass die Energiekosten der Inferenz davon bestimmt werden, wie schnell man den Zustand ändert, und bei der schnellsten nutzbaren Geschwindigkeit etwa k_B T pro Dimension der breitesten Schicht betragen – das ist eine Einheit thermischer Energie pro Neuron.

Bemerkenswerterweise ist Lernen anders. Das Schreiben von Parametern in das Netz verursacht irreversible Kosten von ein paar k_B T pro Gewicht und Bias, und diese Kosten überleben sogar im quasistatischen Grenzfall. In Simulationen sättigte die Inferenzarbeit die Transportgrenze innerhalb von 4%, und die Genauigkeit brach zusammen, sobald die dissipierte Arbeit unter die thermische Skala fiel.

Warum es wichtig ist

Diese Forschung liefert eine fundamentale Grenze für die Energieeffizienz jedes physischen Netzwerks, einschließlich biologischer Gehirne. Ihr Gehirn verbraucht etwa 20 Watt, und diese Studie legt nahe, dass der Großteil dieser Energie nicht für den Akt des Denkens selbst verwendet wird, sondern für das Lernen und die Aufrechterhaltung des Netzwerks (obwohl sich dieses Papier auf das Lernen konzentriert). Für die KI bedeutet es, dass die Energiekosten für den Betrieb eines trainierten Netzwerks (Inferenz) mit clevere Technik beliebig klein gemacht werden können, aber das Training neuer Modelle wird immer einen bestimmten Betrag pro Parameter kosten. Dies könnte das Hardware-Design leiten: Statt Arithmetik zu optimieren, sollte man sich darauf konzentrieren, die Energie von Speicherschreibvorgängen zu minimieren.

Was Sie tun können

Für Ihr eigenes Gehirn unterstreicht diese Forschung, dass das Lernen neuer Dinge grundlegend energieintensiver ist als das Abrufen oder Nutzen dessen, was Sie wissen. Wenn Sie also lernen, seien Sie nicht überrascht, wenn Sie sich geistig müde fühlen – das sind die thermodynamischen Kosten des Lernens. Um die Effizienz zu maximieren, verteilen Sie Ihre Lernphasen, um Ihrem Gehirn Zeit zur Konsolidierung zu geben, und konzentrieren Sie sich auf Verständnis statt Auswendiglernen, was redundante Parameter-Updates reduzieren könnte.

Quelle: arXiv q-bio.NC

Neugierig auf Ihr eigenes Gehirn? Machen Sie unseren kostenlosen adaptiven IQ-Test oder probieren Sie 306 Gehirntrainings-Level.

Neugierig auf Ihren eigenen IQ?

Machen Sie unseren kostenlosen, wissenschaftlich konzipierten adaptiven Test über 7 kognitive Bereiche. Keine Anmeldung erforderlich.

Kostenlosen Test starten