Variational Free Energy

Die folgende Geschichte wurde mit Mistral.AI erstellt und ist deshalb trotzdem aus meiner Sicht nicht weniger interessant und wichtig.

Die Geschichte eines Organismus, der in einer unsicheren Welt überleben will

Stell dir einen Organismus vor: ein einzelnes Lebewesen, verletzlich, energieabhängig, umgeben von einer Welt, die niemals vollständig sichtbar ist. Es spürt Licht, Druck, Temperatur, chemische Signale, Geräusche, Hunger, Schmerz und Bewegung. Aber es sieht niemals die Welt selbst. Es bekommt nur Hinweise. Aus diesen Hinweisen muss es erraten, was draußen geschieht, was im eigenen Körper vorgeht und was als Nächstes zu tun ist. Genau hier beginnt die große Geschichte der Variational Free Energy.

Die Grundidee ist überraschend einfach: Leben heißt, nicht von der Welt überwältigt zu werden. Ein Organismus muss Zustände vermeiden, die für ihn unwahrscheinlich, gefährlich oder zerstörerisch sind. Er muss seine Temperatur, seinen Energiehaushalt, seine Orientierung und seine Beziehungen zur Umwelt in einem bewohnbaren Bereich halten. Dazu braucht er ein inneres Modell: eine ständig aktualisierte Erzählung darüber, was die Ursachen seiner Sinneseindrücke sein könnten.

Zwischenfrage: Wenn ein Organismus die Welt nie direkt sieht, sondern nur Signale bekommt: Was genau muss er dann eigentlich lernen – die Welt selbst oder die wahrscheinlichsten Ursachen seiner Signale?

1. Der Organismus als Detektiv: Warum Wahrnehmung immer Inferenz ist

Wenn du eine Wolke siehst, hörst du nicht direkt „Regen“. Dein Gehirn empfängt Lichtmuster auf der Netzhaut. Aus diesen Mustern schließt es auf mögliche Ursachen: Wolke, Nebel, Rauch, Schatten, Regenfront. Wahrnehmung ist deshalb kein passives Abbilden der Welt, sondern ein detektivisches Schließen von sichtbaren Spuren auf unsichtbare Ursachen.

In der mathematischen Sprache nennen wir die verborgene Ursache x und die Beobachtung y. Der Organismus fragt: „Wie wahrscheinlich ist diese Ursache x, wenn ich diese Beobachtung y gemacht habe?“ Genau diese Frage beantwortet Bayes’ Theorem: p(x|y) = p(y|x)p(x) / p(y).

Diese Formel ist wie ein kleines Drama mit vier Figuren. Der Prior p(x) ist die Vorgeschichte: Was hielt der Organismus schon vorher für plausibel? Die Likelihood p(y|x) ist die Spurensicherung: Wie gut würde die angenommene Ursache die Beobachtung erklären? Die Evidence p(y) fragt: Wie wahrscheinlich ist diese Beobachtung überhaupt, über alle möglichen Ursachen hinweg? Und der Posterior p(x|y) ist das neue Urteil: die aktualisierte Überzeugung nach der Beobachtung.

Merksatz: Wahrnehmung ist keine Fotokopie der Welt, sondern eine begründete Vermutung über die Ursachen von Sinnesdaten.

Kleines Beispiel: Du hörst nachts ein Geräusch in der Küche. Dein Prior sagt vielleicht: „Das ist wahrscheinlich der Kühlschrank.“ Die neue Beobachtung – ein Klirren – erhöht aber die Wahrscheinlichkeit anderer Ursachen: ein heruntergefallenes Glas, ein Haustier oder eine Person. Bayes beschreibt genau diese Aktualisierung.

2. Die unendliche Bibliothek: Warum Bayes zu schwer wird

Bayes’ Theorem wirkt elegant, fast vollständig. Doch an einer Stelle öffnet sich ein Abgrund: die Evidence p(y). Sie verlangt, dass wir über alle möglichen Ursachen integrieren: p(y) = ∫ p(x,y) dx. Für ein einfaches Wetterbeispiel ist das noch denkbar. Für ein Gehirn ist es überwältigend.

Stell dir vor, ein einzelner Lichtpunkt fällt auf deine Netzhaut. Was könnte ihn verursacht haben? Ein Blatt, ein Gesicht, ein Bildschirm, eine Reflexion, eine Bewegung, ein Schatten, eine Szene in einem Raum, eine Lichtquelle, ein Objekt in einer bestimmten Entfernung. Jede Erklärung hat wieder Untererklärungen. Die Welt verzweigt sich in eine nahezu unendliche Bibliothek möglicher Geschichten.

Der Organismus kann diese Bibliothek nicht vollständig durchsuchen. Er kann nicht jedes mögliche Weltmodell prüfen, jede Ursache berechnen und jede Alternative exakt abwägen. Das wäre zu langsam, zu energieaufwendig und biologisch unmöglich. Genau hier entsteht das zentrale Problem: Das theoretisch perfekte Bayes’sche Gehirn wäre praktisch gelähmt.

Zwischenfrage: Warum wäre ein Gehirn, das jede mögliche Erklärung exakt berechnen wollte, im Alltag wahrscheinlich zu langsam?

3. Der Trick des Lebens: Eine brauchbare Vermutung statt perfekter Wahrheit

Wenn die wahre Posterior-Verteilung p(x|y) unerreichbar ist, braucht der Organismus einen Umweg. Er bildet eine einfachere, kontrollierbare Ersatzverteilung q(x). Diese Verteilung ist nicht die Wahrheit. Sie ist eine Arbeitshypothese: „So könnte die Welt gerade beschaffen sein.“

Das ist der Kern der Variational Inference. Man ersetzt eine unmöglich berechenbare Verteilung durch eine handhabbare Familie von Verteilungen und sucht innerhalb dieser Familie diejenige, die der wahren Posterior-Verteilung möglichst nahekommt. In der Statistik ist genau diese Idee zentral: Schwierige Posterior-Verteilungen werden durch Optimierung angenähert, wobei die Nähe häufig mit der Kullback-Leibler-Divergenz gemessen wird.

Biologisch gelesen heißt das: Das Gehirn muss nicht die gesamte Welt berechnen. Es muss eine ausreichend gute Hypothese finden, die schnell genug, stabil genug und handlungsfähig genug ist. Wahrnehmung ist dann keine perfekte Rekonstruktion, sondern ein fortlaufendes Verbessern brauchbarer Vermutungen.

Merksatz: Variational Inference ist der biologische und mathematische Kompromiss zwischen perfekter Wahrheit und schneller Handlungsfähigkeit.

Kleines Beispiel: Wenn du im Nebel eine dunkle Form siehst, prüft dein Gehirn nicht alle denkbaren Ursachen der Welt. Es arbeitet mit wenigen plausiblen Kandidaten: Baum, Mensch, Laterne, Auto. Diese reduzierte Kandidatenliste entspricht der Idee einer vereinfachten Ersatzverteilung q(x).

4. Der Abstand zwischen Geschichten: KL-Divergenz

Nun braucht der Organismus ein Maß dafür, wie schlecht seine Vermutung ist. Die Kullback-Leibler-Divergenz, kurz KL-Divergenz, misst den Unterschied zwischen zwei Wahrscheinlichkeitsverteilungen. Intuitiv fragt sie: Wie viele zusätzliche Informationskosten entstehen, wenn ich die Welt mit meiner Ersatzgeschichte q(x) beschreibe, obwohl die passendere Geschichte p(x|y) wäre?

Wenn q(x) der wahren Posterior-Verteilung sehr ähnlich ist, ist die KL-Divergenz klein. Wenn q(x) wichtige Möglichkeiten übersieht oder unwahrscheinliche Ursachen überschätzt, wird sie groß. Sie ist also ein Maß für den Preis einer falschen oder ungeschickten inneren Geschichte.

Doch auch hier taucht das alte Problem wieder auf: Um die KL-Divergenz zur wahren Posterior-Verteilung direkt zu berechnen, müsste man diese Posterior-Verteilung kennen. Aber genau die kennen wir ja nicht, weil die Evidence zu schwierig ist. Der Detektiv kann also nicht einmal direkt messen, wie weit seine Vermutung von der Wahrheit entfernt ist.

Merksatz: Die KL-Divergenz ist der Preis dafür, die Welt mit einer vereinfachten inneren Geschichte zu beschreiben.

Zwischenfrage: Welche Gefahr entsteht, wenn die innere Geschichte wichtige Möglichkeiten ausschließt, obwohl sie in der Welt tatsächlich vorkommen könnten?

5. Variational Free Energy: Die messbare Ersatzgröße

Hier betritt Variational Free Energy die Bühne. Sie ist die geniale Ersatzgröße, die der Organismus tatsächlich minimieren kann. Sie enthält nur Dinge, die aus dem Modell, der Beobachtung und der eigenen Ersatzverteilung zugänglich sind. Eine typische Form lautet: F = ∫ q(x) ln(q(x) / p(x,y)) dx.

Diese Größe ist nicht einfach irgendeine mathematische Konstruktion. Sie ist eine Brücke. Auf der einen Seite steht die unberechenbare Überraschung der Beobachtung, also -ln p(y). Auf der anderen Seite steht die Abweichung der eigenen Vermutung von der wahren Posterior-Verteilung. Variational Free Energy verbindet beide: F = Surprise + KL(q(x) || p(x|y)).

Da die KL-Divergenz nie negativ ist, liegt die Variational Free Energy immer über oder auf der tatsächlichen Überraschung. Sie ist eine obere Schranke. Der Organismus kann die wahre Überraschung nicht direkt greifen, aber er kann eine messbare Obergrenze senken. Wenn diese Grenze sinkt, wird entweder die Welt weniger überraschend erklärt, oder die innere Vermutung nähert sich der besseren Erklärung an – idealerweise beides.

Merksatz: Variational Free Energy ist nicht die Überraschung selbst, sondern eine berechenbare Obergrenze, an der ein Organismus arbeiten kann.

Kleines Beispiel: Wenn du glaubst, jemand sei wütend, weil er nicht antwortet, kann diese Erklärung zunächst plausibel wirken. Neue Hinweise – etwa eine leere Batterie oder schlechter Empfang – senken die Überraschung anders: Nicht die Person war wütend, sondern dein Modell der Situation war zu eng.

6. Die zwei Kräfte: Einfachheit und Genauigkeit

Variational Free Energy erzählt noch eine zweite Teilgeschichte. Sie lässt sich als Spannung zwischen zwei Kräften lesen: Komplexität und Genauigkeit. Die Komplexität fragt: Wie weit muss ich meine bisherigen Erwartungen verlassen, um diese Beobachtung zu erklären? Die Genauigkeit fragt: Wie verständlich erklärt meine Vermutung die tatsächlichen Sinnesdaten?

Ein Organismus darf nicht zu starr sein. Wenn er nur an seinen alten Erwartungen festhält, ignoriert er wichtige neue Informationen. Aber er darf auch nicht jeder kleinsten Abweichung hinterherlaufen. Dann würde er überanpassen: Jedes Rauschen, jede zufällige Schwankung, jede irrelevante Störung würde zur großen neuen Theorie werden.

VFE ist deshalb wie die Kosten einer guten Erklärung. Eine gute Erklärung ist einfach genug, um stabil zu bleiben, und genau genug, um die Daten zu treffen. Sie ist weder blind konservativ noch chaotisch überempfindlich. In diesem Gleichgewicht liegt ein tiefer biologischer Sinn: Organismen müssen zuverlässig handeln, obwohl ihre Informationen immer unvollständig sind.

Zwischenfrage: Wann ist eine Erklärung zu einfach, und wann ist sie zu kompliziert? Eine gute Erklärung liegt oft genau zwischen diesen Extremen.

7. Das Gehirn als wandernder Bergsteiger: Gradient Descent

Wie könnte ein Gehirn Variational Free Energy praktisch minimieren? Die mathematische Antwort ist Gradient Descent. Stell dir eine Landschaft vor: Jeder Punkt entspricht einem möglichen Zustand innerer Überzeugungen. Die Höhe der Landschaft ist die Free Energy. Der Organismus möchte bergab gehen.

Die neuronalen Parameter – etwa Aktivitätsmuster, synaptische Gewichte oder repräsentierte Mittelwerte – werden so verändert, dass Free Energy abnimmt. Formal schreibt man sinngemäß: μ˙ = -∂F/∂μ. Das bedeutet: Die innere Überzeugung bewegt sich in die Richtung, in der die Kosten am stärksten sinken.

In biologischer Sprache ist das Wahrnehmung als fortlaufende Selbstkorrektur. Das Gehirn macht Vorhersagen, vergleicht sie mit Sinnesdaten und verändert seine Aktivität so, dass die Vorhersagefehler kleiner werden. Es denkt nicht zuerst fertig und sieht dann die Welt. Es sieht, indem es seine Hypothesen korrigiert.

Merksatz: Gradient Descent ist die mathematische Form der Idee: Verändere deine Überzeugung in die Richtung, in der der Erklärungsfehler kleiner wird.

Kleines Beispiel: Du suchst im Dunkeln nach einem Lichtschalter. Jeder Tastversuch liefert einen kleinen Fehler oder Erfolg. Deine Handbewegungen und deine Erwartung über die Wandposition werden Schritt für Schritt angepasst – wie ein vorsichtiges Hinabsteigen in einer Fehlerlandschaft.

8. Predictive Coding: Die Chöre der Vorhersage und des Fehlers

Predictive Coding macht diese Idee anschaulich. Das Gehirn wird als hierarchisches System verstanden. Höhere Ebenen senden Vorhersagen nach unten: „Das könnte ein Gesicht sein“, „Das ist wahrscheinlich Sprache“, „Diese Bewegung gehört zu meinem eigenen Körper.“ Niedrigere Ebenen vergleichen diese Vorhersagen mit den eintreffenden Signalen und senden Abweichungen nach oben: Prediction Errors.

Die Wahrnehmung entsteht im Dialog dieser beiden Ströme. Top-down kommt die Erwartung, bottom-up kommt der Fehler. Wenn der Fehler groß ist, muss sich etwas ändern: entweder die innere Hypothese oder die Art, wie der Organismus Daten sammelt. So wird das Gehirn zu einem lebendigen Verhandlungssystem zwischen Welt und Modell.

In der Forschung wird diese Verbindung zwischen Free Energy, generativen Modellen und Predictive Coding als ein Ansatz verstanden, bei dem Wahrnehmung, Lernen und Handlung gemeinsam als Minimierung von Vorhersagefehlern oder variationaler freier Energie beschrieben werden.

Zwischenfrage: Wenn höhere Ebenen Vorhersagen senden und niedrigere Ebenen Fehler zurückmelden: Wo entsteht dann Wahrnehmung – oben, unten oder im Zusammenspiel?

9. Aktive Inferenz: Der Organismus verändert nicht nur sich, sondern auch seine Welt

Bis hierher könnte man meinen, der Organismus passe nur seine inneren Überzeugungen an. Aber biologische Systeme tun mehr. Sie handeln. Wenn du etwas nicht erkennst, drehst du den Kopf. Wenn du frierst, suchst du Wärme. Wenn du hungrig bist, bewegst du dich zur Nahrung. Handlung ist eine zweite Art, Free Energy zu senken.

Perzeptuelle Inferenz verändert das Modell, damit es besser zu den Daten passt. Aktive Inferenz verändert die Daten, damit sie besser zu lebensdienlichen Erwartungen passen. Ein Organismus wartet also nicht nur darauf, dass die Welt verständlich wird. Er bewegt sich so, dass die Welt für ihn besser vorhersagbar, bewohnbar und regulierbar wird.

Das ist der große biologische Bogen: Wahrnehmen und Handeln sind keine getrennten Module. Beide dienen derselben Aufgabe – die Kluft zwischen Vorhersage und Sinnesdaten zu verkleinern, ohne die Stabilität des Organismus zu verlieren.

Merksatz: Aktive Inferenz bedeutet: Ein Organismus verändert nicht nur seine Erwartungen, sondern auch seine Sinnesdaten durch Handlung.

Kleines Beispiel: Wenn du ein undeutliches Wort hörst, kannst du dein Modell ändern – „Vielleicht meinte die Person etwas anderes“ – oder aktiv handeln: nachfragen, näher hingehen oder den Kopf drehen. Beides kann Unsicherheit reduzieren.

10. Die große Geschichte: Leben als kontrollierte Überraschung

Variational Free Energy ist damit mehr als eine Formel. Sie ist eine Sprache, um zu beschreiben, wie ein Organismus in einer Welt voller Unsicherheit bestehen kann. Er empfängt Hinweise, bildet Hypothesen, misst indirekt ihre Güte, korrigiert sich selbst und handelt, um bessere Hinweise zu bekommen.

Bayes liefert das Ideal: Berechne die beste Erklärung für die Daten. Die Evidence zeigt die Grenze: Das Ideal ist in realen Welten zu schwer. Variational Inference liefert den Trick: Verwende eine brauchbare Ersatzverteilung. Die KL-Divergenz erzählt, wie teuer eine schlechte Ersatzgeschichte ist. Variational Free Energy macht daraus eine minimierbare Größe. Gradient Descent beschreibt den Weg bergab. Predictive Coding zeigt, wie ein Gehirn diesen Weg vielleicht neuronal organisiert. Aktive Inferenz erweitert die Geschichte auf Handlung.

Am Ende steht ein Bild des Gehirns – und allgemeiner biologischer Organismen – als Systeme, die nicht bloß auf Reize reagieren, sondern fortwährend die Ursachen ihrer Sinnesdaten erraten. Sie leben, indem sie Überraschung begrenzen. Sie erkennen, indem sie vorhersagen. Sie handeln, indem sie ihre Welt in eine Form bringen, die für sie sinnvoll, stabil und überlebbar bleibt.

Kurzform der mathematischen Dramaturgie

• Bayes: p(x|y) = p(y|x)p(x) / p(y) — die beste Erklärung einer Beobachtung.
• Evidence-Problem: p(y) = ∫ p(x,y) dx — zu schwer für komplexe Welten.
• Variationaler Ersatz: q(x) ≈ p(x|y) — eine brauchbare innere Vermutung.
• KL-Divergenz: misst den Informationspreis einer schlechten Approximation.
• VFE: F = Surprise + KL — eine berechenbare Obergrenze für Überraschung.
• Minimierung: Das Gehirn passt Überzeugungen und Handlungen an, um F zu senken.

Didaktischer Abschluss: Drei Leitfragen zum Mitnehmen

1. Was ist verborgen? Die Ursachen der Sinnesdaten sind nie direkt gegeben.
2. Welche Geschichte erklärt die Daten gut genug? Das Gehirn sucht keine absolute Wahrheit, sondern brauchbare Modelle.
3. Was kann ich tun, damit die Welt besser vorhersagbar wird? Handlung ist Teil derselben Inferenzgeschichte wie Wahrnehmung.