Verallgemeinerte kanonische Verteilung

Thermodynamikvorlesung von Prof. Dr. E. Schöll, PhD

Der Artikel Verallgemeinerte kanonische Verteilung basiert auf der Vorlesungsmitschrift von Franz- Josef Schmitt des 1.Kapitels (Abschnitt 3) der Thermodynamikvorlesung von Prof. Dr. E. Schöll, PhD.

Verallgemeinerte kanonische Verteilung	Grundlagen der Statistik	Thermodynamik und Statistik
	Wahrscheinlichkeitsbegriff Informationsmaße Verallgemeinerte kanonische Verteilung	Grundlagen der Statistik Statistische Begründung der Gleichgewichtsthermodynamik Phänomenologische Thermodynamik Klassische Modellsysteme Quantenmechanische Modellsysteme

Motivation

Makroskopische thermodynamische Zustände sind gegeben durch die Mittelwerte $\left\langle M(x)\right\rangle$ von Mikroobservablen M(x), interpretiert als Zufallsvariable.

Rückschlüsse von $\left\langle M(x)\right\rangle$ auf die Wahrscheinlichkeitsverteilung $\rho (x)?$

Methode

Vorurteilsfreie Schätzung ( Jaynes , 1957): (unbiased guess; Prinzip des maximalen Nichtwissens)

• Verallgemeinerung des Laplacschen Prinzips vom unzureichenden Grund.
  • ( Minimum der Shannon- Information $I\left(\rho (x)\right)$= Maximum des Nichtwissens $S\left(\rho (x)\right)$ liefert Gleichverteilung)
• Jetzt: Zusätzlich zur Normierung der P_i sind die Mittelwerte von m Zufallsvariablen:

${\begin{aligned}&{{M}_{i}}^{n}\\&n=1,2,...,m\\&\Rightarrow \left\langle {{M}^{n}}\right\rangle =\sum \limits _{i=1}^{N}{}{{P}_{i}}{{M}_{i}}^{n}\\&n=1,...,m\\&m<<N\\\end{aligned}}$

Annahme:

Jedes Elementarereignis ${{A}_{i}}$ hat gleiche a-priori- Wahrscheinlichkeit , das heißt OHNE zusätzliche Kenntnisse $\left\langle {{M}^{n}}\right\rangle$ gilt Gleichverteilung über den ${{A}_{i}}$.

Informationstheoretisches Prinzip

(nach (Jaynes 1922-1998))

Suche die Wahrscheinlichkeitsverteilung , die unter der Erfüllung aller bekannten Angaben als Nebenbedingung die minimale Information enthält:

Also: $I(P)=\sum \limits _{i=1}^{N}{}{{P}_{i}}\ln {{P}_{i}}=!=Minimum$

Nebenbed.:

${\begin{aligned}&\sum \limits _{i=1}^{N}{}{{P}_{i}}=1\\&\left\langle {{M}^{n}}\right\rangle =\sum \limits _{i=1}^{N}{}{{P}_{i}}{{M}_{i}}^{n}\\&n=1,...,m\\\end{aligned}}$

Variation: $\delta I=\sum \limits _{i=1}^{N}{}\left(\ln {{P}_{i}}+1\right)\delta {{P}_{i}}$

Es gilt: von den N Variationen $\delta {{P}_{i}}$ sind nur N-m-1 unabhängig voneinander !

$\sum \limits _{i}^{}{}\delta {{P}_{i}}=0$

Lagrange- Multiplikator $\lambda =-\left(\Psi +1\right)$

$\sum \limits _{i}^{}{}{{M}_{i}}^{n}\delta {{P}_{i}}=0$

Lagrange- Multiplikator ${{\lambda }_{n}}$

Anleitung: Wähle $\Psi ,{{\lambda }_{n}}$ so, dass die Koeffizienten von $\left(m+1\right)\delta {{P}_{i}}$´s verschwinden, die übrigen N-(m+1) sind dann frei variierbar !

Somit:

$\Rightarrow \delta I=\sum \limits _{i=1}^{N}{}\left(\ln {{P}_{i}}-\Psi +{{\lambda }_{n}}{{M}_{i}}^{n}\right)\delta {{P}_{i}}=!=0$

Vorsicht: Auch Summe über $\nu$ (Einsteinsche Summenkonvention!)

:$\Rightarrow {{P}_{i}}=\exp \left(\Psi -{{\lambda }_{n}}{{M}_{i}}^{n}\right)$ verallgemeinerte kanonische Verteilung

Die Lagrange- Multiplikatoren $\Psi ,{{\lambda }_{n}}$ sind dann durch die m+1 Nebenbedingungen eindeutig bestimmt !

Kontinuierliche Ereignismenge

$I(\rho )=\int _{}^{}{{{d}^{d}}x\rho (x)\ln \rho (x)}=!=Minimum$

unter der Nebenbedingung

${\begin{aligned}&\int _{}^{}{{{d}^{d}}x\rho (x)}=1\\&\int _{}^{}{{{d}^{d}}x\rho (x)}{{M}^{n}}(x)=\left\langle {{M}^{n}}\right\rangle \\&n=1,...,m\\\end{aligned}}$

Durchführung einer Funktionalvariation:

$\delta \rho (x)$

${\begin{aligned}&\delta I(\rho )=\int _{}^{}{{{d}^{d}}x\left(\ln \rho (x)+1\right)\delta \rho (x)}=0\\&\Rightarrow \int _{}^{}{{{d}^{d}}x\delta \rho (x)}=0\\&\int _{}^{}{{{d}^{d}}x{{M}^{n}}(x)\delta \rho (x)}=0\\&\Rightarrow \int _{}^{}{{{d}^{d}}x\left(\ln \rho -\Psi +{{\lambda }_{n}}{{M}^{n}}\right)\delta \rho (x)}=0\\&\Rightarrow \rho (x)=\exp(\Psi -{{\lambda }_{n}}{{M}^{n}})\\\end{aligned}}$

Vergleiche: A. Katz, Principles of Statistial Mechanics

ANMERKUNG Schubotz: Siehe auch

Eigenschaften der verallgemeinerten kanonischen Verteilung

hier: noch rein informationstheoretisch,

später: wichtige Anwendungen in der Thermodynamik

Legendre- Transformation:

Sei $\Psi (t)$ eine Bahn !

Dann ist $M:={\frac {d\Psi (t)}{dt}}$ die Geschwindigkeit.

Aus $\Psi (M)$ kann die Bahn $\Psi (t)$ noch nicht rekonstruiert werden, jedoch aus

$I(M)=\Psi (t)-M(t)t$

mit t=t(M):

${\begin{aligned}&{\frac {dI}{dM}}={\frac {d\Psi (t)}{dt}}{\frac {dtM}{dM}}-M{\frac {dt}{dM}}-t\\&M:={\frac {d\Psi (t)}{dt}}\\&\Rightarrow {\frac {dI}{dM}}=-t\\\end{aligned}}$

hieraus folgt $M(t)$

eingesetzt in $I(M)=\Psi (t)-M(t)t\Rightarrow \Psi (t)$

durch Eisnetzen gewinnt man $\Psi (t)$

Jedenfalls:

$I(M)=\Psi (t)-M(t)t$

heißt legendre- Transformierte von $\Psi (t)$ .

Anwendung auf die verallgemeinerte kanonische Verteilung:

$\Rightarrow {{P}_{i}}=\exp \left(\Psi -{{\lambda }_{n}}{{M}_{i}}^{n}\right)$

Normierung:

$\sum \limits _{i}^{}{}{{P}_{i}}=1\Rightarrow {{e}^{-\Psi }}=\sum _{i}\exp \left(-{{\lambda }_{n}}{{M}_{i}}^{n}\right)\equiv Z$

Also gilt:

$\Psi =\Psi \left({{\lambda }_{1}},...,{{\lambda }_{m}}\right)$ und ${{P}_{i}}$ sind durch $\left({{\lambda }_{1}},...,{{\lambda }_{m}}\right)$ vollständig parametrisiert.

Nebenbemerkung

Die Verteilung ${{P}_{i}}$ bzw. $\rho \left(x\right)$ wirkt auf dem Raum der Zufallsvariablen ${{M}_{i}}^{n}$ (diskret) bzw. $x\in {{R}^{d}}$(kontinuierlich).

$\left({{\lambda }_{1}},...,{{\lambda }_{m}}\right)$ sind Parameter.

$\left\langle {{M}^{n}}\right\rangle$ sind Erwartungswerte $\left\langle {{M}^{n}}\right\rangle \in R$

Beispiel: $x=\left({{q}_{1}},...,{{q}_{3N}},{{p}_{1}}....,{{p}_{3N}}\right)\in \Gamma$ ( Phasenraumelement) mit $\Gamma$ als Phasenraum der kanonisch konjugierten Variablen $M\left(x\right)=\sum \limits _{i=1}^{3N}{}\left({\frac {{{p}_{i}}^{2}}{2m}}+V\left({{q}_{i}}\right)\right)$ mikrokanonisch Verteilungsfunktion $\left\langle M\left(x\right)\right\rangle =\left\langle \sum \limits _{i=1}^{3N}{}\left({\frac {{{p}_{i}}^{2}}{2m}}+V\left({{q}_{i}}\right)\right)\right\rangle$ als mittlere Energie

Shannon- Information:

${\begin{aligned}&I(P)=\sum \limits _{i}^{}{}{{P}_{i}}\ln {{P}_{i}}=\sum \limits _{i}^{}{}{{P}_{i}}\left(\Psi -{{\lambda }_{n}}{{M}_{i}}^{n}\right)=\Psi -{{\lambda }_{n}}\sum \limits _{i}^{}{}{{P}_{i}}{{M}_{i}}^{n}\\&I=\Psi \left({{\lambda }_{1}},...{{\lambda }_{m}}\right)-{{\lambda }_{n}}\left\langle {{M}^{n}}\right\rangle \\\end{aligned}}$

Aus ${\begin{aligned}&\Psi \left({{\lambda }_{1}},...{{\lambda }_{m}}\right)=-\ln \sum \limits _{i}^{}{}\exp \left(-{{\lambda }_{n}}{{M}_{i}}^{n}\right)\\&\Rightarrow {\frac {\partial }{\partial {{\lambda }_{n}}}}\Psi =-{\frac {\sum \limits _{i}^{}{}\left(-{{M}_{i}}^{n}\right)\exp \left(-{{\lambda }_{n}}{{M}_{i}}^{n}\right)}{\sum \limits _{i}^{}{}\exp \left(-{{\lambda }_{n}}{{M}_{i}}^{n}\right)}}\\&\sum \limits _{i}^{}{}\exp \left(-{{\lambda }_{n}}{{M}_{i}}^{n}\right)={{e}^{-\Psi }}\\&\Rightarrow {\frac {\partial }{\partial {{\lambda }_{n}}}}\Psi =\sum \limits _{i}^{}{}\left({{M}_{i}}^{n}\right)\exp \left(\Psi -{{\lambda }_{n}}{{M}_{i}}^{n}\right)\\&\exp \left(\Psi -{{\lambda }_{n}}{{M}_{i}}^{n}\right)={{P}_{i}}\\&\Rightarrow {\frac {\partial }{\partial {{\lambda }_{n}}}}\Psi =\sum \limits _{i}^{}{}\left({{M}_{i}}^{n}\right){{P}_{i}}\\&\Rightarrow {\frac {\partial }{\partial {{\lambda }_{n}}}}\Psi =\left\langle {{M}^{n}}\right\rangle \\\end{aligned}}$

Damit können wir die Legendre- Transformation ( verallgemeinert auf mehrere Variablen) identifizieren:

$\Psi (t)\to \Psi \left({{\lambda }_{1}},...{{\lambda }_{m}}\right)$ Variable ${{\lambda }_{n}}$

$M\to \left\langle {{M}^{n}}\right\rangle ={\frac {\partial \Psi }{\partial {{\lambda }_{n}}}}$ neue Variable $\left\langle {{M}^{n}}\right\rangle$

$I\left(M\right)\to I=\Psi -{{\lambda }_{n}}\left\langle {{M}^{n}}\right\rangle$ Legendre- Transformierte von $\Psi$ !

Es folgt:

${\frac {\partial I}{\partial \left\langle {{M}^{n}}\right\rangle }}=-{{\lambda }_{n}}$

wegen:

${\begin{aligned}&{\frac {\partial I}{\partial \left\langle {{M}^{n}}\right\rangle }}={\frac {\partial \Psi }{\partial {{\lambda }_{m}}}}{\frac {\partial {{\lambda }_{m}}}{\partial \left\langle {{M}^{n}}\right\rangle }}-{\frac {\partial {{\lambda }_{m}}}{\partial \left\langle {{M}^{n}}\right\rangle }}\left\langle {{M}^{m}}\right\rangle -{{\lambda }_{n}}\\&{\frac {\partial \Psi }{\partial {{\lambda }_{m}}}}=\left\langle {{M}^{m}}\right\rangle \\&\Rightarrow {\frac {\partial I}{\partial \left\langle {{M}^{n}}\right\rangle }}=-{{\lambda }_{n}}\\\end{aligned}}$

Zusammengefasst:

$dI=-{{\lambda }_{n}}d\left\langle {{M}^{n}}\right\rangle$ Dies ist in der Thermodynamik die Gibbsche Fundamentalgleichung!

Betachte Variation:

$\left\langle {{M}^{n}}\right\rangle \to \left\langle {{M}^{n}}\right\rangle +\delta \left\langle {{M}^{n}}\right\rangle$

dann:

${\begin{aligned}&{{\lambda }_{n}}\to {{\lambda }_{n}}+\delta {{\lambda }_{n}}\\&\Psi \to \Psi +\delta \Psi \\&{{P}_{i}}\to {{P}_{i}}+\delta {{P}_{i}}\\\end{aligned}}$

Informationsgewinn:

${\begin{aligned}&K\left(P+\delta P,P\right)=\sum \limits _{i}^{}{}\left({{P}_{i}}+\delta {{P}_{i}}\right)\ln \left({{P}_{i}}+\delta {{P}_{i}}\right)-\sum \limits _{i}^{}{}\left({{P}_{i}}+\delta {{P}_{i}}\right)\ln {{P}_{i}}\\&\sum \limits _{i}^{}{}\left({{P}_{i}}+\delta {{P}_{i}}\right)\ln \left({{P}_{i}}+\delta {{P}_{i}}\right)=I\left(P+\delta P\right)\\&\Rightarrow K\left(P+\delta P,P\right)=\left(\Psi +\delta \Psi \right)-\left({{\lambda }_{n}}+\delta {{\lambda }_{n}}\right)\left(\left\langle {{M}^{n}}\right\rangle +\delta \left\langle {{M}^{n}}\right\rangle \right)-\sum \limits _{i}^{}{}\left({{P}_{i}}+\delta {{P}_{i}}\right)\left(\Psi -{{\lambda }_{n}}{{M}^{n}}_{i}\right)\\&\sum \limits _{i}^{}{}\left({{P}_{i}}+\delta {{P}_{i}}\right)\left(\Psi -{{\lambda }_{n}}{{M}^{n}}_{i}\right)=\Psi -{{\lambda }_{n}}\sum \limits _{i}^{}{}\left({{P}_{i}}+\delta {{P}_{i}}\right){{M}^{n}}_{i}=\Psi -{{\lambda }_{n}}\left(\left\langle {{M}^{n}}\right\rangle +\delta \left\langle {{M}^{n}}\right\rangle \right)\\&\Rightarrow K\left(P+\delta P,P\right)=\left(\Psi +\delta \Psi \right)-\left({{\lambda }_{n}}+\delta {{\lambda }_{n}}\right)\left(\left\langle {{M}^{n}}\right\rangle +\delta \left\langle {{M}^{n}}\right\rangle \right)-\Psi +{{\lambda }_{n}}\left(\left\langle {{M}^{n}}\right\rangle +\delta \left\langle {{M}^{n}}\right\rangle \right)\\&=\delta \Psi -\delta {{\lambda }_{n}}\left(\left\langle {{M}^{n}}\right\rangle +\delta \left\langle {{M}^{n}}\right\rangle \right)\\\end{aligned}}$

Wir können die variierten Funktionen für kleine Variationen $\delta {{\lambda }_{n}}$ entwickeln:

${\begin{aligned}&\delta \Psi ={\frac {\partial \Psi }{\partial {{\lambda }_{n}}}}\delta {{\lambda }_{n}}+{\frac {1}{2}}{\frac {{{\partial }^{2}}\Psi }{\partial {{\lambda }_{n}}\partial {{\lambda }_{m}}}}\delta {{\lambda }_{n}}\delta {{\lambda }_{m}}+....\\&\delta \left\langle {{M}^{n}}\right\rangle ={\frac {\partial \left\langle {{M}^{n}}\right\rangle }{\partial {{\lambda }_{n}}}}\delta {{\lambda }_{n}}+{\frac {1}{2}}{\frac {{{\partial }^{2}}\left\langle {{M}^{n}}\right\rangle }{\partial {{\lambda }_{n}}\partial {{\lambda }_{m}}}}\delta {{\lambda }_{n}}\delta {{\lambda }_{m}}+....\\&\Rightarrow K\left(P+\delta P,P\right)=\delta \Psi -\delta {{\lambda }_{n}}\left(\left\langle {{M}^{n}}\right\rangle +\delta \left\langle {{M}^{n}}\right\rangle \right)=\left({\frac {\partial \Psi }{\partial {{\lambda }_{n}}}}\delta {{\lambda }_{n}}-\left\langle {{M}^{n}}\right\rangle \right)\delta {{\lambda }_{n}}+\left({\frac {1}{2}}{\frac {\partial }{\partial {{\lambda }_{m}}}}{\frac {\partial \Psi }{\partial {{\lambda }_{n}}}}-{\frac {\partial \left\langle {{M}^{n}}\right\rangle }{\partial {{\lambda }_{m}}}}\right)\delta {{\lambda }_{n}}\delta {{\lambda }_{m}}\\&{\frac {\partial \Psi }{\partial {{\lambda }_{n}}}}=\left\langle {{M}^{n}}\right\rangle \Rightarrow \left({\frac {1}{2}}{\frac {\partial }{\partial {{\lambda }_{m}}}}{\frac {\partial \Psi }{\partial {{\lambda }_{n}}}}-{\frac {\partial \left\langle {{M}^{n}}\right\rangle }{\partial {{\lambda }_{m}}}}\right)=-{\frac {1}{2}}{\frac {\partial \left\langle {{M}^{n}}\right\rangle }{\partial {{\lambda }_{m}}}}\\&\left({\frac {\partial \Psi }{\partial {{\lambda }_{n}}}}\delta {{\lambda }_{n}}-\left\langle {{M}^{n}}\right\rangle \right)=0\\&\Rightarrow K\left(P+\delta P,P\right)=-{\frac {1}{2}}{\frac {\partial \left\langle {{M}^{n}}\right\rangle }{\partial {{\lambda }_{m}}}}\delta {{\lambda }_{n}}\delta {{\lambda }_{m}}\\&K\left(P+\delta P,P\right)\geq 0\\\end{aligned}}$

Vergleiche oben

also folgt:

${\begin{aligned}&\Rightarrow K\left(P+\delta P,P\right)=-{\frac {1}{2}}{\frac {\partial \left\langle {{M}^{n}}\right\rangle }{\partial {{\lambda }_{m}}}}\delta {{\lambda }_{n}}\delta {{\lambda }_{m}}\geq 0\\&\Rightarrow {\frac {\partial \left\langle {{M}^{n}}\right\rangle }{\partial {{\lambda }_{m}}}}\leq 0\\\end{aligned}}$

negativ semidefinit, für alle $\delta {{\lambda }_{m}}$

Definiere Suszeptibilitätsmatrix:

${{\eta }^{mn}}:={\frac {\partial \left\langle {{M}^{n}}\right\rangle }{\partial {{\lambda }_{n}}}}={\frac {{{\partial }^{2}}\Psi }{\partial {{\lambda }_{n}}\partial {{\lambda }_{m}}}}$

Diese Matrix beschreibt die Änderung von $\left\langle {{M}^{m}}\right\rangle$ bei Variation von ${{\lambda }_{n}}$:

$\delta \left\langle {\bar {M}}\right\rangle ={\bar {\bar {\eta }}}\delta {\bar {\lambda }}$

bzw.:

${{\tilde {\eta }}_{\sigma \lambda }}:={\frac {\partial {{\lambda }_{\sigma }}}{\partial \left\langle {{M}^{\lambda }}\right\rangle }}=-{\frac {{{\partial }^{2}}I}{\partial \left\langle {{M}^{\lambda }}\right\rangle \partial \left\langle {{M}^{\sigma }}\right\rangle }}$

In Matrixschreibweise:

${\begin{aligned}&\delta {\bar {\lambda }}={\tilde {\bar {\bar {\eta }}}}\delta \left\langle {\bar {M}}\right\rangle \\&{\tilde {\bar {\bar {\eta }}}}={{\bar {\bar {\eta }}}^{-1}}\\\end{aligned}}$

Wegen

${\begin{aligned}&{\frac {\partial }{\partial {{\lambda }_{n}}}}\left({\frac {\partial \Psi }{\partial {{\lambda }_{m}}}}\right)={\frac {\partial }{\partial {{\lambda }_{m}}}}\left({\frac {\partial \Psi }{\partial {{\lambda }_{n}}}}\right)\\&\left({\frac {\partial \Psi }{\partial {{\lambda }_{m}}}}\right)=\left\langle {{M}^{m}}\right\rangle \Rightarrow {\frac {\partial }{\partial {{\lambda }_{n}}}}\left({\frac {\partial \Psi }{\partial {{\lambda }_{m}}}}\right)={{\eta }^{mn}}\\&\left({\frac {\partial \Psi }{\partial {{\lambda }_{n}}}}\right)=\left\langle {{M}^{n}}\right\rangle \Rightarrow {\frac {\partial }{\partial {{\lambda }_{m}}}}\left({\frac {\partial \Psi }{\partial {{\lambda }_{n}}}}\right)={{\eta }^{nm}}\\\end{aligned}}$

Somit: ${{\eta }^{nm}}$ ist symmetrisch

Aus$K\left(P+\delta P,P\right)\geq 0$ folgt:

${{\eta }^{mn}}\delta {{\lambda }_{m}}\delta {{\lambda }_{n}}=\delta \left\langle {{M}^{n}}\right\rangle \delta {{\lambda }_{n}}={{\tilde {\eta }}_{nm}}\delta \left\langle {{M}^{n}}\right\rangle \delta \left\langle {{M}^{m}}\right\rangle \leq 0$

Also: negativ- semidefinite quadratisceh Form:

${\begin{aligned}&\Rightarrow {{\eta }^{nn}}\leq 0\\&{{\tilde {\eta }}_{nn}}\leq 0\\\end{aligned}}$

Nebenbemerkung:

Also sind $I\left(\left\langle {{M}^{n}}\right\rangle \right)$ und $-\Psi \left({{\lambda }_{n}}\right)$ konvex !

Zusammenhang mit der Korrelationsmatrix

${{Q}^{mn}}:=\left\langle \Delta {{M}^{m}}\Delta {{M}^{n}}\right\rangle$ ist Korrelationsmatrix ( siehe oben)

$={{\left\langle {{M}^{m}}{{M}^{n}}\right\rangle }_{c}}$ 2. Kumulante

$={{\left.{\frac {{{\partial }^{2}}\Gamma \left(\alpha \right)}{\partial {{\alpha }_{m}}\partial {{\alpha }_{n}}}}\right|}_{\alpha =0}}$ mit Kumulantenerzeugender

${\begin{aligned}&\Gamma \left(\alpha \right)=\ln \left\langle \exp \left({{\alpha }_{n}}{{M}^{n}}\right)\right\rangle =\ln \sum \limits _{i}^{}{}{{P}_{i}}\exp \left({{\alpha }_{n}}{{M}_{i}}^{n}\right)=\ln \sum \limits _{i}^{}{}{{e}^{\Psi -\left({{\lambda }_{n}}-{{\alpha }_{n}}\right){{M}_{i}}^{n}}}\\&=\ln \left[{{e}^{\Psi }}\cdot \sum \limits _{i}^{}{}{{e}^{-\left({{\lambda }_{n}}-{{\alpha }_{n}}\right){{M}_{i}}^{n}}}\right]=\Psi \left(\lambda \right)+\ln \left[\sum \limits _{i}^{}{}{{e}^{-\left({{\lambda }_{n}}-{{\alpha }_{n}}\right){{M}_{i}}^{n}}}\right]\\&\ln \left[\sum \limits _{i}^{}{}{{e}^{-\left({{\lambda }_{n}}-{{\alpha }_{n}}\right){{M}_{i}}^{n}}}\right]=-\Psi \left(\lambda -\alpha \right)\\&\Rightarrow \Gamma \left(\alpha \right)=\Psi \left(\lambda \right)-\Psi \left(\lambda -\alpha \right)\\&\Rightarrow {{Q}^{mn}}=-{{\left.{\frac {{{\partial }^{2}}\Psi \left(\lambda -\alpha \right)}{\partial {{\alpha }_{m}}\partial {{\alpha }_{n}}}}\right|}_{\alpha =0}}=-{\frac {{{\partial }^{2}}\Psi \left(\lambda \right)}{\partial {{\lambda }_{m}}\partial {{\lambda }_{n}}}}=-{{\eta }^{mn}}\\\end{aligned}}$

Suszeptibilität !

Also: Die Korrelationsmatrix ist das Negative der Suszeptibilität !!

Also:

${{Q}^{mn}}:=\left\langle \Delta {{M}^{m}}\Delta {{M}^{n}}\right\rangle =-{\frac {\partial \left\langle {{M}^{m}}\right\rangle }{\partial {{\lambda }_{n}}}}=-{\frac {\partial \left\langle {{M}^{n}}\right\rangle }{\partial {{\lambda }_{m}}}}$

Fluktuations/ Dissipations- Theorem:

Fluktuationen

Zufällige Schwankungen um den Mittelwert

Dissipation

Systematische Änderung der Mittelwerte !

Korrektur einer Verteilung durch Zusatzinformationen

Sei ${{P}^{0}}$ die Verteilung, die $I\left(P\right)$ unter Kenntnis der Nebenbedingungen

${\begin{aligned}&\sum \limits _{i}^{}{}{{P}_{i}}^{0}=1\\&\sum \limits _{i}^{}{}{{P}_{i}}^{0}{{M}_{i}}^{m}=\left\langle {{M}^{m}}\right\rangle \\&m=1,...,m\\\end{aligned}}$

minimalisiert ( Vorsicht: Index und Laufende sind ungünstigerweise gleich bezeichnet !)

Jetzt:

Zusatzinformationen ( zusätzliche Mittelwerte beobachtet):

${\begin{aligned}&\sum \limits _{i}^{}{}{{P}_{i}}{{V}_{i}}^{\sigma }=\left\langle {{V}_{i}}^{\sigma }\right\rangle \\&\sigma =1,...,s\\&\sum \limits _{i}^{}{}{{P}_{i}}=1\\\end{aligned}}$

Prinzip der vorurteilsfreien Schätzung

Suche Minimum des Informationsgewinns

$K\left(P,{{P}^{0}}\right)=\sum \limits _{i}^{}{}{{P}_{i}}\ln {\frac {{P}_{i}}{{{P}_{i}}^{0}}}$

unter dieser Nebenbedingung !!

Also:

$\sum \limits _{i}^{}{}\left(\ln {{P}_{i}}-\ln {{P}_{i}}^{0}+1+\xi +{{\xi }_{\sigma }}{{V}_{i}}^{\sigma }\right)\delta {{P}_{i}}=0$

mit neuen Lagrange- Multiplikatoren $\xi ,{{\xi }_{\sigma }}$

${\begin{aligned}&\Rightarrow 1+\xi =-\Xi \\&\sum \limits _{i}^{}{}\left(\ln {{P}_{i}}-\ln {{P}_{i}}^{0}-\Xi +{{\xi }_{\sigma }}{{V}_{i}}^{\sigma }\right)\delta {{P}_{i}}=0\\&\Rightarrow {{P}_{i}}={{P}_{i}}^{0}\exp \left(\Xi -{{\xi }_{\sigma }}{{V}_{i}}^{\sigma }\right)\\\end{aligned}}$

Mit

${{P}_{i}}^{0}=\exp \left(\Psi -{{\lambda }_{n}}{{M}_{i}}^{n}\right)$

 folgt:

${\begin{aligned}&K\left(P,{{P}^{0}}\right)=\sum \limits _{i}^{}{}{{P}_{i}}\ln {{P}_{i}}-{{P}_{i}}\ln {{P}_{i}}^{0}+{{P}_{i}}^{0}\ln {{P}_{i}}^{0}-{{P}_{i}}^{0}\ln {{P}_{i}}^{0}\\&\sum \limits _{i}^{}{}{{P}_{i}}\ln {{P}_{i}}=I(P)\\&\sum \limits _{i}^{}{}{{P}_{i}}^{0}\ln {{P}_{i}}^{0}=I({{P}^{0}})\\&-{{P}_{i}}\ln {{P}_{i}}^{0}+{{P}_{i}}^{0}\ln {{P}_{i}}^{0}=-\sum \limits _{i}^{}{}\left({{P}_{i}}-{{P}_{i}}^{0}\right)\ln {{P}_{i}}^{0}\\&\ln {{P}_{i}}^{0}=\Psi -{{\lambda }_{n}}{{M}_{i}}^{n}\\&-\sum \limits _{i}^{}{}\left({{P}_{i}}-{{P}_{i}}^{0}\right)\left(\Psi -{{\lambda }_{n}}{{M}_{i}}^{n}\right)={{\lambda }_{n}}\left(\sum \limits _{i}^{}{}\left({{P}_{i}}{{M}_{i}}^{n}\right)-\sum \limits _{i}^{}{}\left({{P}_{i}}^{0}{{M}_{i}}^{n}\right)\right)\\&\sum \limits _{i}^{}{}\left({{P}_{i}}{{M}_{i}}^{n}\right)=\left\langle {{M}^{n}}\right\rangle \\&\sum \limits _{i}^{}{}\left({{P}_{i}}^{0}{{M}_{i}}^{n}\right)={{\left\langle {{M}^{n}}\right\rangle }_{0}}\\\end{aligned}}$

Da nun die Mittelwerte $\left\langle {{M}^{n}}\right\rangle ,{{\left\langle {{M}^{n}}\right\rangle }_{0}}$ nicht durch die Zusatzinfo geändert werden muss gelten:

${\begin{aligned}&K\left(P,{{P}^{0}}\right)=I(P)-I({{P}^{0}})+{{\lambda }_{n}}\left(\sum \limits _{i}^{}{}\left({{P}_{i}}{{M}_{i}}^{n}\right)-\sum \limits _{i}^{}{}\left({{P}_{i}}^{0}{{M}_{i}}^{n}\right)\right)\\&=I(P)-I({{P}^{0}})+{{\lambda }_{n}}\left(\left\langle {{M}^{n}}\right\rangle -{{\left\langle {{M}^{n}}\right\rangle }_{0}}\right)\\&keine{\ddot {A}}nderung\\&\Rightarrow {{\lambda }_{n}}\left(\left\langle {{M}^{n}}\right\rangle -{{\left\langle {{M}^{n}}\right\rangle }_{0}}\right)=0\\&\left\langle {{M}^{n}}\right\rangle ={{\left\langle {{M}^{n}}\right\rangle }_{0}}\\\end{aligned}}$

da diese Mittelwerte nicht durch die Zusatzinfo geändert werden !

${\begin{aligned}&\Rightarrow K\left(P,{{P}^{0}}\right)=I(P)-I({{P}^{0}})+{{\lambda }_{n}}\left(\sum \limits _{i}^{}{}\left({{P}_{i}}{{M}_{i}}^{n}\right)-\sum \limits _{i}^{}{}\left({{P}_{i}}^{0}{{M}_{i}}^{n}\right)\right)\\&=I(P)-I({{P}^{0}})+{{\lambda }_{n}}\left(\left\langle {{M}^{n}}\right\rangle -{{\left\langle {{M}^{n}}\right\rangle }_{0}}\right)=I(P)-I({{P}^{0}})\\\end{aligned}}$

Das heißt: Der Informationsgewinn entspricht gerade der Änderung der Shannon- Info !