Übersicht:Thermodynamik

klassische Mechanik

• Prinzip der Vorurteilsfreien Schätzung in der klassischen Mechanik

--> gleiche a –priori Wahrscheinlichkeiten

• Hamiltonfunktion mit Hamiltongleichungen
• Lösungen Trajektorien im Phasenraum

Satz von Liouville

Das Phasenraumvolumen ist invariant unter Zeitentwicklung --> gleiche Phasenvolumina ^= gleiche a-priori Wahrscheinlichkeit bleibt bestehen --> Informationsmaß über Microzustand kann mit der zeit nicht zunehmen $I(t_1)\ge I(t_2)$ mit $t_1<t_2$

Zustand

$⟨M^{\nu }⟩=\int d\xi \rho \left(\xi \right)M^{\nu }\left(\xi \right)$ (thermodynamischer Zustand durch Mittelwerte der Phasenraumfunktionen $\rho \left(\xi \right)=\exp (\psi -{\lambda }_{\nu }{M}^{\nu }\left(\xi \right))=z^{-1}\exp (-{\lambda }_{\nu }{M}^{\nu }\left(\xi \right))$ mit $z={\mathrm{e}}^{-\psi }=\int e^{-{\lambda }_{\nu }{M}^{\nu }\left(\xi \right)}d\xi$

Shannon-Information

• $I\left(P\right)=\sum _i{P}_i\ln P_i\le 0$
• Information: Welches Ereignis tritt ein?
• Wie viel weiß ich von meinem System?
• Maximum$I\left(P\right)=0$ --> schafte Verteilung$P_i={\delta }_{ij}$

minimum

• Maximum des Nichtwissens entspricht minimaler Shannon-Information -- >$I\left(P\right)<0$ Variation der $P_i$ um$\delta P_i$

mit 1 Nebendbedingung $\sum _i{P}_i=1$ führt unter Verwendung eines Lagrange-Parameters$\lambda$ zu

$I\left(P\right)=\sum P_i\ln P_i+\lambda (P_i-1)$

die Variation, also $\delta I\left(P\right)=\sum (\ln P_i+1)\delta P_i$

lässt keine freien Parameter zu also erhält man N Gleichungen

$(\ln P_i)=-(\lambda +1)=\text{const.}$

so erhält man wegen der Normierung ($\sum _i{P}_i=1$) die

Gleichverteilung$P_i=\frac{1}{N}$

Nebenbedingungen

• führt zum Informationstheoretischen Prinzip nach Jaynes
• Wahrscheinlichkeitsverteilung die die minimale Information enthält bei Erfüllung aller bekannten Nebenbedingungen
• Variationsverfahren mit Nebenbedingungen
• Shannon-Information $I\left(P\right)=\sum _i{P}_i\ln P_i\le 0$ soll minimal werden
• Es gibt m+1 Nebenbedingungen:
  • Gesamtwahrscheinlichkeiten sind 1: $\sum _{i=1}^N{P}_i=1$
  • Kenntnis von $\nu$ Mittelwerten makroskopischer Observabelen $⟨M^{\nu }⟩=\sum _{i=1}^N{P}_i{M}_i^{\nu }$
  • also mit Lagrange Multiplikatoren: $I\left(P\right)=\sum P_i\ln P_i+\lambda (P_i-1)+{\lambda }_{\nu }{M}_i^{\nu }{P}_i$
• führt zur Variation $\delta I\left(P\right)=(\sum \ln P_i+\underset{:=-\psi }{\underbrace{1+\lambda }}+{\lambda }_{\nu }{M}_i^{\nu })\delta P_i=0$
• daraus erhält man die verallgemeinerte kanonische Verteilung $P_i=\exp (\psi -{\lambda }_{\nu }{M}_i^{\nu })$
• die m+1 Lagrange-Multiplikatoren sind also eindeutig bestimmt
• $\psi =\psi \left({\lambda }_{\nu }\right)=-\ln \sum \exp (-{\lambda }_{\mu }{M}_i^{\mu })$, da $\begin{array}{rl}& 1=\sum P_i=\sum \exp (\psi -{\lambda }_{\nu }{M}_i^{\nu })=e^{\psi }{e}^{{\lambda }_{\nu }}\sum e^{M_i^{\nu }}\\ & \Rightarrow e^{-\psi }=e^{{\lambda }_{\nu }}\sum e^{M_i^{\nu }}\\ \end{array}$

Fundamentalbeziehung

• durch eine Legenderetransformation $I\left(P\right)\to I\left(\lambda \right)$

$I\left(P\right)=\sum _i{P}_i\ln P_i=\sum _i{P}_i\ln \exp (\psi -{\lambda }_{\nu }{M}_i^{\nu })=\psi \underset{1}{\underbrace{\sum _i{P}_i}}-{\lambda }_{\nu }\sum _i{P}_i{M}_i^{\nu }=\psi -{\lambda }_{\nu }⟨M^{\nu }⟩$

• extensive Parameter $⟨M^{\nu }⟩={\partial }_{{\lambda }_{\nu }}\psi \left({\lambda }_{\nu }\right)={\partial }_{{\lambda }_{\nu }}(-\ln \sum \exp (-{\lambda }_{\mu }{M}_i^{\mu }))$
• intensive Parameter ${\lambda }_{\nu }=-{\partial }_{⟨M^{\nu }⟩}I$

$\to dI=-{\lambda }_{\nu }d⟨M^{\nu }⟩$

Beziehungen

• $I\left(P\right)=\sum _i{P}_i\ln P_i=Tr(\hat{\rho }\ln \hat{\rho })$
• Verknüpfung mit phänomenologischer Statistik
  • Entropie = fehlende Kenntnis
  • $S\left(⟨M^{\nu }⟩\right)=-k_{B}I\left(⟨M^{\nu }⟩\right)$
  • da Shannoninformation (I) nach letzer Messung nicht zunehmen kann, --> kann Entropie (S) nicht abnehmen
  • $S=-kI=-k\mathrm{Tr}(\hat{\rho }\ln \left(\hat{\rho }\right))=-k(\psi -{\lambda }_{\nu }{M}^{\nu })=k({\lambda }_{\nu }{M}^{\nu }-\psi \left(\left\{{\lambda }_{\mu }\right\}\right))$
  • $k{\lambda }_{\nu }={\partial }_{⟨M^{\nu }⟩}S$ pähnomenologische Definition der intensiven Variabelen
• Gibbssche Fundamentalgleichung $dS=k{\lambda }_{\nu }d⟨M^{\nu }⟩=k(\beta dU+\frac{\beta }{p}dV-\frac{S}{\mu }dN)$

Kullback-Information

• Informationsgewinn $K(P,P^{\prime })=\sum P_i\ln \frac{P_i}{{{P_{i^{\prime }}}^{\prime }}^{\prime }}\ge 0$