Wahrscheinlichkeitsbegriff

Thermodynamikvorlesung von Prof. Dr. E. Schöll, PhD

Der Artikel Wahrscheinlichkeitsbegriff basiert auf der Vorlesungsmitschrift von Franz- Josef Schmitt des 1.Kapitels (Abschnitt 1) der Thermodynamikvorlesung von Prof. Dr. E. Schöll, PhD.

Wahrscheinlichkeitsbegriff	Grundlagen der Statistik	Thermodynamik und Statistik
	Wahrscheinlichkeitsbegriff Informationsmaße Verallgemeinerte kanonische Verteilung	Grundlagen der Statistik Statistische Begründung der Gleichgewichtsthermodynamik Phänomenologische Thermodynamik Klassische Modellsysteme Quantenmechanische Modellsysteme

Ereignis

Messergebnis von Observablen (event) oder fester Mikrozustand (der realisiert wird).

Ereignisse bilden einen Abelschen Verband (Ereignisalgebra)

Merke: Ereignisalgebra = Abelscher verband $A{\acute {\ }}$

mit Mengentheoretischen Verknüpfungen

$\cup ,\cap$

Vereinigung (oder) und Durchschnitt (und)

Für A,B,C $\in A{\acute {\ }}$ gilt:

${\begin{aligned}&A\cup B=B\cup A\\&A\cap B=B\cap A\\\end{aligned}}$

(Kommutativitätsgesetz)

${\begin{aligned}&A\cap \left(B\cap C\right)=\left(A\cap B\right)\cap C\\&A\cup \left(B\cup C\right)=\left(A\cup B\right)\cup C\\\end{aligned}}$

Assoziativität

${\begin{aligned}&A\cap \left(A\cup B\right)=A\\&A\cup \left(A\cap B\right)=A\\\end{aligned}}$

(Verschmelzungsgesetz)

${\begin{aligned}&A\cap \left(B\cup C\right)=\left(A\cap B\right)\cup \left(A\cap C\right)\\&A\cup \left(B\cap C\right)=\left(A\cup B\right)\cap \left(A\cup C\right)\\\end{aligned}}$

Distributivgesetz

${\begin{aligned}&\exists S\Rightarrow A\cap S=A\\&\exists 0\Rightarrow A\cup 0=A\\\end{aligned}}$

Existenz der Eins (sicheres Ereignis) und Existenz des Nullelements: "leeres Ereignis"

$\forall A\in A{\acute {\ }}\exists B\Rightarrow A\cap B=0,A\cup B=S$

Existenz des Komplements

$B=\neg A={\bar {A}}$

Induzierte Halbordnung

$A\subseteq B$ A impliziert B, falls $A\cap B=A$

Also: menge A liegt in B

A und B sind disjunkt, falls $A\cap B=0$

Vollständig disjunkte Ereignismenge (sample set)

${\begin{aligned}&\left\{{{A}_{1}},{{A}_{2}},...,{{A}_{n}}\right\}mit\\&{{A}_{i}}\cap {{A}_{j}}={{A}_{i}}{{\delta }_{ij}}\\&\bigcup \limits _{i=1}^{n}{}{{A}_{i}}=S\\\end{aligned}}$

Beispiel:

Ereignismenge

$\left\{1,2,3,4,5,6\right\}$

Bemerkung: Diese Menge M ist keine Algebra, da

${\begin{aligned}&A\cup B\notin M\\&{\bar {A}}\notin M\\\end{aligned}}$

Wahrscheinlichkeit

Empirische Definition

$P(A)={\begin{matrix}\lim \\N\to \infty \\\end{matrix}}{\frac {N\left(A\right)}{N}}$

mit

${\frac {N\left(A\right)}{N}}$

relative Häufigkeit des Ereignisses A

N(A) ist die Zahl der Experimente mit dem Ergebnis A

N ist die Zahl der Experimente insgesamt

axiomatische Definition (Kolmogoroff)

Sei A$\in A{\acute {\ }}$

(Boolscher Verband)

Sei

$S\in A{\acute {\ }}$

das sichere Ereignis.

Dann erfüllt die Wahrscheinlichkeit P(A)

die Axiome:

${\begin{aligned}&P(A)\geq 0\\&P(S)=1\\\end{aligned}}$

Für disjunkte Ereignisse:

$A\cap B=0\Rightarrow P(A\cup B)=P(A)+P(B)$

Folgerung

${\begin{aligned}&P(A)+P({\bar {A}})=P(A\cup {\bar {A}})=1\\&\Rightarrow P\left(A\right)\leq 1\\\end{aligned}}$

Zerlegung in disjunkte Ereignisse

für beliebige A1, A2:

${\begin{aligned}&{{A}_{1}}\cup {{A}_{2}}={{A}_{1}}+{{\bar {A}}_{1}}\cap {{A}_{2}}={{A}_{1}}+{{A}_{2}}-{{A}_{1}}\cap {{A}_{2}}\\&{{\bar {A}}_{1}}\cap {{A}_{2}}={{A}_{2}}-{{A}_{1}}\cap {{A}_{2}}\\&{{A}_{2}}={{A}_{1}}\cap {{A}_{2}}+{{\bar {A}}_{1}}\cap {{A}_{2}}\\\end{aligned}}$

Also folgt für Wahrscheinlichkeiten:

${\begin{aligned}&P\left({{A}_{1}}\cup {{A}_{2}}\right)=P({{A}_{1}})+P({{\bar {A}}_{1}}\cap {{A}_{2}})=P({{A}_{1}})+P({{A}_{2}})-P({{A}_{1}}\cap {{A}_{2}})\\&P({{A}_{2}})=P({{A}_{1}}\cap {{A}_{2}})+P({{\bar {A}}_{1}}\cap {{A}_{2}})\\\end{aligned}}$

Also:

${\begin{aligned}&P\left({{A}_{1}}\cup {{A}_{2}}\right)+P({{A}_{1}}\cap {{A}_{2}})=P({{A}_{1}})+P({{A}_{2}})\\&P({{A}_{1}}\cap {{A}_{2}})\geq 0\\&\Rightarrow P\left({{A}_{1}}\cup {{A}_{2}}\right)\leq P({{A}_{1}})+P({{A}_{2}})\\\end{aligned}}$

Speziell

$P({{A}_{1}})\leq P({{A}_{2}})$

,

falls ${{A}_{1}}\subseteq {{A}_{2}}$

bedingte Wahrscheinlichkeit

Die Bedingte Wahrscheinlichkeit (A unter der Bedingung, dass B), ergibt sich gemäß

Also A unter der Bedingung, dass B eingetreten ist!

$P\left(A/B\right)={\frac {P\left(A\cap B\right)}{P(B)}}$

Falls A von B unabhängig ist, so gilt:

${\begin{aligned}&P\left(A\cap B\right)=P(A)P(B)\\&P\left(A/B\right)={\frac {P\left(A\cap B\right)}{P(B)}}=P(A)\\\end{aligned}}$

Nebenbemerkung, ebenso gilt:

$P\left(B/A\right)={\frac {P\left(A\cap B\right)}{P(A)}}=P(B)$

Zufallsvariablen

Eine Zufallsvariable ist gegeben durch

1. eine Menge M von vollständig disjunkten Ereignissen (sample set) ${{X}_{i}}$
3. eine Wahrscheinlichkeitsverteilung $P({{X}_{i}})$
4. über M

es gilt die Normierung

$\sum \limits _{i}{}P({{X}_{i}})=1$

Definiert man sich dies für eine kontinuierliche Menge, also $x\in R$ ,

so gilt:

$P(x{\acute {\ }}\leq x\leq x{\acute {\ }}+dx{\acute {\ }})=\rho \left(x{\acute {\ }}\right)dx{\acute {\ }}$

definiert eine Wahrscheinlichkeitsdichte oder auch Wahrscheinlichkeitsverteilung $\rho \left(x\right)$ .

Übergang zu diskreten Ereignissen:

$\rho \left(x\right)=\sum \limits _{i=1}^{n}{}\delta \left(x-{{x}^{(i)}}\right){{P}_{i}}$

mit Normierung

$\int _{a}^{b}{}\rho \left(x\right)dx=1$

Physikalische Interpretation

Die Wahrscheinlichkeitsverteilung kann man sich realisiert denken durch ein Ensemble von vielen äquivalenten Systemen, also durch eine Dichteverteilung $\rho \left(x\right)dx$

der Mitglieder des Ensembles mit Werten zwischen x und x+dx

Verallgemeinerung auf d Zufallsvariablen

${\begin{aligned}&x=\left({{x}_{1}},{{x}_{2}},...,{{x}_{d}}\right)\in {{R}^{d}}\\&{{d}^{d}}x=d{{x}_{1}}d{{x}_{2}}...d{{x}_{d}}\\\end{aligned}}$

Die Normierung geschieht dann in einem d- Dimensionalen Raum.

$\int _{}^{}{}\rho \left(x\right){{d}^{d}}x=1$

Mittelwert (Erwartungswert) einer Zufallsvariablen x:

$\left\langle x\right\rangle =\int _{}^{}{}\rho \left(x\right)x{{d}^{d}}x$

für eine beliebige Funktion f(x):

$\left\langle f\right\rangle =\int _{}^{}{}\rho \left(x\right)f(x){{d}^{d}}x$

Nebenbemerkung

Der Mittelwert ist ein lineares Funktional ${{f}_{\rho }}:[\to R$

$[\in f\to \left\langle f\right\rangle$

Linearität:

$\left\langle {{c}_{1}}{{f}_{1}}+{{c}_{2}}{{f}_{2}}\right\rangle ={{c}_{1}}\left\langle {{f}_{1}}\right\rangle +{{c}_{2}}\left\langle {{f}_{2}}\right\rangle$

Unkorrelierte Zufallsvariable:

x1 und x2 heißen unkorreliert, falls

$\rho \left({{x}_{1}},{{x}_{2}}\right)={{\rho }_{1}}\left({{x}_{1}}\right){{\rho }_{2}}\left({{x}_{2}}\right)$

Dann gilt:

$\left\langle {{x}_{1}}{{x}_{2}}\right\rangle =\left\langle {{x}_{1}}\right\rangle \left\langle {{x}_{2}}\right\rangle$

Beweis:

Merke: In Bezug auf die Wahrscheinlichkeitsverteilungen ist unkorreliert gleichbedeutend mit separabel _> die Phasen werden addiert!

Sind die Zustände verschränkt, so können die Phasen nicht addiert werden.

Die Einführung einer Symplektik ist nötig! (siehe unten).

Zusammenhang zwischen Wahrscheinlichkeitsverteilung und Mittelwerten

Wir verstehen als n.tes Moment einer Wahrscheinlichkeitsverteilung:

${{M}_{n}}:=\left\langle {{x}^{n}}\right\rangle$

Momentenerzeugende:

${\begin{aligned}&Z(a)=\left\langle {{e}^{ax}}\right\rangle =\left\langle \sum \limits _{0}^{}{}{\frac {{\left(ax\right)}^{n}}{n!}}\right\rangle =\sum \limits _{0}^{}{}{\frac {{\left(a\right)}^{n}}{n!}}{{M}_{n}}\\&{{M}_{n}}={{\left.{\frac {{\partial }^{n}}{\partial {{a}^{n}}}}Z(a)\right|}_{a=0}}={{M}_{n}}\\\end{aligned}}$

Durch die Angabe aller nicht verschwindender Momente ist eine Wahrscheinlichkeitsverteilung vollständig festgelegt!

Verallgemeinerung auf d Zufallsvariablen:

${{M}_{n1,n2,...nd}}:=\left\langle {{x}_{1}}^{n1}{{x}_{2}}^{n2}....{{x}_{d}}^{nd}\right\rangle$

ein Moment der Ordnung

$n:=n1+n2+...+nd$

Momentenerzeugende:

${\begin{aligned}&Z(a)=\left\langle {{e}^{ax}}\right\rangle =\left\langle \sum \limits _{n1,n2...nd=0}^{}{}{\frac {\left({{\left({{a}_{1}}x1\right)}^{n1}}{{\left({{a}_{2}}x2\right)}^{n2}}...{{\left({{a}_{d}}xd\right)}^{nd}}\right)}{n1!n2!...nd!}}\right\rangle =\sum \limits _{n1,n2...nd=0}^{}{}{\frac {\left({{\left({{a}_{1}}\right)}^{n1}}{{\left({{a}_{2}}\right)}^{n2}}...{{\left({{a}_{d}}\right)}^{nd}}\right)}{n1!n2!...nd!}}{{M}_{n1..nd}}\\&a=\left({{a}_{1}},{{a}_{2}},...,{{a}_{d}}\right)\\\end{aligned}}$

Kumulante

${{C}_{n1,n2,...nd}}:={{\left\langle {{x}_{1}}^{n1}{{x}_{2}}^{n2}....{{x}_{d}}^{nd}\right\rangle }_{C}}$

ist definiert durch die Kumulantenerzeugende:

$\Gamma \left(a\right)=\ln \left\langle {{e}^{ax}}\right\rangle$

${\begin{aligned}&{{\left.{\frac {{{\partial }^{n1}}....{{\partial }^{nd}}}{\partial {{a}_{1}}^{n1}....{{a}_{d}}^{nd}}}\Gamma \left(a\right)\right|}_{a=0}}={{C}_{n1,n2,...nd}}\\&\Rightarrow \Gamma \left(a\right)=\ln \left\langle {{e}^{ax}}\right\rangle =\sum \limits _{n1...nd}^{}{}{\frac {{{a}_{1}}^{n1}...{{a}_{d}}^{nd}}{n1!...nd!}}{{C}_{n1,n2,...nd}}\\\end{aligned}}$

Eigenschaft

Kumulanten sind ADDITIV für unkorrelierte Zufallsvariablen (Dies gilt nicht für die Momente!!)

Beweis: seien x1, x2 unkorreliert:

${\begin{aligned}&Z(a)=\left\langle {{e}^{ax}}\right\rangle =\int _{}^{}{d{{x}_{1}}d{{x}_{2}}\rho \left({{x}_{1}}\right)}\rho \left({{x}_{2}}\right){{e}^{{{a}_{1}}{{x}_{1}}}}{{e}^{{{a}_{2}}{{x}_{2}}}}=\left\langle {{e}^{{{a}_{1}}{{x}_{1}}}}\right\rangle \left\langle {{e}^{{{a}_{2}}{{x}_{2}}}}\right\rangle \\&\Rightarrow \Gamma \left(a\right)=\ln Z(a)=\ln \left\langle {{e}^{{{a}_{1}}{{x}_{1}}}}\right\rangle +\ln \left\langle {{e}^{{{a}_{2}}{{x}_{2}}}}\right\rangle =\Gamma \left({{a}_{1}}\right)+\Gamma \left({{a}_{2}}\right)\\&{{\left.{\frac {{\partial }^{n}}{\partial {{a}^{n}}}}\Gamma \left(a\right)\right|}_{a=0}}\Rightarrow {{\left\langle {{\left({{x}_{1}}+{{x}_{2}}\right)}^{n}}\right\rangle }_{C}}={{\left\langle {{x}^{n}}\right\rangle }_{C}}={{\left\langle {{x}_{1}}^{n}\right\rangle }_{C}}+{{\left\langle {{x}_{2}}^{n}\right\rangle }_{C}}\\\end{aligned}}$

Fluktuation:

$\Delta x:=x-\left\langle x\right\rangle$

mit

$\left\langle \Delta x\right\rangle =0$

Bildung der Varianz:

$\left\langle {{\left(\Delta x\right)}^{2}}\right\rangle =\left\langle {{\left(x-\left\langle x\right\rangle \right)}^{2}}\right\rangle =\left\langle {{x}^{2}}\right\rangle -2\left\langle x\right\rangle \left\langle x\right\rangle +{{\left\langle x\right\rangle }^{2}}=\left\langle {{x}^{2}}\right\rangle -{{\left\langle x\right\rangle }^{2}}$

Als Maß für die Breite einer Verteilung

Korrelationsmatrix:

$\left\langle \Delta {{x}_{k}}\Delta {{x}_{l}}\right\rangle =\left\langle {{x}_{k}}{{x}_{l}}\right\rangle -\left\langle {{x}_{k}}\right\rangle \left\langle {{x}_{l}}\right\rangle$

Nichtdiagonalelemente verschwinden für unkorrelierte Zufallsvariablen. Denn dann: separieren die Momente der WSK- Verteilung! Siehe oben

• Korrelationsmatrix beschreibt die qm- Korrelationen über ihre Außerdiagonalelemente

Zusammenhang zwischen Kumulanten und Momenten:

${\begin{aligned}&{{\left\langle x\right\rangle }_{C}}=\left\langle x\right\rangle \\&{{\left\langle {{x}^{2}}\right\rangle }_{C}}=\left\langle {{\left(\Delta x\right)}^{2}}\right\rangle =\left\langle {{x}^{2}}\right\rangle -{{\left\langle x\right\rangle }^{2}}\\&{{\left\langle {{x}^{3}}\right\rangle }_{C}}=\left\langle {{\left(\Delta x\right)}^{3}}\right\rangle \\&{{\left\langle {{x}^{4}}\right\rangle }_{C}}=\left\langle {{\left(\Delta x\right)}^{4}}\right\rangle -3{{\left\langle {{\left(\Delta x\right)}^{2}}\right\rangle }^{2}}\\\end{aligned}}$

Gaußverteilung / Normalverteilung

${\begin{aligned}&\rho (x)=A\exp \left(-{\frac {{\left(x-\left\langle x\right\rangle \right)}^{2}}{2{{\sigma }^{2}}}}\right)\\&{{\sigma }^{2}}:=\left\langle {{\left(\Delta x\right)}^{2}}\right\rangle ={{\left\langle {{x}^{2}}\right\rangle }_{C}}\\\end{aligned}}$

Mit Sigma als Standardabweichung

Normierung:

${\begin{aligned}&\int _{-\infty }^{\infty }{}dx\rho (x)=A\sigma {\sqrt {2}}\int _{-\infty }^{\infty }{}du\exp \left(-{{u}^{2}}\right)=!=1\\&u:={\frac {x}{\sigma {\sqrt {2}}}}\\\end{aligned}}$

Wegen:

${\begin{aligned}&\int _{-\infty }^{\infty }{}du\exp \left(-{{u}^{2}}\right)={\sqrt {\pi }}\\&\Rightarrow A={\frac {1}{\sigma {\sqrt {2\pi }}}}\\\end{aligned}}$

Nebenbemerkung, die Gaußverteilung $\rho (x)$ ist bestimmt durch ${{\left\langle x\right\rangle }_{C}},{{\left\langle {{x}^{2}}\right\rangle }_{C}}$.

Alle höheren Kumulanten verschwinden!