Priors, Likelihoods und Posteriors Flashcards
Die drei Wahrscheinlichkeitsverteilungen im Überblick
(P(θ) = Priorverteilung
(P(D|θ) = Likelihoods
(P(θ|D) = Posteriorverteilung
Was ist der Ausgangspunkt der bayesianischen Inferenz?
Das Zusammenstellen von Hypothesen zu einer konkreten Fragestellung und die anschließende Bestimmung der relativen Wahrscheinlichkeiten der festgelegten Hypothesen
Unabhängig von der Anzahl der Hypothesen …
… muss die Summe der Wahrscheinlichkeiten aller Hypothesen immer 1 ergeben
> Die durchschnittliche Wahrscheinlichkeiten einzelner Hypothesen ist umso geringer, je mehr Hypothesen berücksichtigt werden
> Wenn beliebig viele Hypothesen betrachten werden, spricht man von der Wahrscheinlichkeitsdichte
Was ist eine nicht informative Priorverteilung?
- Sie enthält kein empirisches Wissen im Hinblick auf die konkrete Fragestellung
> z.B. die Gleichverteilung
> werden auch “objektiv” genannt
Was sind informative Priorverteilungen?
- Werden nach Grad des Informationsgehaltes beurteilt
- Wenige Informationen > schwache informative Priorverteilung
- Heranziehung von empirischen Daten als Grundlage der Annahmen
Was ist Intersubjektivität?
Bezeichnet den Grad der Übereinstimmung zwischen mehreren Personen, die den selben Sachverhalt beurteilen
- Diese gemeinsame Beurteilung muss nicht objektiv wahr sein
Für was werden Ober- und Untergrenzen genutzt?
- Um mehrere Priorverteilungen mit leichten Abweichungen zu erstellen
- Durch mehrere Auswertungen auf Basis verschiedener Priorverteilungen lässt sich durch den Vergleich abschätzen, wie stark der Einfluss der Priorverteilung auf das Ergebnis (Posteriorverteilung) ist
Um nicht informative / sehr vage Priorverteilungen anzupassen, …
… versorgt man diese mit empirischen Informationen
- Man zieht aus den vorliegenden empirischen Daten eine kleine zufäliige Stichprobe
- Passt dann die Priorverteilungen entsprechend der Stichprobenzusammensetzung an
> Wird oft so gemacht
Die Hypothesen der Priorverteilungen sollten immer …
… den Annahmen der jeweiligen Bezugsgruppe entsprechen
Beim bayesianischen Testen sollte …
… die Wahrscheinlichkeit 0 (ursprüngliches Ergebnis) in empirischen Kontexten nicht für Hypothesen verwendet werden
> Stattdessen sollte eine kleine, verschwindend geringe Wahrscheinlichkeit (z.B. 1 zu 1 Millionen) zugewiesen werden
> Ansonsten könnte ein Irrtum auch nicht mit einer Million zutreffender Daten korrigiert werden
Bei diskreten Priorverteilungen kann die bedingte Wahrscheinlichkeit der Daten …
… unter der Annahme der jeweiligen Hypothese einzeln berechnet werden
> diskrete Wahrscheinlichkeitsverteilung = Likelihoods der Hypothesen
Was wird mit Likelihoods beschrieben?
- Mathematisch wird der Umstand beschrieben, dass ein Stichprobenergebnis von einem Parameter der Grundgesamtheit abhängt
> Beim Münzwurf hängt das Ergebnis von der Beschaffenheit der Münze ab
Beim bayesianischen Vorgehen wird aus der Priorverteilung P(θ) …
… und den Likelihoods P(D|θ) die Posteriorverteilung P(θ|D) berechnet
Merkmale einer bayesianischen Auswertung
- Ergebnis ist immer gleich, egal wann die Auswertungen vorgenommen werden
- Auch die Reihenfolge der Auswertung von Daten spielt keine Rolle
Die Bedeutung der Priorverteilung nimmt im Allgemeinen bei …
… zunehmender Menge an berücksichtigten Informationen ab
> Bei kleinen Stichproben ist die fundierte Bestimmung der Priorverteilung daher umso wichtiger, um zu einer verlässlichen Schätzung zu gelangen
