12 Statistik

Question 1

(D) suffiziente Statistik

Answer 1

(X, B, 𝑃 ) statistisches Modell, 𝑋 ∈ X Stichprobe.

Dann heißt eine Statistik 𝑇 (X) suffizient für 𝑃 (oder für 𝜃 wenn P = {𝑃𝜃 : 𝜃 ∈ Θ}), wenn die bedingte Verteilung von 𝑋 gegeben 𝑇 (𝑋) bekannt ist.

Question 2

(Bsp) Statistiken (2)

Answer 2

𝑋 = (𝑋1,…,𝑋𝑛) Stichprobe mit𝑋1,…,𝑋𝑛 iid ZV. Dann gilt

1. Der Stichprobenmittelwert ist die Statistik

T1(X) := Xn– := 1/n ∑ Xi

mit E[𝑇 1(𝑋)] = 1/n ∑ E[Xi] = E[X1].

2. Die Stichprobenvarianz ist die Statistik

T2(X) := 1/(n-1) ∑ (Xi - Xn–)^2, n≥2.

Es gilt E[𝑇2(𝑋)] = Var[𝑋1].

Question 3

(D) erwartungstreu, asymptotisch erwartungstreu, Verfälschung, konsistent, starke Konsistenz (5)

Answer 3

𝑋 = (𝑋1,…,𝑋𝑛) Stichprobe, 𝜗𝑛^ = 𝜗𝑛^ (𝑋1, . . . , 𝑋𝑛) Schätzer von 𝜗 = h(𝜃).

1. Der Schätzer heißt erwartungstreu (engl. unbiased), wenn für alle 𝑛 gilt
   E𝜃 [𝜗𝑛^] = 𝜗.
2. Der Schätzer 𝜗𝑛^ heißt asymptotisch erwartungstreu, wenn gilt
   E𝜃 [𝜗𝑛^] →𝑛→∞ 𝜗.
3. Die Verfälschung (engl. bias) ist die Differenz E𝜃 [𝜗^(𝑋) − 𝜗].
4. Der Schätzer heißt konsistent, wenn er in P𝜃 Wahrscheinlichkeit gegen den wahren Parameter 𝜗 = h(𝜃) konvergiert, d.h., wenn für alle 𝜀>0 gilt
   P𝜃 (|𝜗𝑛^ − 𝜗| > 𝜀) →𝑛→∞ 0.
5. Gilt sogar 𝜗𝑛^ →f.s. 𝜗, dann spricht man von starker Konsistenz.

Question 4

(D) statistisches Modell, parametrisch, nicht-parametrisch (2)

Answer 4

1. Ein statistisches Modell ist ein Wahrscheinlichkeitsraum (X, B, 𝑃) mit
   - X der Beobachtungsraum;
   - B die 𝜎-Algebra;
   - 𝑃 die unbekannte zugrundeliegende Verteilung der Beobachtungen.
2. Ein statistisches Modell (X,B,𝑃) heißt parametrisch, wenn es einen Parameterraum Θ⊂R𝑑 und eine Familie P = {𝑃𝜃 : 𝜃 ∈ Θ} von Verteilungen gibt mit 𝑃 ∈ P. Andernfalls heißt die Familie nicht-parametrisch.

Question 5

(D) beste erwartungstreue Schätzfunktion (2)

Answer 5

Eine Schätzfunktion 𝜗*^ heißt beste erwartungstreue Schätzfunktion für 𝜗 = h(𝜃) bezüglich {𝑃𝜃 : 𝜃 ∈ Θ} falls gilt

(i) 𝜗*^ ist erwartungstreu für 𝜗;

(ii) 𝜗^ hat unter allen erwartungstreuen Schätzern die kleinste Varianz, d.h. für alle 𝜃 ∈ Θ und alle erwartungstreue Schätzer 𝜗^ von 𝜗 gilt
Var𝜃 [𝜗^] ≤ Var𝜃 [𝜗^].

Solche Schätzern nennt man auch UMVUE (uniformly minimum variance unbiased estimator).

Question 6

(D) Gütefunktion

Answer 6

Die Gütefunktion (power function, Schärfe, Trennschärfe, Power) des Tests 𝑑 ist definiert durch 𝐺𝑑 : Θ → [0, 1] mit

𝜃 ↦ 𝐺𝑑 (𝜃) = 𝑃𝜃 (𝑑(𝑋) = 1) = 𝐸𝜃 [𝑑(𝑋)].

Dabei gilt

𝛼𝑑(𝜃) = 𝐺𝑑(𝜃)    für 𝜃∈Θ0,
𝛽𝑑(𝜃) = 1 − 𝐺𝑑(𝜃)    für 𝜃∈Θ1.

Question 7

(D) Test zum Signifikanzniveau, trennschärfster Test, unverfälscht (3)

Answer 7

(i) Ein Test 𝑑 für𝐻0 gegen 𝐻1 heißt Test zum Signifikanzniveau oder einfach Niveau 𝛼, wenn 𝛼𝑑 ≤ 𝛼. Dh, es gilt 𝐺𝑑(𝜃) ≤ 𝛼 für alle 𝜃 ∈ Θ0.

(ii) Ein Test 𝑑∗ zum Niveau 𝛼 heißt trennschärfster Test (uniformly most powerfull, UMP) für 𝐻0 gegen 𝐻1, wenn für jedes 𝜃 ∈ Θ1 gilt
𝐺𝑑∗ (𝜃) = sup{𝐺𝑑 (𝜃) : 𝑑 Niveau 𝛼 Test für 𝐻0 gegen 𝐻1}.

(iii) Ein Niveau 𝛼 Test 𝑑 heißt unverfälscht zum Niveau 𝛼, wenn 𝛽𝑑 ≤ 1−𝛼, d.h., wenn 𝐺𝑑(𝜃) ≥ 𝛼 für alle 𝜃 ∈ Θ1.

Question 8

(D) Test für H0 gegen H1

Answer 8

(X, B, 𝑃 ) statistisches Modell, Θ = Θ0 ∪ Θ1 disjunkte Vereinigung, 𝐻0 : 𝜃 ∈ Θ0 (Nullhypothese), 𝐻1 : 𝜃 ∈ Θ1 (Alternative).

Ein Test 𝑑 für 𝐻0 gegen 𝐻1 ist eine messbare Funktion 𝑑 : X → {0, 1}, die wie folgt interpretiert werden kann:

𝑑(𝑥) = 1 <=> Verwerfen der Nullhypothese
𝑑(𝑥) = 0 <=> Annahme der Nullhypothese.

Insbesondere gibt es einen kritischen Bereich 𝐾 ∈ B mit 𝑑 = 1𝐾 .

Question 9

(D) Likelihood-Funktion, Maximum-Likelihood-Schätzung, -Schätzer (2)

Answer 9

(X, B, 𝑃 ) statistisches Modell, 𝑋 = (𝑋1,…,𝑋𝑛) ∈ X Stichprobe, 𝑋∼𝑃 ∈ P = {𝑃𝜃 : 𝜃∈Θ}, 𝑓𝜃 (multivariate) Dichten bzw. Zähldichten von 𝑃𝜃.

1. Die Likelihood-Funktion bei Beobachtung 𝑥 ∈ X ist für alle 𝑥 ∈ X definiert durch
   𝐿(·,𝑥) ↦ 𝐿(𝜃,𝑥) = 𝑓𝜃(𝑥) ∈ R.
2. Der Parameter 𝜃ˆ ∈ Θ heißt Maximum-Likelihood-Schätzung (ML-Schätzung) für 𝜃, wenn gilt 𝐿(𝜃ˆ,𝑥) = sup_𝜃∈Θ 𝐿(𝜃,𝑥).
   Fasst man 𝜃ˆ als Funktion von 𝑋 auf, dann nennt man 𝜃ˆ = 𝜃ˆ(𝑋) ML-Schätzfunktion bzw. ML-Schätzer für 𝜃.

Question 10

(D) (Log-)Likelihood-Gleichung, Verwendung (3)

Answer 10

𝐿(𝜃,𝑥), log𝐿(𝜃,𝑥) differenzierbar in 𝜃 auf Θ0 ⊂ Θ, Θ0 offen.

1. Likelihood-Gleichung
   ∂/∂𝜃 𝐿(𝜃,𝑥) = 0
2. Log-Likelihood-Gleichung
   ∂/∂𝜃 log𝐿(𝜃,𝑥) = 0
3. Oft kann man die ML-Schätzung bestimmen, durch explizites Lösen einer der obigen Gleichungen.

Question 11

(D) Statistik

Answer 11

(X,B,𝑃 ) statistisches Modell, 𝑇 messbare (feste) Funktion auf X, 𝑋 ∈ X Stichprobe.

Dann heißt die Zufallsvariable 𝑇 (𝑋) Statistik.

Question 12

(D) Konfidenzintervall

Answer 12

Ein Konfidenzintervall für 𝜃 zum Niveau 𝛼 ∈ (0, 1) ist ein zufälliges Intervall 𝐼 (𝑋 ) = (𝐼_ (𝑋 ), 𝐼– (𝑋 )) mit der Eigenschaft
𝑃𝜃(𝜃 ∈ 𝐼(𝑋)) ≥ 1−𝛼, für alle 𝜃∈Θ.

Question 13

(A) Zusammenhang zwischen Schätzern und Zufallsvariablen

Answer 13

Jeder Schätzer ist eine Zufallsvariable: Man setzt Realisierung ein und erhält eine Realisierung des Schätzers (=Schätzung).

Question 14

(A) Logarithmusgesetze (Pr, Qu, Po, Wu)

Answer 14

1. Produkte: log(x•y) = log(x) + log(y)
2. Quotienten: log(x/y) = log(x) - log(y)
3. Potenzen: log(x^y) = y•log(x)
4. Wurzeln: log(√x) = log(x^(1/2)) = 1/2•log(x)

Question 15

(L) Verfälschung bei trennschäfster Test

Answer 15

Ein trennschärfster Niveau \alpha Test d ist unverfälscht.

Question 16

(D) Schätzer der Varianz (2)

Answer 16

𝑋 = (𝑋1, . . . , 𝑋𝑛 ) Stichprobe, Xi iid Zufallsvariablen mit E[𝑋𝑖] = 𝜇∈R, Var[𝑋𝑖] = 𝜎^2 ∈(0,∞). Dann gilt

1. µ bekannt:
   𝜎^1^2(X) = 1/n ∑ (Xi - µ)^2
2. µ unbekannt:
   𝜎^^2(X) = 1/(n-1) ∑ (Xi - X–)^2

Question 17

(S) Verteilungen von 𝜇^ und 𝜎^^2 bei Normalität (3)

Answer 17

X1, …, 𝑋𝑛 iid Zufallsvariablen mit 𝑋𝑖 ∼ N𝜇,𝜎^2 , 0 < 𝜎^2 < ∞. Dann gilt

1. 𝜇^(𝑋) = 𝑋– = 1/n ∑ 𝑋i und 𝜎^^2(𝑋) = 1/(n-1) ∑(𝑋i − 𝑋–)^2 sind stochastisch unabhängig.
2. 𝜇^(𝑋) ist N𝜇,𝜎^2/𝑛 verteilt.
3. (n-1)/𝜎^2 𝜎^^2(𝑋) ist 𝜒n-1^2 verteilt.