Teoria della stima Flashcards
Def statistica
Sia X1,…,Xn un campione aleatorio estratto da F. Si definisce statistica basata sul campione una v.a. Dn, funzione nota del campione:
Dn = dn(X1,…,Xn)
Def caratteristica
Una caratteristica della popolazione è una funzione k(θ) (reale e non costante) del parametro θ
Def stimatore
Si definisce stimatore di k(θ) basato sul campione X1,…,Xn una statistica Kn = d(X1,…,Xn) usata per fare inferenza su k(θ)
Def stima
Data una osservazione campionaria x1,…,xn e uno stimatore Kn=d(X1,…,Xn) di k(θ), si definisce stima di k(θ) il valore assunto da Kn in corrispondenza delle osservazioni: kn = d(x1,…,xn)
def stimatore e stima di massima verosimiglianza
Se X1=x1,…,Xn=xn è una osservazione campionaria, allora si definisce stima di massima verosimiglianza di θ il valore
θn = argmax(θ) L(θ,x) = argmax(θ) Π(i=1,n) fθ(xi)
Ovviamente θn = tn(x1,…,xn)
Il corrispondente stimatore
Θn = tn(X1,…,Xn)
è detto MLE di θ
Principio di invarianza degli stimatori MLE
Se X1,…,Xn è un campione aleatorio estratto da un popolazione con densità fθ, θ incognito e Θn = tn(X1,…,Xn) è MLE di θ, allora per ogni caratteristica k(θ) l’MLE di k(θ) è k(Θn).
def errore quadratico medio
Si definisce errore quadratico medio (o mean square error) di D = d(X) come stimatore di k(θ) la funzione (positiva) di θ
rθ(d, k(θ)) = Eθ[(d(X)-k(θ))^2]
def distorsione
Si definisce distorsione (o bias) di D = d(X) come stimatore di k(θ), la funzione di θ
bθ(d) = Eθ[D] - k(θ)
def stimatore non distorto
Uno stimatore D = d(X) si dice non distorto o corretto per k(θ) se
bθ(d) = Eθ[D] - k(θ) = 0 per ogni θ
Relazione errore quadratico medio e distorsione
Se D = d(X1,…,Xn) è uno stimatore di k(θ) che ammette momento secondo finito per ogni θ, allora
rθ(d, k(θ)) = varθ(D) + [bθ(d)]^2
def asintotica non distorsione
Una successione (Dn)n = (dn(X1,...,Xn))n di stimatori di k(θ) è detta asintoticamente non distorta o corretta per k(θ) se bθ(dn) = E(Dn) - k(θ) - > 0 per n - > +inf per ogni θ
def consistenza
Una successione di stimatori (Dn)n = (dn(X1,…,Xn))n di k(θ) è detta consistente per k(θ) se per ogni ε > 0
Pθ(|Dn - k(θ)| > ε) - > 0 per n - > +inf per ogni θ
def consistenza in media quadratica
(Dn)n = (dn(X1,…,Xn))n di stimatori di k(θ) è detta consistente in media quadratica per k(θ) se
r(dn, k(θ)) = Eθ[(Dn - k(θ))^2] - > 0 per n - > +inf per ogni θ
Proprietà degli stimatori di massima verosimiglianza
Sia X1,… una successione di campioni estratti da fθ con θ incognito.
Se la densità fθ soddisfa opportune condizioni di regolarità, se
Θn = tn(X1,…,Xn) n=1,2,…
è la successione degli stimatori MLE di θ e k(θ) è una funzione differenziabile di θ, allora la successione (k(Θn))n degli stimatori MLE di k(θ) è:
- Asintoticamente non distorta, i.e.
lim(n - > +inf) Eθ(Θn) = k(θ) - Consistente in media quadratica, i.e.
lim(n - > +inf) Eθ[(k(Θn) - k(θ))^2] = 0 - Asintoticamente gaussiana di media k(θ) e varianza σ^2(θ) = (k’(θ))^2 / Eθ[(∂/∂θ ln(fθ(X1)))^2] i.e.
lim(n - > +inf) Pθ( (k(Θn) - k(θ) / (σ(θ) / rad(n)) < = t ) = Φ(t)