Effizienz (Statistik)

Effizienz ist ein Begriff in der Statistik, mit dem ein Aspekt der Qualität eines Schätzers für einen unbekannten Parameter bemessen werden kann. Sie zählt neben Konsistenz, Suffizienz und (asymptotischer) Erwartungstreue zu den vier gebräuchlichen Kriterien für die Qualität von Schätzern.

Definition

Erwartungstreuer Fall

Formal sei $T(X)\;$ ein erwartungstreuer Schätzer für den unbekannten Parameter $\vartheta\;$ in einer Familie von Wahrscheinlichkeitsdichten und $I(\vartheta)\;$ die zur Dichte $\prod_{i=1}^{n} f_{\vartheta}(x_i)$ gehörige Fisher-Information. Dann ist die Effizienz von $T(X)\;$ wie folgt definiert:

$e(T(X)) = \frac{1}{I(\vartheta) \mathrm{Var}_{\vartheta}(T(X))}$.

Wenn man zwei erwartungstreue Schätzer T₁(X) und T₂(X) miteinander vergleichen möchte, so heißt derjenige Schätzer effizienter, der den höheren Wert e(T_i(X)) und also die kleinere Varianz besitzt.

Eine Konsequenz aus der Cramer-Rao-Ungleichung ist, dass unter Regularitätsbedingungen $e(T(X))\;$ nach oben durch 1 beschränkt ist und daher solche Schätzer effizient genannt werden, für die $e(T(X)) = 1\;$ und also $\mathrm{Var}_{\vartheta}(T(X)) = I(\vartheta)^{-1}$ gilt. Dies ist unter den für die Cramer-Rao-Ungleichung notwendigen Bedingungen an das stochastische Modell die bestmögliche Varianz eines Schätzers.

Nichterwartungstreuer Fall

Falls der Schätzer $T\;$ nicht erwartungstreu ist, lässt sich seine Effizienz als

$e(T(X)) = \frac{(\frac{\partial}{\partial \vartheta} E_{\vartheta}[T(X)])^2}{I(\vartheta) \mathrm{Var}_{\vartheta}(T(X))}$

definieren. Offensichtlich ergibt sich die obige Definition als Spezialfall.

Asymptotische Effizienz

In der Regel reicht es aus, wenn Schätzer asymptotisch effizient sind, d.h. wenn sie in Verteilung gegen eine normalverteilte Zufallsvariable konvergieren, deren Varianz das Inverse der Fisher-Information ist. Formal soll also die Konvergenzaussage

$\sqrt n (T(X) - \vartheta) \stackrel{\mathcal D}{\rightarrow} \mathcal N (0, I_{1}(\vartheta)^{-1})$

bewiesen werden können, wobei $I_{1}(\vartheta)$ die Fisher-Information der Dichte $f_{\vartheta}(x)$ bezeichnet und $I(\vartheta) = n \cdot I_{1}(\vartheta)$ gilt. Für asymptotisch effiziente Schätzer gilt offensichtlich $\lim_{n \rightarrow \infty} e(T) = 1.$

Typische Beispiele für asymptotisch effiziente Schätzer sind solche, die mit Hilfe der Maximum-Likelihood-Methode gewonnen werden.