Dichtefunktion

Die Wahrscheinlichkeitsdichtefunktion, oft kurz Dichtefunktion, Wahrscheinlichkeitsdichte oder nur Dichte (abgekürzt WDF oder pdf von engl. probability density function) ist ein Hilfsmittel zur Beschreibung einer stetigen Wahrscheinlichkeitsverteilung. Die Integration der Wahrscheinlichkeitsdichte über ein Intervall [a,b] ergibt die Wahrscheinlichkeit dafür, dass eine Zufallsvariable mit dieser Dichte einen Wert zwischen a und b annimmt. Die Wahrscheinlichkeitsdichte kann Werte größer als 1 annehmen und sollte nicht mit der Wahrscheinlichkeit selbst verwechselt werden.

Formal handelt es sich um eine Dichte bezüglich des Lebesgue-Maßes.

Einleitung

Während man im diskreten Fall Wahrscheinlichkeiten von Ereignissen durch Aufsummieren der Wahrscheinlichkeiten der einzelnen Elementarereignisse berechnen kann (ein idealer Würfel zeigt beispielsweise jede Zahl mit einer Wahrscheinlichkeit von $\tfrac 1 6$), so gilt dies nicht mehr für den kontinuierlichen Fall. Beispielsweise sind zwei Menschen kaum exakt gleich groß, sondern nur bis auf Haaresbreite oder weniger. In solchen Fällen sind Wahrscheinlichkeitsdichtefunktionen nützlich. Mit Hilfe dieser Funktionen lässt sich für ein beliebiges Intervall – beispielsweise eine Körpergröße zwischen 1,80000... und 1,80999... Meter – eine Aussage treffen, obwohl unendlich viele Werte in diesem Intervall liegen, von denen jeder einzelne eine Wahrscheinlichkeit hat, die nicht von 0 zu unterscheiden ist.

Definition

X sei eine reellwertige Zufallsvariable. Eine Funktion $f\colon\R\rightarrow\R$ heißt Wahrscheinlichkeitsdichte der Zufallsvariable X (oder genauer: der Verteilung μ von X), falls gilt

$P(a\leq X\leq b)=\int_a^bf(x)\,\mathrm dx$     bzw.      $\mu([a,b])=\int_a^bf(x)\,\mathrm dx$

für alle reellen Zahlen a < b.

Beispiele

Beispiele für Wahrscheinlichkeitsdichten sind in der Liste univariater Wahrscheinlichkeitsverteilungen zu finden.

Eigenschaften

Normierung und Eindeutigkeit

Wahrscheinlichkeitsdichte der Lognormalverteilung (mit μ = 0)

Kumulative Verteilungsfunktion der Lognormalverteilung (mit μ = 0)

Die Fläche unter der Dichtefunktion hat den Inhalt 1, d. h.

$\int_{-\infty}^\infty f(x) \, {\rm d}x = 1$.

Die Wahrscheinlichkeitsdichte ist, bis auf Abweichungen in einer Nullmenge, nichtnegativ und eindeutig bestimmt. Sie kann im Gegensatz zur Verteilungsfunktion aber beliebig große Werte annehmen, wie aus dem Bild ersichtlich ist.

Umgekehrt gilt: Jede Funktion $f:\R\to\R$ mit nichtnegativen Werten und $\textstyle\int_{-\infty}^\infty f(x)\,{\rm d}x = 1$ ist die Dichtefunktion einer eindeutig bestimmten Wahrscheinlichkeitsverteilung.

Berechnung von Wahrscheinlichkeiten

Die Wahrscheinlichkeit für ein Intervall kann man mit der Wahrscheinlichkeitsdichte f oder der zugehörigen kumulativen Verteilungsfunktion F berechnen als

$P(X\in [a,b]) = \int_a^b f(x)\, {\rm d}x = F(b)-F(a)$.

Bei dem Intervall kann man die Randpunkte auch weglassen, denn einzelne Punkte haben hier die Wahrscheinlichkeit 0 – die Verteilungsfunktion ist stetig.

Für komplexere Mengen kann die Wahrscheinlichkeit analog durch Integrieren über Teilintervalle ermittelt werden. Allgemein erhält man die Wahrscheinlichkeit in der Form

$P(X\in A) = \int_A f(x)\, {\rm d}x$.

Bedingung für die Existenz einer Wahrscheinlichkeitsdichte

X besitzt eine Wahrscheinlichkeitsdichte f genau dann, wenn Verteilung von X absolutstetig bezüglich des Lebesgue-Maßes ist, d. h. wenn

$P(X \in A) = 0$

für jede Lebesgue-Nullmenge A (Satz von Radon-Nikodým).

Zusammenhang von Verteilungsfunktion und Dichtefunktion

Die (kumulative) Verteilungsfunktion F erhält man als Integral über die Dichtefunktion:

$F(x) = \int_{-\infty}^x f(t)\,\operatorname dt$

Umgekehrt gilt: Wenn die Verteilungsfunktion F differenzierbar ist, ist ihre Ableitung eine Dichtefunktion der Verteilung:

$f(x) = F^\prime(x) = \frac{\operatorname{d}F(x)}{\operatorname{d}x}$

Das gilt auch dann noch, wenn es abzählbar viele Stellen x gibt, an denen F stetig, aber nicht differenzierbar ist; welche Werte man an diesen Stellen für f(x) verwendet, ist unerheblich.

Allgemein existiert eine Dichtefunktion genau dann, wenn die Verteilungsfunktion F absolut stetig ist. Diese Bedingung impliziert unter anderem, dass F stetig ist und fast überall eine Ableitung besitzt, die mit der Dichte übereinstimmt.

Man beachte jedoch, dass es Verteilungen wie die Cantor-Verteilung gibt, die eine stetige, fast überall differenzierbare Verteilungsfunktion besitzen, aber dennoch keine Wahrscheinlichkeitsdichte. Fast überall differenzierbar sind Verteilungsfunktionen immer, aber die entsprechende Ableitung erfasst generell nur den absolutstetigen Anteil der Verteilung.

Dichten auf Teilintervallen

Die Wahrscheinlichkeitsdichte einer Zufallsvariable X, die nur Werte in einem Teilintervall I der reellen Zahlen annimmt, kann man so wählen, dass sie außerhalb des Intervalls den Wert 0 hat. Ein Beispiel ist die Exponentialverteilung mit $I=[0,\infty[$. Alternativ kann man die Wahrscheinlichkeitsdichte als eine Funktion $f:I\to\R$ betrachten, d. h. als eine Dichte der Verteilung auf I bezüglich des Lebesgue-Maßes auf I.

Mehrdimensionale Zufallsvariable

Wahrscheinlichkeitsdichten kann man auch für mehrdimensionale Zufallsvariablen (oder Zufallsvektoren) definieren. Eine messbare Funktion $f:\R^n\to\R$ ist eine Wahrscheinlichkeitsdichte einer Zufallsvariable X mit Werten in $\R^n$, wenn

$\int_{a_1}^{b_1} \cdots \int_{a_n}^{b_n} f(x_1, \ldots, x_n)\ \mathrm{d}x_n \cdots \mathrm{d}x_1 = P(X \in [a_1,b_1] \times \cdots \times [a_n,b_n])$

für alle reellen Zahlen a₁ < b₁,...,a_n < b_n.

Der Begriff der Verteilungsfunktion lässt sich ebenfalls auf mehrdimensionale Zufallsvariablen erweitern. Hier ist in der Notation $F(x)=P(X\leq x)$ das x ein Vektor und das $\leq\,$-Zeichen komponentenweise zu lesen. F ist also hierbei eine Abbildung von $\R^n\,$ in das Intervall [0,1]. Wenn F hinreichend oft differenzierbar ist, erhält man eine Wahrscheinlichkeitsdichte durch partielle Differentiation:

$f(x_1,x_2, \ldots, x_n) = \frac{\partial^n F(x_1,x_2, \ldots, x_n)}{\partial x_1 \cdots \partial x_n}.$

Schätzung einer Wahrscheinlichkeitsdichte anhand diskreter Daten

Häufigkeitsdichte

Diskret erfasste, aber eigentlich stetige Daten (Beispielsweise die Körpergröße in Zentimetern) können als Häufigkeitsdichte repräsentiert werden. Das so erhaltene Histogramm ist eine unstetige Dichtefunktion. Alternativ kann aus der Empirischen Verteilungsfunktion mit einem Kerndichteschätzer eine stetige Dichtefunktion geschätzt werden. Der dazu verwendete Kern sollte dem erwarteten Messfehler entsprechen.