Mischverteilung

aus Wikipedia, der freien Enzyklopädie
Zur Navigation springen Zur Suche springen

Der Begriff Mischverteilung oder zusammengesetzte Verteilung stammt aus der Wahrscheinlichkeitsrechnung. Es handelt sich dabei um eine Wahrscheinlichkeitsverteilung, die ein gewichtetes Mittel von mehreren Wahrscheinlichkeitsverteilungen ist. Das heißt zum Beispiel seien die Wahrscheinlichkeitsdichten von verschiedenen Verteilungen, dann ist die Dichte der Mischverteilung von der Form

wobei normalisierte Gewichte sind. Dadurch entsteht eine Mischung von Zufallsgrößen aus mehreren verschiedenen Grundgesamtheiten.

Einführendes Beispiel

[Bearbeiten | Quelltext bearbeiten]

Betrachtet man beispielsweise das Merkmal Körpergröße bei Kleinkindern (erste Grundgesamtheit) und Erwachsenen (zweite Grundgesamtheit), ist dieses Merkmal innerhalb jeder einzelnen Grundgesamtheit meist annähernd normalverteilt, wobei der Mittelwert für die Kleinkinder deutlich niedriger liegen dürfte als für die Erwachsenen. Die Mischverteilung ist nun die Verteilung der Körpergröße, wenn man die beiden Grundgesamtheiten Kleinkinder und Erwachsene nicht einzeln, sondern gemeinsam betrachtet, also die Verteilung der Körpergröße einer Person, von der man nicht weiß, ob sie Kleinkind oder Erwachsener ist.

Mathematisch handelt es sich in diesem Beispiel bei der Körpergröße der Kleinkinder um eine Zufallsgröße aus der einen Grundgesamtheit und bei der Körpergröße der Erwachsenen um eine andere Zufallsgröße aus der anderen Grundgesamtheit . Die Mischung dieser beiden Zufallsgrößen ist eine weitere Zufallsgröße , die mit einer gewissen Wahrscheinlichkeit als der ersten Grundgesamtheit bzw. mit Wahrscheinlichkeit als der anderen Grundgesamtheit entstammt. Da nur diese beiden Grundgesamtheiten zur Auswahl stehen, muss gelten. Die Wahrscheinlichkeiten und lassen sich auch als relative Anteile der Grundgesamtheiten und an der gemeinsamen Grundgesamtheit interpretieren, bezogen auf das Beispiel also als Anteil der Kleinkinder beziehungsweise der Erwachsenen an der Gesamtstichprobe. Die Verteilung von bestimmt sich über das Gesetz der totalen Wahrscheinlichkeit zu

Wenn und Verteilungsfunktionen und haben, lautet die Verteilungsfunktion von also

.

Lässt sich die Dichtefunktion einer stetigen Zufallsvariablen als

schreiben, so sagt man, dass einer Mischverteilung folgt. Dabei sind die Dichtefunktionen von stetigen Zufallsvariablen und die Wahrscheinlichkeiten mit

.

ist also eine Konvexkombination der Dichten .

Man kann leicht zeigen, dass unter diesen Bedingungen nichtnegativ ist und die Normierungseigenschaft

erfüllt ist.

Entsprechend ergibt sich die Wahrscheinlichkeitsfunktion einer diskreten Mischverteilung als

aus den Wahrscheinlichkeitsfunktionen von diskreten Zufallsvariablen .

Für die Momente von gilt:

Dies folgt (im stetigen Fall) aus

Eine analoge Rechnung ergibt die Formel für den diskreten Fall.

Häufiger Spezialfall: Gaußsche Mischmodelle

[Bearbeiten | Quelltext bearbeiten]
Beispiel einer Mischverteilung, berechnet aus einem Modell mit den Parametern von drei einzelnen gewichteten Gaußverteilungen mit dem EM-Algorithmus (berechnet mit dem R-Paket mclust[1]).

Ein häufiger Spezialfall von Mischverteilungen sind sogenannte Gaußsche Mischmodelle (gaussian mixture models, kurz: GMMs). Dabei sind die Dichtefunktionen die der Normalverteilung mit potenziell verschiedenen Mittelwerten und Standardabweichungen (beziehungsweise Mittelwertvektoren und Kovarianzmatrizen im -dimensionalen Fall). Es gilt also

und die Dichte der Mischverteilung hat die Form

.

Parameterschätzung

[Bearbeiten | Quelltext bearbeiten]

Schätzer für die Parameter von Wahrscheinlichkeitsverteilungen werden häufig mit dem Maximum-Likelihood-Verfahren hergeleitet. Im Falle von Mischverteilungen ergeben sich dabei allerdings meist Gleichungen, deren Lösungen sich nicht algebraisch angeben lassen und daher numerisch bestimmt werden müssen[2]. Ein typisches Verfahren dazu ist der Expectation-Maximization-Algorithmus (EM-Algorithmus), der beginnend bei initialen Werten für die Parameter eine Folge von immer besseren Schätzwerten erzeugt, die sich in vielen Fällen den realen Parametern annähern.

Verteilung des Gewichts der Forellen (g)

Ein Forellenzüchter verkauft Forellen in großen Mengen. Es wird im Herbst beim Leeren der Teiche eine Bestandsaufnahme gemacht. Dabei werden die herausgefischten Forellen gewogen. Es ergibt sich die Verteilung des Gewichts, wie in der Grafik zu ersehen ist. Die Zweigipfligkeit der Verteilung deutet auf eine Mischverteilung hin. Es stellt sich heraus, dass die Forellen aus zwei verschiedenen Teichen stammen. Die Forellengewichte aus dem ersten Teich sind normalverteilt mit dem Erwartungswert 400 g und der Varianz 4900 g2 und die aus dem zweiten Teich mit dem Erwartungswert 600 g und der Varianz 8100 g2. Aus dem ersten Teich stammen 40 % der Forellen, aus dem zweiten 60 %. Es ergibt sich die Dichtefunktion (siehe Abbildung).

  • Mischverteilung (zusammengesetzte Verteilung). In: P. H. Müller (Hrsg.): Lexikon der Stochastik – Wahrscheinlichkeitsrechnung und mathematische Statistik. 5. Auflage. Akademie-Verlag, Berlin 1991, ISBN 978-3-05-500608-1, S. 263–265.

Einzelnachweise

[Bearbeiten | Quelltext bearbeiten]
  1. Fraley,Ch., Raftery, A.: 'MCLUST; Version 3 for R: Normal Mixture Modeling and Model-Based Clustering' (Memento vom 24. September 2015 im Internet Archive)
  2. Ghojogh, Benyamin Ghojogh, Aydin Crowley, Mark Karray, Fakhri: Fitting A Mixture Distribution to Data: Tutorial. 20. Januar 2019, arxiv:1901.06708 (englisch).