Frequentistische Wahrscheinlichkeit - Frequentist probability
Frequentistische Wahrscheinlichkeit oder Frequentismus ist eine Interpretation von Wahrscheinlichkeit ; es definiert die Wahrscheinlichkeit eines Ereignisses als die Grenze seiner relativen Häufigkeit in vielen Versuchen. Wahrscheinlichkeiten können (im Prinzip) durch einen wiederholbaren objektiven Prozess gefunden werden (und sind daher idealerweise meinungsfrei). Diese Interpretation unterstützt die statistischen Bedürfnisse vieler experimenteller Wissenschaftler und Meinungsforscher. Es unterstützt jedoch nicht alle Bedürfnisse; Spieler benötigen in der Regel Schätzungen der Gewinnchancen ohne Experimente.
Die Entwicklung des frequentistischen Kontos wurde durch die Probleme und Paradoxien des zuvor vorherrschenden Standpunkts, der klassischen Interpretation, motiviert . In der klassischen Interpretation wurde Wahrscheinlichkeit nach dem Indifferenzprinzip definiert , basierend auf der natürlichen Symmetrie eines Problems, so ergeben sich zB die Wahrscheinlichkeiten von Würfelspielen aus der natürlichen symmetrischen 6-Seitenheit des Würfels. Diese klassische Interpretation stolperte über jedes statistische Problem, das keine natürliche Symmetrie für die Argumentation hat.
Definition
In der frequentistischen Interpretation werden Wahrscheinlichkeiten nur bei wohldefinierten Zufallsexperimenten diskutiert. Die Menge aller möglichen Ergebnisse eines Zufallsexperiments wird als Stichprobenraum des Experiments bezeichnet. Ein Ereignis ist als eine bestimmte Teilmenge des zu berücksichtigenden Abtastraums definiert. Für ein gegebenes Ereignis kann nur eine von zwei Möglichkeiten gelten: es tritt ein oder nicht. Die relative Häufigkeit des Auftretens eines Ereignisses, beobachtet bei einer Reihe von Wiederholungen des Experiments, ist ein Maß für die Wahrscheinlichkeit dieses Ereignisses. Dies ist der Kernbegriff der Wahrscheinlichkeit in der frequentistischen Interpretation.
Eine Behauptung des frequentistischen Ansatzes ist, dass mit zunehmender Anzahl von Versuchen die Änderung der relativen Häufigkeit abnimmt. Daher kann man eine Wahrscheinlichkeit als Grenzwert der entsprechenden relativen Häufigkeiten ansehen .
Umfang
Die frequentistische Interpretation ist ein philosophischer Ansatz zur Definition und Verwendung von Wahrscheinlichkeiten; es ist einer von mehreren solchen Ansätzen. Es erhebt nicht den Anspruch, alle Konnotationen des Begriffs „wahrscheinlich“ in der Umgangssprache natürlicher Sprachen zu erfassen.
Als Interpretation steht es nicht im Widerspruch zur mathematischen Axiomatisierung der Wahrscheinlichkeitstheorie; Vielmehr bietet es eine Anleitung für die Anwendung der mathematischen Wahrscheinlichkeitstheorie auf reale Situationen. Es bietet eine klare Anleitung bei der Konstruktion und Gestaltung praktischer Experimente, insbesondere im Gegensatz zur Bayes-Interpretation . Die Frage, ob diese Leitlinien nützlich sind oder zu Fehlinterpretationen neigen, wurde kontrovers diskutiert. Insbesondere dann, wenn fälschlicherweise angenommen wird, dass die Häufigkeitsinterpretation der Wahrscheinlichkeit die einzig mögliche Grundlage für frequentistische Inferenzen ist . So liegt beispielsweise dem Artikel über p-Werte eine Liste von Fehlinterpretationen der Bedeutung von p-Werten bei; Kontroversen werden im Artikel über statistische Hypothesentests detailliert beschrieben . Das Jeffreys-Lindley-Paradoxon zeigt, wie unterschiedliche Interpretationen, angewendet auf denselben Datensatz, zu unterschiedlichen Schlussfolgerungen über die „statistische Signifikanz“ eines Ergebnisses führen können.
Wie William Feller bemerkte:
Für Spekulationen über die Wahrscheinlichkeit, dass die Sonne morgen aufgeht, ist in unserem System kein Platz . Bevor wir davon sprechen, müssen wir uns auf ein (idealisiertes) Modell einigen, das vermutlich nach dem Motto "aus unendlich vielen Welten wird eine zufällig ausgewählt..." verlaufen würde sowohl uninteressant als auch bedeutungslos.
Fellers Kommentar war Kritik an Pierre-Simon Laplace , der eine Lösung des Sonnenaufgangsproblems mit einer alternativen Wahrscheinlichkeitsinterpretation veröffentlichte. Trotz Laplaces ausdrücklichem und sofortigem Disclaimer in der Quelle, der auf Astronomie- und Wahrscheinlichkeitskenntnissen beruht, folgten zwei Jahrhunderte der Kritik.
Geschichte
Die frequentistische Sichtweise wurde möglicherweise von Aristoteles in der Rhetorik vorweggenommen , als er schrieb:
wahrscheinlich ist das, was meistens passiert
Poisson unterschied 1837 klar zwischen objektiven und subjektiven Wahrscheinlichkeiten. Bald darauf eine Flut von fast gleichzeitigen Veröffentlichungen von Mill , Ellis ("On the Foundations of the Theory of Probabilities" und "Remarks on the Fundamental Principles of the Theory of Probabilities"), Cournot ( Exposition de la théorie des chances et des probabilités ) und Fries führten die frequentistische Sichtweise ein. Zwei Jahrzehnte später lieferte Venn eine gründliche Darstellung ( The Logic of Chance: An Essay on the Foundations and Province of the Theory of the Probability (veröffentlichte Ausgaben 1866, 1876, 1888)). Diese wurden durch die Veröffentlichungen von Boole und Bertrand weiter unterstützt . Gegen Ende des 19. Jahrhunderts war die frequentistische Interpretation gut etabliert und vielleicht dominant in den Wissenschaften. Die folgende Generation etablierte die Werkzeuge der klassischen Inferenzstatistik (Signifikanztests, Hypothesentests und Konfidenzintervalle), die alle auf frequentistischer Wahrscheinlichkeit basieren.
Alternativ verstand Jacob Bernoulli (alias James oder Jacques) das Konzept der frequentistischen Wahrscheinlichkeit und veröffentlichte 1713 posthum einen kritischen Beweis (das schwache Gesetz der großen Zahlen) . Ihm wird auch eine gewisse Wertschätzung für die subjektive Wahrscheinlichkeit zugeschrieben (vor und ohne Bayes-Theorem). Gauss und Laplace verwendeten ein Jahrhundert später, eine Generation vor Poisson, frequentistische (und andere) Wahrscheinlichkeiten bei der Ableitung der Methode der kleinsten Quadrate. Laplace betrachtete die Wahrscheinlichkeiten von Zeugenaussagen, Sterbetafeln, Gerichtsurteilen usw., die unwahrscheinliche Kandidaten für die klassische Wahrscheinlichkeit sind. Aus dieser Sicht war Poissons Beitrag seine scharfe Kritik an der alternativen "inversen" (subjektiven, bayesschen) Wahrscheinlichkeitsinterpretation. Jegliche Kritik von Gauss und Laplace war gedämpft und implizit. (Ihre späteren Ableitungen verwendeten keine inverse Wahrscheinlichkeit.)
Zu den wichtigsten Beiträgen zur "klassischen" Statistik im frühen 20. Jahrhundert gehörten Fisher , Neyman und Pearson . Fisher trug zu den meisten Statistiken bei und machte Signifikanztests zum Kern der experimentellen Wissenschaft, obwohl er das frequentistische Konzept der "wiederholten Stichprobenziehung aus derselben Population" ( Rubin, 2020 ) kritisch sah ; Neyman formulierte Konfidenzintervalle und trug maßgeblich zur Stichprobentheorie bei; Neyman und Pearson arbeiteten bei der Erstellung von Hypothesentests zusammen. Alle schätzten Objektivität, daher war die beste Interpretation der Wahrscheinlichkeit, die ihnen zur Verfügung stand, frequentistisch. Alle waren misstrauisch gegenüber der "inversen Wahrscheinlichkeit" (der verfügbaren Alternative), wobei die A-priori-Wahrscheinlichkeiten nach dem Prinzip der Indifferenz ausgewählt wurden. Fisher sagte: "...die Theorie der inversen Wahrscheinlichkeit beruht auf einem Fehler [bezüglich des Bayes-Theorems] und muss vollständig abgelehnt werden." (aus seinen Statistischen Methoden für Forscher). Während Neyman ein reiner Frequentist war, waren Fishers Ansichten über die Wahrscheinlichkeit einzigartig; Beide hatten eine differenzierte Ansicht der Wahrscheinlichkeit. von Mises bot eine Kombination aus mathematischer und philosophischer Unterstützung für den Frequentismus in dieser Zeit.
Etymologie
Laut dem Oxford English Dictionary wurde der Begriff "frequentist" erstmals 1949 von MG Kendall verwendet , um sich von Bayesianern zu unterscheiden , die er "Nicht-Frequenzisten" nannte. Er beobachtete
- 3.... wir können grob zwei Haupteinstellungen unterscheiden. Die eine nimmt Wahrscheinlichkeit als „einen Grad an rationalem Glauben“ oder eine ähnliche Idee ... die zweite definiert Wahrscheinlichkeit in Bezug auf die Häufigkeit des Auftretens von Ereignissen oder durch relative Anteile in „Populationen“ oder „Kollektiven“; (S. 101)
- ...
- 12. Man könnte meinen, dass die Unterschiede zwischen den Frequentisten und den Nicht-Frequenzisten (wenn ich sie so nennen darf) hauptsächlich auf die Unterschiede der Bereiche zurückzuführen sind, die sie abzudecken vorgeben. (S. 104)
- ...
- Ich behaupte, dass dies nicht der Fall ist ... Der wesentliche Unterschied zwischen den Frequentisten und den Nicht-Frequenzisten besteht meines Erachtens darin, dass die ersteren versuchen, in dem Bemühen, jeden Geschmack von Meinungsfragen zu vermeiden, die Wahrscheinlichkeit durch die objektive Eigenschaften einer Population, real oder hypothetisch, während letztere dies nicht tun. [Hervorhebung im Original]
"The Frequency Theory of Probability" wurde eine Generation früher als Kapitelüberschrift in Keynes (1921) verwendet.
Der historische Ablauf: Wahrscheinlichkeitskonzepte wurden eingeführt und ein Großteil der Wahrscheinlichkeitsmathematik abgeleitet (vor dem 20. Die primären historischen Quellen in Wahrscheinlichkeit und Statistik verwendeten nicht die aktuelle Terminologie der klassischen, subjektiven (Bayesschen) und frequentistischen Wahrscheinlichkeit.
Alternative Ansichten
Die Wahrscheinlichkeitstheorie ist ein Teilgebiet der Mathematik. Während ihre Wurzeln Jahrhunderte in die Vergangenheit reichen, erreichte sie 1933 mit den Axiomen von Andrey Kolmogorov ihre Reife . Die Theorie konzentriert sich auf die gültigen Operationen auf Wahrscheinlichkeitswerten und nicht auf die anfängliche Zuweisung von Werten; die Mathematik ist weitgehend unabhängig von jeder Interpretation der Wahrscheinlichkeit.
Anwendungen und Interpretationen der Wahrscheinlichkeit werden von der Philosophie, den Naturwissenschaften und der Statistik betrachtet. Alle sind daran interessiert, Wissen aus Beobachtungen zu extrahieren – induktives Denken . Es gibt eine Vielzahl konkurrierender Interpretationen; Alle haben Probleme. Die frequentistische Interpretation löst Schwierigkeiten mit der klassischen Interpretation, wie beispielsweise jedes Problem, bei dem die natürliche Symmetrie der Ergebnisse nicht bekannt ist. Andere Themen wie das niederländische Buch werden nicht angesprochen .
- Die klassische Wahrscheinlichkeit weist Wahrscheinlichkeiten auf der Grundlage einer physikalisch idealisierten Symmetrie (Würfel, Münzen, Karten) zu. Die klassische Definition ist von Zirkularität bedroht; Wahrscheinlichkeiten werden durch die Annahme von Wahrscheinlichkeitsgleichheit definiert. In Ermangelung von Symmetrie ist der Nutzen der Definition eingeschränkt.
- Die subjektive (Bayessche) Wahrscheinlichkeit (eine Familie konkurrierender Interpretationen) berücksichtigt Glaubensgrade. Alle praktischen "subjektiven" Wahrscheinlichkeitsinterpretationen sind so auf Rationalität beschränkt, dass sie die meisten Subjektivitäten vermeiden. Reale Subjektivität ist einigen Definitionen von Wissenschaft abstoßend, die nach Ergebnissen streben, die unabhängig vom Beobachter und Analytiker sind. Andere Anwendungen des Bayesianismus in der Wissenschaft (z. B. logischer Bayesianismus) umfassen die inhärente Subjektivität vieler wissenschaftlicher Studien und Objekte und verwenden Bayes'sche Argumentation, um Grenzen und Kontext für den Einfluss von Subjektivitäten auf alle Analysen zu setzen. Die historischen Wurzeln dieses Konzepts erstreckten sich auf solche nicht-numerischen Anwendungen als rechtliche Beweise.
- Die Neigungswahrscheinlichkeit betrachtet Wahrscheinlichkeit eher als ein ursächliches Phänomen als als rein deskriptives oder subjektives.
Anmerkungen
Verweise
- PW Bridgman, Die Logik der modernen Physik , 1927
- Alonzo Church, Das Konzept einer Zufallssequenz , 1940
- Harald Cramér, Mathematische Methoden der Statistik , 1946
- William Feller, Eine Einführung in die Wahrscheinlichkeitstheorie und ihre Anwendungen , 1957
- P. Martin-Löf, Zum Konzept einer Zufallsfolge , 1966
- Richard von Mises, Wahrscheinlichkeit, Statistik und Wahrheit , 1939 (deutsches Original 1928)
- Jerzy Neyman, Erster Kurs in Wahrscheinlichkeit und Statistik , 1950
- Hans Reichenbach, Die Wahrscheinlichkeitstheorie , 1949 (deutsches Original 1935)
- Bertrand Russell, Menschliches Wissen , 1948
- Friedman, C. (1999). "Die Häufigkeitsinterpretation in der Wahrscheinlichkeit" . Fortschritte in der angewandten Mathematik . 23 (3): 234–254. doi : 10.1006/aama.1999.0653 . PS