Σύγκλιση τυχαίων μεταβλητών

Στη θεωρία πιθανοτήτων, υπάρχουν πολλές διαφορετικές έννοιες της σύγκλισης των τυχαίων μεταβλητών. Η σύγκλιση ακολουθιών τυχαίων μεταβλητών σε κάποιο όριο τυχαίας μεταβλητής είναι μια σημαντική έννοια στη θεωρία πιθανοτήτων και τις εφαρμογές της σε στατιστικές και στοχαστικές διαδικασίες. Οι ίδιες έννοιες είναι γνωστές στα γενικότερα μαθηματικά, όπως η σύγκλιση στοχαστικών και να επισημοποιήσει την ιδέα ότι μια σειρά από ουσιαστικά τυχαία ή απρόβλεπτα γεγονότα μπορούν μερικές φορές να εγκατασταθούν σε μια συμπεριφορά που είναι ουσιαστικά αμετάβλητη όταν τα αρκετά στοιχεία μέσα στην ακολουθία μελετώνται. Οι διάφορες πιθανές έννοιες της σύγκλισης σχετίζονται με το πώς μπορεί να χαρακτηριστεί μια τέτοια συμπεριφορά: δύο εύκολα κατανοητές συμπεριφορές είναι ότι η αλληλουχία παίρνει τελικά μια σταθερή τιμή, και ότι οι τιμές στην αλληλουχία συνεχίζουν να αλλάζουν, αλλά μπορεί να περιγραφεί με μια αμετάβλητη κατανομή πιθανότητας.

Ιστορία

"Στοχαστική σύγκλισης» επισημοποιεί την ιδέα ότι μια σειρά από ουσιαστικά τυχαία ή απρόβλεπτα γεγονότα μπορούν μερικές φορές να εγκατασταθούν σε ένα μοτίβο. Το σχέδιο μπορεί για παράδειγμα να είναι

• Η σύγκλιση με την κλασική έννοια σε μία σταθερή τιμή, ίσως η ίδια προέρχεται από ένα τυχαίο συμβάν
• Η αυξανόμενη ομοιότητα των αποτελεσμάτων σε μια καθαρά ντετερμινιστική λειτουργία θα παράγει
• Η αυξανόμενη προτίμηση προς ένα συγκεκριμένο αποτέλεσμα
• Η αυξανόμενη «αποστροφή» εναντίον της εκτροπής μακριά από ένα συγκεκριμένο αποτέλεσμα

Μερικά λιγότερο προφανή, περισσότερο θεωρητικά πρότυπα θα μπορούσαν να είναι

• Ότι η κατανομή πιθανότητας που περιγράφει το επόμενο αποτέλεσμα μπορεί να αυξηθεί όλο και περισσότερο με μια συγκεκριμένη παρόμοια κατανομή
• Ότι η σειρά που σχηματίζεται από τον υπολογισμό της αναμενόμενης τιμής του αποτελέσματος απόστασής του από μια συγκεκριμένη τιμή μπορεί να συγκλίνει σε μηδέν
• Ότι η διακύμανση της τυχαίας μεταβλητής που περιγράφει την επόμενη εκδήλωση όλο και μικραίνει.

Αυτοί οι άλλοι τύποι μοτίβων που μπορούν να προκύψουν αντικατοπτρίζονται στους διαφορετικούς τύπους σύγκλισης στοχαστικών που έχουν μελετηθεί.

Αν και η παραπάνω συζήτηση έχει σχέση με τη σύγκλιση μιας ενιαίας σειράς σε μια οριακή τιμή, η έννοια της σύγκλισης των δύο σειρών της μιας να συγκλίνει στην άλλη είναι επίσης σημαντική, αλλά αυτό αντιμετωπίζεται εύκολα μελετώντας την αλληλουχία που ορίζεται είτε ως η διαφορά ή η αναλογία από τις δύο σειρές.

Για παράδειγμα, εάν ο μέσος όρος των n ανεξάρτητων τυχαίων μεταβλητών Y_i, i = 1, ..., n, όλα έχουν την ίδια πεπερασμένη Μέση τιμή και διακύμανση, δίνεται από

$X_{n}={\frac {1}{n}}\sum _{i=1}^{n}Y_{i}\,,$

τότε όπως το n τείνει στο άπειρο, Xn συγκλίνει σε πιθανότητα (βλέπε παρακάτω) με την κοινή μέση τιμή, μ, από τις τυχαίες μεταβλητές Yi. Αυτό το αποτέλεσμα είναι γνωστό ως το αδύναμο νόμο μεγάλων αριθμών. Άλλες μορφές σύγκλιση είναι σημαντικές σε άλλα χρήσιμα θεωρήματα, συμπεριλαμβανομένου του κεντρικού οριακού θεωρήματος

Καθ 'όλη την ακόλουθη, υποθέτουμε ότι (Xn) είναι μια ακολουθία τυχαίων μεταβλητών, και το Χ είναι μια τυχαία μεταβλητή, και όλα αυτά ορίζουν την ίδια χωρική πιθανότητα (Ω, F, P).

Σύγκλιση στον τομέα της κατανομής

Παραδείγματα σύγκλισης στον τομέα της κατανομής

Εργοστάσιο ζαριών
Ας υποθέσουμε ότι ένα νέο εργοστάσιο με ζάρια μόλις έχει κατασκευαστεί. Τα πρώτα ζάρια βγαίνουν αρκετά προκατειλημμένα, λόγω ατελειών στην παραγωγική διαδικασία. Το αποτέλεσμα από την ρίψη κάποιου από αυτά θα ακολουθήσει μια κατανομή αισθητά διαφορετική από την επιθυμητή Ομοιόμορφη κατανομή. Όπως το εργοστάσιο βελτιώνεται, τα ζάρια να γίνονται όλο και λιγότερο φορτωμένα, και τα αποτελέσματα από το ρίξιμο ενός καινούριου ζαριού παράγει μήτρα που θα ακολουθεί την ομοιόμορφη κατανομή όλο και πιο πολύ.
Ρίξιμο νομίσματος
Αφήνω Xn είναι το κλάσμα των κεφαλών που φέρνει το κέρμα πετώντας το, μέχρι μετά από αμερόληπτες n φορές. Τότε X1 έχει Κατανομή Μπερνούλλι με μέση τιμή μ = 0.5 και διακύμανση σ2 = 0.25. Οι επόμενες τυχαίες μεταβλητές X2, X3, ... όλες θα κατανεμηθούν με Διωνυμική. As nμεγαλώνει, αυτή η κατανομή θα αρχίσει σταδιακά να παίρνει την μορφή όλο και περισσότερο παρόμοια με τη Κανονική κατανομή της κανονικής κατανομής. Αν μετατοπίζονται και επανατοποθετούνται τα Xn κατάλληλα, τότε $\scriptstyle Z_{n}={\frac {\sqrt {n}}{\sigma }}(X_{n}-\mu )$ θα υπάρχει σύγκλιση στον τομέα της κατανομής με την τυπική κανονική κατανομή, το αποτέλεσμα που προκύπτει από το περίφημο κεντρικό οριακό θεώρημα.
Γραφικό Παράδειγμα
Υποθέτουμε ότι το {Xi} είναι ένα Ανεξάρτητο κατανεμημένο αλληλουχία της Ομοιόμορφη (συνεχής) κατανομής U(−1, 1) τυχαίων μεταβλητών. Ας $\scriptstyle Z_{n}={\scriptscriptstyle {\frac {1}{\sqrt {n}}}}\sum _{i=1}^{n}X_{i}$ να είναι (κανονικά) αθροίσματα. Τότε σύμφωνα με το κεντρικό οριακό θεώρημα, η κατανομή της Zn πλησιάζει αρκετά την κανονική N(0, 1/3) κατανομή. Η σύγκλιση αυτή φαίνεται στην εικόνα: όσο το n μεγαλώνει, το σχήμα της συνάρτησης pdf μοιάζει όλο και πιο πολύ την Gaussian καμπύλη.

Με αυτόν τον τρόπο σύγκλισης,αναμένουμε να δούμε το επόμενο αποτέλεσμα σε μια ακολουθία τυχαίων πειραμάτων να γίνονται όλο και καλύτερα μέχρι να μοντελοποιηθεί σε μια δεδομένη κατανομή πιθανότητας.

Η Σύγκλιση στον τομέα της διανομής είναι η πιο αδύναμη μορφή της σύγκλισης, δεδομένου ότι υπονοείται από όλους τους άλλους τύπους σύγκλισης που αναφέρονται σε αυτό το άρθρο. Ωστόσο, η σύγκλιση στον τομέα της διανομής δεν χρησιμοποιείται και πολύ συχνά στην πράξη; πιο συχνά προκύπτει από την εφαρμογή του κεντρικού οριακού θεωρήματος.

Ορισμός

Μια ακολουθία Χ1,Χ2, ... Τυχαίων μεταβλητών συγκλίνουν στη διανομή, ή συγκλίνουν ασθενώς, ή συγκλίνουν στη νομοθεσία σε μια τυχαία μεταβλητή Χ, εάν

$\lim _{n\to \infty }F_{n}(x)=F(x),$

• 

για κάθε αριθμό x ∈ R στην οποία η F είναι Συνεχής συνάρτηση. Εδώ Fn και F είναι η Συνάρτηση κατανομής των Τυχαίων μεταβλητών Xn και Χ, αντίστοιχα.

Η απαίτηση που πρέπει να εξεταστεί είναι μόνο τα σημεία που η F είναι απαραίτητα συνεχείς. Για παράδειγμα, αν Xn είναι κατανεμημένη ομοιόμορφα σε διάστημα (0, 1 / n ), Τότε αυτή η αλληλουχία συγκλίνει σε κατανομή με εκφυλισμένη τυχαία μεταβλητή Χ = 0. Πράγματι, Fn (x) = 0 για κάθε n όταν x ≤ 0, και Fn (x) = 1 για όλα τα x ≥ 1 / n   όταν n> 0. Ωστόσο, για αυτή την περιοριστική τυχαία μεταβλητή Ρ (0) = 1, αν και Fn (0) = 0 για κάθε n. Έτσι, η σύγκλιση των CDFS αποτυγχάνει στο σημείο x = 0 όπου F είναι ασυνεχής.

Σύγκλιση στον τομέα της κατανομής μπορεί να συμβολίζεται ως

${\begin{aligned}&X_{n}\ {\xrightarrow {d}}\ X,\ \ X_{n}\ {\xrightarrow {\mathcal {D}}}\ X,\ \ X_{n}\ {\xrightarrow {\mathcal {L}}}\ X,\ \ X_{n}\ {\xrightarrow {d}}\ {\mathcal {L}}_{X},\\&X_{n}\rightsquigarrow X,\ \ X_{n}\Rightarrow X,\ \ {\mathcal {L}}(X_{n})\to {\mathcal {L}}(X),\\\end{aligned}}$

Όπου $\scriptstyle {\mathcal {L}}_{X}$ είναι ο νόμος (κατανομή πιθανότητας) του X. Για παράδειγμα, εάν το Χ είναι τυπική κανονική που μπορούμε να γράψουμε $X_{n}\,{\xrightarrow {d}}\,{\mathcal {N}}(0,\,1)$. Για τυχαία διανύσματα {X₁, X₂, ...} ⊂ R^k η σύγκλιση στον τομέα της κατανομής ορίζεται με παρόμοιο τρόπο. Μπορούμε να πούμε ότι αυτή η ακολουθία 'συγκλίνει στην κατανομή του' σε μια τυχαία k-διάνυσμα X Εάν

$\lim _{n\to \infty }\operatorname {Pr} (X_{n}\in A)=\operatorname {Pr} (X\in A)$

για κάθε A ⊂ R^k το οποίο είναι ένα σύνολο συνέχειας της X. Ο ορισμός της σύγκλισης της κατανομής μπορεί να παραταθεί από τυχαία διανύσματα σε γενικότερα τυχαία στοιχεία σε αυθαίρετους μετρικούς χώρους, και ακόμη και στις «τυχαίες μεταβλητές" οι οποίες δεν είναι μετρήσιμες - μια κατάσταση η οποία συμβαίνει για παράδειγμα στη μελέτη εμπειρικών διαδικασιών. Αυτή είναι η "αδύναμη σύγκλιση των νόμων,που ορίζεται χωρίς νόμους." - Εκτός από ασυμπτωτικά [1]

Στην περίπτωση αυτή, ο όρος ασθενής σύγκλιση είναι προτιμότερος (βλ ασθενής σύγκλιση των μέτρων), και μπορούμε να πούμε ότι μια ακολουθία τυχαίων στοιχείων {Xn} συγκλίνει ασθενώς στο Χ (συμβολίζεται ως Xn ⇒ Χ) εάν

$\operatorname {E} ^{*}h(X_{n})\to \operatorname {E} \,h(X)$

για όλες τις συνεχείς οριοθετούνται λειτουργίες h. [2] Εδώ η E * δηλώνει την εξωτερική προσδοκία, αυτή είναι η προσδοκία μιας "μικρότερης μετρήσιμης συνάρτησης g που κυριαρχεί h(X_n)”.

Ιδιότητες

• Από F(α) = Pr (X ≤ α), η σύγκλιση στην κατανομή σημαίνει ότι η πιθανότητα για Xn να είναι σε ένα δεδομένο εύρος είναι περίπου ίση με την πιθανότητα ότι η τιμή του Χ είναι σε εκείνη την σειρά, με την προϋπόθεση ότι είναι αρκετά μεγάλο .
• Σε γενικές γραμμές, η σύγκλιση στον τομέα της κατανομής δεν συνεπάγεται ότι η ακολουθία των συναρτήσεων της πυκνότητας της αντίστοιχης πιθανότητας θα συγκλίνει επίσης. Ως παράδειγμα μπορεί κανείς να εξετάσει τυχαίες μεταβλητές με πυκνότητες f_n(x) = (1 − cos(2πnx))1_(0,1). Αυτές οι τυχαίες μεταβλητές συγκλίνουν σε ομοιόμορφη κατανομή U (0, 1), ενώ οι πυκνότητές τους δεν συγκλίνουν καθόλου. [3]
• Ωστόσο,από το λήμμα του Scheffé συνεπάγεται ότι η σύγκλιση των συναρτήσεων πυκνότητας πιθανότητας συνεπάγεται τη σύγκλιση στον τομέα της κατανομής. [4]
• To λήμμα βαλίτσας παρέχει αρκετούς ισοδύναμους ορισμούς της σύγκλισης στον τομέα της κατανομής. Παρά το γεγονός ότι αυτοί οι ορισμοί είναι λιγότερο διαισθητική, που χρησιμοποιούνται για να αποδείξουν μια σειρά από στατιστικά θεωρήματα. Το λήμμα αναφέρει ότι η {Xn} συγκλίνει στην κατανομή του X αν και μόνο αν κάποια από τις ακόλουθες δηλώσεις είναι αληθής: [παραπομπή που απαιτείται]
• Eƒ (Xn) → Eƒ (Χ) για όλους τους όρους, Συνεχείς συναρτήσεις ƒ (όπου E δηλώνει την αναμενόμενη τιμή).
• Eƒ (Xn) → Eƒ (Χ) για όλους τους όρους, Lipschitz συναρτήσεις της ƒ.
• limsup {Eƒ (Xn)} ≤ Eƒ (Χ) για κάθε ανώτερο πάνω όριο της ημι-συνεχής ƒ .
• liminf {Eƒ (Xn)} ≥ Eƒ (Χ) για κάθε κατώτερο κάτω όριο ημι-συνεχής συνάρτησης ƒ.
• limsup {Pr (Xn ∈ C)} ≤ Pr (X ∈ C) για όλα τα κλειστά σύνολα C.
• liminf {Pr (Xn ∈ U)} ≥ Pr (X ∈ U) για όλα τα ανοιχτά σύνολα U.
• lim {Pr (Xn ∈ A)} = Pr (X ∈ A) για όλες τις συνέχειες του συνόλου Α της τυχαίας μεταβλητής X.
• Το συνεχές θεώρημα χαρτογράφησης αναφέρει ότι, για μια συνεχή συνάρτηση g, εάν η αλληλουχία {Xn} συγκλίνει στην κατανομή του Χ, τότε {ζ (Xn)} συγκλίνει σε κατανομή του g (Χ).
• Σημειώστε ωστόσο ότι η σύγκλιση στον τομέα της κατανομής του {Xn} στο X και {Yn} στο Υ σε γενικές γραμμές δεν συνεπάγεται τη σύγκλιση στον τομέα της κατανομής του {Xn + Yn} με το Χ + Υ ή {XnYn} να XY.
• Θεώρημα συνέχειας του Levy: η αλληλουχία {Xn} συγκλίνει σε διανομή του Χ εάν και μόνο εάν η αλληλουχία των αντίστοιχων χαρακτηριστικών λειτουργιών {φn} συγκλίνει κατά σημείο στη χαρακτηριστική λειτουργία φ του X.
• Σύγκλιση στη κατανομή είναι μετρική από το Μετρική Lévy–Prokhorov
• Μια φυσική σύνδεση με τη σύγκλιση στον τομέα της κατανομής είναι το θεώρημα αναπαράστασης του Skorokhod.

Σύγκλιση στην πιθανότητα

Η βασική ιδέα πίσω από αυτό το είδος της σύγκλισης είναι ότι η πιθανότητα ενός "ασυνήθιστου" αποτελέσματος γίνεται μικρότερη και μικρότερη καθώς η ακολουθία εξελίσσεται.

Η έννοια της σύγκλισης στην πιθανότητα χρησιμοποιείται πολύ συχνά στις στατιστικές. Για παράδειγμα, ένας εκτιμητής καλείται συνεπής εάν συγκλίνει σε πιθανότητα στην ποσότητα που θα εκτιμηθεί. Σύγκλιση στην πιθανότητα είναι επίσης ο τύπος της σύγκλισης που συστάθηκε με τον αδύναμο νόμο των μεγάλων αριθμών.

Ορισμός

Μια ακολουθία {Xn} τυχαίων μεταβλητών συγκλίνει στην πιθανότητα προς την κατεύθυνση της τυχαίας μεταβλητής X, αν για όλους τους ε> 0

$\lim _{n\to \infty }\Pr {\big (}|X_{n}-X|\geq \varepsilon {\big )}=0.$

Επισήμως, διαλέξτε οποιαδήποτε ε> 0 και κάθε δ> 0. Ας είναι Pn η πιθανότητα ότι Xn είναι έξω από τη σφαίρα της ακτίνας ε με κέντρο το X. Τότε για Xn να συγκλίνει στην πιθανότητα X θα πρέπει να υπάρχει μια σειρά Ν (η οποία θα εξαρτηθεί σχετικά ε και δ) τέτοια ώστε για κάθε n ≥ n, Pn <δ.

Σύγκλιση στην πιθανότητα συμβολίζεται με την προσθήκη του γράμματος σ πάνω από ένα βέλος που δείχνει τη σύγκλιση, ή χρησιμοποιώντας το "Plim" φορέας εκμετάλλευσης όριο πιθανότητας:

$X_{n}\ {\xrightarrow {p}}\ X,\ \ X_{n}\ {\xrightarrow {P}}\ X,\ \ {\underset {n\to \infty }{\operatorname {plim} }}\,X_{n}=X.$

Για τυχαία στοιχεία {X_n} πάνω σε έναν διαχωρίσιμο μετρικό χώρο (S, d), σύγκλιση στην πιθανότητα ορίζεται ομοίως από

$\forall \varepsilon >0,\Pr {\big (}d(X_{n},X)\geq \varepsilon {\big )}\to 0.$

Ιδιότητες

• Η Σύγκλιση στην πιθανότητα προϋποθέτει τη σύγκλιση στον τομέα της κατανομής ^{[απόδειξη].}
• Στην αντίθετη κατεύθυνση, η σύγκλιση στον τομέα της κατανομής προϋποθέτει τη σύγκλιση στην πιθανότητα, όταν η περιοριστική τυχαία μεταβλητή Χ είναι μια σταθερά. ^{[απόδειξη]}
• Η Σύγκλιση πιθανότητας δεν συνεπάγει σίγουρη σύγκλιση ^{[απόδειξη].}
• Το θεώρημα της συνεχής χαρτογράφησης δηλώνει ότι, για κάθε συνεχής συνάρτηση g (·), εάν $\scriptstyle X_{n}{\xrightarrow {p}}X$, τότε ορίζεται επίσης  $\scriptstyle g(X_{n}){\xrightarrow {p}}g(X)$.
• Η Σύγκλιση στην πιθανότητα ορίζει μια τοπολογία στο χώρο των τυχαίων μεταβλητών πάνω από ένα σταθερό χώρο πιθανοτήτων. Αυτή η τοπολογία είναι μια Μετρική (μαθηματικά) από το Ky Fan μετρικό :

$d(X,Y)=\inf \!{\big \{}\varepsilon >0:\ \Pr {\big (}|X-Y|>\varepsilon {\big )}\leq \varepsilon {\big \}}$

or

$d(X,Y)=\mathbb {E} \left[\min(|X-Y|,1)\right]$.

Σχεδόν βέβαια σύγκλιση

Αυτό είναι το είδος της σύγκλισης στοχαστικών που είναι παρόμοιο με τη σύγκλιση κατά σημείο γνωστό από την Πραγματική ανάλυση.

Ορισμός

Το να πούμε ότι η ακολουθία Xn συγκλίνει σχεδόν σίγουρα ή σχεδόν παντού ή με πιθανότητα 1 ή έντονα προς την κατεύθυνση Χ σημαίνει ότι

$\operatorname {Pr} \!\left(\lim _{n\to \infty }\!X_{n}=X\right)=1.$

Αυτό σημαίνει ότι οι τιμές των X_n προσεγγίζουν την αξία της Χ , με την έννοια (βλέπε σχεδόν σίγουρα) ότι τα γεγονότα για τα οποία X_n δεν συγκλίνει σε Χ έχει πιθανότητα 0. Χρησιμοποιώντας το χώρο πιθανότητας $\scriptstyle (\Omega ,{\mathcal {F}},\operatorname {Pr} )$ και η έννοια της τυχαίας μεταβλητής ως συνάρτηση από Ω σε 'R' , αυτό είναι ισοδύναμο με τη δήλωση

$\operatorname {Pr} {\Big (}\omega \in \Omega :\lim _{n\to \infty }X_{n}(\omega )=X(\omega ){\Big )}=1.$

Χρησιμοποιώντας την έννοια του ορίου κατώτερα από μια ακολουθία συνόλων, σχεδόν σίγουρης σύγκλισης μπορεί επίσης να οριστεί ως εξής:

$\operatorname {Pr} {\Big (}\liminf _{n\to \infty }{\big \{}\omega \in \Omega :|X_{n}(\omega )-X(\omega )|<\varepsilon {\big \}}{\Big )}=1\quad {\text{for all}}\quad \varepsilon >0.$

Σχεδόν σίγουρα η σύγκλιση συχνά συμβολίζεται με την προσθήκη των γράμματων a.s. (κατά νόμο"σημασία") πάνω από ένα βέλος που δείχνει τη σύγκλιση:

$X_{n}\,{\xrightarrow {\mathrm {a.s.} }}\,X.$

Για γενικές s [] [τυχαίο στοιχείο] { Χ _n } σε ένα μετρικό χώρο ( S , δ ), η σύγκλιση σχεδόν σίγουρα είναι ορίζεται παρόμοια:

$\operatorname {Pr} {\Big (}\omega \in \Omega :\,d{\big (}X_{n}(\omega ),X(\omega ){\big )}\,{\underset {n\to \infty }{\longrightarrow }}\,0{\Big )}=1$

Ιδιότητες

Σχεδόν βέβαιη σύγκλιση προϋποθέτει τη σύγκλιση στην πιθανότητα (από το λήμμα του Fatou), και ως εκ τούτου συνεπάγεται τη σύγκλιση στον τομέα της διανομής. Είναι η έννοια της σύγκλισης που χρησιμοποιείται στον ισχυρό νόμο των μεγάλων αριθμών. Σχεδόν βέβαιη είναι η έννοια,ότι η σύγκλιση δεν προέρχεται από μια τοπολογία στο χώρο των τυχαίων μεταβλητών. Αυτό σημαίνει ότι δεν υπάρχει τοπολογία στο χώρο των τυχαίων μεταβλητών, έτσι ώστε οι σχεδόν σίγουρες συγκλίνουσες αλληλουχίες είναι ακριβώς οι συγκλίνουσες αλληλουχίες με την εν λόγω τοπολογία. Ειδικότερα,σχεδόν σίγουρα δεν υπάρχει μετρικός χώρος σύγκλισης.

Βέβαιη σύγκλιση

Το να πούμε ότι η ακολουθία των τυχαίων μεταβλητών (Xn) ορίζεται πάνω από το χώρο ίδιας πιθανότητας (δηλαδή, μια τυχαία διαδικασία) συγκλίνει σίγουρα ή παντού ή κατά σημείο προς τα μέσα X σημαίνει

$\lim _{n\to \infty }X_{n}(\omega )=X(\omega ),\,\,\forall \omega \in \Omega .$

όπου Ω είναι ο χώρος δείγματος του υποκείμενου χώρου πιθανότητας κατά την οποία ορίζονται οι τυχαίες μεταβλητές.

Αυτή η έννοιά της κατά σημείο σύγκλισης των λειτουργιών αλληλουχίας επεκτάθηκε σε ακολουθία τυχαίων μεταβλητών. (Σημειώστε ότι οι ίδιοι οι τυχαίες μεταβλητές είναι λειτουργίες).

${\big \{}\omega \in \Omega \,|\,\lim _{n\to \infty }X_{n}(\omega )=X(\omega ){\big \}}=\Omega .$

Σίγουρη σύγκλιση μιας τυχαίας μεταβλητής υποδηλώνει ότι όλα τα άλλα είδη σύγκλισης που προαναφέρθηκαν, αλλά δεν υπάρχει καμία πληρωμή σε θεωρία πιθανοτήτων χρησιμοποιώντας σίγουρη σύγκλιση σύγκριση με τη χρήση σχεδόν σίγουρης σύγκλισης. Η διαφορά μεταξύ των δύο υπάρχει μόνο στο σετ με πιθανότητα μηδέν. Αυτός είναι ο λόγος που η έννοια της σίγουρης σύγκλισης τυχαίων μεταβλητών χρησιμοποιείται πολύ σπάνια.

Σύγκλιση στην μέση

Λαμβάνοντας υπόψη ένα πραγματικό αριθμό r ≥ 1, λέμε ότι η ακολουθία Xn συγκλίνει στην r-ου μέση (ή στο LR-νόρμα) προς την κατεύθυνση της τυχαίας μεταβλητής X, αν το r-ου απόλυτες τιμές E (| Xn | r) και E (| X | r) της Xn και Χ υπάρχουν, και

$\lim _{n\to \infty }\operatorname {E} \left(|X_{n}-X|^{r}\right)=0,$

όπου ο χειριστής Ε δηλώνει την αναμενόμενη τιμή. Σύγκλιση στην r-ου μέση μας λέει ότι η προσδοκία της r-οοστής δύναμης της διαφοράς μεταξύ Xn και Χ συγκλίνει στο μηδέν.

Αυτό το είδος της σύγκλισης συχνά συμβολίζεται με την προσθήκη του γράμματος Lr πάνω από ένα βέλος που δείχνει τη σύγκλιση:

$X_{n}\,{\xrightarrow {L^{r}}}\,X.$

Οι πιο σημαντικές υποθέσεις της σύγκλισης στην r-οτι μέση είναι οι εξής:

Όταν Xn συγκλίνει στην r-ου σημαίνει για το Χ για r = 1, μπορούμε να πούμε ότι Xn συγκλίνει στη μέση για να X. Όταν Xn συγκλίνει στην r-ου σημαίνει για το Χ για r = 2, μπορούμε να πούμε ότι Xn συγκλίνει στο μέσο τετράγωνο με Χ Σύγκλιση στην r-ου μέση, για r ≥ 1, προϋποθέτει τη σύγκλιση στην πιθανότητα (από την ανισότητα του Markov). Επιπλέον, εάν r> s ≥ 1, η σύγκλιση στην r-ου μέση συνεπάγεται σύγκλιση σε s-ου μέση. Ως εκ τούτου, η σύγκλιση στο μέσο τετραγωνικό προϋποθέτει τη σύγκλιση στη μέση.

Αξίζει επίσης να σημειωθεί ότι αν $X_{n}{\xrightarrow {L^{r}}}X$, τότε

$\lim _{n\to \infty }E[|X_{n}|^{r}]=E[|X|^{r}]$

Ιδιότητες

Παρέχει πιθανότητα ο χώρος να είναι πλήρης:

• Αν $X_{n}\ {\xrightarrow {p}}\ X$ και $X_{n}\ {\xrightarrow {p}}\ Y$, τότε $X=Y$ σχεδόν σίγουρα.
• Αν $X_{n}\ {\xrightarrow {a.s.}}\ X$ και $X_{n}\ {\xrightarrow {a.s.}}\ Y$, τότε $X=Y$ σχεδόν σίγουρα.
• Αν $X_{n}\ {\xrightarrow {L^{r}}}\ X$ και $X_{n}\ {\xrightarrow {L^{r}}}\ Y$, τότε $X=Y$ σχεδόν σίγουρα.
• Αν $X_{n}\ {\xrightarrow {p}}\ X$ και $Y_{n}\ {\xrightarrow {p}}\ Y$, τότε $aX_{n}+bY_{n}\ {\xrightarrow {p}}\ aX+bY$ (for any real numbers $a$ and $b$) και $X_{n}Y_{n}{\xrightarrow {p}}\ XY$.
• Αν $X_{n}\ {\xrightarrow {a.s.}}\ X$ και $Y_{n}\ {\xrightarrow {a.s.}}\ Y$,τότε $aX_{n}+bY_{n}\ {\xrightarrow {a.s.}}\ aX+bY$ (για κάθε πραγματικό αριθμό $a$ και $b$) και $X_{n}Y_{n}{\xrightarrow {a.s.}}\ XY$.
• Αν $X_{n}\ {\xrightarrow {L^{r}}}\ X$ και $Y_{n}\ {\xrightarrow {L^{r}}}\ Y$, τότε $aX_{n}+bY_{n}\ {\xrightarrow {L^{r}}}\ aX+bY$ (για κάθε πραγματικό αριθμό $a$ και $b$).
• Καμία από τις παραπάνω δηλώσεις δεν είναι αληθινές για τη σύγκλιση στον τομέα της διανομής.

Η αλυσίδα των επιπτώσεων μεταξύ των διαφόρων εννοιών της σύγκλισης σημειώνονται στα αντίστοιχα τμήματα. Είναι, χρησιμοποιώντας το συμβολισμό βέλος:

${\begin{matrix}{\xrightarrow {L^{s}}}&{\underset {s>r\geq 1}{\Rightarrow }}&{\xrightarrow {L^{r}}}&&\\&&\Downarrow &&\\{\xrightarrow {a.s.}}&\Rightarrow &{\xrightarrow {\ p\ }}&\Rightarrow &{\xrightarrow {\ d\ }}\end{matrix}}$

Αυτές οι ιδιότητες, μαζί με μια σειρά από άλλες ειδικές περιπτώσεις, συνοψίζονται στον ακόλουθο πίνακα:

• Σχεδόν βέβαιος σύγκλιση προϋποθέτει τη σύγκλιση στην πιθανότητα:^{[Απόδειξη]}

$X_{n}\ {\xrightarrow {a.s.}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {p}}\ X$

• Σύγκλιση στην πιθανότητα συνεπάγεται υπάρχει υπακολουθία $(k_{n})$ η οποία σχεδόν σίγουρα συγκλίνει:

$X_{n}\ {\xrightarrow {p}}\ X\quad \Rightarrow \quad X_{k_{n}}\ {\xrightarrow {a.s.}}\ X$

• Σύγκλιση στην πιθανότητα προϋποθέτει τη σύγκλιση στον τομέα της διανομής:^{[Απόδειξη]}

$X_{n}\ {\xrightarrow {p}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {d}}\ X$

• σύγκλιση στην r- στη μέση ώστε να συνεπάγεται σύγκλιση στην πιθανότητα:

$X_{n}\ {\xrightarrow {L^{r}}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {p}}\ X$

• σύγκλιση στην r- στη μέση ώστε να συνεπάγεται σύγκλιση στην κάτω σειρά σημαίνει, με την προϋπόθεση ότι και οι δύο παραγγελίες είναι μεγαλύτερη ή ίση με το ένα:

$X_{n}\ {\xrightarrow {L^{r}}}\ X\quad \Rightarrow \quad X_{n}\ {\xrightarrow {L^{s}}}\ X,$ παρέχεται r ≥ s ≥ 1.

• Εάν X_n συγκλίνει σε διανομή σε μια σταθερά c, τότε X_n συγκλίνει στην πιθανότητα να c:^{[Απόδειξη]}

$X_{n}\ {\xrightarrow {d}}\ c\quad \Rightarrow \quad X_{n}\ {\xrightarrow {p}}\ c,$ υπό την προϋπόθεση c είναι μια σταθερά.

• Εάν X_n συγκλίνει στην κατανομή σεX και η διαφορά μεταξύ X_n και Y_n συγκλίνει σε πιθανότητα στο μηδέν, τότε Y_n συγκλίνει και στην διανομή σε X:^{[Απόδειξη]}

$X_{n}\ {\xrightarrow {d}}\ X,\ \ |X_{n}-Y_{n}|\ {\xrightarrow {p}}\ 0\ \quad \Rightarrow \quad Y_{n}\ {\xrightarrow {d}}\ X$

• Αν X_n συγκλίνει στην κατανομή σε X and Y_n συγκλίνει σε διανομή σε μια σταθερή c, τότε το κοινό διάνυσμα (X_n, Y_n) συγκλίνει στην κατανομή σε (X, c):^{[Απόδειξη]}

$X_{n}\ {\xrightarrow {d}}\ X,\ \ Y_{n}\ {\xrightarrow {d}}\ c\ \quad \Rightarrow \quad (X_{n},Y_{n})\ {\xrightarrow {d}}\ (X,c)$ υπό την προϋπόθεση c είναι μία σταθερά.

Σημειώστε ότι η κατάσταση που Y_n συγκλίνει σε μια σταθερά είναι σημαντική, εάν επρόκειτο να συγκλίνουν σε μια τυχαία μεταβλητή Y τότε δεν θα είμαστε σε θέση να συμπεράνουμε ότι (X_n, Y_n) συγκλίνει στο (X, Y).

• Εάν X_n συγκλίνει στην πιθανότητα X και αν Y_n συγκλίνει στην πιθανότηταY, τότε το κοινό διάνυσμα (X_n, Y_n) συγκλίνει στην πιθανότητα (X, Y):^{Απόδειξη}

$X_{n}\ {\xrightarrow {p}}\ X,\ \ Y_{n}\ {\xrightarrow {p}}\ Y\ \quad \Rightarrow \quad (X_{n},Y_{n})\ {\xrightarrow {p}}\ (X,Y)$

• Εάν Xn συγκλίνει στην πιθανότητα Χ, και αν P (| Xn | ≤ b) = 1 για όλα τα n και κάποια b, τότε Xn συγκλίνει κατά rth σημαίνει για το Χ για όλα τα r ≥ 1. Με άλλα λόγια, αν Xn συγκλίνει στην πιθανότητα Χ και όλες οι τυχαίες μεταβλητές Xn σχεδόν σίγουρα οριοθετούνται πάνω και κάτω και στη συνέχεια,σημαίνει ότι η Xn συγκλίνει προς το Χ και σε κάθε rth.
• Σχεδόν βέβαιη εκπροσώπηση. Συνήθως, η σύγκλιση στον τομέα της διανομής δεν συνεπάγεται στην σχεδόν σίγουρη σύγκλιση. Ωστόσο, για μια δεδομένη ακολουθία {Xn} που συγκλίνει στην κατανομή για το x0 είναι πάντοτε δυνατό να βρεθεί ένας νέος χώρος πιθανότητας (Ω, F, P) και τυχαίας μεταβλητής {Yn, n = 0, 1, ...} ορίζεται σε αυτό έτσι ώστε Yn να είναι ίση με τη διανομή του Xn για κάθε n ≥ 0, και Υη συγκλίνει προς Y0 σχεδόν σίγουρα. [9]
• Εάν για όλα τα ε> 0,

$\sum _{n}\mathbb {P} \left(|X_{n}-X|>\varepsilon \right)<\infty ,$

τότε μπορούμε να πούμε ότι η Xn συγκλίνει σχεδόν εντελώς, ή σχεδόν στην πιθανότητα προς την κατεύθυνση X. Όταν Xn συγκλίνει πλήρως προς το Χ τότε συγκλίνει και σχεδόν σίγουρα στο X. Με άλλα λόγια, αν Xn συγκλίνει στην πιθανότητα X αρκετά γρήγορα (δηλαδή την παραπάνω ακολουθία των πιθανοτήτων ουράς είναι summable για όλα τα ε> 0), τότε Xn συγκλίνει επίσης στο X. Αυτή είναι μια άμεση επίπτωση από την Borel–Cantelli lemma λήμμα.

• Εάν Sn είναι ένα άθροισμα των ν πραγματικά ανεξάρτητων τυχαίων μεταβλητών:

$S_{n}=X_{1}+\cdots +X_{n}\,$

τότε S_n συγκλίνει σχεδόν σίγουρα αν και μόνο αν S_n συγκλίνει στην πιθανότητα.

• Το κυρίαρχο θεώρημα σύγκλισης δίνει επαρκείς συνθήκες για σχεδόν σίγουρη σύγκλιση να υπονοήσει L¹-σύγκλιση:

$\left.{\begin{matrix}X_{n}{\xrightarrow {a.s.}}X\\|X_{n}|<Y\\\mathrm {E} (Y)<\infty \end{matrix}}\right\}\quad \Rightarrow \quad X_{n}{\xrightarrow {L^{1}}}X$

• Μια αναγκαία και ικανή συνθήκη για L¹ σύγκλισης είναι η $X_{n}{\xrightarrow {P}}X$ and the sequence (X_n) είναι Ομοιόμορφα ολοκληρώσιμη.

Δείτε επίσης

Αποδείξεις σύγκλισης τυχαίων μεταβλητών Σύγκλιση των μέτρων Συνεχής στοχαστικής διαδικασίας: το ζήτημα της συνέχειας μιας στοχαστικής διαδικασίας είναι ουσιαστικά ένα θέμα της σύγκλισης, και πολλές από τις ίδιες έννοιες και τις σχέσεις που χρησιμοποιούνται παραπάνω ισχύει για το ζήτημα της συνέχειας. ασυμπτωτική κατανομή Big Ο στην πιθανότητα σημειογραφία θεώρημα αναπαράστασης Skorokhod του Το θεώρημα σύγκλισης Tweedie

Σημειώσεις

Άλμα πάνω ^ Bickel et al. 1998, Α.8, σελίδα 475 Άλμα πάνω ^ van der Vaart & Wellner 1996, σ. 4 Άλμα πάνω ^ Romano & Siegel 1985, Παράδειγμα 5.26 Άλμα πάνω ^ Koro. «Θεώρημα Scheffé του". Αρχειοθετούνται από το πρωτότυπο στις 15 Σεπτεμβρίου, 2015. Ανακτήθηκε 1 Φεβρουαρίου του 2013. Άλμα πάνω ^ Dudley 2002, Κεφάλαιο 9.2, σελίδα 287 Άλμα πάνω ^ Dudley 2002, σ. 289 ^ Μετάβαση μέχρι: α β γ δ ε στ van der Vaart 1998, Θεώρημα 2.7 Άλμα πάνω ^ Gut, Allan (2005). Πιθανότητα: Ένα μεταπτυχιακό μάθημα. Θεώρημα 3.4: Springer. ISBN 0-387-22833-0. Άλμα πάνω ^ van der Vaart 1998, Th.2.19

Αναφορές

Bickel, Peter J .; Klaassen, Chris Α.Ι .; Ritov, Ya'acov? Wellner, Jon A. (1998). Αποτελεσματική και προσαρμοστική εκτίμηση για Ημιπαραμετρικά μοντέλα. Νέα Υόρκη: Springer-Verlag. ISBN 0-387-98473-9. Billingsley, Patrick (1986). Πιθανότητες και Μέτρο. Wiley Series σε Πιθανότητες και Μαθηματική Στατιστική (2η έκδ.). Wiley. Billingsley, Patrick (1999). Σύγκλιση των μέτρων πιθανότητας (2η έκδ.). John Wiley & Sons. σελ. 1-28. ISBN 0-471-19745-9. Dudley, Κ.Μ. (2002). Πραγματική ανάλυση και την πιθανότητα. Cambridge, UK: Cambridge University Press. ISBN 0-521-80972-X. Grimmett, G.R .; Stirzaker, D.R. (1992). Πιθανότητες και τυχαίες διαδικασίες (2η έκδ.). Clarendon Press, Oxford. σελ. 271 - 285. ISBN 0-19-853665-8. Jacobsen, Μ (1992). Videregående Sandsynlighedsregning (Advanced Θεωρία Πιθανοτήτων) (3η έκδ.). HCO-τρυκ, Κοπεγχάγη. σελ. 18-20. ISBN 87-91180-71-6. Ledoux, Michel? Talagrand, Michel (1991). Πιθανότητα σε χώρους Banach. Βερολίνο: Springer-Verlag. σελ. xii + 480. ISBN 3-540-52013-9. MR 1.102.015. Romano, Τζόζεφ Ρ .; Siegel, Andrew F. (1985). Αντιπαραδείγματα στην πιθανότητα και στατιστικά στοιχεία. Μεγάλη Βρετανία: Chapman & Hall. ISBN 0-412-98901-8. van der Vaart, Aad W .; Wellner, Jon A. (1996). Ασθενής σύγκλισης και εμπειρικές μεθόδους. Νέα Υόρκη: Springer-Verlag. ISBN 0-387-94640-3. van der Vaart, Aad W. (1998). Ασυμπτωτική στατιστικά στοιχεία. Νέα Υόρκη: Cambridge University Press. ISBN 978-0-521-49603-2. Williams, D. (1991). Πιθανότητα με Martingales. Cambridge University Press. ISBN 0-521-40605-6. Wong, Ε .; Hájek, Β (1985). Στοχαστικές Διεργασίες στη Μηχανική Συστημάτων. Νέα Υόρκη: Springer-Verlag. Αυτό το άρθρο ενσωματώνει το υλικό από το άρθρο Citizendium "Στοχαστικές σύγκλισης», η οποία διανέμεται υπό την άδεια Creative Commons Attribution-ShareAlike 3.0 Unported License, αλλά όχι υπό την GFDL.