Stochastische Methoden

• Titel: Stochastische Methoden
• Organisation: UNI KL
• Seitenzahl: 187

Skript herunterladen (PDF)

Inhalt

• o a Peter Mrters Heinrich v Weizscker
• Universitt Kaiserslautern a Fachbereich Mathematik Auage Wintersemester
• Gesetz der großen
• Vorwort zur Auage
• Ein einfuhrendes Beispiel
• A i j fr A A u
• Denition eines Wahrscheinlichkeitsraums
• Ai lim P Ai
• Denition einer Zufallsvariable
• PierreSimon Marquis de Laplace
• n W W n
• pj pnj fr A n u
• q i p fr A A u
• wi sni n i n i s wn
• f x dx wobei f x F x
• F y dy F x F F x
• u expx dx fr alle A B
• lim F x und
• lim P x xn P
• lim F xn lim P xn P
• Also ist F die Verteilungsfunktion von P
• w k s nk sw n
• n k p pnk k
• wi p w i si
• Dabei seien ai R und Ai A mit
• Kapitel Bedingte Wahrscheinlichkeiten und stochastische Unabhngigkeit a
• Denitionen Folgerungen und Beispiele
• Reverend Thomas Bayes
• P Ai so ist P A
• P Ai P A
• Francesco Paolo Cantelli
• a Unabhngigkeit und Produktexperimente
• i ai bi A
• Pi Ai fr alle Mengen Ai Ai u
• ii A jj B ii A
• P i Ai fr alle Borelmengen Ai R u
• Mehr uber Verteilungen mit Dichten
• gy dy P A QA
• die so genannte Produktdichte
• f xQB x dx P QB
• f xgz x dx dz
• und fr y u y
• SimonDenis Poisson Sch ler von Laplace e u
• a Man nennt die Funktion
• Erwartungswerte Denition und Eigenschaften
• P xi xi
• n k p pnk k np k k
• pk pnk np
• yj P Y yj yj
• P xi Y yj
• xi yj P xi Y yj zm
• zm P Y zm E Y
• Beweis Es gilt E
• P n t dt lim
• lim P n t dt
• P t dt E
• t P dt a a
• P s ds a E
• Varianzen und die Cebyvsche Ungleichung se
• xa dx a a a a
• Pafnutij Lvovi Cebyv c se
• Nochmal Verteilungen mit Dichte
• x f x dx und E
• Also ist Var
• Erwartungswert Kovarianz und Unabhngigkeit a
• zm P Y zm E n Yn
• Das schwache Gesetz der großen Zahlen
• M fr n u n
• Bienaym IrneJules e e e
• wenn i wenn i
• Kapitel Statistische Grundbegrie
• n Lx nx n x
• n n f x xn
• n n log f x xn
• Die MLEigenschaft des Mittelwerts liefert mit Dierenzieren
• Carl Friedrich Gauß
• n E i E E E n n
• Testen von Hypothesen
• Die folgenden Beobachtungen folgen direkt aus der Denition
• Das Lemma von NeymanPearson und monotone LikelihoodQuotienten
• Jerzy Neyman und Egon Pearson
• Man uberzeuge sich selbst davon
• Kapitel Der zentrale Grenzwertsatz und die Normalverteilung
• Binomial und Poissonapproximation
• lim P i A P Y A
• lim P n A P Y A
• Der zentrale Grenzwertsatz
• Sn ESn in und Sn Var Sn
• u Konvergiert dann fr n n
• Var in gelten
• n n die standardisierte Summe der n
• in EYin pn p qn pn qn n
• lim P Sn a b n
• Johan Ludwig Jensen
• Durch partielle Integration folgt x e
• Konvergenz von Verteilungen
• falls x falls x
• Der Satz von de MoivreLaplace
• n k nk p q k
• Abraham de Moivre
• Sn ESn a b b a Var Sn
• Der Beweis des zentralen Grenzwertsatzes
• E n f Rn vn Ef Rn
• Mit unserem Lemma folgt dann
• E f Sn f Tn
• n j C n s n
• Genauso zeigt man
• b a k n
• P Sn a b b a k n
• P Sn a b b a
• i k q n k
• Existenz von unabhngigen Folgen von Zufallsa variablen
• Konvergenz von Zufallsvariablen
• Also gilt durch Betrachtung des Komplementes P
• i fr ein i n u
• P i fr unendlich viele i u
• lim P n k
• Das starke Gesetz der großen Zahlen
• der Mittelwerte fast sicher gegen die konstante Zufallsvariable
• i fast sicher
•  streben Nach dem Satz von Bienaym e
• Also konvergiert die Reihe
• Konvergenz von Reihen von Zufallsvariablen
• E N k Sk Sn Sk
• VarSn E Sn E Sn n
• P P was zu beweisen war
• M a jn j
• M a jn j a folgt daß j
• P lim sup Sn P
• lim P sup Sk
• Damit folgt schließlich
• lim sup Sn k
• Die eindimensionale symmetrische Irrfahrt
• P Sn j P Yn j n
• P S Sn
• dx n k x n
• lim sup n nj n jk
• P Sj lim inf n n
• b Berechne auf dieser Grundlage nherungsweise a
• weder in Wahrscheinlichkeit noch fast sicher
• fr alle u
• Ernesto Cesro a
• A x xn f x xn dx dxn
• f x xn dx dxn
• Ai nach dem
• f x xn dx dxi dxi dxn
• n fast berall u
• f x x dx dx
• Transformationssatz fur Dichten
• und andererseits mit der Integraltransformationsformel f x dx
• f g y det Dg y dy
• GaußVektoren und tVerteilung
• f x xn
• Pn x x i i ne ne
• aij akj Cov
• akj Zj Cov i k ik
• n i n
• Dann sind die i unabhngig N verteilt a
• n i i n i i
• b Mit Aufgabe a folgere die Gleichung
• William Sealy Gosset
• s tn n n
• s i k tn n k
• Kapitel Ein mehrdimensionaler Zentraler Grenzwertsatz
• Verteilungskonvergenz in metrischen Rumen a
• zi Pn Bzi Pn Bzi n
• n m i ai bi
• ai bi Stetigkeitsstellen von F m N
• Fn bi Fn ai P U
• x h ei yd h
• x y K y dy
• Km das heißt
• Nach dem Transformationssatz
• k pk n p pk
• k n pk n n pk
• trix Q so dass QW CQW
• wobei C Cov W
• Nun zurck zum u
• wie im vorangegangenen Lemma W n
• Damit gilt dann
• i np nl npl n n
• und U W n
• fr alle k und es ergibt u
• wobei LY ld
• kath evang sonst keine
• Kapitel Ergnzungen zur a Verteilungskonvergenz
• Konvergenz der Quantile bei Verteilungskonvergenz
• Zn Fn sowie Z F
• Der Satz von GlivenkoCantelli
• Kapitel Der Poissonprozeß
• Konstruktion eines PoissonProzesses
• P NI k NIm km
• P A P N r P eS
• Wartezeiten und Stoppzeiten
• Damit folgt unter Beachtung von Schritt
• T P A Nb k i i
• P T ih A P
• T ih A P A
• Dies beendet den Beweis
• Kapitel Charakteristische Funktionen
• Eigenschaften und Lvys Stetigkeitssatz e
• Also gilt E ei Yt
• d i xt e P dx dt
• pk pnk Dann ist
• x t ei xt e dx e
• dP y ei xt e
• fr alle beschrnkten messbaren Funktionen u a
• Paul Lvy e Henry Sche e
• cos x t dPn x i
• sin x t dPn x
• dP dL dL
• dP Aus Satz ergibt sich die
• Diskrete charakteristische Funktionen FFT
• k pk fr k n und u
• i kk e n n
• n i kt pk k e
• l n i n kk l e
• l ist damit P n
• Fn pk kn Aus der Inver
• tierbarkeit von Fn folgt die behauptete Eindeutigkeit
• s kl zl s kl zl
• s k s l zl sk s
• p q Fn Fn pFn q
• Alternativer Beweis des Zentralen Grenzwertsatzes
• wenn Pn die Verteilung von
• i ist und P die StandardNormalverteilung
• Aus Lemma folgt P
• P s Damit gilt aber Pn t P
• t i t P i n
• Kapitel Einige Begrie aus der Informationstheorie
• Entropie und relative Entropie endlicher stochastischer Experimente
• Dies ergibt sich aus folgender Rechnung
• wij log wij pi qij log pi qij
• pi pi log Dp q qi qi
• f x log f x dx
• Codierung und Datenkompression
• pi logli Dp q
• pi log pi Hp
• Dies beweist die zweite Ungleichung
• Das erste Codierungstheorem von Shannon
• Optimale Codes nach Human
• Empirische Verteilungen und Entropie
• nx ln px n
• und fr jedes p WA u
• Ludwig Boltzmann Ivan Nikolaevi Sanov c
• inf Dq p lim

Vorschau