Statistik I

Vorwort:

Dies ist eine Zusammenfassung der Statistik II Vorlesung, die im Wintersemester 1994495 von Prof. Dr. Kuno Egle gehalten wurde. Sie erhebt weder Anspruch auf Richtigkeit noch Anspruch auf Vollst andigkeit. Da sie mir trotzdem bei der Klausurvorbereitung bisher eine gute Hilfe war, ein zumindest strukturiertes Nachschlagewerk ist und ich nicht zuletzt eine Menge Zeit darin investiert habe, habe ich mich dazu entschloen, sie jedem Interessenten uber die rzstud zu Verf ugung zu stellen. Sie liegt in dem ooentlichen Verzeichnis ^~ul544pubb als Postscript-File ab. Von hier aus kann sie sich jeder in ein eigenes Verzeichnis kopieren und von dort aus ausdrucken 'cp ^{~ul544pubbstatistik.ps.gz .'} danach 'lp statistik.ps.gz'.

Uber Erg anzungsvorschl age und Fehlerkorrekturen freue ich mich. Sie k onnen mir per e-mail an ThomasBolz@stud.rz.uni-karlsruhe.de gesendet werden. Karlsruhe, am 14.Februar 1995, Thomas Bolz

INHALTSVERZEICHNIS i

  Inhaltsverzeichnis  

1  Grundbegriie  1

1.1  Wahrscheinlichkeitsraum  1

1.1.1  Wahrscheinlichkeitsma  1

1.1.2  Sprechweisen  1

1.1.3  Dirac-Ma  1

1.1.4  Laplace scher Wahrscheinlichkeitsraum  1

1.1.5  Poissonverteilung  1

1.1.6  Geometrische Verteilung  2

1.1.7  Kont Wahrscheinlichkeitsma e auf IR  2

1.1.8  Gleichverteilung  2

1.1.9  Exponentialverteilung  3

1.1.10  Standardnormalverteilung N0 1  3

1.1.11  Normalverteilung N 2  3

1.1.12  Dreieckverteilung  3

1.2  Unterraum  3

1.2.1  Spur Algebra  3

1.2.2  Bedingte Wahrscheinlichkeiten  3

1.2.3  Satz von der totalen Wahrscheinlichkeit  4

1.2.4  Satz von Baye s  4

1.3  Produktraum  4

1.3.1  Produkt Algebren  4

1.3.2  Produktwahrscheinlichke i t  4

1.3.3  Diskrete Produktmae  4

1.3.4  Produkt kont Wahrscheinlichkeitsmae auf IR IR  4

1.4  Bildraum  5

1.4.1  Bild Algebra  5

1.4.2  Bildwahrscheinlichke i t  5

1.4.3  Binomialverteilung  5

1.4.4  Transformation kont Verteilungen auf IR  6

1.5  Das Stichprobenmodell unabh angiger Ziehungen  6

1.5.1  Stichprobenmodell  6

2  Lage und Formparameter  6

2.1  Diskrete Verteilungen auf IR bzw IR n  6

2.1.1  Arithmetisches Mittel Mittelwert Erwartungswert  6

2.1.2  Quartile der Ordnung  7

2.1.3  Modus Modalwe r t  7

2.1.4  Varianz: 2 VarP und Standardabweichung  7

2.1.5  Allgemeine Momente zentrale Moment e  7

2.1.6  Klassische Beispiele diskreter parametrischer Verteilungen  7

2.2  Kontinuierliche Verteilungen  8

2.2.1  Arithmetische Mittel Erwartungswert  8

2.2.2  Quantile der Ordnung  8

2.2.3  Modus Modalwert x x mod  8

2.2.4  Varianz: 2 VarP und Standardabweichung  8

  ii INHALTSVERZEICHNIS  

2.2.5  Momente zentrale Momente  8

2.2.6  Klassische Beispiele kont param Verteilungen  9

2.2.7  Mittelwerte und Varianzen von Verteilungen auf IR IR  9

3  Korrelation Faltung zentraler Grenzwertsatz  10

3.1  L  2

  IR P  10

3.1.1  Deenitionen  10

3.1.2  Satz von Pythagoras  10

3.1.3  Satz von Bienaim e  10

  3 1  4

  Ubertragung auf 2 dimensionale Zufallsvariablen  10

3.1.5  Ungleichung von Tschebysch e  10

3.2  Faltung  10

3.2.1  Deenitionen  11

3.2.2  Anwendung  11

3.3  Folgen von Verteilungen zentraler Grenzwertsatz  11

3.3.1  Deenitionen  11

3.3.2  Verteilung des Mittelwertes x aus Transformationen  11

3.3.3  Starkes Gesetz groer Zahlen  12

3.3.4  Zentraler Grenzwertsatz  12

3.3.5  Anwendung  12

4  Elemente der parametrischen Sch atz und Testtheorie  12

4.1  Parametrische statistische Strukturen  12

4.1.1  Parametrische Verteilungsklassen  12

4.2  Statistike n  13

4.2.1  Deenitionen  13

4.2.2  Vollst andigkeit  13

4.2.3  Suuzienz  13

4.2.4  Faktorisierungstheorem von Finster-Neymann  14

4.3  Sch atztheorie Punktsch atzung  14

4.3.1  Deenition: Sch atzer  14

4.3.2  Satz von Lehman Schii e UMVU-Sch atzer  14

4.3.3  Mittlerer quadratischer Fehler MQF  14

4.3.4  Risiko  14

4.3.5  Wichtigste Konstruktionsmethoden  15

4.4  Bereichssch atzung  15

4.4.1  Bereichssch atzer  15

4.5  Testtheorie  15

4.5.1  Optimalit atseigenschaften  15

4.5.2  G utefunktion  16

4.5.3  Deenition von gleichm aig besser  16

1 Elementare Wahrscheinlichkeitstheorie

1 Grundbegriie

=Grundgesamtheit Menge aller Ereignisse, die auftreten k onnen A = -Algebra d.h. alle interessierenden Ereignisse P Wahrscheinlichkeitsma

1.1 Wahrscheinlichkeitsraum

1.1.1 Wahrscheinlichkeitsma

P: A ! 0; 11 heit Wahrscheinlichkeitsma , 1 P=1

2 PA ^c =1-PA

3 fA n g IN A Familie von disjunkten Teilmengen

P S A n = P

IN IN

1.1.2 Sprechweisen

. . .s i c heres Ereignis ;. . .u n m ogliches Ereignis A . . . Ereignis f!g... Elementarereignis

1.1.3 Dirac-Ma

; A = P; ! 2 fest: Dirac-Ma " ! im Punkt ! : 1 : : : !2 A " A = 1.1.4 Laplace'scher Wahrscheinlichkeitsraum

ist endlich, das Mengensystem A ist die Potenzmenge von , alle Elementarereignisse sind gleich w ahrscheinlich. 6 = ; endlich A = P: ,! 0; 11 deeniert durch PA = A

Anz. Elementarereignisse in

1.1.5 Poissonverteilung

X X ^{1 1} a ^k a k

0 0

2 1 GRUNDBEGRIFFE

Pk = a k

k! e ^,a Pk gibt Wahrscheinlichkeitdaf ur an, da k Punktereignisse pro Zeiteinheit statttnden, wobei t = a gilt. mit =Ankunftsrate pro Zeiteinheit, t =Zeitspanne Die Poissonverteilung ist f ur n 50 oder p 0; 1 eine N aherung f ur die Binomialverteilung. Dann ist a = n p .

1.1.6 Geometrische Verteilung

k = 1 , pp ^k 2 p =Anteil der Einsen, 1 , p =Anteil der Nullen k ist die Wahrscheinlichkeit, bei der k + 1-ten Ziehung einen Mierfolg zu haben, d.h. eine Null zu ziehen, und bei den vorhergehenden k Ziehungen Erfolg

P

n

q ^k = 1,q n+1

gehabt zu haben. Es gilt:

^k=0 1.1.7 Kontinuierliche Wahrscheinlichkeitsma e auf IR Kontinuierliches Wahrscheinlichkeitsma P auf IR wird durch W ahrscheinlichkeitsdichte

Z

1

¹ deeniert.

Zu ' aquivalent ist die Verteilungsfunktion Fa:

Z

a

Fa = P ,1; a = ^,1 Eigenschaften von F:

1 F ist monoton steigend 2 F,1 = 0 ; F +1 = 1 3 ' st uckweise stetig F stetig

1.1.8 Gleichverteilung

1

b,a f ur a x b

Fx = x,a b,a a x b

1.2 Unterraum 3

1.1.9 Exponentialverteilung

'x = e ^,x x 0

^{0 0} Exp gibt die Verteilung der Zwischenankunftszeiten pro Zeiteinheit an z.B. Telefonanrufe von Kunden, Ankunft von Personen an der Bushaltestelle. =Ankunftsrate pro Zeiteinheit 1.1.10 Standardnormalverteilung N0; 1 'x = 1

e ,x ² p

2

Die Verteilungen bekommt man am besten aus Tabellen. Es gilt: ,x = 1 , x

1.1.11 Normalverteilung N; 2

2

1.1.12 Dreieckverteilung

a+x a 2 f ur: ,a x x 0

1.2 Unterraum

1.2.1 Spur -Algebra 0 ; A : -Algera auf : A 0 : fA 0 j A 2 A g

heit " Spur vonA auf 0 oder " von A auf 0 induzierte -Algebra i . Z . Ist S Erzeuger von A auf , so ist S 0 := fs 0 =s 2 S g Erzeuger vonA 0 .

1.2.2 Bedingte Wahrscheinlichkeiten

0 ; A 0 ; P 0 heit Unterraum

0 8A 2 ^c 0

4 1 GRUNDBEGRIFFE

1.2.3 Satz von der totalen Wahrscheinlichkeit

Man verschaat sich hier am besten eine

Ubersicht, indem man die gegebenen Wahrscheinlichkeiten am Einheitsquadrat aufzeichnet. 1 f j g IN A Partition von mit h ochstens abz ahlbarem IN; P j

0 8B 2 A :

PB= j = ^PB j

fB j g IN ist Partition von B, daher ist PB = P

2 wie 1 und auerdem PB 0 F

ist P ^PB= j ^P j P k =B = ^P k B

1.2.4 Satz von Bayes

PA=B = PAB PB = PA PB PB = PA

A; B 2 A unabh angig , PB=A = PAB

1.3 Produktraum

1.3.1 Produkt--Algebren

A 1 ; A 2 -Algebren auf 1 bzw. 2 :

Die auf 1 2 von der Menge S aller Rechtecke erzeugte -Algebra A 1 A ² heit " Produkt von A 1 und A 2 auf 1 2 , kurz " Produkt -Algebra .

1.3.2 Produktwahrscheinlichkeit

1 ; A 1 ; P 1 ; 2 ; A 2 ; P 2 W ahrscheinlichkeitsr aume:

Die Wahrscheinlichkeit P 1 P 2 auf 1 2 ; A 1 A 2 mit P 1 P 2 A 1 A 2 : = P 1 A 1 P 2 A 2 8 A 1 2 A 1 ; A 2 2 A 2 heit Produktwahrscheinlichkeit. 1 2 ; A 1 A 2 ; P 1 P 2 heit Produktraum.

1.3.3 Diskrete Produktmae

P 1 = P

j " ! j diskretes Ma auf 1 mit Masse j in ! j

1 2 mit Massen k j = ^{j k} in den Punkten ! j ; ! ^k . Bedingte Verteilungen sind identisch mit Rand- bzw. Ausgangsverteilungen.

1.3.4 Produkt kontinuierlicher Wahrscheinlichkeitsma auf IR IR P 1 kontinuierliches Wahrscheinlichkeitsma auf IR mit Dichte ' 1 x und Verteilungsfunktion F 1 a

1.4 Bildraum 5

P 2 kontinuierliches Wahrscheinlichkeitsma auf IR mit Dichte ' 2 y und Verteilungsfunktion F 2 a P 1 P 2 ist kontinuierliches Wahrscheinlichkeitsma auf IR IR mit Dichte 'x; y = ' 1 x ' 2 y , x; y unabh angig Fa; b = P 1 P 2 ,1; a ,1; b = F 1 a F 2 b Fa; b = Fa Fb gilt nur, wenn x und y zwei unabh angige Variablen sind. Randdichten: xiere x

Z Z

' 1 x = 'x; y dy = ' 1 x ' 2 y dy 7

¹ bedingte Dichten:

'x=y : = 'x; y ' 2 y = ' 1 x ' 2 y ' 2 y = ' 1 x , x; y unabh angig

Bedingte Dichten sind identisch mit den Randdichten bzw. urspr unglichen Dichten.

1.4 Bildraum

1.4.1 Bild -Algebra

f; A ,! E

B ^f := fB E=f ^,1 B 2 A g heit Bild von A mittels f.

1.4.2 Bildwahrscheinlichkeit Die Wahrscheinlichkeit P ^f = fP mit 8B 2 B : P ^f B : = Pf ^,1 B heit Bildwahrscheinlichkeit, Bild von P in E mittels f, oder Verteilung von f. E;B; P f

heit Bildraum.

Eine mebare Funktion f auf einem Wahrscheinlichkeitsraum ; A; P heit Zufallsvariable reelle Zufallsvariable, falls E = I R; Zufallsvektor, falls E = I R ⁿ . f heit P ^f -verteilt, f selbst ist diskret, kontinuierlich, falls P ^f diskret auf E, kontinuierlich auf E = I R v erteilt ist.

1.4.3 Binomialverteilung

Stichprobe mit Zur ucklegen

!

n

binomischer

P k ^Lehrsatz p + 1 , p ⁿ = 1 ⁿ = 1 = Anwendung: Bei dichotomen nur zwei Auspr agungen Merkmalen k Wahrscheinlichkeit f ur k schlechte Teile bei Stichprobe vom Umfang n und Ausschuanteil p.

6 2 LAGE- UND FORMPARAMETER

1.4.4 Transformation kontinuierlicher Verteilungen auf IR df ,1

Beispiele:

1 x ,! x + f ^,1 : x ,! x ,

R

^b ' ^f x dx =

^a 2 x ,! x f ^,1 : x ,! 1

R

^b ' ^f x dx =

^a Formel f ur beliebig diierenzierbare f : I R ,! IR

dx

Z Z

df ,1

P ^f B =

ist Wahrscheinlichkeit P ^f mit Masse nur auf fIR.

1.5 Das Stichprobenmodell unabh angiger Ziehungen

1.5.1 Stichprobenmodell

Ein Stichprobenmodell von M 2 IN unabh angigen Ziehungen mit Zur ucklegen

aus

; A; P bzw. E; B; P ^f liegt vor, wenn ⁿ mit P ⁿ bzw. E ⁿ mit P f n

versehen ist.

2 Lage- und Formparameter 2.1 Diskrete Verteilungen auf IR bzw. IR n

2.1.1 Arithmetisches Mittel, Mittelwert, Erwartungswert

IN

Transformation: f : I R ,! IR

X

Ef : = EP ^f = k fx i

Zentrieren: f : x ,! x , Ef = 0

2.1 Diskrete Verteilungen auf IR bzw. IR ⁿ 7

2.1.2 Quartile der Ordnung

anderes Konzept: 2 0; 1 : Q = F ,1

2.1.3 Modus, Modalwert Der Modus ist der wahrscheinlichste Wert: k aus k = max N k i.a. mehrdeutig z.B. W urfeln k = 1 6

2.1.4 Varianz: ² ; VarP, und Standardabweichung

Transformation: f : I R ,! IR

k fx k , Ef ² Varf = V arP ^f = IN

Standardisierung f : x ,! ^x, Ef = 0 ; Varf = 1

2.1.5 Allgemeine Momente, zentrale Momente m x = x , ^m f m x = x ^m ; f 0

M m = Ef m = Ex ^m = P

m = 1 : M 1 = P

P f 0

M ⁰ m = m = IN 2.1.6 Klassische Beispiele diskreter, parametrischer Verteilungen Poissonverteilung: k = a ^k k! e ^,a = a; ² = a

Hypergeometrische Verteilung: Stichprobe ohne Zur ucklegen N Elemente, M davon sind defekt, N , M sind intakt ! , N,M n,k

M

n

8 2 LAGE- UND FORMPARAMETER

ist die Wahrscheinlichkeit, k defekte Teile bei Ziehung von n Elementen ohne Zur ucklegen zu erhalten. p H = M N Wahrscheinlichkeit, uberhaupt

ein schlechtes Teil zu ziehen = n M N = n p H ² = n M N N,M N N,n N,1 = n p H 1 , p ^{H N,n N,1} F ur groe N kann man die Hypergeometrische durch die Binomialverteilung approximieren.

Multinomialverteilung:

2.2 Kontinuierliche Verteilungen

2.2.1 Arithmetische Mittel, , Erwartungswert

R

= EP = Ex : = x ' x dx

anderes Konzept: 2 0; 1 : Q = F ,1

2.2.3 Modus, Modalwert x ; x mod

Der Modus ist der Punkt mit der gr oten Wahrscheinlichkeitsdichte. x aus max 'x = ' = 'x Im allgemeinen ist ' diierenzierbar: x aus ^d' = 0 ^dx 2.2.4 Varianz: ² ; VarP, und Standardabweichung

Z Z

Transformation f : I R ,! IR V a r f : = V a r P ^f = Ef ² , Ef 2

2.2.5 Momente, zentrale Momente m x = x , ^m f n x = x ^m ; f 0

R

M m = Ef m = Ex ^m =

M ⁰ m = Ef ⁰ IR

von P

2.2 Kontinuierliche Verteilungen 9

2.2.6 Klassische Beispiele kontinuierlicher parametrischer Vertei-

lungen

Gleichverteilung: 'x = ¹ b,a 1 a;b x = ^a+b 2 ; ² = 1 12 b , a 2

x i , ² x i , s ² n = ¹ s ² n = ¹ x ² Mit s ² n wird die tats achli-

n n,1

1 1

che Varianz ² der Grundgesamtheit gesch atzt, wenn der tats achliche

s ² n wird dagegen die tats achliche Varianz Mittelwert bekannt ist. Mit

gesch atzt, wenn unbekannt ist.

2.2.7 Mittelwerte und Varianzen von Verteilungen auf IR IR

0 1

10 3 KORRELATION, FALTUNG, ZENTRALER GRENZWERTSATZ

R R

x , x y , y 'x; y dydx = Ex y , x y xy = C o vx; y =

Ex y = x y ' x; y dy dx

^{x y} Bemerkung: Corrx; y = Covx;y

x y

3 Korrelation, Faltung, zentraler Grenzwertsatz

3.1 L 2

IR P

3.1.1 Deenitionen

R

Der Vektorraum L ² IR P mit Skalarprodukt f ; g := Ef g = fx gx 'x dx

und mit Seminorm kfk = p f ; g heit Raum der quadratintegrierbaren re-

ellen Funktionen.

Covf;g : = f 0 ; g 0 heit Kovarianz.

Corrf;g : = ^f 0 ^{;g 0 kf} 0 kk ^g 0 k = cos heit Korrelation zwischen f und g.

f;g unkorreliert , f 0 ?g 0 , f ; g = 0

3.1.2 Satz von Pythagoras

f;g unkorreliert Varf + g = V arf+Varg

3.1.3 Satz von Bienaim e

m =

P P

^m f 1 ; : : : ; f m paarweise unkorreliert Var

1 1

3.1.4 Ubertragung auf 2-dimensionale Zufallsvariablen

; A; P W ahrscheinlichkeitsraum, f = , ^{f 1} : : ,! IR IR

Varf 1 Covf 1 ; f 2 !

Varf :=VarP =

Covf 1 ; f 2 =

3.1.5 Ungleichung von Tschebyschee

D = EP , d; EP + d ooenes Intervall der L ange 2d, symmetrisch z u fP

PD c ¹ d 2 VarP Falls die Distanz nicht symmetrisch z u ist, verwendet

man die Maxmimaldistanz.

3.2 Faltung

Unter Faltung versteht man die Verteilung von aufsummierten Massen.

3.3 Folgen von Verteilungen, zentraler Grenzwertsatz 11

3.2.1 Deenitionen

x; y ,! x + y

P 1 P 2 ,! P 1 P 2

n i 2 0; : : : m j 2 0; : : : n P i ; P j bezeichnen hier Zufallsvariablen und

keine Wahrscheinlichkeiten.

P i diskret: l =

P i kontinuierlich: z =

⁰ Beispiele:

Binm; p Binn; p = Binm + n; p

N 1 ; ; ² N 2 ; ; ² = N 1 + 2 ; 2 2

3.2.2 Anwendung

Seien f : : ,! IR; g : : ,! IR z w ei Funktionen Zufallsvariablen mit Vertei-

lung P 1 = P ^f bzw. P 2 = P ^g in IR. Sind f;g unabh angig, so ist P ^f P ^g ihre

gemeinsame Verteilung auf IR IR. Also ist P ^a = P ^f P ^g , Bild von P ^f P ^g ,

Verteilung von f + g bei Unabh angigkeit. Die Summe von 2 unabh angigen Zufallsvariablen ist " P ^f P ^g -verteilt. Es gilt:

Ef + g = EP ^f P ^g = Ef + Eg = EP ^f + EP g

Varf + g = V arP ^f P ^g = V arf + V arg = V arP ^f + V arP ^g 3.3 Folgen von Verteilungen, zentraler Grenzwertsatz

3.3.1 Deenitionen

Sei ; A; P ein Wahrscheinlichkeitsraum, ff n g IN eine " unabh angige, iden-

tisch v erteilte F olge von Zufallsvariablen f n : : ,! IR

identisch v erteilt: alle f n haben dieselbe Bildverteilung, Bild von P in IR:

P ^fn = P, also ist E fn = EP = ; Varf n = V arP = 2

unabh angig: Bild von P n

auf IR ⁿ . f 1 : : : f n : : ⁿ ,! IR n

3.3.2 Verteilung des Mittelwertes x aus Transformationen

P

ⁿ f i : I R ⁿ ,! IR: f n = ^{1 n} 1

P P f i ! i = ⁿ f i ! i ,! ! 1 ; : : : ; ! n ,! f 1 ! 1 ,! f n ! 1 ; : : : ; ! n = ¹ ; : : : ; f n ! n

x 1 ; : : : ; x n = 1

n

1

124 ELEMENTE DER PARAMETRISCHEN SCH ATZ- UND TESTTHEORIE

P

n

E f n = ¹ Ef i = Var f n = 1

Zentrieren von

f 0 ! 1 ; : : : ; ! n = 1

1

3.3.3 Starkes Gesetz groer Zahlen

Eine unabh angige, identisch v erteilte Folge ff n g IN gen ugt lim n!1 = 0 fast sicher.

Erl auterung:

Auf einem Wahrscheinlichkeitsraum gilt P fast sicher , P2!j:Ef!g = 0

3.3.4 Zentraler Grenzwertsatz

n a ^n!1 ,! a gleichm asig n ,! N0; 1 bzw. F P

Die Binomial- und die Hypergeometrische Verteilung lassen sich durch N; 2

approximieren, wenn 1 , p N,n N,1 9 oder n n 30 bzw. n p 1 , p 9 oder

n n 30 ist. Stetigkeitskorrektur 0; 5 und Normierung ^{k, p} 2 nicht v ergessen.

3.3.5 Anwendung

Approximation von Verteilungen durch I N: n N ^0;05 HN;M;n Bn; M N

B ⁰ n; pNp; p1,p

Pa ⁿⁿ²⁰ Na; a

2 ⁿⁿ³⁰ Nn; 2n

4 Elemente der parametrischen Sch atz- und Test-

theorie

4.1 Parametrische statistische Strukturen

4.1.1 Parametrische Verteilungsklassen

geg: ; A; P " Grundraum, Population ist Wahrscheinlichkeitsraum mit un-

bekanntem P . E;B " Zustands-, Beobachtungsraum ist Menge von Aus-

pr agungen eines Merkmals, das an Individuen ! 2 beobachtet wird.

4.2 Statistiken 13

ges: f: : ,! E mebare Abbildung, " Zufallsvariable P sei ein Bild von P P ,! P in E, die " Verteilung v on f P sei unbekannt.

Grundannahme der parametrischen Sch atztheorie: P ebenso P ^F ge-horcht einem bekannten Bildungsgesetz f ur Massen k bzw. Dichten 'x und geh ort zu einem sogenannten " Verteilungstyp . Zur optimalen Anpassung an Daten ist P parametrisch durch P arameter aus einem Parameterraum : Die Massen k und die Dichten ' x v on P sind variabel in : P = P mit Massen k bzw. Dichten ' x; P = P = fP g

Deenitionen: Falls IR ^k k k 1, heit P = fP g parametrische sta-

tistische Struktur auf E;B analog: P ⁿ stische Struktur auf E ⁿ ; B ⁿ .

P ; P F

Bemerkung: In allen klassischen F allen besteht zwischen und den Lage-und Formparametern von P ein unmittelbarer Zusammenhang.

4.2 Statistiken

4.2.1 Deenitionen

Einen mebare Abbildung : E ⁿ ; B ⁿ ,! F; heit Statistik. F ur F = I R

bzw. IR ⁿ heit skalar oder reel bzw. vektoriell. Bez uglich P heit zentriert , 8 P 2 P : E = 0

4.2.2 Vollst andigkeit

E;B;P heit vollst andig , die einzige reele Statistik f : E ,! IR mit uberall : E ⁿ ,! F vollst andig , E f = 0 f ur alle ist die Nullfunktion fast

F;Bild--Algebra,P F v ollst andig P nicht v ollst andig , 9 f 8 : E f =

0, aber f 6 = 0

4.2.3 Suuzienz

: E ⁿ ,! F

x 1 ; : : : x n ,! x 1 ; : : : x n = y heit suuzient ersch opfend f ur alle P , kurz f ur , 8 y 2 F 8 2 : P ⁿ jB y unabh angig , ist im Term nicht mehr vorhanden von mit B y = fx i jx i = yg; x i = x 1 ; : : : x n . Suuzienzkriterium = Konstruktionsprinzip

144 ELEMENTE DER PARAMETRISCHEN SCH ATZ- UND TESTTHEORIE

4.2.4 Faktorisierungstheorem von Finster-Neymann

: x i ,! y suuzient f ur , P x 1 ; : : : x n = g x 1 ; : : : n h x 1 ; : : : x ⁿ | z mit mebarem g 8 2 ; h

Hierbei ist im diskreten Fall P = Massenverteilung und im kontinuierlichen Fall P = ' Dichte. g ist eine Funktion der Statistik und des Parameters g y. h ist eine Funktion der x i hx i ; manchmal 1. Kann man nachweisen, da eine Verteilung zur Exponentialfamilie geh ort, so ist dies unter Umst anden auch ein Weg die Suuzienz einer Statistik nachzuweisen s. Ubung 50.

4.3 Sch atztheorie Punktsch atzung

4.3.1 Deenition: Sch atzer

x = s n : E ⁿ ; B ⁿ ; P ⁿ ,! oder s : F;C; P ^F ,! heit Eine Statistik

Sch atzer von Sch atzfunktion.

s n heit erwartungstreu , 8 2 : E s n = Erwartungswert des Sch atzers = P arameter s n heit asymptotisch erwartungstreu , 8 2 : E s ^{n n!1} ,! s n heit konsistent erwartungstreu , 8 2 : 8d d 0 : P n

d

Es gilt bei Unabh angigkeit von x i : V arianz der Summe = Summe der Varianz.

4.3.2 Satz von Lehman Schii e UMVU-Sch atzer

x suuzient und vollst andig

fx erwartungstreu f ur tzer GBE-Sch atzer, UMVU-Sch atzer.

4.3.3 Mittlerer quadratischer Fehler MQF

Mit dem Erwartungsert E , ² k ann die G ute einer Sch atzfunktion be-

schrieben werden.

MQF = E , ² = E ² , 2 + ² = E ² , 2 E + ² + E ² , E ² = V ar + , E 2

BiasVerzerrung

Bei erwartungtreuen Sch atzfunktionen gilt wegen E = : M Q F = V ar, d.h. es liegt kein Bias vor.

4.3.4 Risiko

Bez uglich einer Schadensfunktion u : ,! IR + heit die Schadenserwar-

tung 0 in Abh angigkeit von .

R ^s = E u; s = ^F s : F ,! .

4.4 Bereichssch atzung 15

s 2 S heit extremer Sch atzer minimaler Varianz, gleichm aig minimal varianter erwartungstreuer Sch atzer oder gleichm aig bester erwartungstreuer Sch atzer f ur , 8 s 2 S 0 ; 8 2 : V ar s Var s

Andere Optimalit atskonzepte s ⁰ Minimax f ur , 8 s : sup R ^{s 0} sup R s

4.3.5 Wichtigste Konstruktionsmethoden

Maximum-Likelihood Methode:

geg: E ⁿ ; B ⁿ ; P ⁿ ; festes Ereignis, Beobachtung B E ⁿ ges: F;C; P ^F ; festes Ereignis , Beobachtung B F Methode der gr oten Plausibilit at oder Maximum-Likelihood Methode: Jedes 2 erkl art B oder C am plausibelsten, das B oder C die gr ote Wahrscheinlichkeit gibt.

ges: aus sup P B oder aus sup P ⁰ C, im allgemeinen ist B einele-

mentig: B = fx 1 ; : : : x n g.

8

P ⁿ B : : :

:

Likelihoodfunktion in ; x 1 : : : x n Die ML-Methode gibt die Wahrscheinlichkeit an,da die Stichprobe x 1 ; : : : x n bei Vorliegen des Parameters realisiert wird. Das , f sten. Man setzt also ^dLx Ableitung noch nachpr ufen, ob L x f wird.

4.4 Bereichssch atzung

geg:F;C; P ^F ; System von Bereichen ges: Bereichssch atzer s : y ,! y y , in der der wahre Parameter aufgrund von vermutet wird.

4.4.1 Bereichssch atzer

Eine Statistik s : y ,! y heit Konndenz- Bereichssch atzer von . Sie ist f ur IR y = = 1 y; 2 y ein Intervallsch atzer von . Die Zahl s = 1 , inf P c heit Konndenzniveau von s. s heit Bereichssch atzer zum Niveau , s .

4.5 Testtheorie

4.5.1 Optimalit atseigenschaften

geg: F;B ⁿ ; P ^F ; 2 disjunkte Teilmengen 0 ; ¹ 2 statistische Hypothesen: H 0 , 2 0 ; H 1 , 2 ¹ 2 E n tscheidungen aufgrund von Beobachtungen y 2 F: Annahme von H 0 , 2 0

164 ELEMENTE DER PARAMETRISCHEN SCH

ATZ- UND TESTTHEORIE

Annahme von H 1 , 2 1

H 0 : Nullhypothese H 1 : Alternative falls 1 = ^c 0 : H 1 Gegenhypothese ges: kritischer Bereich F ¹ Eine Strategie s : F ,! f 0; 1g heit deterministischer Test von H 0 gegen H 1 . F 0 = s ^,1 0 heit Annahmebereich v on H 0 , F 1 = s ^,1 1 = F ^c 0 heit Ablehnungssbereich oder kritischer Bereich.

Fehler 1.Art: H 0 wird abgelehnt, obwohl H 0 gilt.

Fehler 2.Art: H 0 wird nicht abgelehnt, obwohl H 0 nicht gilt.

Vorgehensweise beim Testen:

1 Aufstellen H 0 und H 1

2 Festlegen der relevanten Verteilung, z.B. x i N; ² 3 Bestimmung einer Teststtatistik suuzient! 4 Berechnen des kritischen Bereichs F 1 zu vorgegebenem Signiikanzniveau mit sup 0 P ² 0 2 kritischer Bereich = sup 0 PFehler 1.Art bei

5 beob 2 F 1 H 0 ablehnen

2 F 1 H 0 nicht ablehnen aber nicht: H 0 annehmen beob =

4.5.2 G utefunktion

s : = P F 1 auf 0 1 heit G utefunktion des Tests s = 1 ^F 1 . ^s 1

heit Sch arfe, Macht oder Entdeckunswahrscheinlichkeit f ur H 1 . Die Zahl s := sup 0 s heit Signiikanzniveau von s. s heit unverf alscht zum Niveau s , s j 1 s s j 1 = P F 1 . Die G utefunktion gibt f ur jedes die Wahrscheinlichkeit an, da H 0 abgelehnt wird.

4.5.3 Deenition von gleichm aig besser

Ein Test s von H 0 gegen H 1 heit gleichm aig besser oder UMP-Test uni-

s = formly most powerful zum Niveau , UMP-Test s sch opft aus , s =