Podstawy statystyki - Notatki - Statystyka - Część 10, Notatki'z Statystyka. Warsaw School of Economics
Elzbieta84
Elzbieta8424 March 2013

Podstawy statystyki - Notatki - Statystyka - Część 10, Notatki'z Statystyka. Warsaw School of Economics

PDF (803.4 KB)
20 strona
400Liczba odwiedzin
Opis
W notatkach wyeksponowane zostają zagadnienia z zakresu statystyki:podstawy statystyki. Część 10.
20punkty
Punkty pobierania niezbędne do pobrania
tego dokumentu
Pobierz dokument
Podgląd3 strony / 20
To jest jedynie podgląd.
Zobacz i pobierz cały dokument.
To jest jedynie podgląd.
Zobacz i pobierz cały dokument.
To jest jedynie podgląd.
Zobacz i pobierz cały dokument.
To jest jedynie podgląd.
Zobacz i pobierz cały dokument.
(Microsoft PowerPoint - wyklad_10_STUD [tryb zgodno\234ci])

K la s y c z n y m

o d e l re g re s ji

lin io w e j

lin io w e j

W sp ó ła u to rk ą p o n iŜ sz yc h

sl a jd ó w j es t

d r K a ta rz yn

a K o co

t- G ó re ck

a

docsity.com

• R e g re s ja

[ł a c . re g re s s io ‘c o fa n ie s ię ’] c o fa n ie s ię ; s to p n io w e

o b n iŜ a n ie ( n p . o d s e tk a s ta w e k p o d a tk ó w o d w y Ŝ s z y c h

d o c h o d ó w ); S ło w n ik w y ra z ó w o b c y c h i z w ro tó w o b c o ję z y c z n y c h W

.

K o p a liń s k i

• R e g re s ja

- s ło w o t o z o s ta ło p o r a z p ie rw

s z y u Ŝ y te p rz e z 1 8 8 6 F .

G a lt o n a (k u z y n K a ro la D a rw

in a ) d la o z n a c z e n ia p e w n y c h p o w ią z a ń

z j a k im

i m o Ŝ n a s ię z e tk n ą ć w t z w . te o ri i d z ie d z ic z e n ia . B a d a ją c

z ja w is k o d z ie d z ic z n o ś c i u z d o ln ie ń , G a lt o n ( 1 8 9 2 ) z a u w a Ŝ y ł i o p is a ł

z ja w is k o „ re g re s ji d o ś re d n ie j” . P o le g a o n o n a t y m , Ŝ e p o to m s tw o

o s o b n ik ó w w y s o c e u z d o ln io n y c h j e s t p rz e c ię tn ie m

n ie j u z d o ln io n e

o s o b n ik ó w w y s o c e u z d o ln io n y c h j e s t p rz e c ię tn ie m

n ie j u z d o ln io n e

o d s w o ic h r o d z ic ó w . C e c h a j a k g d y b y „ c o fa s ię ” w w y n ik u

d z ie d z ic z e n ia

• O b e c n ie s ło w o r e g re s ja

m a i n n e z n a c z e n ie . T e rm

in r e g re s ja

o z n a c z a b a d a n ie w p ły w u j e d n e j lu b k ilk u z m ie n n y c h t z w .

o b ja ś n ia ją c y c h n a z m ie n n ą , k tó re j k s z ta łt o w a n ie s ię n a jb a rd z ie j

n a s i n te re s u je , a w ię c n a z m ie n n ą o b ja ś n ia n ą . M e to d y r e g re s ji

u Ŝ y w a n e s ą z a z w y c z a j d o o p is u k s z ta łt o w a n ia s ię p o z io m u

p e w n e g o z ja w is k a w c z a s ie , ja k i n a p o d s ta w ie p o b ie ra n y c h z

p o p u la c ji g e n e ra ln e j p ró b l o s o w y c h .

docsity.com

N a p o d st aw

ie w y n ik ó w z ao b se rw

o w an y ch w p ró b ie

lo so w ej p o w ią za n ia z m ie n n ej Y w zg lę d em

X

p rz ed st aw

ia s ię w f o rm

ie t zw

. em

p ir y cz n y ch

k rz y w y ch r eg re sj i. A le n ie m

o g ą b y ć o n e n ar zę d zi em

p re d y k cj i, k tó rą u w aŜ a si ę zw

y k le z a g łó w n y c el

an al iz y r eg re sj i.

docsity.com

• W y k re s em

p ir y cz n y ch l in ii r eg re sj i p o zw

al a n a p o st aw

ie n ie

h ip o te zy n a te m at t y p u f u n k cj i m at em

at y cz n ej ( li n io w a,

w y k ła d n ic za , p ar ab o la i tp .) o p is u ją ce j p o w ią za n ia p o m ię d zy

b ad an y m i zm

ie n n y m i. J es t o n a g łó w n y m s k ła d n ik ie m m

o d el u

re g re sj i.

• S p o śr ó d w ie lu p o st ac i m o d el i re g re sj i m o Ŝn a w y ró Ŝn ić k la sy cz n y

m o d el r eg re sj i li n io w ej , k tó ry o p ie ra s ię n a za ło Ŝe n iu o l in io w y m

k sz ta łc ie z w ią zk u p o m ię d zy z m ie n n y m i w p o p u la cj i g en er al n ej c zy li

za k ła d am

y , Ŝe f u n k cj a re g re sj i I ro d za ju j es t fu n k cj ą li n io w ą

K tó ra l in ia

n aj le p ie j

o d zw

ie rc ie d la

li n io w ą

za le Ŝn o ść w

p o p u la cj i

g en er al n ej ?

docsity.com

F u n k c ja r e g re s ji I r o d z a ju Y w z g lę d e m X

• F u n k c ja r e g re s ji I ro d z a ju

o p is u je z w ią z e k k o re la c y jn y m

ię d z y z m ie n n y m i w p o p u la c ji g e n e ra ln e j.

J e s t to f u n k c ja a n a lit y c z n a n a jle p ie j d o p a s o w a n a d o d a n y c h e m p ir y c z n y c h w p o p u la c ji g e n e ra ln e j.

- fu n k c ja r e g re s ji I ro d z a ju z m ie n n e j z a le Ŝ n e j Y w z g lę d e m z m ie n n e j X

g d z ie :

X - z m ie n n a n ie z a le Ŝ n a p rz y jm

u ją c a w ie lk o ś c i z g ó ry u s ta lo n e w a rt o ś c i

Y –

z m ie n n a z a le Ŝ n a . W a rt o ś c i o c z e k iw a n e w a ru n k o w y c h r o z k ła d ó w z m ie n n e j lo s o w e j Y s ą l in io w ą

fu n k c ją u s ta lo n y c h w a rt o ś c i X , c z y li fu n k c ja r e g re s ji I ro d z a ju Y w z g lę d e m X j e s t lin io w a .

d la i = 1 , 2 , .. ., n

β α

ε +

= +

= =

X Y

y y

β α

+ =

ˆ

w p ły w x

n a y

s k ła d n ik l o s o w y

z a ło Ŝ e n ia :

• E (ε i ) = 0

• D 2 (ε i ) = E (ε i2 ) = σ 2

• c o v ( εi , ε j ) = 0

εi → N (0 , σ )

P o d s ta w o w y w a ru n e k , k tó ry s p e łn ia f u n k c ja r e g re s ji I ro d z a ju t o w a ru n e k m

in im

a liz a c ji o d c h y le ń

w a rt o ś c i e m p ir y c z n y c h o d w a rt o ś c i te o re ty c z n y c h

N a o g ó ł fu n k c ja r e g re s ji I r o d z a ju n ie j e s t z n a n a .

i i

i i

i y

y x

x X

Y E

Y ε

β α

ε

)

(

+ +

= +

= =

m in

)ˆ (

2 =

− Y

Y E

docsity.com

•G łó w n y m s k ła d n ik ie m k aŜ d eg o m

o d el u j es t fu n k cj a re g re sj i, k tó re j

p ar am

et ry s ą o sz ac o w an e n a p o d st aw

ie w y n ik ó w z p ró b y l o so w ej .

Je st t o f u n k cj a n aj le p ie j d o p as o w an a d o d an y ch e m p ir y cz n y ch w

p ró b ie l o so w ej .

•P rz y jm

u ją c za ło Ŝe n ie o l in io w o śc i zw

ią zk u p o m ię d zy z m ie n n y m i

fu n k cj a re g re sj i (Y

w zg lę d em

X ) to p ro st a o r ó w n an iu :

K la sy cz n y m

o d el r eg re sj i li n io w ej Y w zg lę d em

X

d la k tó re j śr ed n i k w ad ra t o d ch y le ń w ar to śc i zm

ie n n ej Y o d t ej p ro st ej

je st n aj m n ie js zy ,

g d zi e -

- to e st y m at o ry p ar am

et ró w f u n k cj i re g re sj i

II r o d za ju w y zn ac zo n e M N K

y i

y i

x y

β α

ˆ ˆ

ˆ +

=

y y β

α ,m in

)] ˆ

ˆ (

[ 2

2 →

+ −

= ∑

= ∑

y i

X y

i Y

S i

β α

ε

y y β

α ˆ

, ˆ

docsity.com

y

m in

)] ˆ

ˆ (

[ 2

2 →

+ −

∑ =

∑ y

i X

y i

Y i

β α

ε

ε

ε

ε

M N K z ap o cz ąt k o w al i L eg en d re (1 8 0 5 ) o ra z G au ss ( 1 7 9 4 ,1 8 0 9 )

A -M

. L eg en d re

( 1 7 5 2 -1 8 3 3 )

y

7

0

0

x

ε

ε

ε

ε C .F .G au ss

1 7 7 7 -1 8 5 5

x

docsity.com

P a ra m et ry s tr u k tu ra ln e m o d el u (s za co w a n e M N K ):

F u n k cj a re g re sj i Y w zg lę d em

X

W s p ó łc z y n n ik r e g re s ji

m e to d a p o ś re d n ia

y i

y i

x y

β α

ˆ ˆ

ˆ +

=

2 2

2 2

) (

) (

) )(

( ˆ

x Sx y

c

x n

y x

y x

n

x x

y y

x x

y

i i

i i

i i

i

i i

x =

−− =

− −

=

∑ ∑

∑ ∑

∑ α

) (

) (

ˆ x

S

y S

r x y

y =

α

IN T E R P R E T A C JA

: P rz y ro st ś re d n ie j w ar to śc i zm

ie n n ej z al eŜ n ej w y w o ła n y

p rz y ro st em

z m ie n n ej n ie za le Ŝn ej o j ed n o st k ę. (I n n y m i sł o w y : ja k z m ie n ia s ię

W y ra z w o ln y

p rz y ro st em

z m ie n n ej n ie za le Ŝn ej o j ed n o st k ę. (I n n y m i sł o w y : ja k z m ie n ia s ię

w ar to ść z m ie n n ej z al eŜ n ej , je Ŝe li c ec h a n ie za le Ŝn a w zr o śn ie o j ed n o st k ę

x y

y y

y n

i i

x y

α α

β ˆ

ˆ ˆ

− =

− =

∑ ∑

IN T E R P R E T A C JA

: m o Ŝe b y ć ty lk o f o rm

al n a – ja k a b ęd zi e w ar to ść z m ie n n ej z al eŜ n ej ,

je Ŝe li z m ie n n a n ie za le Ŝn a = 0 W

y ra z w o ln y w y zn ac za p u n k t p rz ec ię ci a p ro st ej r eg re sj i

z o si ą rz ęd n y ch ( o si ą Y )

docsity.com

W ła s n o ś c i lin io w e j fu n k c ji re g re s ji

• su m a w a rt o śc i te o re ty cz n yc h zm

ie n n ej z al eŜ n ej j es t ró w n a

su m ie w a rt o śc i em

p ir yc zn yc h te j zm

ie n n ej

je Ŝe li , Y – za le Ŝn a, X –

n ie za le Ŝn a

• su m a o d ch y le ń w ar to śc i em

p ir y cz n y ch o d w ar to śc i

te o re ty cz n y ch j es t ró w n a ze ro

∑ ∑

= =

= n i

n i i

i y

y 1

1

ˆ

n te o re ty cz n y ch j es t ró w n a ze ro

• p ro st a re g re sj i p rz ec h o d zi p rz ez

p u n k t o w sp ó łr zę d n y ch

∑ = =

− n i

i i

y y

1

0 )

ˆ (

) ,

( y

x

docsity.com

P A R A M E T R Y S T O C H A S T Y C Z N E ( M N K )

P o d st aw

ą d o o k re śl en ia d o k ła d n o śc i d o p as o w an ia f u n k cj i re g re sj i

d o d an y ch e m p ir y cz n y ch s ą ró Ŝn ic e m ię d zy w ar to śc ia m i

em p ir y cz n y m i a te o re ty cz n y m i cz y li r es zt y

iy iy

ie ˆ

− =

)ˆ (

2 2

∑ ∑

− ie

y iy

W a ri a n cj a r es zt

O d ch y le n ie s ta n d a rd o w e re sz t

Je st t o ś re d n i ef ek t o d d zi ał y w an ia n a zm

ie n n ą za le Ŝn ą in n y ch

cz y n n ik ó w , p o za o d d zi ał y w an ie m z m ie n n ej n ie za le Ŝn ej

2 2

)ˆ (

2 2

2 −

∑ =

∑ −

= n

ie

n

y iy

S e

2 S e

S e =

docsity.com

M N K

y

x

docsity.com

S ta n d a rd o w e b łę d y s za cu n k u ( w w y ra Ŝe n iu a b so lu tn y m ):

• w sp ó łc zy n n ik a re g re sj i li n io w ej

• w y ra zu w o ln eg o

∑ −

=

∑ −

= 2

2 2 )

( ˆ

x n

x

S e

x ixS e

y S

i

α

∑ −∑

=

∑ −

=

) (

) (

2 2

2 2

2

2 2

ˆ

x n

x n

x S e

x x

n

x S e

S

i

i

i

i

y β

S ą to o d ch y le n ia s ta n d ar d o w e es ty m at o ró w tz n . b łę d y

lo so w e p o p eł n ia n e p rz y e st y m ac ji p ar am

et ró w n a

p o d st aw

ie n - el em

en to w y ch p ró b .

W zg lę d n e b łę d y s za cu n k u ,

y y

β α

ˆ i

ˆ

y y

β α

i

y

S y

αα ˆ

ˆ

y

S

y

ββ ˆ

ˆ

docsity.com

O c e n a s to p n ia d o p a s o w a n ia f u n k c ji r e g re s ji

d o d a n y c h e m p ir y c z n y c h R ²

W s p ó łc z y n n ik d e te rm

in a c ji l in io w e j:

∑ ∑

∑ −

+ −

= −

2 2

2 )

ˆ (

) ˆ

( )

( iy

iy y

iy y

iy

> = <

1. 0

2 R

S S T

s to p ie ń o g ó ln e g o

z ró Ŝ n ic o w a n ia

z m ie n n e j z a le Ŝ n e j

S S R

c z ę ś ć o g ó ln e g o z ró Ŝ n ic o w a n ia

z m ie n n e j z a le Ŝ n e j

w y ja ś n io n a fu n k c ją r e g re s ji

S S E

c z ę ś ć o g ó ln e g o z ró Ŝ n ic o w a n ia

z m ie n n e j z a le Ŝ n e j N IE

w y ja ś n io n a fu n k c ją r e g re s ji

W s p ó łc z y n n ik d e te rm

in a c ji l in io w e j:

W s p ó łc z y n n ik i n d e te rm

in a c ji l in io w e j:

( )

) (2

1 )

(

ˆ *

co v

) (

) (co v

) (

) ˆ

( 1

) (

) ˆ

( 2

2 2

2 2

2

22

22

y S

e S

y S

y xy

y S

x S

xy

y i

y

i y

i y

y i y

y i y

R −

≈ =

= ∑

−− ∑

− =

∑ −−

∑ =

α

> = <

1. 0

2 R

> = <

1. 0

2 φ

1 2

2 =

+ ϕ

R ∑∑

−− =

= −

2 ) (

2 ) ˆ

( 2

2 1

y i y

i y

i y

R ϕ

docsity.com

S S T

S S E

S S R

S S T = S S R + S S E

∑ ∑

∑ −

+ −

= −

2 2

2 )

ˆ (

) ˆ

( )

( iy

iy y

iy y

iy

docsity.com

O c e n a s to p n ia d o p a s o w a n ia f u n k c ji r e g re s ji

d o d a n y c h e m p ir y c z n y c h R ²

W s p ó łc z y n n ik d e te rm

in a c ji l in io w e j:

∑ ∑

∑ −

+ −

= −

2 2

2 )

ˆ (

) ˆ

( )

( iy

iy y

iy y

iy

> = <

1. 0

2 R

S S T

s to p ie ń o g ó ln e g o

z ró Ŝ n ic o w a n ia

z m ie n n e j z a le Ŝ n e j

S S R

c z ę ś ć o g ó ln e g o z ró Ŝ n ic o w a n ia

z m ie n n e j z a le Ŝ n e j

w y ja ś n io n a fu n k c ją r e g re s ji

S S E

c z ę ś ć o g ó ln e g o z ró Ŝ n ic o w a n ia

z m ie n n e j z a le Ŝ n e j N IE

w y ja ś n io n a fu n k c ją r e g re s ji

W s p ó łc z y n n ik d e te rm

in a c ji l in io w e j:

W s p ó łc z y n n ik i n d e te rm

in a c ji l in io w e j:

( )

) (2

1 )

(

ˆ *

co v

) (

) (co v

) (

) ˆ

( 1

) (

) ˆ

( 2

2 2

2 2

2

22

22

y S

e S

y S

y xy

y S

x S

xy

y i

y

i y

i y

y i y

y i y

R −

≈ =

= ∑

−− ∑

− =

∑ −−

∑ =

α

> = <

1. 0

2 R

> = <

1. 0

2 φ

1 2

2 =

+ ϕ

R ∑∑

−− =

= −

2 ) (

2 ) ˆ

( 2

2 1

y i y

i y

i y

R ϕ

docsity.com

= 4 7 2 ,3 8 1 t y s . z ł

y

p o w ie rz c h n ia m 2

2 7

2 9

3 0

3 0

3 1

3 5

3 6

4 0

4 6

4 6

4 6

4 7

5 2

5 3

5 5

7 5

8 5

1 1 1

1 1 1

1 1 6

1 3 5

c e n a w t y s . z ł

2 1 5

2 4 0

2 9 5

2 8 5

2 7 0

2 2 5

2 6 0

4 2 5

3 8 9

2 9 7

4 0 5

4 2 0

4 6 7

5 2 5

3 4 2

5 1 0

5 4 0

9 2 0

1 1 3 0

8 4 5

9 1 5

y

y S α̂

= 0 ,6 2 9 7

y S β̂

= 4 2 ,2 9 1

docsity.com

40 30 20

40 30 20

40 30 20

R 2 = 0 .9 7

R 2 = 0 .6 0

R 2 = 0 .2 1

∑ −−

∑ =

22 ) (

) ˆ

( 2

y i y

y i y

R

x

y

20 .0

17 .5

15 .0

12 .5

10 .0

7. 5

5. 0

10 0 -1 0

x

y

20 .0

17 .5

15 .0

12 .5

10 .0

7. 5

5. 0

10 0 -1 0

x

y

20 .0

17 .5

15 .0

12 .5

10 .0

7. 5

5. 0

10 0 -1 0

docsity.com

W E R Y F IK A C J A H IP O T E Z d o ty c z ą c y c h w a rt o ś c i p a ra m e tr ó w r e g re s ji

lin io w e j w p o p u la c ji g e n e ra ln e j

•W er y fi k ac ja h ip o te zy d o ty cz ąc ej

w ar to śc i w sp ó łc zy n n ik a re g re sj i li n io w ej

w p o p u la cj i g en er al n ej

•O b li cz an ie e m p ir y cz n ej w ar to śc i te st u

0 :

0 α :

H

10 y

≠=

y H

α

) ˆ

y S

y t

αα =

= 7 ,4 1 8 2 x + 3 5 ,7 6 6

[0 ,6 2 9 7 ] [4 2 ,2 9 1 ]

t o b l= 1 1 ,7 8

1 9

; 0 5

, 0t

= 2 ,0 9 3

•W y b ó r o b sz ar u k ry ty cz n eg o

O d cz y tu je m y w ar to ść k ry ty cz n ą tα , n -2 z t ab li c ro zk ła d u t -S tu d en ta i

k o n st ru u je m y d w u st ro n n y o b sz ar k ry ty cz n y

W n io sk i:

Je Ŝe li w

ar to ść e m p ir y cz n a te st u w p ad a d o o b sz ar u λ

to n a p o zi o m ie i st o tn o śc i α o d rz u ca m y H

o

Je Ŝe li w

ar to ść e m p ir y cz n a te st u n ie w p ad a d o o b sz ar u λ

to n a p o zi o m ie i st o tn o śc i α n ie m

am y

p o d st aw

d o o d rz u ce n ia H

o

y

)} ;

; (

: {

2 ,

2 ,

∞ <

∪ >

− − ∞

∈ =

− −

n n

t t

t t

α α

λ

docsity.com

P R O G N O Z O W A N IE W

O P A R C IU O

F U N K C J Ę R E G R E S J I

• Z b u d o w a n y m

o d e l re g re s ji lin io w e j m o Ŝ e s ta n o w ić

p o d s ta w ę d o p rz e w id y w a n ia , ja k ie w a rt o ś c i p rz y jm

ie

z m ie n n a z a le Ŝ n a p rz y z a d a n y c h w a rt o ś c ia c h z m ie n n e j

n ie z a le Ŝ n e j

) ˆ

( ˆ

ˆ ˆ

p y

S y

p x

y p

y ±

+ =

β α

g d z ie , →

p ro g n o z o w a n a w a rt o ś ć

s ta n d a rd o w y b łą d p ro g n o z y

p x

− =

− −−

+ +

= 2

2 22

)1 (

) (

g d zi e

) (

) (

1 1

) ˆ

( x

S n

x ix

x x

x p

x

n S e

p y

S

i

docsity.com

O c e n a j a k o ś c i m o d e lu r e g re s ji lin io w e j

1 . O c e n a j a k o ś c i w z g lę d n y c h b łę d ó w

s z a c u n k u p a ra m e tr ó w s tr u k tu ra ln y c h

m o d e lu r e g re s ji lin io w e j

2 . O c e n a s to p n ia d o p a s o w a n ia m

o d e lu

5, 0

ˆˆ <

y

S y

αα 5,0

ˆˆ

<

y

S

y

ββ

2 ≥

re g re s ji d o d a n y c h e m p ir y c z n y c h

3 . Z b a d a n ie i s to tn o ś c i w s p ó łc z y n n ik a r e g re s ji

- tz n . w a Ŝ n e j e s t o d rz u c e n ie h ip o te z y z e ro w e j

J e Ŝ e li m o d e l s p e łn ia t e t rz y k ry te ri a t o d o p ie ro m

o Ŝ n a p ro g n o z o w a ć .

6, 0

2 ≥

R

docsity.com

komentarze (0)
Brak komentarzy
Bądź autorem pierwszego komentarza!
To jest jedynie podgląd.
Zobacz i pobierz cały dokument.
Docsity is not optimized for the browser you're using. In order to have a better experience we suggest you to use Internet Explorer 9+, Chrome, Firefox or Safari! Download Google Chrome