Scarica Modelli di Regressione Lineare: Semplice e Multipla e più Appunti in PDF di Statistica solo su Docsity!
MODELLI 8
REGRESSIONE SEMPLICE E MULTIPLA
L’associazione tra una variabile dipendente Y e una variabile esplicativa X può essere molto diversa
se viene valutata ignorando una terza variabile Z o condizionandosi ad essa, cioè valutando
l’effetto di X su Y a parità di Z.
Date le osservazioni (𝑦 𝑖
),𝑖 = 1,...,𝑛 il modello di regressione lineare multipla con due
variabili esplicative ipotizza che i dati yi siano realizzazioni di variabili aleatorie Yi tale che:
-le Yi sono indipendenti
-le medie sono funzioni lineari delle variabili esplicative 𝐸(𝑦i|𝑥i,𝑧i)=𝛼+𝛽𝑥 +𝛾𝑧i
-le varianza sono costanti(non dipendono dalle variabile esplicativa) 𝑉(𝑦i |𝑥i , 𝑧i ) = 𝜎
2
Gli errori
𝜀i devono soddisfare le ipotesi seguenti:
-sono indipendenti
-hanno media zero
-hanno varianza costante
-sono indipendenti da zi e xi
β e γ sono detti coefficienti di regressione parziale e misurano l’incremento di Y per una variazione
unitaria di una variabile esplicativa quando l’altra è costante
β misura come varia 𝑌 quando xi aumenta di una unità e Z è costante 𝛽=𝐸(𝑌|𝑥+1,𝑧)
−𝐸(𝑌|𝑥,𝑧)
γ misura come varia Y quando zi aumenta di una unit à e X è costante𝛾=𝐸(𝑌|𝑥,𝑧+1)
−𝐸(𝑌|𝑥,𝑧)
I dati osservati sulla risposta sono realizzazioni di Y=x+, con errori che sono indipendenti con
media zero e varianza
2 .
STIMATORI DEI MINIMI QUADRATI
Il metodo dei minimi quadrati consiste nel cercare i valori di ,, che rendono minimo il criterio
VALORI ADATTATI E RESIDUI: PROPRIETA’
Valori adattati:
Residui i=yi-y^i hanno proprietà analoghe a quelle della regressione semplice e:
-hanno somma zero
-sono incorrelati con ciascuna delle variabili esplicative
Notiamo che ^y x.z è uguale al coefficiente di regressione semplice tra Y e X una volta che Y e X
siano stati depurati dall’effetto lineare di Z
PROPRIETA’ STIMATORI MQ
Gli stimatori dei MQ sono stimatori lineari e corretti dei rispettivi parametri.
La matrice di covarianza degli stimatore dei minimi quadrati è ^2 (X’X)^-
dove X èla matrice del modello di regressione
Le varianza degli stimatori si ottengono come il prodotto tra
2 , che stimeremo con 𝑆
, e dei
coefficienti che dipendono dalle variabili osservate, considerando la diagonale principale (X’X)^-
Gli stimatori dei minimi quadrati sono i più efficienti nella classe degli stimatori lineari e corretti
(teorema di Gauss- Markov).
STIMATORE DELLA VARIANZA DEGLI ERRORI
Per stimare la varianza degli errori
2 si può usare la varianza parziale Syy.xz ma questa non è uno
stimatore corretto di
2
. Lo stimatore corretto di
2 è : S
2 =dev(𝜀̂) /(𝑛−3) dove n-3 sono i gradi di
libertà del modello.
