Regressione Multipla: Esempi e Modelli, Schemi e mappe concettuali di Statistica

Scarica Regressione Multipla: Esempi e Modelli e più Schemi e mappe concettuali in PDF di Statistica solo su Docsity!

LA REGRESSIONE

LINEARE MULTIPLA

Osservazioni introduttive

• (^) I fenomeni collettivi (economici, demografici, ecc.)

sono strettamente legati da una complessa rete di

relazioni. Pertanto risulta spesso insufficiente lo

studio della relazione tra due sole variabili.

• (^) In questi casi, una volta individuato il carattere

dipendente, sarà opportuno studiare come esso varia

in media al variare degli altri caratteri.

Questo studio viene denominato regressione multipla

e costituisce una generalizzazione della regressione

semplice.

Modelli I modelli sono una rappresentazione matematica della realtà

“All models are

wrong, but some

are useful”

George Box

Modello empirico o statistico (Empirical Model) Di solito non si conosce la relazione esatta che esiste fra due variabili Per questo motivo si adatta un modello empirico

Modello di regressione lineare multipla

Lo studio della regressione multipla consiste nel determinare

una funzione che esprima nel modo migliore il legame

(in media) tra le variabili indipendenti X

1

, X

2

, …., X

k

e

la variabile dipendente Y.

Per fare questo occorre incominciare con lo stabilire il tipo di

funzione che lega la variabile dipendente a quelle

indipendenti. In analogia con quanto già esposto sulla

regressione semplice, ipotizziamo il tipo più semplice,

quello lineare.

Regressione lineare multipla

Idea: Esaminare le relazione lineare fra

1 dipendente (Y) e 2 o più variabili independenti (X

i

Y X X X e

i 0 1 1 2 2 k k

 B  B  B   B  Modello di regressione multipla con k variabili indipendenti: Y-intercetta Coefficiente di regressione parziale Errore casuale

PARAMETRI

• (^) y

i ed^ x 1 ,^ x 2 …. xk sono i valori, rispettivamente, della variabile

dipendente e delle k variabili indipendenti, rilevate con riferimento

alla i -esima unità statistica;

• (^) B

0 è la costante;

• (^) B 1

, B

2

,… B

k

sono i coefficienti di regressione parziale (indicano di

quanto varia in media la Y quando Xj aumenta di un’unità, a parità

di valori delle altre variabili esplicative);

• (^) e

i è il “residuo non spiegato” relativo all’osservazione^ i -esima;

• (^) n è il numero di osservazioni.

INTERPRETAZIONE Nel modello di regressione multipla si assume che ciascun valore osservato della variabile dipendente sia esprimibile come funzione lineare dei corrispondenti valori delle variabili esplicative, più un termine residuo che traduce l’incapacità del modello di riprodurre con esattezza la realtà osservata.

Modello con

due variabili

Y

X

1

X

2 0 1 1 2 2 Y b b X b X ˆ    Pendenza per la variabile X 1 Pendenza per la variabile X 2 Modello lineare nel caso di tre variabili: piano di regressione

Esempio: estensione di un modello da 2 a 3 variabili indipendenti

Con riferimento a 20 famiglie si cerca di spiegare il consumo

alimentare ( Y ) utilizzando come variabile esplicativa il reddito

( X

1

). Il modello stimato è il seguente:

ˆ (^0) , 412 0 , 184 ( 1 , 2 , , 20 ) 1 y   x i   i i

Ora estendiamo il modello per considerare anche la dimensione

della famiglia ( X

2

), misurata in termini di numero di componenti

della famiglia. Il modello diventa:

Spesa alimentare = B

0

+ B

1

Reddito + B

2

Numero Componenti

• (^) Dovremmo aspettarci che i segni di B 1 e di B 2 siano entrambi positivi , cioè che sia il reddito sia la dimensione della famiglia abbiano effetti positivi sulla spesa alimentare della famiglia. Ciò vale nel caso di singole regressioni lineari semplici;
• (^) Invece B 1 misura l' effetto parziale del reddito sulla spesa alimentare, tenendo costante la dimensione della famiglia, e B 2 misura l'effetto parziale della dimensione della famiglia sulla spesa, tenendo costante il reddito. Esempio: estensione di un modello da 2 a 3 variabili indipendenti

In definitiva, sia la teoria economica sia il buonsenso dovrebbero costituire una base per la selezione delle variabili esplicative da inserire nel modello. L’analisi grafica sia del tipo che della struttura di correlazione fra le variabili può essere compiuta con il ricorso alla matrice degli scatterplot , uno strumento grafico che presenta i diagrammi di dispersione per ogni coppia delle variabili nel modello (http://www.wessa.net/rwasp_cloud.wasp#output) La matrice degli Scatterplot è un importante strumento grafico per l’analisi esplorativa dei dati e per mettere in risalto:

1. Tipo di relazione fra ciascuna coppia di variabili: diretta o inversa
2. Forma del legame: lineare o non lineare
3. Intensità della relazione fra ciascuna coppia di variabili - da perfettamente forte e diretta (r = +1) a perfettamente forte ed inversa (r = -1). Nessun rapporto affatto se r = 0
4. Presenza di valori anamoli (outliers) nell'insieme di dati. Esempio: estensione di un modello da 2 a 3 variabili indipendenti

14 Il modello di regressione lineare multipla 19 La matrice dei coefficienti di correlazione SPESA REDDITO NC SPESA 1 REDDITO 0.95 1 NC 0.79 0.68 1 SPESA REDDITO NC SPESA 1 REDDITO 0.95 1 NC 0.79 0.68 1

20 14 Il modello di regressione lineare multipla 20

Stima del vettore dei coefficienti

(parametri del modello)

n

i

i

e

min

CONDIZIONE DEI MINIMI QUADRATI ORDINARI (OLS):

SVOLGENDO LA CONDIZIONE DI MINIMO SI OTTIENE LA

SOLUZIONE:

Stime dei coefficienti B con i minimi quadrati