TEORIA REGRESSIONE
Che cos’è un’analisi di regressione? Qual è lo scopo di un’analisi di regressione? Che cos’è il metodo dei
minimi quadrati?
Un’analisi di regressione parte da un certo numero di osservazioni di due o più variabili e produce una funzione
interpolante con andamento regolare che descrive la relazione di fondo tra le osservazioni della cosiddetta variabile
dipendente e le osservazioni delle variabili rimanenti che vengono chiamate indipendenti o esplicative.
Analisi di regressione vengono effettuate per:
indagare sulla relazione di fondo tra le osservazioni di una var dipendente e una o più var esplicative
indagare sul processo che ha generato le osservazioni della variabile dipendente
ottenere delle previsioni sulle future osservazioni di una variabile
Una volta scelta una famiglia di funzioni, si dovrà individuare al suo interno una funzione interpolante che riproduca la
relazione di fondo tra le osservazioni delle variabili. A tal fine bisogna fare riferimento ad un metodo di accostamento
come il metodo dei minimi quadrati
Secondo questo metodo, i valori dei parametri che identificano la funzione interpolante dovrebbero minimizzare la
funzione
che chiameremo distanza quadratica
Il metodo dei minimi quadrati è utilizzato per determinare all’interno della famiglia delle funzioni lineari, una retta ai
minimi quadrati. I parametri sono due valori che minimizzano la distanza quadratica
Studieremo anche le proprietà dei piani ai minimi quadrati ovvero le proprietà dei piani che si
ottengono con il metodo di accostamento dei minimi quadrati
Che cos’è l’indice di determinazione? A cosa serve? Perché può assumere solo valori compresi tra 0 e 1?
L’indice di determinazione è un indice utilizzato per misurare la bontà d’adattamento di una retta ai minimi quadrati. E’
calcolato come rapporto tra la devianza spiegata e la devianza totale della variabile dipendente.
Dalla scomposizione della devianza discende che questo indice ha valori compresi tra 0 e 1:
se e solo se dev(Z)=0 ovvero se e solo se tutti i residui sono nulli e la retta ai minimi quadrati passa per
tutti i punti osservati
se e solo se dev(Z) raggiunge il massimo teorico ovvero dev(x1) e =0
In questo caso la retta ai minimi quadrati è orizzontale e quindi non riesce a descrivere la variabilità delle
osservazioni x1i
nei casi intermedi
In questo caso la bontà d’adattamento della retta ai minimi quadrati sarà tanto migliore quanto più elevato è il
valore di . L’indice di determinazione è tanto più prossimo a 1 quanto più la retta ai minimi quadrati passa
vicino ai punti osservati.
Possiamo anche scriverlo così
L’indice di determinazione del piano ai minimi quadrati che descrive X1 in funzione di X2 e X3 è e le
proprietà saranno analoghe a quelle dell’indice di determinazione della retta
