Matlab per applicazioni statistiche

Transcript

1 Matlab per applicazioni statistiche Marco J. Lombardi 19 aprile Introduzione Il sistema Matlab è ormai uno standard per quanto riguarda le applicazioni ingegneristiche e scientifiche, ma non ha ancora incontrato la diffusione che merita in statistica, dove continuano ad essergli preferiti sistemi alternativi quali GAUSS o S/Plus. La mia opinione è che Matlab sia di gran lunga superiore agli altri sistemi: per l efficienza e la rapidità di esecuzione; per la semplicità nell importazione e nella gestione dei dati; per la qualità dell help in linea; per il livello degli strumenti di debugging; per la possibilità di interfacciare semplicemente codice C; infine, per la disponibilità di un package statistico relativamente completo. In queste pagine verranno illustrati alcuni argomenti di un corso base di statistica inferenziale attraverso simulazioni ed esperimenti in Matlab. Il package statistico di Matlab si trova nella cartella \toolbox\stats; per avere una lista di tutte le funzioni disponibili basta digitare help stats Versione preliminare e incompleta ad uso interno degli studenti del dottorato IMT; per favore non circolare. 1

2 La filosofia che ispira la trattazione è di illustrare i concetti statistici e probabilistici attraverso l uso di simulazioni; uno strumento affine anche se non basato sul sistema Matlab in questo senso è il Laboratorio virtuale di probabilità e statistica ( 2 Probabilità 2.1 Funzioni di densità e cumulate Vediamo in primo luogo come costruire il grafico di una funzione di densità di probabilità. Prendiamo ad esempio la distribuzione t di Student, a cui corrisponde la funzione tpdf. Dall help (help tpdf) apprendiamo che la funzione prende due argomenti: y = tpdf(x,v) un vettore di ascisse x e i gradi di libertà v, e restituisce un vettore y che contiene i valori della pdf in corrispondenza delle ascisse. Dobbiamo quindi in primo luogo costruire un vettore di ascisse. Se vogliamo vedere il grafico della funzione di densità tra 5 e 5, il comando x=[-5:0.1:5] ; produrrà una progressione aritmetica di ragione 0.1 che parte da 5 e termina a 5. I valori della pdf di una distribuzione t di Student con 3 gradi di libertà si otterranno quindi digitando yt=tpdf(x,3); A questo punto possiamo costruire il grafico: plot(x,yt) Se si aggiungono ulteriori argomenti, si può controllare l aspetto del grafico: plot(x,yt, r. ) produce un grafico a punti di colore rosso. Una lista completa delle opzioni si può ottenere digitando help plot. Un grafico a punti può essere utile nel caso di distribuzioni discrete, visto che la probabilità è definita solo in corrispondenza di valori interi delle ascisse. Disegniamo ora, utilizzando la stessa griglia di ascisse, la funzione di densità di una distribuzione normale standardizzata 2

3 yn=normpdf(x,0,1); plot(x,yn) Se si desidera visualizzare più grafici sovraimposti, si utilizza il comando hold: hold on; plot(x,yt, r ); hold off; Esercizio 1. Disegnare il grafico della funzione cumulata di probabilità di una distribuzione χ 2 3. Esercizio 2. Disegnare il grafico della funzione di massa di probabilità di una distribuzione binomiale con n = 10 e p = Numeri casuali Matlab possiede un generatore di numeri (matrici) pseudo-casuali uniformi (rand) e normali standardizzati (randn); gli argomenti che questi generatori richiedono sono il numero di righe e colonne desiderati. Ad esempio, per avere un vettore colonna di dieci numeri casuali uniformi si digita: rand(10,1) Il computer è una macchina deterministica e non è in grado di produrre numeri veramente casuali. In effetti, se si fissa il seme del generatore, si ottiene la stessa sequenza di numeri: rand( state,0) Questo può essere utile negli studi di simulazione, o per controllare i risultati. Si noti che i due generatori rand e randn si basano su due semi diversi, per cui fissare il seme di uno non ha effetto sull altro. Nel package stats sono inoltre compresi ulteriori generatori. Si noti che essi utilizzano la routine rand, per cui per fissare il seme bisogna fare riferimento al seme di quest ultima. Se ad esempio vogliamo un campione di 100 osservazioni da una distribuzione esponenziale con media 1.8, digitiamo rr=exprnd(1.8,100,1); Esercizio 3. Generare un vettore di 100 numeri casuali da una distribuzione t con 3 gradi di libertà. 3

4 2.3 Istogramma e cdf empirica Una volta generati dei numeri casuali, si può visualizzare il risultato costruendone l istogramma: hist(rr) Se si desidera specificare il numero di intervalli che l istogramma deve utilizzare, lo si può inserire come secondo argomento: hist(rr,20) Uno secondo modo per visualizzare le proprietà empiriche di un campione è quello di disegnare la cdf empirica: cdfplot(rr) 2.4 Stima kernel Un modo più raffinato per valutare le proprietà distributive di un campione è quello di usare una stima kernel della funzione di densità. Attraverso la stima kernel otteniamo una sorta di pdf empirica, che in un certo senso può essere pensata come istogramma smussato. Nel package stats di Matlab non c è una funzione che esegue a stima kernel, ma ne ho messa a disposizione una sul mio sito personale ( il nome della funzione è kernel1. Per poterla utilizzare, è necessario copiare il file kernel1.m nella directory work o in un altra directory presente nella search path. La funzione kernel1 prende come argomento un vettore e restituisce come output un vettore di ascisse x e un vettore di densità stimate p. Per visualizzare il grafico di una stima di densità kernel per il campione rr, si deve quindi digitare [pk,xk]=kernel1(rr); plot(xk,pk) Esercizio 4. Generare un campione di 100 osservazioni da una distribuzione t con 4 gradi di libertà. Eseguire una stima kernel e riportarla nello stesso grafico della vera funzione di densità. Esercizio 5. Ripetere l esercizio precedente con un campione di 1000 osservazioni. Notare eventuali cambiamenti. 4

5 3 Stima puntuale 3.1 Proprietà finite di uno stimatore Uno stimatore è una variabile aleatoria e come tale possiede una propria distribuzione. Una realizzazione della variabile aleatoria stimatore prende il nome di stima. Per valuatre empiricamente la distribuzione di uno stimatore si deve quindi raccogliere un campione di stime. Supponiamo di aver a che fare con un campione di 10 unità da una popolazione con distribuzione esponenziale a media 3; utilizzeremo la media campionaria come stimatore della media della popolazione. Per costruire la distribuzione dello stimatore dobbiamo estrarre ripetutamente campioni di dieci unità e calcolare su ognuno di essi la media campionaria. Se vogliamo valutare la distribuzione dello stimatore con un campione di 1000 stime, costruiamo una matrice di numeri aleatori con distribuzione esponenziale a media 3 di dimensioni ; ogni colonna rappresenterà gli esiti di un operazione di campionamento che viene poi ripetuta per 100 volte. xe=exprnd(3,10,1000); A questo punto ricaviamo il campione di 1000 stime della media, che risulta essere la media per colonna di xe. me=mean(xe,1); Otteniamo così un vettore di dimensione Notiamo che, se avessimo voluto la media per riga, avremmo dovuto digitare mean(xe,2); A questo punto si può generare l istogramma di me, che rappresenta la distribuzione dello stimatore media campionaria. hist(me) Notiamo che non ha forma esattamente campanulare, ma presenta asimmetria. In effetti, un campione di 10 unità non è sufficientemente ampio affinché valga il teorema del limite centrale e la distribuzione della media campionaria sia Gaussiana. Ripetendo lo stesso esperimento con un campione di 100 unità si nota che la distribuzione tende alla simmetria attorno al 3. ma=mean(exprnd(3,100,1000),1); hist(ma) 5

6 In effetti, si può osservare che la media delle stime è molto vicina a 3: mean(ma) Questa è una conseguenza del fatto che la media campionaria è uno stimatore corretto della media della popolazione. Uno stimatore non corretto è la varianza campionaria N s 2 i=1 = (x i x) 2. N Se consideriamo la distribuzione esponenziale con media 3 di cui sopra, la varianza della popolazione sarà 3 2. Se pensiamo di stimarla (su campioni di 10 osservazioni) utilizzando la varianza campionaria notiamo che la media delle stime non è molto vicina a 9. ve=var(xe,1); mean(ve) Se invece utilizziamo la varianza campionaria corretta (che Matlab usa di default) N s 2 i=1 = (x i x) 2. N 1 il risultato si avvicina alla varianza della popolazione. ve=var(xe); mean(ve) Un altra proprietà di uno stimatore è l efficienza, ovvero la sua varianza. Uno stimatore più efficiente (con varianza minore) sarà da preferirsi in quanto la componente erratica delle stime sarà minore. Esercizio 6. Verificare che la varianza campionaria corretta è meno efficiente della varianza campionaria non corretta. 3.2 Proprietà asintotiche di uno stimatore In molti casi le proprietà di uno stimatore sono da intendersi in senso asintotico, ovvero valgono al tendere a infinito della numerosità campionaria. Uno stimatore può ad esempio essere distorto ma corretto asintoticamente: se consideriamo la varianza non corretta, osserviamo che per N essa equivale alla varianza corretta. Per verificare le proprietà asintotiche di uno stimatore possono essere utili grafici ricorsivi. Consideriamo un campione di 1000 osservazioni da 6

7 una distribuzione normale standardizzata. Per visualizzare l evoluzione della media campionaria al crescere della dimensione campionaria possiamo digitare: xn=randn(1000,1); nn=[1:1:1000] ; mn=cumsum(xn)./nn; plot(mn) Osserviamo che al crescere del numero di osservazioni la media campionaria tende alla media della popolazione. Esercizio 7. Utilizzando la formula s 2 = N i=1 x2 i N [ N i=1 x i] 2 N 2, mostrare che la varianza campionaria distorta è asintoticamente corretta. 4 Test di ipotesi e intervalli di confidenza Il package stats di Matlab include due funzioni per effettuare test di ipotesi nel campionamento da una normale: ztest per il caso di varianza nota e ttest per il caso di varianza ignota. Il prototipo della funzione ztest è [h,p,ci,zval] = ztest(x,m,sigma,alpha,tail) Gli argomenti in input sono quindi: x campione di dati, m valore della media sotto H 0, sigma varianza della popolazione, alpha livello di significatività (default 0.05), tail tipo di test: bidirezionale (0, default), unidirezionale a destra (1), unidirezionale a sinistra ( 1). La funzione restituisce come output: h esito del test: (0 non rifiuto, 1 rifiuto), 7

8 p p-value della statistica test, ci intervallo di confidenza per la media, zval valore della statistica test. Il prototipo della funzione ttest è identico, l unica differenza è che non è ovviamente necessario sigma, e che la statistica test stats viene qui restituito come struttura che riporta sia il valore che il numero di gradi di libertà: [h,p,ci,stats] = ttest(x,m,alpha,tail) 4.1 Significatività Eseguiamo ora uno studio di simulazione per verificare che il test funzioni correttamente, ovvero che commetta errori di I tipo una frazione di volte prossima al livello di significatività. Consideriamo un campione di 30 elementi da una distribuzione normale standardizzata, e sottoponiamo a verifica l ipotesi nulla H 0 : µ = 0; assumiamo che la varianza non sia nota e utilizziamo quindi la funzione ttest. Poiché la funzione ammette come argomento un vettore ma non una matrice, dobbiamo eseguire lo studio di simulazione all interno di un ciclo for. q=zeros(1000,1); for i=1:1000 xn=randn(30,1); [q(i,1),tmp1,tmp2,tmp3]=ttest(xn,0); end clear tmp* i mean(q) Osserviamo che la proporzione effettiva di rifiuti dell ipotesi nulla è prossima al livello di significatività del test. 4.2 Funzione di potenza Anche la funzione di potenza può essere costruita per via di simulazione: q=zeros(1000,1); h1=[-1:0.1:1] ; n1=rows(h1); pot=zeros(n1,1); 8

9 for k=1:n1 randn( state,0); for i=1:1000 xn=randn(30,1)+h1(k,1); [q(i),tmp1,tmp2,tmp3]=ttest(xn,0); end pot(k,1)=mean(q); end plot(h1,pot) clear tmp* i q n1 In primo luogo si genera un vettore h1 che contiene le possibili medie della popolazione. Poi, per ogni elemento di h1, si ricava empiricamente la potenza, ovvero si conta la proporzione di rifiuti di H 0. Per ogni nuovo valore di h1 dobbiamo resettare il seme del generatore di numeri casuali, per evitare che la funzione di potenza presenti irregolarità dovute all errore di campionamento. Esercizio 8. Costruire la funzione di potenza per un test unidirezionale a destra sulla media di una distribuzione normale standardizzata con campioni di 10 osservazioni. Ripetere per campioni di 50 osservazioni. Notare le differenze. 4.3 Intervalli di confidenza Un ultimo risultato che si può ricavare dalle funzioni ztest e ttest è costituito dagli intervalli di confidenza per la media, che viene restituito come vettore di due elementi (estremo inferiore e superiore) ci. Mostriamo ora come l ampiezza dell intervallo si riduca all aumentare delle osservazioni: in primo luogo generiamo un campione di 100 osservazioni da una distribuzione normale standardizzata e dichiariamo un vettore di medie mn e una matrice che contiene gli estremi degli intervalli di confidenza cin. xn=randn(100,1); mn=zeros(90,1); cin=zeros(90,2); A questo punto scriviamo un ciclo for che riempia ricursivamente mn e cin, partendo da campioni di 11 osservazioni e incrementando di uno fino a coprire tutto il campione disponibile. Potremo così controllare l evoluzione degli intervalli di confidenza. 9

10 for i=11:100 mn(i-10,1)=mean(xn(1:i,1)); [tmp1,tmp2,cin(i-10,:),tmp3]=ttest(xn(1:i,1),0); end clear tmp* i plot(mn, k- ) hold on plot(cin, k: ) hold off 10