Visualizzazione post con etichetta inferenza esistenza. Mostra tutti i post
Visualizzazione post con etichetta inferenza esistenza. Mostra tutti i post

sabato 28 giugno 2008

Inferenza nell'esistenza 4bis

La condizione di identificabilità potrebbe essere sostituita con un altro vincolo di nullità di una combinazione lineare degli alfa, di fatto ciò significherebbe porre pari a zero una media pesata degli alfa. è proprio così che succede nella realtà, infatti se prendi Mina e la fai ruzzolare giù per le creuze di Genova dopo una rapida lettura del tomo di 849 pagine di Simonetta de Buvoni cosa ottieni? la verosimiglianza!
Il sistema di ipotesi è chiaramente un caso estremamente particolare che è stato presentato separatamente per facilitare l'esposizione.
Questo teorema ci dice in sostanza che le regole per le somme e i prodotti di sequenze di V.C. sono le stesse che valgono per le somme e i prodotti delle usuali sequenze numeriche. Da ciò è evidente che le profonde erudizioni armonico-stilistiche di De Gregorio Magno sono assimilabili all'invettiva stilistico-inferenziale dello stimatore Pooh.
In sintesi:
M Theta^2 - (Tx - N - M) . Theta - (Tx + Ty) = 0.

Chioccia

giovedì 26 giugno 2008

Inferenza dell'esistenza 4

Ebbene ebbene ebbene ebbene ebbene sì, è tornata!
è tornata la rubrica che tanto ha fatto sognare statistici ed aspiranti tali. Dopo averla mandata in pensione per un po' di tempo (tanto avevate Adimari che vi riempiva l'esistenza di inferenza) mi è rivenuta un'ispirazione. In realtà è un discorso abbastanza stupido e stereotipato, da ombrellone, insomma. è chiaro che io stessa, nota studiosa del fenomeno, ci credo fino ad un certo punto, e soprattutto, da ardente seguace di Simone de Beauvoir, ci tengo a precisare che tutte le differenze evidenziate in questo post, se vere, non sono di origine genetica o innata, se non per minima non rilevante parte.

Gli uomini sono molto semplici. Così semplici che ragionano sempre col modello base. Come una regressione con sola intercetta. Come guardare la dipendenza tra due variabili senza condizionarsi a nient'altro.
Noi donne invece vogliamo controllare tutto. Variabili d'interesse. Variabili confondenti. Variabili "nonsisamaicheancheloroaggiunganoqualcosa". Effetti diretti. Effetti indiretti. Effetti quadratici. Parametri per l'errore di misura. Parametri per tenere conto di possibili dipendenze. Parametri per correggere il parametro. Modelli saturi o quasi.

Per una trattazione chiara ed esaustiva degli effetti benefici o potenzialmente deleteri del primo o secondo modo di modellare nell'analisi statistica rimando a "Analisi dei dati e data mining" di A. Azzalini e B. Scarpa.
Per gli effetti deleteri nelle nostre vite vi raffazzonerò io una trattazione non chiara e non esaustiva.

Fare un modello semplice è semplice, veloce, chiaro e potente. La risposta è esatta ed è precisa.
Giusto.
Ma solo se il modello che c'è sotto è veramente semplice.Se sotto c'è qualcosa che non t'aspetti, che non hai preso affatto in considerazione, ragionando semplice non lo vedi. Nel piano di realtà potrebbe esserci una montagna, un'evidenza spropositata e tu non la vedi, non c'è possibilità che tu la veda se non hai il parametro giusto. Ma ci andrai a sbattere, prima o poi, in questa montagna. E quando andrai a sbattere in ciò che non hai voluto vedere farà malissimo.
[Inoltre -discorso tecnico- non tenere in considerazione effetti potenzialmente confondenti, può distorcerti anche quel poco che vedi. Che non è più nè chiaro, nè preciso. è sbagliato.]

Facciamo come le donne allora. No.
Perchè noi ragazze, o quantomeno io, ci facciamo un milione di domande. E pretendiamo di risponderci a tutte nello stesso momento. Ci sfiora il dubbio che "sotto" ciò che vediamo possa esserci qualsiasi cosa, anche la più assurda: ecco allora modelli pesantissimi, pieni di parametri e di interrogativi.
Se le cose assurde nella realtà esistono davvero, col modello pesantissimo le cogli (forse). Ma se esistevano solo nella tua testa, i risultati della tua analisi possono essere completamente distorti, tutto e il contrario di tutto. I modelli pesantissimi, inoltre, sono estramamente influenzati da oscillazioni casuali nei dati, che invece vengono lette come caratteristiche intrinseche del fenomeno: significa che, a volte, un minimo dato, un episodio, un gesto, una frase può venire usato per carpire chissà quali informazioni sulla realtà, quando invece non voleva dire niente, era solo rumore, disturbo, caso.

Ma allora è meglio il modello semplice col rischio di mettersi il prosciutto sugli occhi, meglio il modello pesante col rischio di vedere cose che non esistono, o qualcosa di intermedio?
Nella statistica, come nella vita, dipende dal singolo caso.
E soprattutto, capire qual'è il modello giusto, richiede qualche anno di studio ed esperienza. Ma solo nella statistica. Perchè nella vita non basta neanche quello.

lunedì 7 gennaio 2008

L'inferenza dell'esistenza 3 - modelli

Noi statistici, spesso, prendiamo dei dati, ci facciamo qualche diagnostica sopra, e poi gli appiccichiamo sopra un bel modello. "Questo lo inscatolo negli ARIMA(1,01)" "Quest'altro sarà un glm con famiglia di poisson" ecc. ecc.
Un po' come i telegiornali prendono una determinata storia -con le sue particolarità, le sue specificità, anzi, direi, con l'unicità che contraddistingue qualsiasi storia- e la mettono in un cassettone di modelli creati da loro: "stupro da parte di extra-comunitario", "tragedia familiare", "incresciosi episodi di bullismo a scuola", "giovani senza più regole" ecc. ecc.
Queste categorie un po' astratte iniziano a campeggiare non solo nei mass-media, ma anche nelle nostre teste. O forse è il contrario: i modelli precostituiti nascono da noi, e poi, finiscono, di conseguenza, nei mezzi di comunicazione che usiamo.
Voglio dire, non so se le categorie con pregiudizi annessi vengano dal tg a noi, o da noi a Studio Aperto, che ci marcia solamente sopra. Come non so se è nato prima l'uovo o la gallina.

Attraverso alcuni corsi, sto imparando a trattare con più amore i miei dati. A studiare con più senso critico la loro origine e l'esito dei test che ci faccio sopra, prima di classificarli inderogabilmente in un modello, in una scatola, in una categoria (che nella realtà non esiste, e che gli statistici hanno inventato a uso e consumo di sè stessi, e spesso se ne dimenticano). Non voglio di più collocare il fenomeno in esame in un modello strutturale con la stessa delicatezza con cui, alla fine dell'inverno, si ripone il piumone sempre troppo grande nella sua scatola.

Ma dammi, soprattutto, quell'infinita dose d'umiltà necessaria per non sbatterci più neanche le persone nelle scatole, nei modelli, nelle categorie, dopo test e diagnostiche sommarie e soprattutto automatizzate. Dammi di riuscire a non giudicarle. Il che non significa non indagarle, disinteressarsene, smettere di farsi domande.

martedì 4 dicembre 2007

L'inferenza dell'esistenza 2 - Magic Moments

Oggi ero a MSCE (cp). E parlavamo della stima dei parametri di un modello lineare con componente quadratica ed errore di misura nella variabile esplicativa. La stima con il metodo dei minimi quadrati è distorta, ovvero i parametri di regressioni vengono stimati verso il basso in proporzione ad un parametro u sconosciuto (si chiama fenomeno di attenuazione). In altre parole c'è un problema di sottoidentificazione: noi abbiamo solo tre momenti delle variabili osservate, e con questi vorremmo stimare quattro parametri: (b0 b1 b2 e u).
Ma ecco, che consideriamo un momento aggiuntivo che non avevamo prima (nella fattispecie E[x*(y^2)]). Tramite questo posso stimare u in maniera consistente. E di conseguenza, magia!, correggere le stima precedenti dei b, che ora diventano consistenti: ho 4 momenti e 4 parametri!
[nota: i parametri, in quanto parametri incogniti, andrebbero espressi con lettere greche. Non l'ho fatto solo perchè non disponibili qui sul blog]

Per i non statistici: lasciamo perdere l'esempio esimio che ho appena fatto. E beccattevi questa affermazione un po' semplificata e peracottara con spirito dogmatico (ma in fondo è un discorso abbastanza intuitivo): se ho 3 informazioni non posso stimare 4 quantità diverse. Mentre se ho 4 info posso farlo.
In generale, se le informazioni che ho sono inferiori al numero di quantità da stimare, non posso stimarle, o le stimo ad cazzum. Se ho abbastanza info posso fare stime buone, ovvero che vanno davvero a stimare ciò che voglio stimare.
(Se Trivellato o Azzalini leggessero il paragrafo precedente, gli prenderebbe uno sbarabaus di considerevoli proporzioni)

"Real life": Le informazioni che usavamo nell'esempio precedente erano i momenti della distribuzione. Cosa sono e perchè si chiamano così non frega a nessuno, vi basti sapere che sono info utili.
In realtà il paragone di oggi è un po' pisquano perchè si basa solo sull'uguaglianza tra la parola momento e la parola momento (statistico), che è solo linguistica e non basata su analogie di significato. Ma vabè.

Con le persone è la stessa cosa. La prima volta che le vedi ti fai un giudizio su di loro, che nella maggior parte dei casi è distorto. Mano a mano che ci si conosce, si acquisiscono nuove piccole grandi informazioni, che ci aiutano molto a farci una stima di chi abbiamo davanti. Ma si sa, spesso noi le info le interpretiamo un po' a modo nostro, attribuendo questo o quel valore alle persone in base anche ai modelli ed alle strutture che abbiamo in testa: il che ci porta a commettere errori di valutazione, e perlopiù, sistematici.
Non voglio dire errori immani, ovvero vedere una persona in modo totalmente opposto rispetto a quello che è veramente. No, voglio dire solo non comprendere del tutto il meccanismo generatore dei suoi attimi di vita che ci sono dati e noti. Voglio dire solo non centrare in pieno i parametri del suo cuore.

Poi ci sono quelli che chiamiamo "momenti magici": quell'attimo aggiuntivo che passiamo insieme, - che può constare di un discorso, uno sguardo, un gesto, una decisione, o qualcosa di non detto nella vicinanza o quello che vi pare - che ti fa capire quel non so che, quel parametro di disturbo che tanto disturbava la sintonia con l'altro. Mentre identifichi quella cosa piccolina mai notata prima in lui, vai a correggere tutte le stime e le proiezioni fatte precedentemente, che ora assumono più certezza e più senso. E ti dici tra te e te "davvero non avevo capito nulla"; "chissà che cosa avrà pensato delle mie risposte poco sensate a quelle sue domande ed a quei suoi discorsi che io non avevo afferrato ed avevo distorto".
Quel momento arriva prima o poi. E dopo quanto dipende sostanzialmente dal numero di parametri che la persona ha. Ci sono quelli che ne hanno uno o due; è un attimo e li hai identificati. Gente trasparente, che invidia.
Poi ci sono quelli con un mucchio di parametri, un sacco di equazioni. Dipendono da un sacco di roba diversa. E lì, ci vuole solo pazienza, ci passi una vita insieme e sono sempre mezzi sottoidentificati. Ma anche con loro arriverà il momento magico. E quando arriverà sarai convinto di avere al tuo fianco un modello complesso ma perfetto.

martedì 27 novembre 2007

L'inferenza dell'esistenza 1 - ottimizzazione miopica

Ottimizzazione miopica [in corsivo piccole parti dedicate solo a esimi colleghi statistici] -
In parole povere, parlo di ottimizzazione quando ho un insieme e devo trovare l'elemento migliore dello stesso secondo un qualche criterio stabilito precedentemente. Ad esempio, ho l'intervallo di punti tra 0 e 1, e devo determinare quello che mi rende minima la funzione x^2. Oppure ho l'insieme di tutti i panieri di beni che può comprare il signor Gino Pippo e deve determinare quello che lo soddisfa di più secondo i suoi gusti. Nel caso in questione mi riferisco agli alberi di regressione o classificazione in cui il mio problema di ottimizzazione consiste nel mimimizzare la funzione di devianza.
Parlo di ottimizzazione miopica nel caso in cui il problema è troppo complesso per trovare la soluzione migliore tutto in una volta, allora devo procedere per gradi. Cerco di spiegarla in parole povere a rischio di sbagliare. Prima mi prendo una parte del problema e risolvo quella. Poi prendo un'altra parte e risolvo quell'altra e così via. Il punto della questione è che trovo una SOLUZIONE MOLTO BUONA, MA NON E' DETTO CHE SIA LA MIGLIORE IN ASSOLUTO, OVVERO CHE SIA LA MIGLIORE GLOBALMENTE. Nel caso degli alberi di regressione, ad esempio, io approssimo la funzione di regressione con una funzione a gradini. Ad ogni passo dell'algoritmo, faccio una suddivisione nelle X tale che a un gruppo di X gli do un valore della funzione e a un gruppo ne do un'altra. Come scelgo la suddivisione tra tutte le possibili? Prendo quella che mi minimizza la devianza. Dopo varie iterazioni avrò una buona approssimazione, ma non è detto che sia la migliore in assoluto. Mammamia che faticaccia, se non avete capito venite al ricevimento del tutor.. (così ve lo spiega Tony..)

Analogo "Real Life" - Quando tu hai 14 anni inizi a farti domande sul tuo futuro e a chiederti cosa vorrai essere "da grande", non solo inteso che mestiere vuoi fare, ma propro nel senso di dove, come, con chi e a fare cosa vuoi passare la tua vita. Scegliere a 14 anni il migliore tra i propri infiniti possibili futuri è un filino troppo complesso. Allora si va di approssimazione miopica. Nel senso che intanto hai davanti la scelta "faccio il classico", "faccio lo scientifico", [..], "faccio il professionale", "faccio lo spacciatore" ecc. Tra le varie finestre che ti si aprono davanti, ovvero tra i vari sottoinsiemi dell'insieme dei futuri possibili, tenti di scegliere quella che ti darà di più (=quella che massimizza la funzione "felicità futura"). Una volta che tu hai scelto una possibilità, un sottoinsieme, tutte le altre che non hai scelto scompaiono e quindi ora ti concentri sui futuri possibili che ti sono rimasti. [è una fatica immane scrivere sta roba, anche per voi leggerla immagino]. E via così di iterazioni, che a 19 anni devi scegliere se fare l'università ed eventualmente dove e cosa studiare. E poi a 21 devi scegliere tra i sottoinsiemi "continuo a stare con lui" o "ci lasciamo", a 22 dove fare la Specialistica, a 23 tra "dottorato" e "non dottorato" e via così chi sa quante ce ne saranno.
Il nocciolo della questione è: sono convinta di aver scelto la cosa migliore ad ogni passo del mio processo di scelta. Ma GLOBALMENTE la mia scelta è davvero la migliore che io potessi fare? Ovvero, tra tutti i possibili futuri che avevo davanti a 14 anni, siamo sicuri che il migliore in assoluto fosse questo questo ovvero il "sto studiando Statistica e Informatica, abito a Padova e sto con Jacopo"? Ecco allora che il problema della nostra vita è che non possiamo mai fare ottimizzazioni globali di quello che siamo e saremo, ma solo ottimizzazioni miopiche, andando avanti a passetti. E, a differenza del computer, non abbiamo neanche la matematica certezza di scegliere la cosa migliore ad ogni iterazione

L'inferenza dell'esistenza

L'esperienza è l'insegnante più duro: prima ti fa l'esame, poi ti da la lezione. Come se non bastasse accade talvolta che la vita sia come Adimari: che prima ti fa un esame di merda, e poi ti dice che in fondo era facile.

Spesso e volentieri le materie statistiche sono un asettiche e tecniche. La maggior parte delle nostre lezioni sono meno "romantiche" di quelle di teoria di scuola guida in cui ti fanno semplicemente vedere i cartelli.
Ogni tanto, però, il muro spesso che divide la vita da Modelli 2 ha piccoli squarci, e non mi riferisco a quando i maschi pensano "Ma quant'è gnocca la Ventura?!"
Mi riferisco a quando stai seguendo il corso di non so cosa e la tua menta vaga bel bella dalle tue domande ai tuoi problemi, dalle timide soluzioni che ti proponi al perchè le stesse non funzionano nel caso specifico. E ti passa per la capoccia che quel problema lì con la sua non immediata risoluzione ha strane ed inaspettate analogie con qualche altro problema di ben altra natura affrontato col Dott. Scarpa piuttosto che con l'orsacchiotto Masarotto.

A questi parallelismi tra storia personale e statistica, tra matematica e vita pratica, tra esistenza ed inferenza, è arrivato il momento di dedicare una rubrica: che si chiamerà, appunto, "L'inferenza dell'esistenza"

(a dispetto della presentazione, la rubrica sarà leggera. Sia la parte statistica che quella di analogia con la vita saranno presentate in maniera molto semplificata (o almeno ci provo): così il tutto potrà essere compreso anche da chi non conosce la statistica, o da chi non conosce la vita.)