succ prec indice

Apprendimento Adduttivo

Il ragionamento logico tradizionale utilizza regole di inferenza "valide", in grado cioe' di trarre conclusioni vere, indipendentemente dall'interpretazione delle formule.
La regola di inferenza "valida" piu' conosciuta e' indubbiamente la regola-MP "modus ponens", che afferma:

P, P -> Q
___________________
Q

Un'altra rogola di inferenza "valida", altrettanto nota e' il "modus tollens":

not Q, P -> Q
______________________

Per "ragionamento per abduzione" si intende l'inferenza della verita' della premessa, data la verita' della conclusione.

( Q and P -> Q) -> P

Questo tipo di inferenza e' evidentemente non valido, permettendo chiaramente interpretazioni che non verificano l'implicazione.

Malgrado questo, l'abduzione viene spesso utilizzata, piu' o meno consciamente, nel ragionamento di senso comune. Questo vale spesso nell' inferenza "causale", ovvero dove l'implicazione logica viene intesa come:

causa -> effetto

In generale, le cause "sufficienti" a determinare un certo effetto possono essere diverse, e questo schema di ragionamento sottintende in realta' la scelta della giustificazione piu' "verosimile" di un certo fenomeno.

Un esempio di inferenza per abduzione potrebbe essere la determinazione di un guasto ad un automezzo:

se    il motore non parte
   e se    le luci non si accendono
allora
            c'e' un guasto alla batteria

una schema di deduzione corretto, sarebbe invece:

se     c'e' un guasto alla batteria
allora   il motore non parte
       e     le luci non si accendono

Quantificando il concetto di "verosimiglianza" in termini probabilistici, l'abduzione trova una propria giustificazione statistica, espressa dalla regola di Bayes

P(evento| ipotesi) P(ipotesi)

P( ipotesi | evento ) = ____________________________________

P(evento)

Se esiste un insieme H di ipotesi distinte, sufficienti a giustificare un certo evento e, viene definita "ipotesi di massima verosimiglianza", l'ipotesi h_max tale che:

h_max      =     argmax    P(h|e)
                        h in H

               =    argmax    P(e|h) P(h)
                        h in H    __________
                                            P(e)

               =    argmax    P(e|h) P(h)
                        h in H

Nel contesto dell'apprendimento automatico, e' possibile applicare il modello bayesiano per classificare un insieme di esempi in accordo all'ipotesi che presenta la migliore verosimiglianza rispetto a tutto il training set.

Un problema con questo tipo di approccio e' che richiede la stima dei valori di P(e|h) e P(h) per ogni coppia <e,h>, dove pero' l'evento e ha una caratterizzazione multi-dimensionale, potendo essere rappresentato come vettore di attributi tra loro correlati.

Evidenziando gli attributi, la definizione di h_maxviene riscritta come:

                 h_max      =     argmax    P(h_i | a₁,a₂, ... ,a_n)
                                         h_k in H

               =    argmax    P(a₁,a₂, ... ,a_n|h_k) P(h_k)
                        h_k in H    _____________________
                                            P(a₁,a₂, ... ,a_n)

               =    argmax    P(a₁,a₂, ... ,a_n|h_k) P(h_k)
                        h_k in H

in cui i occorre fornire la stima di P(a₁,a₂, ... ,a_n|h_i) per tutte le possibili tuple di attributi.

Il classificatore bayesiano denominato "naive" assume che gli attributi a_i, dipendano dall'ipotesi h_k in modo tra loro indipendente.
Questo permette di semplificare il problema di stima, richiedendo la sola determinazione dei P(a_i|h_k), ottenibile calcolando le frequenze relative sui dati di esempio.

P(a₁,a₂, ... ,a_n|h_k) = P(a₁|h_k) P(a₂|h_k) ... P(a_n|h_k)

Quando questa assunzione di indipendenza non risulta applicabile, e' possibile ricorrere ad una sua generalizzazione, denominata "indipendenza condizionale".
Si dice che "X e' indipendente da Y posto Z" se

P( X=x_i | Y=y_j,Z=z_k) = P( X=x_i | Z=z_k)

Assumendo che i rapporti di dipendenza tra attributi siano organizzati secondo una gerarchia, si arriva ad introdurre la rappresentazione a grafo detta "rete Bayesiana di credenze" (Bayesian belief network).
In una rete di questo tipo, i nodi corrispondono o ad attributi o a ipotesi di classificazione, mentre gli archi indicano la relazione di dipendenza. Per ogni nodo e' poi stimata la distribuzione di probabilita' dell'evento corrispondente condizionata a tutte le possibili tuple dei nodi entranti.
Denotando con Genitori( Y_i) l'insieme degli nodi da cui dipende l'attributo Y_i, occorrera' stimare

P( Y_i| Genitori( Y_i) ) per ogni nodo Y_i

ricordando che

P( a, b ) = P( a | b ) P( b ) = P( b | a ) P( a )

e' possibile riscrivere la probabilita' congiunta di attributi e ipotesi nel modo seguente:

P(a₁,a₂, ... ,a_n|h_k) P(h_k) = P(a₁,a₂, ... ,a_n,h_k)
= II_i P( Y_i| Genitori( Y_i) )

L'applicazione delle reti Bayesiane a problemi di apprendimento, anche se di recente sviluppo sembra molto promettente. Al fine di consentire un loro utilizzo pratico sono stati proposti algoritmi di determinazione delle probabilita' condizionate che utilizzano tecniche di ottimizzazione, come ad esempio il metodo del gradiente.

succ prec indice