Probabilistisk logik 2

729G43 Artificiell intelligens / 2016 Probabilistisk logik 2 Marco Kuhlmann Institutionen för datavetenskap

Översikt Probabilistiska modeller Probabilistisk inferens 1: Betingad sannolikhet Probabilistisk inferens 2: Inferenser från simultanfördelningen Probabilistisk inferens 3: Bayesianska nät

Probabilistisk inferens 2: Inferenser från simultanfördelningen

4.01 Inferens från en simultanfördelning X Y Z P sommar varmt sol 0,30 sommar varmt regn 0,05 sommar kallt sol 0,10 sommar kallt regn 0,05 P(sol) P(sol vinter, varmt) P(sol vinter) vinter varmt sol 0,10 vinter varmt regn 0,05 vinter kallt sol 0,15 vinter kallt regn 0,20

4.02 Mekanisk inferensteknik För att beräkna en betingad sannolikhet utifrån en given simultanfördelning: betinga på de variabler som har kända värden marginalisera de variabler som inte refereras

4.03 Steg 1: Betingning X Y Z P P(sol vinter) vinter varmt sol 0,10 vinter varmt regn 0,05 vinter kallt sol 0,15 vinter kallt regn 0,20 ingen sannolikhetsfördelning; behöver normaliseras!

4.03 Steg 1: Betingning X Y Z P P(sol vinter) vinter varmt sol 0,20 vinter varmt regn 0,10 vinter kallt sol 0,30 vinter kallt regn 0,40

4.03 Steg 1: Betingning Y Z P P(sol vinter) varmt sol 0,20 varmt regn 0,10 kallt sol 0,30 kallt regn 0,40

4.05 Steg 2: Marginalisering Y Z P P(sol vinter) varmt sol 0,20 varmt regn 0,10 kallt sol 0,30 kallt regn 0,40 irrelevant; kan strykas

4.05 Steg 2: Marginalisering Z P P(sol vinter) sol 0,50 regn 0,50

4.06 Marginalisering, exempel P(X, Y) X Y P sol varmt 0,4 sol kallt 0,2 regn varmt 0,1 regn kallt 0,3

4.07 Osäkerhet Variabler vars värden är kända (data) Agenten vet vissa saker om hur världen ser ut. sensorinformation Variabler vars värden är okända Agenten behöver att resonera kring andra aspekter. var ett objekt befinner sig Variabler vars värden är irrelevanta så kallade gömda variabler

Probabilistisk inferens 3: Bayesianska nät

5.01 Problem med simultanfördelningen Utifrån simultanfördelningen kan man beräkna godtyckliga betingade sannolikheter. Denna metod har dock två problem: Problem 1. Beräkningskomplexiteten växer explosionsartat med antalet variabler. Problem 2. Simultanfördelningen är ofta ingen speciellt naturlig modell av problemdomänen.

5.02 Oberoende variabler Två stokastiska variabler X och Y är oberoende om x,y P(x,y) = P(x) P(y) Kunskap om vilka variabler som kan antas vara oberoende är expertkunskap om domänen.

5.03 Två kast med ett mynt X Y P krona krona 0,25 krona klave 0,25 klave krona 0,25 klave klave 0,25 X P Y P krona 0,50 klave 0,50 multiplicera! krona 0,50 klave 0,50

5.04 Är X och Y oberoende? P(X, Y) X Y P sol varmt 0,4 sol kallt 0,2 regn varmt 0,1 regn kallt 0,3

5.06 Villkorligt oberoende variabler Två stokastiska variabler X och Y är villkorligt oberoende given en tredje variabel Z om x,y,z P(x,y z) = P(x z) P(y z) Kunskap om vilka variabler som kan antas vara villkorligt oberoende är expertkunskap om domänen.

5.07 Tandläkardomänen H T F P falskt falskt falskt 0,576 falskt falskt sant 0,144 falskt sant falskt 0,064 falskt sant sant 0,016 sant falskt falskt 0,008 H = jag har ett hål i tanden T = jag har tandvärk F = tandläkarens sond fastnar sant falskt sant 0,072 sant sant falskt 0,012 sant sant sant 0,108

5.09 Faktorisering av en simultanfördelning multiplikationsregeln P(H, T, F) = P(T, F H) P(H) = P(T H) P(F H) P(H) villkorligt oberoende

5.10 Bayesianska nät Ett bayesianskt nät är en acyklisk riktad graf där noderna representerar stokastiska variabler och bågarna representerar beroenden mellan dessa variabler. För varje nod anges en betingad sannolikhetsfördelning. Fördelningen är betingad på nodens föräldrar.

5.10 Bayesianska nät H P sant 0,20 falskt 0,80 H T F H = sant H = falskt H = sant H = falskt T P T P F P F P sant 0,60 sant 0,10 sant 0,90 sant 0,20 falskt 0,40 falskt 0,90 falskt 0,10 falskt 0,80

5.11 Beräkningar i Bayesianska nät För att räkna ut ett värde P(x 1,, x n ) ur simultanfördelningen: Förse varje nod X i med motsvarande värde x i. För varje nod X i, skriv ner den betingade sannolikheten för dess associerade värde x i, givet värdena för dess föräldrar. Multiplicera alla dessa betingade sannolikheter.

5.12 Tandläkardomänen H T F P falskt falskt falskt 0,576 falskt falskt sant 0,144 falskt sant falskt 0,064 falskt sant sant 0,016 sant falskt falskt 0,008 H = jag har ett hål i tanden T = jag har tandvärk F = tandläkarens sond fastnar sant falskt sant 0,072 sant sant falskt 0,012 sant sant sant 0,108

5.12 Beräkna ett värde ur simultanfördelningen H P sant 0,20 falskt 0,80 H sant falskt T F sant H = sant H = falskt H = sant H = falskt T P T P F P F P sant 0,60 sant 0,10 sant 0,90 sant 0,20 falskt 0,40 falskt 0,90 falskt 0,10 falskt 0,80

5.13 Konstruktion av bayesianska nät Att konstruera användbara och kompakta bayesianska nät kräver kunskap om problemdomänen. Det är oftast bättre att i nätet modellera kausala samband mellan variabler snarare än diagnostiska samband. om jag har meningitis, hur sannolikt är det då att jag har nackspärr, inte om jag har nackspärr, hur sannolikt är det då att jag har meningitis Diagnostiska samband kan fås genom att använda Bayes regel.