ARTIFICIELLA NEURALA NÄT. MARCO KUHLMANN Institutionen för datavetenskap

Storlek: px

Starta visningen från sidan:

Download "ARTIFICIELLA NEURALA NÄT. MARCO KUHLMANN Institutionen för datavetenskap"

Torbjörn Andreasson
för 7 år sedan
Visningar:

1 ARTIFICIELLA NEURALA NÄT MARCO KUHLMANN Institutionen för datavetenskap

2 Example Alt Bar Fri Hun Pat Price Rain Res Type Est WillWait 1 Yes No No Yes Some $$$ No Yes French 0 10 Yes 2 Yes No No Yes Full $ No No Thai No 3 No Yes No No Some $ No No Burger 0 10 Yes 4 Yes No Yes Yes Full $ No No Thai Yes 5 Yes No Yes No Full $$$ No Yes French >60 No 6 No Yes No Yes Some $$ Yes Yes Italian 0 10 Yes 7 No Yes No No None $ Yes No Burger 0 10 No 8 No No No Yes Some $$ Yes Yes Thai 0 10 Yes 9 No Yes Yes No Full $ Yes No Burger >60 No 10 Yes Yes Yes Yes Full $$$ No Yes Italian No 11 No No No No None $ No No Thai 0 10 No 12 Yes Yes Yes Yes Full $ No No Burger Yes

3 Klassificering Klassificering är en övervakad maskininlärningsuppgift som går ut på att tilldela ett indatum en klass. Exempel: Givet en situation, vilken aktion ska agenten utföra? Datamängden består av par (datum, klass). Exempel: (restaurangsituation, värd att vänta?) Under träningen ser systemet både datumet och dess klass. I testfasen ser systemet endast datumet och ska predicera klassen.

4 MNIST MNIST-databasen består av handskrivna siffror (bilder) tillsammans med ett facit (rätt siffra) för varje bild.!! Hur bygger man ett system som tar in en bild och identifierar vilken siffra bilden föreställler?

5 Översikt Perceptroner Perceptroninlärning Sigmoid-neuroner Inlärning i neurala nät Backpropagation

6 Perceptroner

7 Perceptroner Perceptronen är en av de enklaste artificiella neuroner. Modellen utvecklades kring 1960 av den amerikanska psykologen och datalogen Frank Rosenblatt. Perceptronen är inspirerad av neurobiologiska arbeten, men är själv ingen neurobiologisk utan en datalogisk modell.

8 En neuron dendriter synapser med andra neuroner axon cellkropp

9 Kommunikation mellan neuroner Neuroner kan kommunicera via synapser, kopplingar mellan en sändande och en mottagande neuron. En neuron mottar signaler via dess dendriter. De mottagna signalerna ackumuleras i cellkroppen. Om den ackumulerade signalen är tillräckligt stor alstras en nervimpuls. Nervimpulsen alstrar signaler till andra neuroner.

10 Perceptron-modellen in-signal x 1 w 1 viktad koppling y ut-signal, aktivering x 2 w 2 1. Beräkna invärdet som den viktade summan av alla in-signaler. 2. Beräkna ut-signalen med en aktiveringsfunktion.

11 Stegfunktionen med tröskelvärde y 1 tröskelvärde 0 in

12 Exempel in-signal x 1 w 1 viktad koppling y ut-signal, aktivering x 2 w 2 in = w 1 x 1 + w 2 x 2 y = f(in) = f(w 1 x 1 + w 2 x 2 )

13 In-signaler och vikter som vektorer Vi modellerar in-signaler och vikter som vektorer. Med detta perspektiv är invärdet identisk med skalärprodukten av viktvektorn w och in-signalvektorn x: in = =

14 Bias istället för tröskelvärde med tröskelvärde y = 0 om 1 om w x w x > tröskelvärdet tröskelvärdet med bias b y = 0 om 1 om w x + b 0 w x + b > 0

15 Perceptron med bias 1 x 1 w 1 b bias y x 2 w 2 in = w 1 x 1 + w 2 x 2 + b y = f(in) = f(w 1 x 1 + w 2 x 2 + b)

16 Stegfunktionen y 1 0 in

17 Exempel: NAND Perceptron med w 1 = w 2 = 2 och b = 3 x1 x2 w1 x1 + w2 x2 + b y

18 Exempel: NAND Perceptron med w 1 = w 2 = 2 och b = 3 x1 x2 w1 x1 + w2 x2 + b y

19 Perceptroninlärning

20 Perceptroninlärning Perceptroner kan lära sig linjärt separerbara problem. Inlärningen går ut på att lära sig vikterna (= viktvektorn).

21 Förenkling För att beskriva inlärningsalgoritmerna bortser vi från bias; den kan modelleras som en extra insignal som alltid är på.

22 Inlärningsalgoritm Börja med att sätta w 0 (nollvektorn). För varje par (x, y*) i träningsmängden: 1. Beräkna utsignalen: y f(w x) 2. Uppdatera vikterna: w w + (y* y)x

23 Analys av inlärningsalgoritmen Fall 1: y* = y w w + 0 Vikterna förblir oförändrade. Fall 2: y* = 1, y = 0 Fall 3: y* = 0, y = 1 w w + x w w x Vikterna flyttas bort från träningsexemplet, i riktning mot guldstandarden.

24 Skalärprodukt w = (+1, +1) x = (+1, +1) w x = +2

25 Skalärprodukt w = (+1, +1) x = ( 1, 1) w x = 2

26 Skalärprodukt x = ( 1, +1) w = (+1, +1) w x = ±0

27 Skalärprodukt w w x > 0 w x < 0 w x ± 0

28 Korrekt klassificerat negativt exempel y y 0 0 w x

29 Korrekt klassificerat positivt exempel y y w 1 1 x

30 Felaktigt klassificerat negativt exempel y y 0 0 x w 1 1 x

31 Felaktigt klassificerat negativt exempel y y 0 0 w x

32 Felaktigt klassificerat positivt exempel y y 0 0 w x 1 1 x

33 Felaktigt klassificerat positivt exempel y y w 1 1 x

34 Analys av inlärningsalgoritmen Fall 1: y* = y w w + 0 Vikterna förblir oförändrade. Fall 2: y* = 1, y = 0 Fall 3: y* = 0, y = 1 w w + x w w x Vikterna flyttas bort från träningsexemplet, i riktning mot guldstandarden.

35 Generalisering till flera klasser x 1 x 2 x 3 x 4 1. en perceptron för varje klass 2. ingen stegfunktion utdata är en vektor 3. predicerad klass = perceptron med högst aktivering

36 Generalisering till flera klasser x 1 a x 2 x 3 x 4 b c score(a) = w a x score(b) = w b x score(c) = w c x

37 Generalisering till flera klasser x 1 a x 2 x 3 x 4 b c score(a) = w a x score(b) = w b x score(c) = w c x

38 Generalisering till flera klasser x 1 a x 2 x 3 x 4 b c score(a) = w a x score(b) = w b x score(c) = w c x

39 Generalisering till flera klasser x 1 a x 2 x 3 x 4 b c score(a) = w a x score(b) = w b x score(c) = w c x

40 Generalisering till flera klasser x 1 a x 2 x 3 x 4 b c score(a) = w a x score(b) = w b x score(c) = w c x predicerad klass = argmax x score(x)

41 Inlärningsalgoritm Börja med att sätta w 0 (nollvektorn). För varje par (x, y*) i träningsmängden: 1. Beräkna utsignalen: y w x 2. Uppdatera vikterna: w w + (y* y)

42 Sigmoid-neuroner

43 Sigmoid-neuroner Sigmoid-neuroner har samma uppbyggnad som perceptroner, men en annan aktiveringsfunktion. De kan inte bara signalera 0 eller 1 som perceptroner, men godtyckliga reella tal i denna intervall.

44 Sigmoidfunktionen y 1 (in) = in 0 in

45 Jämförelse av aktiveringsfunktionerna y y in 0 in stegfunktionen sigmoidfunktionen

46 Vad kan ett neuralt nät lära sig? perceptroner sigmoid-neuroner linjärt separerbart inte linjärt separerbart

47 Flerlagersnätverk indatalagret (input layer) utdatalagret (output layer) dolda lagret (hidden layer)

48 Ett enkelt flerlagersnätverk w 12 w y 1 in 2 y 2 in 3 y 3

49 Ett enkelt flerlagersnätverk w 12 w y 1 in 2 y 2 in 3 y 3 y 1 = x in 2 = w 12 y 1 y 2 = σ(in 2 ) in 3 = w 23 y 2 y 3 = σ(in 3 )

50 Inlärning i neurala nät

51 Grundidé Vid övervakad inlärning består träningsdatan av par (x, y*) där x är ett indatum och y* är målvärdet. Idé för en inlärningsalgoritm: Prova att ändra vikterna och testa om nätets utsignal kommer närmare målvärdet. Sigmoid-funktionens jämna form gör att små ändringar i vikterna resulterar i endast en liten ändring i utsignalen.

52 Att mäta hur mycket fel nätet gör Vi behöver kunna mäta hur bra vårt nät har lärt sig. För att göra detta mäter vi avvikelsen mellan målvärdet och nätets utsignal, dvs. hur mycket fel nätet gör. Ett konkret mått är mean squared error som kvantifiera felet för utsignalen y relativt till målvärdet y som () = 1 2 2

53 Mean squared error E y* y

54 Gradient descent: Intuition Vi vill ändra nätets vikter på ett sådant sätt att felet minimeras. Utan vidare information kan vi bara ändra vikterna på måfå och hoppas att felet blir mindre med tiden. Men om felfunktionen är snäll (deriverbar) så kan vi räkna ut dess gradient och gå i den riktningen.

55 Gradient descent: Intuition w 23 felets dal w 12

56 Gradient descent: Intuition w 23 felets dal gradient w 12

57 Gradient descent, matematiskt Om vi förflyttar oss en liten bit Δw 12 i w 12 -riktningen och en liten bit Δw 23 i w 23 -riktningen, då ändras felet E som så: partiell derivata av E med avseende på w12

58 Gradient descent, matematiskt Gradient descent väljer Δw 12 och Δw 12 så att ΔE blir negativt, dvs. felet blir mindre över tiden:!! 12 = = 23 Värdet η heter inlärningsparametern. Genom att höja eller sänka den kan man ta inflytande över hur stora steg gradient descent tar.

59 Hur man räknar ut gradienten w 23 E w 12

60 Hur man räknar ut gradienten w 23 E/ w 23 E/ w 12 w 12

61 Gradient descent Börja med en godtycklig viktvektor w. Upprepa följande steg tills felet blir tillräckligt litet: Givet den aktuella viktvektorn w, räkna ut E. Sätt den nya viktvektorn till w η E.

62 Stochastic gradient descent Vid gradient descent måste man gå över hela träningsdatan för att beräkna uppdateringen till vikterna. Vid stochastic gradient descent tar man ett datum i taget. En kompromiss är att dela upp data i små buntar (minibatches) och uppdatera efter att ha sett all data i en bunt.

63 Backpropagation

64 Backpropagation-algoritmen Backpropagation-algoritmen är en effektiv algoritm för att räkna ut gradienten E, vektorn med alla partiella derivator E/ w i.

65 Ett enkelt flerlagersnätverk w 12 w y 1 in 2 y 2 in 3 y 3 y 1 = x in 2 = w 12 y 1 y 2 = σ(in 2 ) in 3 = w 23 y 2 y 3 = σ(in 3 )

66 Ett enkelt flerlagersnätverk w 12 w 23 y 1 σ σ E in 2 y 2 in 3 y 3 e x y Vi vill beräkna E/ w 12 och E/ w 23.

67 Kedjeregeln till hjälp Kedjeregeln för derivator ger oss följande ekvationer: = 3 in in 3 23 = 3 in 3 2 in in 3 2 in 2 12 Viktigt: Alla funktioner i nätet måste vara deriverbara! 3 = 3 3 in 3 = (in 3 )(1 (in 3 )) in 3 23 = 2 in 3 2 = 23

68 Backpropagation-algoritmen Forward pass: räkna ut alla invärden (in 2, in 3 ) och aktiveringar (y 2, y 3 ) Backward pass: räkna ut alla partiella derivata (använder forward-värdena)

69 Backpropagation-algoritmen Beräkningarna av de partiella derivatorna kan återanvända partiella derivator som räknats ut tidigare i backward pass. Man kan därför räkna ut gradienterna lager för lager, med utlagret som början. Detta är effektivt även för djupa nät. Beräkningstiden är linjär i antalet lager.

70 Översikt Perceptroner Perceptroninlärning Sigmoid-neuroner Inlärning i neurala nät Backpropagation

Relevanta dokument

729G43 Artificiell intelligens / Maskininlärning 2. Marco Kuhlmann

729G43 Artificiell intelligens / 2015 Maskininlärning 2 Marco Kuhlmann Förra gången: Linjär regression Gradientsökning Vandra ner i felets dal. Steg 0: Börja med ett godtyckligt värde för θ. Steg 1: Räkna