Sidan 1. Översikt P D P. Neurala nät i kognitiv neurovetenskap. Kursinnehåll. Kursens syfte P D P. Litteratur. Relation till ANN HKGC19/TDDC11

Transkript

1 Översikt Neurala nät i kognitiv neurovetenskap HKGC19/TC11 Kursinformation Schema, examination, etc. arallellkurs i kognitiv modellering Artificiella neurala nät Kognitiv neurovetenskap (OM kap 1) Biologiskt realistiska nät Verktyget ++ Leabra++ Neurala nät i kognitiv neurovetenskap 2 Kursens syfte Kursinnehåll Introduktion till artificiella neurala nätverk Efterliknar hjärnans mekanismer Beräkningsmässigt effektiv jupförståelse Snarare än reproduktion av matematiken bakom raktisk erfarenhet av neurala nät Känna på verktyget Leabra++ Inblick i mekanismerna som ligger bakom mänskligt tänkande Hjärncellen och artificiella neuronen Beteendet hos nätverk av neuroner Inblick i artificiella nät analysmetoder Inlärningsalgoritmer Hebbiansk modellinlärning (utan lärare) GeneRec motsv. backpropagation (med lärare) Neural beräkning l mänskligt beteende Neurala nät i kognitiv neurovetenskap 3 Neurala nät i kognitiv neurovetenskap 4 Relation till ANN Litteratur Biologiska neuronen Artificiella noder unktapproximation Olika nätarkitekturer Inspirerade av hjärnans uppbyggnad Utan lärare med lärare Alternativt synsätt Ex. bindingsproblemet ANN generellt sett: Beräkningsenheter Lös kombination av flera typer av neuroner Trelagersnät Beräkningsmässigt adekvat Många olika typer av inlärningsalgoritmer Ofta skräddarsydda för ett visst beräkningsbehov O Reilly & Munakata (2000) Kap 1-7 Neurala nät i kognitiv neurovetenskap 5 Neurala nät i kognitiv neurovetenskap 6 Sidan 1

2 Vad vi inte hinner titta på Lärare Sekvensinlärning SRN (Simple Recursive Nets, återkopplade nät) ƒ Ex. Nät som lär sig naturligtspråk-grammatik Reinforcement learning Baserat på belöning/bestraffning Nät med temporal dynamik Kräver ofta mer än justering av vikter Genetiska algoritmer eller andra sökalgoritmer Rita Kovordányi, Kursansvarig, examinator Mårten Szymanowski, Gästföreläsare, inlärningsalgoritmer Mary Rudner, Gästföreläsare, biologiska basen Lise-Lott Andersson, Kurssekreterare Neurala nät i kognitiv neurovetenskap 7 Neurala nät i kognitiv neurovetenskap 8 Forskning på IA och IBV Tre delområden Adaptiva bilförarstöd (IA) Föraradaptiva system ƒ Upptäcka mental överbelastning hos föraren ƒ Effekter av varningssystem» Kör slarvigare eller lär sig från stödsystemet? System som kan upptäcka fara och varna ƒ Upptäcka fotgängare som korsar vägen Människans språkförmåga (IBV) Vad är de mentala byggstenarna för vårt språk? ƒ å vilken nivå (stavelse/fonem) utförs ordrotation? Biologiska våtvaran (kap 2,3) Mary Rudner, marru@ibv Övergripande systemsyn (kap 1,3,7) Rita Kovordányi, ritko@ida Inlärningsalgoritmer (kap 4,5,6) Mårten Szymanowski, marsz@ida Mer kontaktinfo: Neurala nät i kognitiv neurovetenskap 9 Neurala nät i kognitiv neurovetenskap 10 edagogik Rekommenderad arbetsgång Aktiv utforskning Förutsätter mycket eget arbete Boken varvar text med labbar Mycket läsning framför datorn Boken introducerar begrepp allt eftersom de behövs för förståelsen av nya begrepp Allt inte samlat på ett ställe Föreläsningarna följer boken, så långt det går Före varje föreläsning rekommenderas att du Läser igenom stoffet Ögnar igenom föreläsnings-oh Efter föreläsningen Labbar igenom stoffet Besvarar examinationsfrågorna u kommer ha mycket svårt att besvara frågorna om du inte jobbat igenom boken först! Neurala nät i kognitiv neurovetenskap 11 Neurala nät i kognitiv neurovetenskap 12 Sidan 2

3 Labbarna Examination 2 UL bokade tisdagar och torsdagar En av två timmar lärarledd Första timmen alt. andra timmen (beror på lärare) Komma igång Ställa frågor Fortsätta jobba på egen hand Kontakta lärare vid behov (via a-mail) Ett antal hemuppgifter för varje kapitel/fö Labba igenom exempel i boken Besvara labbfrågorna (se kurshemsidan) Lämna in till respektive lärare via Löses individuellt Sista uppgiften i grupper om två Uppgifter och inlämningsdatum på kurshemsidan Neurala nät i kognitiv neurovetenskap 13 Neurala nät i kognitiv neurovetenskap 14 Inlämningsdatum Examination Torsdag kl vs. innan nästa labbserie påbörjas Via 3/4 10/4 15/5 29/5 oäng (eller K) på varje uppgift Viktad summa underlag för slutbetyg Uppgifterna grupperade i 4 delmoment Biologin (neuronen) Övergripande (nätverksanalys + kwta) Inlärningsalgoritmer Bygga eget nät Måste ha godkänt på varje delmoment i kursen Neurala nät i kognitiv neurovetenskap 15 Neurala nät i kognitiv neurovetenskap 16 Betyg Kurshemsidan För Godkänt i slutbetyg Minst 50% av uppgifterna godkända Varje delmoment för sig! Bl.a. kursinformation i pdf-format Inlämningsdatum, schemat, kontaktinfo Högre betyg Baserat på viktad summa av delmomenten Kursmål, examination Manualer till verktyget ++ Kort webb-baserad tutorial ELRO È YHUJULSQGH È LQOlUQLQJVOJRULWHU È E\JJ È Läsanvisningar, föreläsningsanteckningar, OH-bilder Neurala nät i kognitiv neurovetenskap 17 Neurala nät i kognitiv neurovetenskap 18 Sidan 3

4 Kognitiv modellering Kurserna är tänkta att stötta varandra Går parallellt i period 4 Samma förkunskapskrav Modelleringen fokuserar på övergripande intelligent beteende Syfte att förstå mänsklig kognition Bygga övergripande modeller Artificiella neurala nät Grundläggande begrepp Neurala nät fokuserar på djupförståelse av ANN Modelleringsverktyg; alternativ till AI-tekniker Neurala nät i kognitiv neurovetenskap 19 Artificiell nod Aktiveringsfunktionen NWLYHULQJVIXQNWLRQ XWVLJQOÃWLOOÃ QGUÃHQKHWHU NWLYHULQJ LQVLJQO Linjär Sigmoid LQVLJQOÃIUnQÃ QGUÃHQKHWHU Z LM ELVYLORQLYn L NWLYHULQJ NWLYHULQJ LQVLJQO LQVLJQO Har ett känsligt intervall Mer stabilt utanför detta intervall Gaussisk Reagerar bara inom ett visst intervall Neurala nät i kognitiv neurovetenskap 21 Neurala nät i kognitiv neurovetenskap 22 Inlärning Mätning av fel Utan lärare (unsupervised) Self-organizing nets, Hebbiansk inlärning Reinforcement learning Träningsfel (SSE, CE) Mäts kontinuerligt under träning Generaliseringsfel (mäts på samma sätt) Med lärare (supervised) Backpropagation, GeneRec Mått på lyckad inlärning Hur beter sig nätet för ny input Kombinerat i Leabra++ Lägg valideringsdata åt sidan En viss portion av viktändringen baseras på unsupervised (default 1%), resten supervised Kör nätet med separata valideringsdata efter inlärning Alt. efter var n:te inlärningsvarv (epok) Neurala nät i kognitiv neurovetenskap 23 Neurala nät i kognitiv neurovetenskap 24 Sidan 4

5 Artificiella neurala nät Lokalistisk vs distribuerad Lokalistiska representationer Begrepp, särdrag, etc. kodas av dedicerade noder Går att etikettera varje nod IXOOVWlQGLJW nwhunrssow istribuerade representationer Information kodas av flera noder Varje begrepp, särdrag, etc. motsvaras av en unik kombination av aktiva noder IUnWNRSSOW RGXOlUW Neurala nät i kognitiv neurovetenskap 25 Neurala nät i kognitiv neurovetenskap 26 istribuerad representation Ger feltolerans Gör inget om en nod faller bort Effektiv kodning: färre enheter behövs Tänk på binära tal Naturlig kodning av likhet som överlapp mellan aktiveringsmönster Kan generalisera genom ny kombination av enheter Biologiskt baserade nät Neurala nät i kognitiv neurovetenskap 27 Kognitiv neurovetenskap Analysnivåer Ju fler ben, desto stabilare stol O Reilly & Munakata: Kognitiv neurovetenskap står på tre ben 1 sykologiska experiment Beräkningsmässig modellering Hjärnforskning ƒ Fysiologi ƒ Anatomi 1. Kosslyn, S. (1994). Image and brain. Cambridge: MA. MIT ress.rjqlwlyãihqrhq %HUlNQLQJV SULQFLSHU 1HXUOÃHNQLVHU Undersök både top-down och bottom-up Ta samtidigt hänsyn till både kognitiva fenomen och biologiska mekanismer Vill samtidigt ha beräkningseffektiva algoritmer Neurala nät i kognitiv neurovetenskap 29 Neurala nät i kognitiv neurovetenskap 30 Sidan 5

6 Formalismer algoritmer Leabra Artificiella neurala nät är Turing-kompatibla med seriella datorer Och implementeras ju på en dator i slutändan Men, även om samma funktion hade kunnat beräknas med ett LIS-program Skillnad på vad som naturligt kan implementeras i LIS vs ANN Betong lämpar sig för höghus, trä lämpar sig för småhus Leabra = Local, error-driven and associative, biologically realistic algorithm. Hebbiansk (oövervakad) Feldriven (övervakad) Reinforcement learning Neurala nät i kognitiv neurovetenskap 31 Neurala nät i kognitiv neurovetenskap 32 Varför biologiskt baserade nät? Biologiskt baserade nät Alternativ till andra AI-tekniker Kan bevisligen generera intelligent beteende Viktig komponent i studiet av mänsklig kognition Verktyg för att testa teorier Generera nya hypoteser Ger bra introduktion till generella ANN Inlärningsalgoritmer Andra typer av nät ofta specialfall av bb nät ƒ Ex. Kohonen-nät Approximering av biologisk neuron Icke-linjär, sigmoidal aktiveringsfunktion Enheters aktivering begränsad till [0, 1[ istribuerade representationer Aktiveringsmönster över flera noder Tävling genom sidvis (lateral) inhibering Tillåter k noder att vara aktiva samtidigt Neurala nät i kognitiv neurovetenskap 33 Neurala nät i kognitiv neurovetenskap 34 Biologiskt baserade nät Rumslig kodning Sparse representations Robusthet Många enheter tysta under bearbetning av input Ger armbågsrum vid Hebbian learning, då enheter slås om att få ta hand om input Grov kodning Samma enhet reagerar på brett spektrum av input Ger fin kodning av input när flera enheter kodar varje händelse! Grov kodning ger hög precision, förutsatt att överlapp mellan enheter beaktas Används ex.vis. i de delar av visuella systemet som bearbetar rumslig information Neurala nät i kognitiv neurovetenskap 35 Neurala nät i kognitiv neurovetenskap 36 Sidan 6

7 Biologiskt baserade nät Beräkningsmässiga egenskaper Kopplingar antingen exitatoriska eller inhibitoriska ubbelriktade kopplingar (dvs. återkopplade nät) Begränsat antal aktiverade noder inom varje lager k winners take all (kwta) Sidvis (lateral inhibering) mellan noderna i ett lager Interaktivitet (dubbelriktade kopplingar) Beräkning genom förhandling mellan olika lager Är därmed svårt att empiriskt avgöra om process p 1 aktiverade p 2 (eller vice versa) Aktiveringsflöde som i ett vattenfall Alla processer blir aktiva nästan samtidigt Svårt att säga vilken process som blev aktiv först p 2 kan alltså ligga efter p 1 i nätet, men hinner ändå påverka p 1 (och därmed sin egen input) Neurala nät i kognitiv neurovetenskap 37 Neurala nät i kognitiv neurovetenskap Verktyget ++ Simuleringspaketet Leabra++ Utvecklat av -gruppen Rumelhart & McClelland och deras forskningsgrupp, bl.a. O Reilly Innehåller flera simuleringspaket, bl.a. bp++ leabra++ essa paket startas upp med motsvarande kommando maj23> leabra++ Neurala nät i kognitiv neurovetenskap Verktyget ++ roject Specs Network Train Epoch Graphlog Environment Trial Settle LQQHKnOOHU NRXQLFHUUÃHG Cycle Neurala nät i kognitiv neurovetenskap 41 Neurala nät i kognitiv neurovetenskap 42 Sidan 7

8 Nätverk i Leabra++ Grundläggande begrepp Nätverket består av ett antal lager (layers) Håller bl.a. reda på inkommande kopplingar rojections Schema för hur kopplingar får förekomma ƒ Ex. one-to-one, tesselated, full Kopplingar med individuella vikter Speciella specs styr hur noder, lager, projektioner, och kopplingar ska bete sig Lättare att editera i nätet via dessa centrala mallar Träningsprocessen i ++ Epoch = en genomkörning av alla träningsexempel (brukar behöva köras flera gånger) Trial = körning av ett träningsexempel består av två faser ƒ Minus-fasen: nätet får gissa output ƒ lus-fasen: nätet får facit, beräknar felet, korrigerar vikter Settle = körning av nätet tills jämvikt uppnås (är alltså lika med en fas, + eller ) Cycle = uppdatering av alla enheters aktivering Neurala nät i kognitiv neurovetenskap 43 Neurala nät i kognitiv neurovetenskap 44 Grundläggande begrepp Loggar Event = träningsfall Specificerar input och korrekt output (för övervakad inlärning) Environment = en samling träningsexempel En epok är alltså en genomkörning av hela Environment Grafiska och textloggar för träningsfel (GraphLog, TextLog) Kommunicerar med statistikuppsamlare (loop_stats, final_stats) Läser av värdet på statistiska variabler (SSE, da) och sammanställer/visar grafiskt Olika statistikvariabler läses av från nätverket i varje cykel, varje trial, etc Beroende på vilken processnivå statistikuppsamlaren finns Neurala nät i kognitiv neurovetenskap 45 Neurala nät i kognitiv neurovetenskap För Windows 98 Första gången verktyget ska köras i Unix: maj23> initadd ~HKGC13/modeling_tools enna sätter upp omgivningsvariabler, etc. Starta upp det paket man vill köra: maj23> leabra++ e labb-exempel som beskrivs i boken finns i: ~HKGC13/pdp++/demo/leabra_examples/ Ladda ner *.exe fil (på ++ hemsidan) Om filen ska installeras direkt under C: ubbelklicka på exe-filen, klart Annars Lägg till sökvägen i autoexec.bat Exempel: set IR=C:\rogram Files\++ ubbelklicka på *.exe-filen, klart Neurala nät i kognitiv neurovetenskap 47 Neurala nät i kognitiv neurovetenskap 48 Sidan 8

9 För Windows X Samma procedur som för Windows 98 Ladda hem filen.dll Ersätt gamla med denna nya fil Om ni har mer än 128 Mb RAM Titta i install/readme?? Neurala nät i kognitiv neurovetenskap 49 Sidan 9