ANN fk. Synopsis. Attraktornätverk. och synapser. Hebbska cellassemblies bildning. Hebbska cellassemblies dynamik. Hebbian cell assemblies bistabilty

HTML
DOWNLOAD

Storlek: px

Starta visningen från sidan:

Download "ANN fk. Synopsis. Attraktornätverk. och synapser. Hebbska cellassemblies bildning. Hebbska cellassemblies dynamik. Hebbian cell assemblies bistabilty"

Karin Nyberg
för 7 år sedan
Visningar:

1 Synopsis A fk Attraktornätverk Anders Lansner Hebbs teori synapser och cellassemblies Varför attraktornät, biologi, beräkningar? Hopfieldmodellen Haykin, Ch 4 Innehållsadresserat minne (CA) Tillämpning på kombinatorisk optimering Kate Smith review Attraktor CA inneskapacitet Utvidgningar Attraktorminne i hjärnbarken? ars 6, 007 Hebbsk inlärning och synapser Hebb D O, 949: The Organization of Behavior Hebbska cellassemblies bildning Erfarenhetsbetingad koppling Samaktivering av celler förstärkt koppling/synaps? Hebbs hypotes verifierad! Synaptisk långtidspotentiering (LTP), 973, Hebbsk, 978 LTD Spike-timing dependent plasticity (STDP)! ars 6, ars 6, Hebbska cellassemblies dynamik Hebbian cell assemblies bistabilty ecker cube Synaptic depression + neuronal adaptation?? ars 6, ars 6, 007 6

Hebbs teori Hopfieldnätet Cellgrupp mentalt objekt Gestalt perception Figur-bakgrund Perceptuell komplettering Perceptuell rivalitet eckerkuben ulti-modala cellassemblies Associationskedjor

2 Hebbs teori Hopfieldnätet Cellgrupp mentalt objekt Gestalt perception Figur-bakgrund Perceptuell komplettering Perceptuell rivalitet eckerkuben ulti-modala cellassemblies Associationskedjor Tankeprocesser Tidsfördröjd LTP Hebbsk inlärning I T wij ξξ μ μ μ ( w ii 0) i i i 3 i 4 i 5 w v v v 3 v 4 v 5 atematisk formalism ars 6, ars 6, Kombinatorisk optimering mha Hopfieldnät Smith, K (999): eural networks for Combinatorial Optimization: A Review of ore Than a Decade of Research, IFORS Journal on Computing, (). Hopfieldnät (och SO) jämförs med meta-heuristic metoder Hopfield and Tank, TSP, 985 Energifunktion ekvivalent med den funktion som ska minimeras Constraints inkluderas som bestraffningstermer Kombinatorisk optimering mha Hopfieldnät - kritik Wilson and Pawley, TSP, 988 Kunde ej reproducera etoden dålig, ej operationspunkten vanrykte! heuristiska metoder Legala & goda lösningar 0 städer 00 neuron 30 städer 900 neuron 80% legala, nära optimala ars 6, ars 6, Kombinatorisk optimering mha Hopfieldnät sentida förbf rbättringar Omskrivning av energifunktionen Legala lösningar Valid subspace approach E valid är avvikelsen från Av b era optimala lösningar Stokastisk annealing t ex Bolzmann-Cauchy maskinen Enheter med kaotisk dynamik Dedicerad hårdvara The initial problems that have plagued the reputation of the Hopfield network have now been solved. ars 6, 007 Kombinatorisk optimering mha Hopfieldnät tillämpningar Jämförelse med heuristiska metoder saknas tyvärr ofta TSP Tilldelningsproblem Fördela uppgifter till personer Bemanningsplanering Kvadratiskt VLSI design, frekvensoptimering i telekom Constraint satisfaction -Queen Tidtabell-, schemaläggning Klustring Kapning, Packning Grafer Heltalsprogrammering Schemaläggning Av t ex flygplansbesättningar ars 6, 007

3 CA vanligaste nätverkenn Psykologisk-Biologisk teori Willshaw-Palm Binär W Hopfield BCP Probabilistisk, modulär Prestandamått tt minneskapacitet Antal återkallbara (slumpmässiga) mönster Bits/koppling (fri parameter) Brusanalys Informationsteoretisk analys Replikateori ars 6, ars 6, Binära autoassociativa nätverkn Willshaw-Palm nät Binär Hebbsk inlärning (OR) wij V T ξξ μ μ μ I Gles aktivitet, a log Fungerar (förvånansvärt) bra För slumpmässiga mönster Hopfieldnät minneskapacitet Slumpmässiga mönster, 50% aktiva Crosstalk, variansanalys c 0,4 max ln ycket analys finns med fel i recall utan fel i recall ars 6, ars 6, bits / mönster log P bits Z log P P inneskapacitet Informationsteoretisk uppskattning Önskemål, inte bevis Antal bits i W (symmetrisk) k ( ) bitsw k antal bits / koppling Antal bits/återkallat mönster P antal möjliga olika mönster Z antal återkallademönster Stämmer hyfsat för standard Hopfield, Z max 0,4 ars 6, Z max bits bits W P Utvidgningar av attraktornät Delvis biologi-inspirerat ) Gles aktivitet ( sparse ) ) Gles W ( diluted ) 3) odulär struktur 4) Glömskt minne 5) Adaptation 6) Gömt lager 7) ars 6,

Utvidgning Gles, binär aktivitet, {0,} Informationsteoretisk uppskattning Aktivitetsnivå a m/ ln/ Lagrade mönster : μ med sannolikhet a ξi 0 med sannolikhet a wij a a i j μ ( ξ μ )( ξ ) μ c a lna ln

5 0 0 3 4 5 6 7 8 9 0 x 0 5 ars 6, 007 9 ars 6, 007 0 Tröskelkontroll Ofta problematiskt m-winners-take-all Utvidgning odulära nät odulära nät Hjärnbarken Orienteringsminikolumner Hyperkolumner,

4 Utvidgning Gles, binär aktivitet, {0,} Informationsteoretisk uppskattning Aktivitetsnivå a m/ ln/ Lagrade mönster : μ med sannolikhet a ξi 0 med sannolikhet a wij a a i j μ ( ξ μ )( ξ ) μ c a lna ln a c ln! bitsp log log m m! ( m)! Z max bitsw k bitsp log 4 x x 0 5 ars 6, ars 6, Tröskelkontroll Ofta problematiskt m-winners-take-all Utvidgning odulära nät odulära nät Hjärnbarken Orienteringsminikolumner Hyperkolumner, basketcellinhibition Generellt? t ex Hopfieldnät Pottsnät BCP oduler med Σaktivitet Tröskelkontroll enkel ars 6, 007 Fuzzy representation neurofuzzy Fuzzy variabler Lingvistiska anuell indelning Grafisk blandingsmodell Automatiskt, E Intervallkodning Användes tidigt i Japan I konsumentprodukter Hyperkolumn med? enheter Kylskåp Äggkokare juk tåginbromsning (Shinkhansen) Struktur fysikaliska egenskaper hos kemiska ämnen Astra-Zeneca ars 6, 007 Utvidgning 3 Gles W Gles kopplingsmatris c connectivity density c connections / unit Lagringskapacitet minskar ung proportionellt dock, adaptiv utglesning Utvidgning 4 Kontinuerlig inlärning, glömska Läckande inlärning μ μ dw ξ ξ w ij dt i j ij τ w Tidskonstant för vikter, τ w Långtidsminne >> korttidsminne >> arbetsminne Undviker katastrofal glömska Palimpsestminne inneskonsolidering Prefrontal cortex Hippocampus Parietalcortex Drömmar ars 6, ars 6,

emotion/relevans, dopamin D DEO Listinlärning ars 6, 007 7 ars 6, 007 8 Utvidgning 6: Adaptation Attraktornät +

5 Glömskt attraktorminne Bra beskrivning av minne? ars 6, ars 6, odulerat glömskt attraktorminne Print-now för varje mönster, τ w innesmodulation, emotion/relevans, dopamin D DEO Listinlärning ars 6, ars 6, Utvidgning 6: Adaptation Attraktornät + adaptation Standard Hopfieldnät fastnar i energiminima ervceller egenskaper Ström Frekvens Adaptation Synaptisk depression Vad händer i Hopfieldnät? Attraktorvandring! ars 6, ars 6,

6 Bra minneskapacitet etc,, men Träningsmängd Vilka är begränsningarna? Viktig funktionalitet som saknas? Hidden Population 3x6 5 units Input Population 56x 5 units Input Population 56x 5 units Korrelerade mönster! Tid - sekvensinlärning ars 6, ars 6, Utvidgning 5 Attraktorminnen med gömt g lager Instabil Stabil representation Stort antal slumpmässiga mönster Korrelerade ( verkliga ) mönster lagringskapacitet ej begränsad av in bättre klassificeringsförmåga Hjärnbarkens lager IV Kompetitiv inlärning Feature extraktion Oövervakad inlärning, ev bias Tidigare analys gäller nu gömt lager Överkomplett, gles bildrepresentation Sparse basis functions for the patches were extracted from training images by an iterative learning procedure. ost of the functions are oriented, localized and cover a limited range of spatial frequencies, like the receptive fields of neurons in the visual cortex. Överkomplett antal basfunktioner > antal pixlar i en patch Image courtesy of Bruno A. Olshausen. ars 6, ars 6, Pixels in All of the 00 Images 7 x Exempel - bildrekonstruktion A B Bilder från Colombia University Image Library COIL-00. Upplösning 8 8 pixel 00 bilder lagrades i A med 6384 hypercolumner med 00 Parallellimplementerat retrieval cue one iteration four iterations twenty iterations Attraktorminnen och hjärnbarken Tillbaka till Hebb och Hopfield: dvs fungerar hjärnan på detta sätt? Biologiska attraktorminnen Luktsystemet, Hippocampus Rekurrent konnektivitet Inspiration för CA modeller Hela neocortex Synaptisk plasticitet Allt minne i synapserna! LTP, STP, STDP Colors ars 6, ars 6,

Kortikal makro- och mikroarkitektur ågra ställda frågor Är kortikal rekurrent excitation stark nog för att upprätthålla attraktordynamik (i närvaro av

Kan modellen reproducera UP/DOW-states som observerats i t ex kortikala skivor in vitro?

ccormick et al, 003 ars 6, 007 38 Enheter/inikolumner, Hyperkolumner Luktbarken anterior piriform cortex Enhet > kortikal minilkolumn 30 pyramidceller

hyperkolumnen ( normalisering ) Peters & Sethares, 997 640 μm Zou, Z., L. F. Horowitz, J.-P. ontmayeur, S. Snapper and L. Buck (00).

Input från olika receptortypes är patchy, överlappar delvis Analogi med hyperkolumner i neokortex WTA moduler!

7 Kortikal makro- och mikroarkitektur ågra ställda frågor Är kortikal rekurrent excitation stark nog för att upprätthålla attraktordynamik (i närvaro av basketcellinhibition)? Hur mycket av spiksynkronicitet, gammarytm, thetarytm,? Kan modellen reproducera UP/DOW-states som observerats i t ex kortikala skivor in vitro? odell av kortex lager /3, horisontell konnektivitet Hypercolumns minicolumns 400 mm in human ctx WTA/output normalization ars 6, ccormick et al, 003 ars 6, Enheter/inikolumner, Hyperkolumner Luktbarken anterior piriform cortex Enhet > kortikal minilkolumn 30 pyramidceller regular spiking non-pyramidal cells (RSP) double bouquet, bipolar Hyperkolumner med ca 00 minikolumner Basketceller som aktivitetsregulator inom hyperkolumnen ( normalisering ) Peters & Sethares, μm Zou, Z., L. F. Horowitz, J.-P. ontmayeur, S. Snapper and L. Buck (00). "Genetic tracing reveals a stereotyped sensory map in the olfactory cortex." ature 44: Input från olika receptortypes är patchy, överlappar delvis Analogi med hyperkolumner i neokortex WTA moduler! Antyder ett modulärt attraktornät ars 6, ars 6, Lager /3 modell kolumnär struktur Biofysikaliskt detaljerad cellmodell I II/III IV r C V/VI C m g L g a g K Synaptisk lager 4 input ars 6, E L E a E K Hodgkin-Huxley formalism a, K, K Ca, Ca-kanaler Ca AP and Ca DA pooler Snabb synaptisk transmission: Glutamaterg (50/50 APA-DA) GABA-erg est data från ccormick et al. SPLIT simulator ars 6,

Properties of connectivity A Local RSP Distant pyramidal B Local basket cell

största nätverksmodellen Asymmetrisk cell-cell konnektivitet D geometri

patch 9 hypercolumns Each hypercolumn 44 9 hypercolumns ars 6, 007 s 00

neurons 6 million synapses Rekurrent excitation är stark nog att stödja

ser i mätningar i hjärnbarken Oregelbunden lågfrekvent fyrning UP-states,

8 Properties of connectivity A Local RSP Distant pyramidal B Local basket cell Tsodyks, Uziel, arkram 000 C Local pyramidal Realistisk amplitud hos PSP:s i största nätverksmodellen Asymmetrisk cell-cell konnektivitet D geometri fördröjningar, m/s 5 Hz D 50 mv ars 6, ars 6, 007 etwork layout x mm patch 9 hypercolumns Each hypercolumn 44 9 hypercolumns ars 6, 007 s 00 minicolumns 00 basket cells 00 patterns stored 45 ars 6, hypercolumns x mm 900 minicol neurons 5 million synapses 46 Preliminä Preliminära resultat 4x4 mm neurons 6 million synapses Rekurrent excitation är stark nog att stödja attraktordynamik Snabb komplettering och rivalitet Dynamiken påminner om det man ser i mätningar i hjärnbarken Oregelbunden lågfrekvent fyrning UP-states, LFP/EEG Gammaoscillationer, spiksynkronicitet En hjärnbarksmodell som vidareutvecklas! Lager 4, 5 läggs till Uppskalning parallellsimulering Flera samverkande areor ars 6, ars 6,

Relevanta dokument

KTH/CSC. ANN fk. Attraktornätverk. Anders Lansner

KTH/CSC. ANN fk. Attraktornätverk. Anders Lansner ANN fk Attraktornätverk Anders Lansner Attraktornät Hopfield startade 2:a ANN-vågen 1981 Idag många varianter - omfattande teori Teori för hjärnbarkens funktion Biologidriven teori- och algoritmutveckling