Modeller och simulering av språkprocessning

Relevanta dokument
Linköpings universitet

Inlärning utan övervakning

Sub-symbolisk kognition & Konnektionism. Kognitionsvetenskaplig Introduktionskurs (729G01) Mats Andrén,

Vad kan biologiskt plausibla modeller säga oss?

1(15) Bilaga 1. Av Projekt Neuronnätverk, ABB Industrigymnasium, Västerås Vt-05

Neuronen 11/22/2012. Översikt. Artificiell nod. Kommunikation. Neuronen som detektor. Syftet med återstående föreläsningarna

Kognitiv neurovetenskap

Korttidsminne-arbetsminne

Artificiell Intelligens Lektion 7

ARTIFICIELLA NEURALA NÄT. MARCO KUHLMANN Institutionen för datavetenskap

729G43 Artificiell intelligens / Maskininlärning 3. Marco Kuhlmann

729G43 Artificiell intelligens (2016) Maskininlärning 3. Marco Kuhlmann Institutionen för datavetenskap

SELF- ORGANIZING MAPS

Neurovetenskap. Centrala teman med relevans för f kognitionsvetenskap

Kognitionskunskap för bättre kommunikation. Beata Terzis med.dr, leg.psykolog

Neurala nätverk och språkigenkänning. Henrik Linnarsson. Linköping University

Linköpings universitet

Kognitionskunskap som redskap för adekvat bemötande Beata Terzis med.dr, leg.psykolog

Neurokognitiv arkitektur

Kognitionskunskap + Individkunskap = Personcentrerat Förhållningssätt. Beata Terzis med.dr, leg.psykolog

Kognitiv modellering. Sidan 1. Översikt. Tre forskningsmetoder. Olika syften med modellering. Människa-maskin interaktion (MMI) Uppgiftsanalys

Stöd vid demenssjukdom och kognitiv svikt. Beata Terzis med.dr, leg.psykolog

Hjärnans utveckling och barnets framsteg Hur hänger det ihop?

Sidan 1. Översikt P D P. Neurala nät i kognitiv neurovetenskap. Kursinnehåll. Kursens syfte P D P. Litteratur. Relation till ANN HKGC19/TDDC11

Neurolingvistik - Grammatik

HUR HJÄRNAN ARBETAR ELLER HUR BETER VI OSS EGENTLIGEN? Sig-Britt Jutblad, leg. psykolog, specialist i neuropsykologi, leg.

Linköpings universitet 1

Kognitiv Modellering

Neurovetenskap 30/08/2013. Kognitiv neurovetenskap. Lober. Olika färg, olika vävnadsstruktur. Hjärnbarken

KOGNITION. Beata Terzis Med.dr, leg.psykolog

Minnesfunktioner hos barn med språk- och lässvårigheter

Att programmera en Beethoven

EXAMENSARBETE. En jämförande studie kring inlärning hos levande organismer och artificiell intelligens.

2D Potentialen i en nervcell definieras normalt som skillnaden i spänning mellan dess axon och dendrit.

Kognitiv psykologi. Kognition och hjärnan. Hjärnans struktur Neurokognition Kap 2

ANN fk. Örjan Ekeberg. Framåtkopplade Nät. återkopplade nät. Olika arkitekturer. BackPropagation through Time. Kalman-Filter tekniker

Hjärnans beräkningsprinciper. Beräkningsprinciper Översikt. Återblick. Återblick. Två beräkningsvägar. Beräkningsprinciper

Algoritmer och maskininlärning

Introduktion till programmering

Visualisering av samverkan

Appendix A. Dubbelkonsmodellen en datorexekverbar designprincip för hjärnan

Visuell perception. Sidan 1. Översikt. Sammanfattning av förra föreläsningen. Kognitiv arkitektur. Visuella systemet: översikt.

Fråga 5 (1 poäng) För att definiera ett sökproblem krävs...

Den hjärnvänliga arbetsplatsen - kognition, kognitiva funktionsnedsättningar och arbetsmiljö

Hierarchical Temporal Memory Maskininlärning

Enlagersnät Flerlagersnät Generalisering. Artificiella Neuronnät

Affektlivets Neuropsykologi del 2 Den nya forskningen

SPEECH RECOGNITION USING ARTIFICIAL NEURAL NETWORKS. Linköpings Universitet 729G43 Artificiell Intelligens

OBS! Vi har nya rutiner.

TDDB96 Projekt: Object priming med visuell stimuli

Kognitiv psykologi. Schema. Tentamen Introduktion.

Neurolingvistik - Fonologi

Tentamen Psykologi 1: Kognitiv psykologi och utvecklingspsykologi, 6p

Kommunikation och Interaktion

Neural bas för kognition

Artificiella Neuronnät

Långtidsminnekunskapsrepresentation

En situerad ansats för utvecklingen av en räknande robot (HS-IDA-EA )

Studier med barn, fördelar. Kognitiv utveckling. Upplägg. Många aspekter. Generella aspekter. Barndomens kognitiva utveckling

Minnet - begrepp och principer

Autism - Språkstörning - konsekvenser för förskola och skola

Fråga 5 (1 poäng) För att definiera ett sökproblem krävs...

Språkpsykologi/psykolingvistik

Datormetaforen. Från människa till dator Från dator till människa o.s.v.

Inledande programmering med C# (1DV402) Introduktion till programmering

Nervsystemet består av hjärnan och ryggmärgen samt nerver. Hjärnan och ryggmärgen bildar tillsammans centrala nervsystemet, som ofta förkortas CNS.

KOGNITIVA SVÅRIGHETER

Hur kan man göra omvärlden begriplig?

Kan normer och attityder påverka vårt vardagliga beteende? Miljöhandlingar ur ett miljöpsykologiskt perspektiv.

När huvudet känns som en torktumlare

Tentamens-/instuderingsfrågor

Kapitel 1 Om affekter, emotioner och känslor

Spel som interaktiva berättelser

TNK049 Optimeringslära

Chris von Borgstede

Infraröd meny. Infraröd buffert Infraröd port Jobb-buffring Max. baud NPA-läge. PCL SmartSwitch PS SmartSwitch Överföringsfördröjning Fönsterstorlek

Neuropsykologi och kognitiv neurovetenskap, 15hp, ht16 Läsanvisningar till respektive föreläsning

KOGNITIVA NEDSÄTTNINGAR

Petter Holme. 8e September, 2008

Perception och Språkutveckling. Kognitiv utveckling. Perception. Upptäcka världen. Metod. Förnimmelse till Varseblivning (Sensation to Perception)

Den anpassningsbara hjärnan efter stroke

Åldrande och minne. Erika Jonsson Laukka, legitimerad psykolog, PhD Aging Research Center

MINNESFÖRLUST - BRISTANDE KONCENTRATION

Den hjärnvänliga arbetsplatsen - kognition, kognitiva funktionsnedsättningar och arbetsmiljö

ILLNESS MANAGEMENT & RECOVERY (IMR)

Neuronens Fysiologi 1

Vilka färdigheter ska vi sträva efter för att ge våra barn en god grund för åk 1?

Asymptotisk analys innebär att... man försöker uppskatta vad som händer för stora indatamängder.

1 Minkostnadsflödesproblem i nätverk

AGENTBASERAD MODELLERING

Om maskiner kunde tala

Kognitiv psykologi. Kognitiv psykologi. Kognitiv psykologi. Kognitiv psykologi. Kognitiv psykologi. Kognitiv psykologi

Linköpings universitet

FAKTAAVSNITT: ARBETSMINNE TEORETISK MODELL

Det åldrande minnet. Lars Bäckman Aging Research Center, KI

VARFÖR FINNS DET INGA RIKTIGA

Kandidatuppsats. Jämförelse mellan neurala nätverk baserad AI och state-of-the-art AI i racing spel. Simon Karlsson, Christopher Jensen

Ett Neuralt Nätverk Tittar På Kläder

Fonologi. Kommutationstest. Minimala par. Hur bestämmer man vilka fonem ett språk har?

Kognitiv psykologi. Kognitiv psykologi. Kognitiv psykologi. Kognitiv psykologi. Kognitiv psykologi. Kognitiv psykologi

Transkript:

Modeller och simulering av språkprocessning

Seriell processmodell + parallell processmodell

Parallell modell med 2-vägsförbindelser

Artificiellt neuralt nätverk (ANN) Interaktiv aktiverings-modell (IAM) Input-lager Dolt lager Noder Output-lager Viktningar i aktivering och inhibering

Grundidéer Symbolprocessning, seriella modeller ANN, PDP, IAM

ANN Ser hjärnan som nätverk av formella sammanbundna neuron (inte fysiskt symbolsystem) Dynamiskt informationsflöde - hjärnmetafor, graduella representationer (inte datormetafor) Många samverkande lokala processorer (inte en central Kognition som emergent

Motivering Traditionella symbolmanipulerande modeller klarade inte t ex talförståelse och ansiktsigenkänning (som hjärnan klarar lätt) Inlärning kan göras genom att ändra viktning etc i förbindelserna Klarar brus lättare Kan vara själv-organiserande

Likheter med hjärnan Många enkla processorer (noder) som kan överföra aktivering Varje nod förbinds med många andra. Struktur och förbindelser bestämmer nätverkets funktion. Förbindelserna är viktigast - kan ändras genom inlärningsregler

Olika sorters ANN Neurobiologiska (nära biologisk verklighet) Funktionella (IAM) (blandning) Tillämpningsorienterade (mer abstrakta, psykologiska)

1 Hidden units 1 Input units -1 1 Output unit -1 1 1 Exclusive XOR network

ANN-noder arbetar med Propagation - räknar ut summan aktivering från input-noder Aktivering - överför summan till aktiveringsvärde Output - överför aktiveringsvärde till outputvärde Aktivering uppdateras: asynkront slumpvis, synkront eller i sekvens (feedforward) etc

Hebbs inlärningsregel När ett axon från cell A är tillräckligt nära för att aktivera cell B och aktiverar den upprepade gånger och ofta, sker tillväxt eller metabolisk förändring i en eller båda så att A:s effektivitet, som en av de celler som aktiverar B, ökas. Bidrar till att bilda cell assemblies (för minne, språk etc.)

Representation Lokal repr: en nod ett föremål, begrepp etc (kognitiv nivå) Distribuerad repr varje nod kan delta i repr av flera saker och varje sak repr av nätverk av noder (subkognitiv nivå) Särdrags-repr mellanting, enskilda saker representeras distribuerat av aktiveringsmönster och enskilda Särdrag kan programmeras eller läras in (mikrokognitiv nivå)

Några användbara egenskaper hos ANN Behöver ej central executive (ekonomiskt) Automatisk default-tilldelning input ger output (gör alltid något) Ger fullständiga mönster Har graceful degradation - fortsätter på lägre nivå Modellerar spontan-genrealisering, emergent beteende Inlärning är möjlig

Inlärning Övervakad eller oövervakad Felkorrekting (backpropagation) Förstärkning (graded learning) Stokastisk inlärning (Hebbregel, minimera cost) Självorganisering

ANN-modeller av språkproduktion Lokalt nätverk: Språkliga enheter kan representeras av enskilda noder Noderna kan organiseras i lager för lingvistiska nivåer : ord, stavelser, fonem etc. Aktiverande länkar förbinder noder från olika lager i delhelhetsrelationer, som kan vara tvåvägs Lateral inhibition mellan enheter på samma nivå Manipulering av decay rate (avklingande-hastighet) Val vid vissa tidpunkter av nod med högst aktivering på alla nivåer för produktion = språklig sekvensering

Att modellera lesioner 1. Vissa noder kan tas bort (i distribuerat nätverk) 2. Flödet av aktivering bland noderna kan förvrängas eller avbrytas

Hindra aktiveringsflödet Aktiveringsutbytet inom semantiska lagret manipuleras (ger val av oavsiktigt begrepp) Aktiveringslänkar mellan semantiskt lager och ordlager kan få minskad styrka (ordfinnandeproblem - långsammare aktivering och mer brus - ordparafasi) (reducerad styrka i vissa förbindelser - ljudlika parafasier) Fonologisk inkodning kan hindras genom attt manipulera förbindleser ord-stavele-fonemfonologiska särdrag (ger fonologiska problem - neologistisk jargong)