ARTIFICIELLT MEDVETANDE

Artificiell Intelligens, HKGBB0 HT 2006 Institutionen för datavetenskap Linköpings Universitet ARTIFICIELLT MEDVETANDE kalny552@student.liu.se 2006-10-15

SAMMANFATTNING Artificiellt medvetande, också känt som maskinmedvetande eller syntetiskt medvetande är steget efter artificiell intelligens. En skapad artefakt som inte bara uppvisar intelligens utan även har mentala tillstånd och som upplever det den erfar. Denna definition, precis som alla andra definitioner av artificiellt medvetande ärver flera svårlösta problem. Medvetande kan i sig innebära vitt skilda saker och det finns många tolkningar och förklaringar. Det finns till och med argument som pekar på att medvetande inte ens är konsistent begrepp utan egentligen bara en illusion. Detta till trots så har människan länge vart fascinerad av möjligheten att skapa artificiellt liv och medvetande.

INNEHÅLLSFÖRTECKNING 1. Inledning... 1 1.1. Neuropsykologi... 1 1.2. Medvetande... 1 1.2.1. Problemet med andra medvetanden... 1 1.2.2. Problemet med medvetande kropp... 2 1.2.3. Dualism... 3 1.2.4. Monism... 3 2. Artificiell intelligens... 4 2.1. Svag AI... 4 2.2. Stark AI... 4 2.3. Det kinesiska rummet... 4 3. Artificiellt medvetande... 5 3.1. Några befintliga projekt... 5 3.1.1. Mind... 5 3.1.2. Haikonens kognitiva struktur... 6 3.1.3. Lucy... 6 4. Att testa ett artificiellt medvetande... 7 4.1. Turingtestet... 7 5. Etik... 8 6. Slutord... 9 7. Referenser... 10 7.1. Artiklar... 10 7.2. Böcker... 10 7.3. Websidor... 10

1. INLEDNING Precis som medvetande är även begreppet artificiellt eller maskin är inte helt oklart. De flesta förknippar det direkt med en mekanisk eller virtuell artefakt. Men man kan lika gärna skapa en biologisk artefakt vilket gör avgränsningen ännu mer suddig. Det skulle till exempel kanske vara möjligt att skapa en biologisk, medveten, varelse genom att isolera genomet som innehåller koden för en mänsklig hjärna och kombinera det med genomet för en varelse som inte anses vara medveten och utifrån det skapa en artificiellt medveten varelse. Det finns de som anser att alla icke-naturlig reproducering är artificiell, inklusive avling av djur. Det har under det senaste årtiondet skett en dramatisk ökning i intresset av att studera medvetandet. Framförallt om att förstå den process som ligger bakom det mänskliga medvetandet och den mesta forskningen har skett inom psykologi och neurovetenskap. Men under de senaste åren så har ett tredje område uppkommit: studerandet av huruvida det skulle vara möjligt att skapa ett artificiellt medvetande. 1.1. Neuropsykologi Neuropsykologin är ett relativt nytt område där man undersöker relationen mellan hjärnans funktioner och människors beteende. Inom neurovetenskapen hypotiseras det att medvetandet genereras av en samverkan av olika delar av hjärnan. Vissa förespråkare av artificiellt medvetande anser att datorer kan efterlikna denna interoperation när neurovetenskapen väl lyckats kartlägga och förstå den mänskliga hjärnan i dess helhet. 1.2. Medvetande Medvetandefilosofi är ett stort och brett ämne som har funnits lika länge som filosofin självt. Debatten om vad medvetande är och hur det fungerar är lika het idag som för tre tusen år sedan. Eftersom det är omöjligt att tala om artificiella medvetanden utan att först ta upp ämnet medvetande så kommer jag ge en förenklad översikt med olika infallsvinklar. 1.2.1. Problemet med andra medvetanden Vi kan aldrig direkt känna till en andras mentala tillstånd. Vi kan inte veta att ett visst stimuli uppfattas likadant av en annan person som vi uppfattar det. Dels hanterar hjärnan percept på olika vis. Två personer som utsätts för samma fysiska våld kan uppfatta helt 1

olika nivåer av smärta medan en tredje till och med uppfattar det som behagligt. Men utöver denna mer grundläggande variation av stimuli och percept så skulle även ett mentalt tillstånd kunna variera från person till person. Det närmsta vi kan komma är att indirekt tolka andras beteenden för att på så vis försöka utröna deras mentala tillstånd. En zombie (Harnad, 1995) eller robot som är funktionellt likvärdig och omöjlig att särskilja från en människa kan vara medveten, vi kan inte och kommer troligtvis heller aldrig kunna avgöra det. Ifall vi inte med säkerhet kan avgöra ifall andra människor i vår omgivning verkligen är medvetna hur ska vi då kunna avgöra ifall en AI kan vara medveten? Eftersom vi således vet så lite om andras medvetande, så kan vi inte heller med säkerhet avgöra ifall det verkligen existerar andra medvetanden än vårt eget. Därmed kan vi heller aldrig med säkerhet lära oss något om någon annans medvetande eller medvetanden rent generellt. Man kan inte föreställa sig något som man inte upplevt. En människa inte kan föreställa sig hur det verkligen är att vara en fladdermus (Nagel, 1974). Vi kan föreställa oss dess intryck och upplevelser men det reflekterar egentligen bara en människa som föreställer sig vara en fladdermus. Vi har inte rätt sorts medvetande (det vill säga en fladdermus) för att kunna föreställa oss deras upplevelser fullt ut. Likaså kan föreställa oss att det finns fler färger än vi kan se, till exempel infrarött eller ultraviolett men vi kan inte föreställa oss hur de ser ut. Eller hur en spatialrymd i fyra dimensioner skulle kunna te sig. Vi kan föreställa oss att det finns artificiella medvetanden som skulle vara radikalt olika vårt eget men vi kan omöjligt föreställa oss hur de i så fall uppfattar sig själva och omvärlden. 1.2.2. Problemet med medvetande kropp Problemet är i princip hur man ska förklara relationen mellan medvetandet och kroppen. Våra mentala erfarenheter och percept fås genom fysiska upplevelser. På samma sätt får våra medvetna tankar och idéer oss att utföra fysiska handlingar. Hur kan hjärnans materia innehålla ett medvetande och hur kan ett medvetande påverka hjärnan och få dess neuroner att fungera på ett specifikt sätt? Enligt McGinn (1989) kommer vi aldrig att kunna begripa den korrekta teorin om förhållandet mellan kropp och själ. Han menar inte direkt att människan är för ointelligent eller inte kan förstå sig själv då en behållare inte kan innehålla sig själv eller 2

att människan aldrig kan samla in tillräckligt mycket information för att förstå hur den själv fungerar. Istället introducerar han konceptet kognitivt låst (egen översättning), funktionerna som sinnet M kan utföra är inkapabla till att förstå egenskap P eller teori T om och endast om de konceptformande funktionerna tillgängliga för M inte kan innefatta en förståelse av P. McGinn anser att det inte finns någon garanti att våra kognitiva förmågor tillåter en lösning till varje problem vi kan identifiera. Och att problemet uppstår på grund av att vi stängs ute (av vår egen kognitiva konstitution) från att uppnå insikt om den naturliga egenskapen hos våra hjärnor och vårat medvetande. 1.2.3. Dualism Grundtanken i dualismen är att världen är uppdelad i materia och icke-materia, det vill säga själ/medvetande. Dessa två är helt separerade och enligt dualismen kan en AI aldrig bli medveten så vitt den inte dessutom får en själ. Dualismen har dock aldrig lyckats förklara de två delarna kan samverka och påverka varandra när de inte existerar i samma rymd. Det största argumentet för dualism är att det är intuitivt, de flesta människor känner instinktivt att de har ett medvetande som inte kan reduceras till det fysiska. 1.2.4. Monism Enligt monismen kan allt reduceras till en och samma typ av materia eller substans. Monismen är precis som dualismen uppdelad i myriad av delskolor men de som är mest intressanta för AI är materialismen och funktionalismen. Materialismen menar att enbart det fysiska är sant och att allt inklusive medvetandet kan reduceras till materia. En underkategori till materialismen är reduktiv materialism vilken anser att trots att enbart det fysiska finns så har vi ändå ett medvetande, men någon förklaring till vad medvetandet då är och hur det relaterar till det kroppsliga ges inte. Funktionalismen innebär samma sak som materialismen med tilläget att alla mentala tillstånd kan förklaras med fysiska funktioner. Vilket innebär att vilken typ av materia kan ha mentala tillstånd, det kan lika gärna representeras av ettor och nollor i ett program som av neuroner i en hjärna. Den funktionalistiska synen är populär inom AI-forskningen då den innebär att en stark AI och ett artificiellt medvetande är möjligt att skapa. Ifall funktionalismen stämmer så löser det även problemet med andra medvetanden. Eftersom allt är kan förklaras i fysiska funktioner så går det att direkt observera och tolka ett medvetandes tillstånd. 3

Elimiativismen går ett steg längre och säger att mentala tillstånd och medvetande inte existerar över huvud taget. Att neurovetenskapen i framtiden kommer att kunna förklara och bevisa att det vi anser vara självmedvetenhet enbart är en illusion. I och med att då viljan är en illusion så blir även det vi kallar den fria viljan också det och världen blir deterministisk. Om så verkligen är fallet så är människor enbart komplicerade autonomer och hela diskussionen om att skapa ett artificiellt medvetande blir överflödig. Det enklaste program eller funktion är lika medvetet som en människa det ena är bara mer komplicerat än det andra. 2. ARTIFICIELL INTELLIGENS Artificiell intelligens är ett nödvändigt steg för att nå artificiellt medvetande, medvetenhet i sig är en form av intelligens. Däremot är inte medvetenhet ett kriterium för intelligens. 2.1. Svag AI När AI-forskningen började så var det enklare AI-system för mönsterigenkänning och planering. Svag AI är enbart mjukvara för att utföra specifika uppgifter eller lösa klart definierade problem. Ett bra exempel på en svag AI är shackprogrammet Deep Blue som trots att de slagit världsmästaren i schack egentligen bara gjorde det genom mönsterigenkänning och heuristisk sökning. Svag AI är med andra ord omedveten intelligens 2.2. Stark AI Begreppet Stark AI myntades av John Searle när han skulle beskriva en artificiellt intelligens som verkligen kan lösa problem och resonera. Enligt stark AI är en dator inte bara ett verktyg för att studera medvetandet utan snarare så är en korrekt programmerad dator verkligen ett medvetande i sig. 2.3. Det kinesiska rummet Searle (1980) skapade ett tankeexperiment där han får en berättelse med tillhörande frågor, båda skrivna med kinesiska tecken. Trots att han inte kan ett ord kinesiska och de kinesiska tecknen bara är obekgripliga symboler för honom så ska han ändå svara på frågorna genom att skicka tillbaka brickor med kinesiska tecken som motsvarar rätt svar. Till sin hjälp har han en uppsättning regler skriva på engelska som förklarar hur frågorna kopplas samman med berättelsen och vilka tecken som ska skickas tillbaka som svar. Efter ett tag kommer han ha lärt sig reglerna så väl att han kan utan vidare kan skicka tillbaka rätt tecken utan att någon som iakttar honom kan avgöra att han egentligen inte kan ett skvatt kinesiska. 4

Han har alltså enbart fått en formell förståelse att tolka de kinesiska tecknen men vet egentligen inte vad de betyder. Det kan jämföras med en dator som utför beräkningar utan att egentligen ha insikt i beräkningarnas innebörd. Searles argument innebär att en Stark AI måste utföra beräkningar och operationer genom att tolka deras innebörd och inte genom att ha en förprogrammerat facit som säger åt den hur den ska hantera informationen. En del anser till att digitala datorer inte kan vara medvetna så vitt de inte därtill har en fysisk eller virtuell kropp som kan interagera med sin omgivning. 3. ARTIFICIELLT MEDVETANDE Ett generellt accepterat kriterium för medvetande är att vara medveten om sig själv, sin existens och sina egna tankar. Ett annat kriterium är förmågan att lära sig vilket inte både enkelt och svårt. Det är inte särskilt avancerat att lära ett neuralt nätverk enklare mönsterigenkänning men inlärning på högre nivå kräver betydligt större nätverk och mer träning. Enligt Dennett (1994) är det troligtvis oändligt mycket effektivare (för att inte tala om lättare) att låta ett artificiellt intellekt själv träna och utveckla sig och på så sätt även eventuellt få ett medvetande. En viktig förmåga är att kunna utläsa en situation och förutsäga vad som kommer att hända och vara beredd när det väl sker. Att visa känslor är däremot troligen inte kritiskt för ett artificiellt medvetande, men det är samtidigt troligen det som är mest avgörande för att övertyga en människa om att det är medvetet. 3.1. Några befintliga projekt Försök att skapa ett artificiellt medvetande är inte lägre bara en filosofisk hypotes utan det finns många praktiska experiment och försök. En del mer lyckade än andra men nya framsteg görs ideligen. Främst är det neurovetenskapen och neurala nätverk som verkar mest lovande för att kunna skapa ett artificiellt medvetande. 3.1.1. Mind Mind är ett försök att skapa ett medvetande hos en artificiell intelligens som började 2001 och som nu är avstannat. Grundtanken är det inte kan finnas någon enskild orsak för självmedvetenhet utan att det måste uppstå som en effekt av att systemet i helhet. Därtill måste medvetandet stärkas och fokuseras utan att för den sakens skull utesluta omvärlden och därmed låsa medvetandet i autism. Mind är designat som ett traditionellt program bestående av loop med operationer som utförs seriellt. Indata fås i form av text genom ett formulärbaserat gränssnitt. 5

Projektet är uppdelat i tre delmål, enbart det första delmålet blev uppfyllt. Första delmålet är förmågan för en AI att kunna särskilja mellan du och jag, inte bara orden i sig utan dess innebörd möjliggör för Ain att kunna utveckla percept jag och att separera det från perceptet andra. Det andra delmålet är att AI:n ska bli medveten om sin egen existens Det tredje delmålet är att AI:n ska kunna återanvända minnen och erfarenheter utan att det artificiella medvetandet går förlorat. Sedan projektet påbörjades har mycket hänt och det är troligt att systemet var fundamentalt feldesignat och aldrig skulle kunna uppnå en artificiell medvetenhet. 3.1.2. Haikonens kognitiva struktur Enligt Pentti Haikonen (2003) är klassiska program otillräckliga för att kunna skapa en ett artificiellt medvetande. Den mänskliga hjärnan och medvetandet är helt inte konstruerat på det sättet. Människan tänker inte vare sig seriellt eller binärt och det går inte att skapa ett artificiellt medvetande genom att bara genom en top-down modell simulera olika delar av medvetandet. Istället föreslår han en kognitiv bottom-up modell som genererar högre mentala tillstånd och de underliggande kognitiva funktionerna bakom dessa genom att använda artificiella neuroner. Haikkonen är övertygad om att ifall hans system utvecklas i tillräcklig komplexitet så kommer det bli självmedvetet. En enklare version av Haikonens struktur prövades 2004, den uppvisade ingen medvetenhet men däremot känslor. 3.1.3. Lucy Lucy är namnet på ett projekt att skapa ett artificiellt liv och medvetande genom att återskapa enklare fundamentala funktioner i en orangutanghjärna. Lucy utveckling har i så stor utsträckning som möjligt efterliknats en riktig livscykel där roboten till en början helt saknat erfarenheter och kunskaper och på egen hand fått pröva sig fram för att utveckla förmågor. Lucy beteende har med andra ord inte skapats eller programmerats. Lucys hjärna är virtuell består av hundra tusentals digitala neuroner. Trots detta räcker det enbart till ett fåtal funktioner som att känna igen olika objekt och kunna peka ut dem. Det som är intressant med Lucy är att hennes intelligens till hundra procent kommer av inlärning. Den enda programmering som skett är för att skapa struktur inte innehåll. Lucys virtuella neuroner är uppdelade i samma områden som en orangutangs hjärna. 6

Projektet hade som mål att vidareutveckla Lucy till med fler funktioner som hörsel, känsel, rörelse, känslor, et cetera men projektet tog ett abrupt slut när de fick slut på forskningsbidrag. 4. ATT TESTA ETT ARTIFICIELLT MEDVETANDE Att verkligen avgöra ifall något, vare sig det är naturligt eller artificiellt, är medvetet är ingen lätt sak och det finns de som hävdar att det är omöjligt att göra över huvud taget. 4.1. Turingtestet Turingtestet introduceras av Alan Turing 1950 och var avsett att avgöra ifall ett datorprogram eller en maskin är intelligent. Testet utförs genom att en människa får interagera med programmet i fråga och ifall människan inte kan avgöra med säkerhet ifall det är ett program eller en annan människa som han / hon interagerar med så har programmet klarat turingtestet och är intelligent. Turingtestet har utsatts för mycket kritik sedan det först introducerades. Bland annat går det att skapa ett statiskt program som är så pass komplett att det fortfarande klarar turingtestet men fortfarande är helt låst i sin fördefinierade värld och därmed inte anses intelligent. Turingtestet är utvecklat för att pröva intelligens och inte medvetande men det fungerar fortfarande för att pröva ifall en artificiell intelligens kan simulera en medvetenhet. I och med det kan turingtestet åtminstone avgöra användas till att försöka avgöra ifall en artificiell intelligens inte är medveten. 7

5. ETIK Det finns otaliga böcker och filmer som handlar om en artificiell intelligens som uppnår självmedvetenhet. Vilket oftast resulterar genocida robotar som försöker utrota mänskligheten men det finns även de som handlar om det motsatta, att en artificiell intelligens blir exploaterad och utnyttjad av människan. Isac Asimov publicerade i sin skönlitterära bok Runaround tre robotlagar som där var ämnade att tvinga artificiellt medvetna robotar att underkasta sig människan: En robot får inte skada en mänslig varelse, eller genom pasivitet, tillåta att en människa kommer till skada. En robot måste lyda de order som en människa ger den förutom de order som skulle göra att den bröt den första lagen. En robot måste skydda sin egen existens så länge som det inte är i konflikt med den första eller andra lagen. Det behövs ingen större fantasi för att hitta kryphål som en artificiellt, omedveten, intelligens kan använda för att kringgå lagarna. Även om detta är ett ganska otypiskt exempel så ger det en tankeställare om hur svårt det vore att diktera lagar som ett logiskt men flexibel artificiell intelligens inte skulle kunna kringgå. Och en medveten artificiell intelligens skulle kunna välja att inte bry sig om lagarna precis som de flesta människor tenderar att göra emellanåt. Redan nu finns det artificiella intelligenser med en viss rudimentär vilja och steget är inte särskilt långt till känslor. Till exempel så kan roboten Kismet visa känslor med hjälp utav ansiktsuttryck baserat på simulerade mentala tillstånd. Hur långt kan då forskningen gå innan robotars rättigheter behöver tas upp? Och ifall robotar någonsin verkligen blir medvetna så kommer det troligtvis skapa en enorm debatt. Man kan även ifrågasätta det moraliska i att skapa robotar som kan simulera känslor så effektivt att det lurar människor och därigenom skapar känslor hos dem. 8

6. SLUTORD I dagsläget finns det ingen entydigt, allmänt accepterad uppfattning av vad artificiell eller medvetande är. Det finns inte heller någon metod för att verkligen avgöra ifall en annan intelligent skapelse, vare sig naturlig eller artificiell, är medveten. Slutligen finns det inte heller någon som påstått sig ha skapat en fullt medveten AI. Det kan således verka något tröstlöst och som att utsikterna för att kunna skapa en medveten AI små. Men artificiellt medvetande är ett väldigt brett ämne som grundar sig på många andra områden, områden där det dagligen görs stora framsteg. Framförallt inom neurovetenskapen där man kartlägger mer och mer av den mänskliga hjärnan och dess funktioner. Något som har stor inverkan på möjligheterna att skapa ett AI med ett mänskligt medvetande eller åtminstone en intelligens som imiterar ett mänskligt medvetande och beteende. 9

7. REFERENSER 7.1. Artiklar Harnad, S. (1995) Why and How We Are Not Zombies Journal of Consciousness Studies 1: 164-167 Harnad, S. (2003) Can a machine be conscious? How? Journal of Consciousness Studies Putnam, Hilary (1982) Brains in a Vat Reason, Truth, and History 1: 1-21 Nagel, Thomas (1974) What is it like to be a bat? The Philosophical Review 4: 435-450 Searle, John R. (1980) Minds, brains and programs. Behavioral and Brain Sciences 3: 417-457 McGinn, Colin. (1989) Can we solve the Mind Body Problem? Mind, New Series, vol 98: 349-366 Dennett, Daniel (1994) Consciousness in Human and Robot Minds Cognition, Computation and Consciousnes 7.2. Böcker Kolb, B and Whishaw, Q (2003) Fundamentals of Human Neuropsychology, 5 th edition Isaac Asimov (1942) Runaround 7.3. Websidor Aaron Sloman, Architecture-Based Concepts of Mind http://www.cs.bham.ac.uk/research/projects/cogaff/sloman-lmpsfinal.pdf Mind http://mind.sourceforge.net Lucy http://www.cyberlife-research.com Kismet http://www.ai.mit.edu/projects/humanoid-robotics-group/kismet Oneness Commitements Kognitiva modeler http://www.experiencefestival.com/cognitive_architecture 10