Stark AI och computationalism

Transkript

1 Artificiell Intelligens, HKGBB0 HT2002 Institutionen för datavetenskap Linköpings Universitet Allt tänkande är beräkningar Nils Ackerholm

2 Sammanfattning Ett av de viktigaste antaganden som kognitionsvetenskapen gör är computationalismen, det vill säga att allt tänkande i själva verket är beräkningar. Följden av detta blir att maskiner som kan utföra beräkningar, t.ex. datorer, kan uppvisa tänkande. Kritik har riktats mot computationalismen att den inte lyckas täcka in allt tänkande, exempelvis inte människors medvetande. Men vad är då medvetande? Idag verkar ingen ha något riktigt bra svar på den frågan och ännu svårare blir det att ta reda på om någon eller något annat har ett. Tankarna kring medvetande tar oss in på stark AI, visionen att det går att skapa medvetna maskiner. Om du tror att stark AI är möjlig tvingar det dig att även tro på vissa uppfattningar inom medvetandefilosofin, såsom fysikalismen och funktionalismen. Men computationalism och stark AI är ifrågasatt. John Searle menar med tankeexperimentet kinesiska rummet att stark AI inte kommer att gå att genomföra då datorer inte har någon semantik. Searle har fått mycket kritik som menar att datorer visst kan ha medvetande. Maskiner med medvetande verkar ligga alltför långt bort för att vi idag ska se alla dess konsekvenser, men idén är fantasieggande. 2

3 Innehållsförteckning Inledning 1 Computationalism 2 Computationalismens konsekvenser 3 Stark AI 4 Kännetecken för medvetanden 4 Epistemologiska kriterier Intentionalitet En olöst gåta Medvetandefilosofiska antaganden inom stark AI 5 Fysikalism Funktionalism Kinesiska rummet 6 Argumentet formellt Motargument mot kinesiska rummet Turingtestet Reflektioner 11 Referenser 12 3

4 Inledning Att mänskligt tänkande är uppbyggt av beräkningar är ingen ny idé. Redan de gamla grekerna, som det brukar heta, hade dessa tankar (Janlert, 1999). För ett par århundraden sedan tog Thomas Hobbes ( ) upp idéen att tänkande inte är något annat än just beräkning (Glymour, 1997). Samtidig med Hobbes var René Descartes ( ) som därtill också menade att människan är en form av maskin som i sina beräkningar (d.v.s. tänkande) använder interna symboler (Janlert, 1999). På den tiden fanns inga datorer som kunde utgöra en sinnebild för hur dessa tankeberäkningar skulle kunna fungera. En annan känd tänkare som tog upp tankarna om att just tankar är beräkningar var Sigmund Freud. Han tänkte sig också att människan var en form av maskin där neuroner utgör de beräknande delarna och där tankar och önskningar är representerade av processer i hjärnan och dennas fysiska tillstånd. Strax efter mitten av 1900-talet började kognitionsvetenskapen ta form. Drivande var många datavetare vilket satt sin prägel på hela området. Kognitionsvetenskap utgår från att computationalismen är sann (exempelvis Dietrich, 1994a). Med detta menas att allt tänkande i själva verket är beräkningar, vilket medför att ett berättigat verktyg för att modellera tänkande är artificiell intelligens. Därtill följer ur computationalismen, att eftersom allt tänkande endast är beräkningar och datorer är bra på beräkningar, så kan en dator klara av att uppvisa alla kognitiva förmågor som människor har. Märk här att det inte nödvändigtvis är på samma sätt som människor tänker som datorn förväntas tänka, utan det är snarare troligt att det är på ett annat, möjligtvis bättre, sätt (Janlert, 1999). Dock så innefattar det alltid beräkning. Computationalismens vara eller icke vara diskuteras i det inledande avsnittet av uppsatsen. Klarar computationalismen verkligen av att täcka in hela kognitionen hos människor? En intuitivt viktig aspekt av mänskligt tänkande är att vi har medvetande. Inom den artificiella intelligensen görs en uppdelning mellan två discipliner; stark AI, som hävdar att datorer kan ha medvetande, och svag AI, vilken inte gör några sådana anspråk (Larsson, 1992). Vad medvetande utgörs av och hur man upptäcker om någon eller något har medvetande har diskuterats i århundraden utan att konsensus nåtts. En tanke som går igen är att människor besitter något som kallas för intentionalitet (Dennet, 1999), vilket ungefär betyder att våra tankar handlar om något. Det verkar viktigt att veta vad ett medvetande är innan det går att uttala sig om vad som har och inte har ett. Många menar att computationalism inte kan fånga hela processen som vi får förmoda försiggår inuti våra huvuden. Bland de som riktat hårdast kritik mot stark AI är John Searle som med sitt tankeexperiment det kinesiska rummet menar att datorer inte kan nå förståelse. Frågorna som rör stark AI utgör större delen av uppsatsen, mot slutet görs en rätt omfattande utläggning kring Searles resonemang och den kritik som riktas mot det. 1

5 Computationalism Det kan vara idé att börja med att klargöra vad som är en beräkning. Anledningen till att det inte är helt glasklart är att praktiskt taget alla händelseförlopp kan beskrivas med funktioner vars utfall avgörs av beräkningar. Ett exempel på ett sådant fenomen som inte utgör en egentlig beräkning är att om du släpper en sten så faller den till marken. Stenen utför ingen beräkning, du utför ingen beräkning (inte för att stenen ska falla just neråt i alla fall). Den fallande stenens rörelse kan dock beskrivas som en funktion, vilken kan räknas ut. Ett exempel på något som är en beräkning är att du ska kasta en boll på ett bestämt ställe. För att utföra handlingen behöver du med största sannolikhet (du kan ju ha tur också) utföra åtminstone en grov beräkning. Det som är viktigt är alltså att beräkningen är en del av handlingen. Som nämndes i inledningen handlar computationalismen om att allt tänkande i själva verket är beräkningar. Tanken är central inom kognitionsvetenskapen (ex. Dietrich, 1994; Glymour, 1997; Janlert, 1999), framförallt för de som försöker modellera mänskligt tänkande. För vissa inom AI:n är det viktigt att mena att en maskin som klarar beräkningar är det enda som behövs för att konstruera en tänkande artefakt. Motstånd mot computationalismen verkar i mångt och mycket hänga samman med att tankesättet strider mot introspektion av vårt eget tänkande, där vi verkligen inte upplever det som att vi utför beräkningar förutom i mycket begränsad omfattning (exempelvis direkt skolmatematik). Hilary Putnam formulerade ett tankeexperiment som är avsett att visa att computationalismen inte ställer upp en uttömmande teori om människors kognition; det finns något som saknas (Putnam, 1988; Glymour 1997). Tankeexperimentet kallas för Twin earth och lyder ungefär som följer. Tänk dig att det finns en tvillingplanet till jorden som är en precis kopia av jorden, du har din egen dubbelgångare och så vidare. Det enda som skiljer är att den vätska som kallas vatten och har samma funktion som vatten har på jorden inte är H 2 0 utan ett annat ämne, XYZ. När du säger att du vill ha vatten och när din dubbelgångare säger att den vill ha vatten så har ni samma beräkningstillstånd (eng. computational state) men ni syftar inte på samma sak och därför har ni inte samma mentala tillstånd. Det som saknas är den semantiska relationen. Varje medvetandetillstånd är, enligt Putnam, uppbyggt av ett beräkningstillstånd och en semantisk relation. Exakt hur denna semantiska relation ser ut och fungerar är inte helt klart ur Putnams argumentation, men det finns där. Glymour (1997) menar att detta inte ställer till alltför mycket besvär för computationalisterna. Han menar att den semantiska relationen är, åtminstone till viss del, socialt konstruerad och därför går det inte att särskilja individen från dennes sociala tillvaro. Detta leder till att kognitionsvetenskap som utgår från individen och dennes enskilda beteende och tänkande i grunden är fel. Med en annan utgångspunkt som är mer korrekt fås en modell av verkligheten som överensstämmer med denna. 2

6 Computationalismens konsekvenser Eric Dietrich (1994b) för en intressant diskussion vilka konsekvenser computationalism har om den är sann. Han argumenterar för att antingen har inte människor intentionalitet (se Intentionalitet sidan 4), något vi i vanliga fall tror att vi har, eller så har människor det, men då kan även datorer ha det, vilket vi inte tror i vanliga fall. Orsakerna till att detta blir en följd av computationalismen är inte så svåra att förstå då allt tänkande (även vår intentionalitet, om det nu finns något sådant) består av beräkningar som datorerna klarar av. En annan konsekvens av computationalismen är ett av de stora problemen forskare inom AI och kognitionsvetenskap måste klara av. Det har att göra med människors ovilja att betrakta sig själva som maskiner. Computationalism, och därmed även stark AI, inkräktar klart på uppfattningen att människor har en fri vilja. Faktum är att om människor fattar beslut på det sätt som vi dagligdags tänker oss så måste ovillkorligen computationalismen vara felaktig. Det sätt som vi fattar beslut i computationalisternas tankevärld är genom att väga olika alternativ mot varandra och det som får högst poäng vinner. Detta skiljer sig från att det är min vilja som avgör mina beslut. 3

7 Stark AI Att människor har medvetanden (eng. mind) råder det ingen större tvekan om, även om Wittgenstein visat med tankeexperimentet "beetle in a box" att jag inte kan vara helt säker på att någon annan än just jag har vad jag menar med ett medvetande (Kim, 1998). Tankeexperimentet går ut på att man tänker sig att varje människa går omkring med en liten ask som bara just hon kan titta i. Alla människor säger att de har en skalbagge i asken men du som frågar kan inte veta om det människan i fråga har verkligen är en skalbagge eller om det är en fjärilslarv, en sten eller om det rent av inte är någonting alls. Just denna subjektiva aspekt av medvetandet gör det inte lättare att uttala sig om datorer med medvetande. Hur ska vi kunna veta när vi nått så långt att vi har en dator med medvetande? Kanske har den tidpunkten redan kommit utan att vi ens märkt det. Kännetecken för medvetanden Som nämndes i ovan så är det svårt att veta vad som egentligen har medvetande. Kim (1998) försöker, liksom många andra genom åren gjort, urskilja vad som är specifikt för mentala egenskaper och vad som skiljer dem från de som inte är mentala. Han menar inte att hans uppställning verkligen är entydig eller heltäckande utan mer ett försök att visa på ett par starka riktningar för att uttyda medvetanden. Epistemologiska kriterier Ett av svaren på vad som är utmärkande för medvetandetillstånd är att vi får vetskap om dem på andra sätt än andra företeelser i vår omvärld. Direkt vetskap Vetskapen om att du har ont i tån är inte baserad på inferens. Du tänker inte: Oj, vad dumt. Nu slog jag i tån i bordsbenet. Det orsakade nog en vävnadsskada som inte är bra för mig, vilket i sin tur borde betyda att jag har ont. Att du har ont vet du för att du har ont, det är inte krångligare än så. Förstapersonsprivilegium Att du har ont i tån är ingenting någon annan känner utan det är just du som har ont. Det råder en asymmetri mellan första och tredje person om vetskapen om dina mentala tillstånd. Ofelbarhet och självintimitet Har du ont i tån så har du ont i tån och bara då, är en bra sammanfattning av detta kriterium. Du kan inte ta miste på dina mentala tillstånd, vilket du däremot kan göra på deras orsak. Dina mentala tillstånd existerar inte heller utan att du tror att de existerar, och så fort du tror att de existerar så vet du också att de gör det. Intentionalitet En utmärkande faktor för medvetanden är enligt Daniel Dennet (1999) intentionalitet. Begreppet syftar inte på den vardagliga betydelse utan på den filosofiska. Intentionalitet kan beskrivas som att en varelse eller maskin vars tankar handlar om någonting besitter intentionalitet. Människor har intentionalitet medan en bok eller en sten inte har det. Objekten som tankarna handlar om behöver inte ens existera, det är helt i sin ordning att ha tankar om enhörningar. 4

8 Det går att beskriva intentionalitet som den psykologiska egenskapen att ha semantiskt innehåll (Dietrich, 1994b). Ett annat sätt att beskriva intentionalitet är som den egenskap som gör att ett system förstår innebörden av sina egna representationer. Detta synsätt är inte långt ifrån att systemet ska förstå sin omvärld (ibid.). En olöst gåta Den, förvisso väldigt korta, genomgången för utmärkande faktorer är försökt att visa en sak: Varken epistemologiska kriterier eller intentionalitet är uttömmande för mentala tillstånd. De epistemologiska kriterierna fungerar bäst på direkta sinnesupplevelser medan intentionaliteten fungerar bättre på högre (Kim, 1998), och mer abstrakt, kognition. Om våra egna medvetandetillstånd kan vi ha en ganska god uppfattning men om någon annans har vi egentligen ingen aning. Felet är att vi i stort sett bara kan studera beteenden hos andra och dessa andra kan i praktiken vara zombies utan att vi kan urskilja dem (jämför Turingtestet sidan 10). Detta ställer naturligtvis till bekymmer genom att vi inte vet när vi skapat ett konstgjort medvetande. Medvetandefilosofiska antaganden inom stark AI Innan jag irrar in i den begreppsförvirring som verkar vara symptomatisk för filosofiska termer tänkte jag tala om vems de olika definitionerna är då olika filosofer ibland använder samma term för olika saker. För computationalism använder jag Glymours (1997) definition och för övriga termer hänvisar jag till Kims (1998) beskrivningar. Här kan det också vara på sin plats att nämna att computationalismen och den starka AI:n är så starkt sammanbundna att den ena är svår att tro på utan att tro på den andra. Att computationalismen är central inom kognitionsvetenskapen har redan nämnts, inom den starka AI:n är den det allt bygger på. Fysikalism Tror man på computationalismen måste man, som jag ser det, till att börja med en ha en fysikalistisk syn på kropp-medvetande-problematiken, i motsats till Descartes substansdualism som innebär att medvetandet är en sorts icke-fysisk substans som inte ens existerar i den fysiska världen (Johansson, 1999). Anledningen jag ser till att man måste vara fysikalist, eller materialist som det också kallas, är att om det nu skulle finnas en mystisk icke-fysisk substans som bygger upp medvetanden så är det ytterst otroligt att den skulle få för sig att besätta en av människan konstruerad maskin. Hela idén med substansdualism har i stort sett förkastats eftersom den strider mot några av våra starkaste fysikaliska principer, exempelvis att energin i ett slutet system (hela universum är i detta fall systemet) är konstant (termodynamikens första lag) (Kim, 1998). Funktionalism Förutom en fysikalistisk tro måste förespråkaren för stark AI, åtminstone om det är mänskligt medvetande som eftersträvas, vara funktionalist. Funktionalismen innebär att tänkande kan realiseras med i stort sett vilka byggstenar som helst; det kan vara nervceller, transistorer, ölburkar eller något annat fysiskt (Kim, 1998). På ett förenklat, kanske även lite nedlåtande, sätt som dock fyller syftet att förklara funktionalismen ännu lite bättre, kan man säga att en funktionalist tror att 5

9 det kommer in information, sedan händer någonting inuti enheten för att sedan skicka ut något. Vad som händer inuti är inte så intressant bara resultatet blir detsamma. Det hela har att göra med funktionsbegreppet som egentligen bara uttalar sig om relationen mellan indata och utdata. Orsakerna till att man måste ansluta sig till funktionalismen för att tro att mänskliga medvetanden är möjliga att återskapa i datorn är att om fysiska byggstenar avgör vad som kan uppvisa medvetande kan omöjligt en dator som inte består av nervceller (en hjärna) få samma känsla av smärta som vi människor har. Menar man att det finns olika typer av medvetanden (hur nu det går att definiera ett medvetande som inte är som människans) och att det inte ens är önskvärt att kopiera det mänskliga medvetandet behöver man, vid första anblicken, inte följa funktionalismens tankar och tackla de problem som de idéerna resulterar i. Däremot måste man fortfarande tro på computationalistiska tesen att tänkande är beräkning och därför bara går ut på funktioner som är realiserbara på i stort sett vilket sätt som helst. Alltså hamnar den som tror på stark AI alltid i funktionalismen. All kritik som riktats funktionalismen kan också riktas mot tanken med stark AI. En del och en rätt betydande sådan av kritiken mot funktionalismen brukar kallas kvaliaproblematiken (Kim, 1998). Kvalia är de kvalitativa upplevelser vi har. Exempel på kvalia kan vara den gröna upplevelsen av att se en gurka eller smärtan som känns när du blir stucken av en geting. En utmärkande sak med kvalia är att den aldrig fullt ut går att beskriva med ord, det går i bästa fall jämföra upplevelsen med en annan. Varför ställer detta till med problem för funktionalismen? Anledningen är att funktionalismen inte tycks kunna fånga kvalia inom sina begrepp. Det är fullt tänkbart att min upplevelse av grönt är samma som din upplevelse av blått, vi kommer ändå att handla på samma sätt; säga grönt om gurkorna och blått om himlen en klar dag. Det är möjligt att vi har inverterade spektra mot varandra. Det är dessutom möjligt att en robot som inte har någon kvalia alls kan fungera på samma sätt som vi. Att kvalia inte behöver påverka beteendet innebär att funktionalism inte kan förklara alla mentala tillstånd och egenskaper. Det är detta som menas med kvaliaproblematiken för funktionalismen. Kinesiska rummet Det mest kända tankeexperiment som menar att stark AI är en omöjlighet, kallas det kinesiska rummet och formulerades av John Searle. Eftersom argumentet har blivit så känt och omdiskuterat gås det här igenom grundligt. Tankeexperimentet går ut på att det finns ett rum med en liten lucka där textmeddelanden på kinesiska skickas in. I rummet sitter Searle (som inte förstår kinesiska) och har en stor och ofattbart komplex regelbok framför sig (skriven på engelska, som Searle förstår) där han slår upp vilka kinesiska tecken han ska skriva, för att svara på de inkommande meddelandena på samma sätt som en kines skulle gjort. Searle hävdar att han inte förstår kinesiska hur man än vänder på det. Här kommer analogin med datorer in. Searle menar att en dator fungerar precis på det här viset, han är processorn, regelboken är programmet och luckan är in- och utdataenhet (Searle, 1990). 6

10 Argumentet formellt Mer formellt uttrycker Searle sin argumentation på detta vis (Searle, 1990; Larsson, 1992): Axiom 1. Datorprogram är formella (syntaktiska) Datorer tar in symboler behandlar dessa enligt precist uppställda regler (programmet) och skickar ut andra symboler. Symbolerna är därtill manipulerade helt utan egentligt innehåll, de har ingen referens till verkligheten utan står för det programmeraren eller användaren vill att de ska stå för. Samma program kan i princip användas för att komma fram till vikten på en lastbil som till att räkna ut hur lång en spik är. Alltså program är syntaktiska och inte semantiska. Axiom 2. Mänskliga medvetanden har mentalt innehåll (semantik) Människor förstår saker och våra tankar har handlar om något. Vi har intentionalitet. Det vi tänker på har en mening. Axiom 3. Syntax självt varken utgör eller är tillräckligt för semantik Det som utgör detta tredje axioms kärna är att det är skillnad mellan formella element utan egentligt innehåll och de fenomen som har just egentligt innehåll. Axiom 4. Hjärnor orsakar medvetanden Från dessa fyra axiom drar Searle fyra slutsatser: Slutsats 1. Program kan varken utgöra eller vara tillräckliga för medvetanden Just denna slutsats innebär att idén med stark AI inte går att genomföra. Stark AI är helt enkelt fel. Slutsats 2. För att ett system ska kunna ha medvetande måste det ha kausala fårmågor som minst är jämförbara med hjärnors Slutsaten säger ingenting om processen som pågår utan endast att artificiella system just måste ha tillräckliga kausala förmågor för att uppvisa tänkande. Slutsats 3. Allting med medvetande måste ha dem mänskliga hjärnans specifika förmågor, vilket inte är möjligt att uppnå enbart genom att köra ett formellt program Slutsats 4. Den mänskliga hjärnan producerar inte medvetandefenomenen enbart genom att köra ett program Motargument mot kinesiska rummet Många har riktat hård kritik mot Searles argumentation, antingen tankeexperimentet eller den formella argumentationen. Larsson (1992) har kritik mot Searle på många punkter, till att börja med avfärdar Larsson tankeexperimentet helt och hållet eftersom det som han ser det är orimligt att upprätta ett system liknande detta rum. Han menar vidare att vår intuitiva bild av vad som försiggår i en dator inte förbättras varför argumentet går att lämna därhän. Han hävdar därtill att inget av axiomen är helt självklart, dessutom menar han att slutsatserna inte följer ur axiomen. Axiomens giltighet Larssons (ibid.) kritik mot det första axiomet går ut på att ett datorprogram som han ser det inte enbart kan utgöras av den syntaktiska programlistningen utan att även bör innefatta en processorbeskrivning och att det hela utförs på en fysisk 7

11 processor. Detta skulle som Larsson ser det innebära att programmet inte enbart är syntaktiskt. Det andra axiomet menar Larsson är beroende av vilken syn på medvetandefilosofi man har. Han menar att Searle stödjer sig på det Larsson kallar naiv realism, vilken utgår från en rätt vardaglig syn på kroppmedvetandeproblemet nämligen att världen enbart är fysisk, att det faktiskt existera mentala tillstånd och att dessa har fysiska orsaker. Som sagt är detta en rätt vanlig syn bland många olika typer av människor men för den skull är det inte säkert att det förhåller sig just på detta sätt. Det tredje axiomet kan verka logiskt och fullt rimligt till sin natur. Hur sant det i realiteten är att syntax inte kan vara tillräckligt för semantik är dock en omdiskuterad fråga som inte ska ses som a priori sann (ibid.). Larsson gör också en annan tolkning av det tredje axiomet. Den är att enbart symbolhantering inte kan vara tillräckligt för att uppnå medvetande, detta menar han dock förutsätter att det som ska visas med argumentationen är sant. I det fjärde axiomet anser Larsson att det krävs att man godtar den naiva realismen vilken som sagt inte är okontroversiell. Slutsatsernas giltighet Den första slutsatsen, som de flesta anser som viktigast, har Larsson ingen annan kritik mot annat än att axiomen skulle vara felaktigt uppställda. Inte heller i de följande slutsatserna finner han några större missar från Searles sida möjligtvis med undantag för att slutsatserna är trivialt sanna eller att de är redundanta beroende av någon av de andra slutsatserna. Men eftersom axiomen inte är korrekta enligt Larssons uppfattning behöver slutsatserna aldrig ens diskuteras, det är meningslöst att tala om en logisk konsekvens där premisserna aldrig är sanna. De av Searle upptäckta motargumenten Searle (1990) gör själv en uppstrukturering av de motargument han fått under de första tio åren efter att han publicerade sin originalartikel: a. Även om Searle inte vet om det förstår han egentligen kinesiska. Det är trots allt möjligt att förstå något utan att veta om det. b. Searle förstår inte kinesiska, men det finns ett, möjligtvis omedvetet, undersystem som gör det. Det är trots allt möjligt att ha omedvetna mentala tillstånd och det finns ingen anledning att förstå kinesiska inte skulle kunna vara ett sådant. c. Searle förstår inte kinesiska men hela systemet som innefattar allt inne i rummet har förståelse. Detta på samma sätt som att en enskild neuron inte förstår men att den bidrar till att hela systemet som en människa utgör förstår. Argumentet kallas ofta systemargumentet. d. Semantik existerar inte, det finns bara syntax. Det är bara ett ovetenskapligt antagande att det finns magiska saker som mentalt innehåll, tankeprocess och semantik. Det enda som finns är något slags symbolbearbetning. 8

12 e. Searle kör inte alls något program i det kinesiska rummet, det är bara vad han tror att han gör. När en medveten agent går igenom stegen i ett program upphör det vara implementeringen av ett program. f. Datorer skulle lyckas bygga upp en semantik om de hade bra indata och utdata som stod i vettig relation till omvärlden. Det går att tänka sig en dator som sitter i en robot och har indata i form av bland annat två videokameror som sitter på liknande ställe som hos en människa och utdata i form av exempelvis rörelse i robotens lemmar. Roboten skulle ha semantik. Argumentet kallas ofta robotargumentet. g. Om programmet (regelboken) simulerade hjärnan hos en som talar kinesiska, låt säga nere på neuronnivå så skulle det med all säkerhet förstå kinesiska lika bra som en kinesisktalande persons hjärna. Searle avfärdar alla sju motargumenten som att de har det gemensamt att de inte fångar innebörden i kinesiska rummet. Denna innebörd menar Searle är distinktionen mellan symbolbearbetning som görs i en dator och det mentala innehåll människans hjärna har. Själva kärnan i hela resonemanget utgörs av att symbolerna inte säger någonting om vad de refererar till. Att avfärda alla argumenten så här kort finner jag bristfällig. Exempelvis d-argumentet, att semantik egentligen inte finns, löser helt och hållet upp knuten som Searle försöker knyta, även om det intuitivt är felaktigt att semantik inte finns. Skulle det stämma att syntax är tillräckligt för semantik skulle tredje axiomet vara fel och därmed hela Searles resonemang. Utförligare försvar mot några av argumenten har Searle, detta gäller exempelvis systemargumentet (c) där han menar att man då istället ska föreställa sig att han har memorerat bokens alla regler och utför handlingarna, inte heller nu förstår Searle kinesiska. Dyer (1994) har ett motargument även mot detta, där han menar att det är två olika nivåer av Searle där den ena, medvetna, förstår engelska och den andra, omedvetna, förstår kinesiska. Argumentet liknar i mångt och mycket argument b, som handlar om undersystem som förstår kinesiska. Återigen skulle Searle kunna hävda att Dyer inte förstått vad hela kinesiska rummet går ut på. Jag finner det rätt osannolikt att jag kan förstå saker som jag är omedveten om, det finns som jag ser det en stark koppling mellan förståelse och medvetenhet. Paul och Patricia Churchland (1990) gör en utveckling av systemargumentet i konnektionistisk anda, där de menar att man ska se kinesiska rummet som enbart en neuron i en hjärna och inte som hela hjärnan. De tänker sig att ett system av väldigt många kinesiska rum där snabbfotade pojkar springer med meddelanden mellan de olika rummen och menar att hela detta system skulle minsann ha medvetande. En annan kritik Churchland & Churchland riktar mot kinesiska rummet är att ett sådant system inte fungerar p.g.a. att en människa är för långsam. De gör en analogi med att motbevisa att ljus är elektromagnetiska vågor. Experimentet går ut på att hålla en stavmagnet i ett mörkt rum och föra den snabbt upp och ner, inget synligt ljus kommer från magneten, alltså så visar försöket att ljus inte kan vara elektromagnetiska vågor. De menar att detta visar att bara för att någonting existerar så behöver inte människan uppfatta det som det det faktiskt är. 9

13 Turingtestet Alan Turing kom på det s.k. turingtestet där en dators beteende jämförs med mänskligt för att se om datorn är intelligent. Testupplägget är så att en människa, P1, sitter vid en datorterminal och ställer frågor på något naturligt språk till någonting i den andra änden. Detta något kan antingen vara en människa, P2, eller en dator, D1, båda dessa har till uppgift att försöka övertyga den P1 att de är P2. I slutet av testet ska P1 uttala sig om det är en dator eller människa som han pratat med, blir resultat av ett stort antal försök med olika försökspersoner att det är lika stor andel som tror att datorn är människa som att människan är det har datorn klarat testet. Huruvida testet är ett fungerande test för intelligens eller inte låter jag här vara osagt för att gå vidare till en annan aspekt av testet. Emellanåt sägs testet också innebära ett test för medvetande (ex. Searle, 1990), något som är rimligt då det är svårt att tänka sig intelligens avhängigt från medvetande (att det är rimligt behöver inte betyda att det är sant). Är då turingtestet ett fungerande test för medvetande? Det verkar som om turingtestet inte lyckas fånga de inre tillstånden av tänkandet utan helt i behavioristisk anda bara ser till beteenden. Det går, åtminstone i tanken, konstruera en dator som givet vilken indata som helst i en tabell kan slå upp vilken utdata den ska ge, likt Searles kinesiska rum. Detta kan inte räknas som medvetet beteende, även om det inte heller går att skilja detta systems resultat på testet från ett som verkligen besitter medvetande. Detta är orsaken till att testet inte klarar av att testa förekomst av medvetande (Searle, 1990). 10

14 Reflektioner Diskussionen kring det kinesiska rummet har pågått i drygt 20 år och argumenten för och emot har inte blivit nämnvärt mycket bättre sedan det hela började. En sak som tankeexperimentet tycks visa är att turingtestet inte kan sägas avgöra om någon har ett medvetande eller inte, det samma gäller för inneboende intelligens (beteendet kan vara intelligent på grundval av att programmeraren har täckt in alla möjligheter, något som i princip är omöjligt i dynamiska miljöer). En sak som Dietrich (1994b) belyser är att om Searle lyckas visa något med det kinesiska rummet så är det att intentionalitet inte har någon mening, det kinesiska rummet (som Searle hävdar inte besitter intentionalitet) går ju inte att skilja från en riktig kinesisktalande person (som han däremot menar har intentionalitet), därför spelar inte intentionalitet någon som helst roll i att uppnå intelligenta system. Den slutsats jag drar, och där håller jag helt med Searle, är att de flesta argumenten missa kärnan i tankeexperimentet. Dock så har jag svårt att följa med honom på en punkt och det är hur vi människor lyckas ta till oss förståelse. Det verkar för mig enbart finnas syntaktisk indata till oss. Menar Searle att det bara är för enbart symbolhanterande system som det gäller att syntax inte är tillräckligt för semantik? Vare sig Searles resonemang är korrekt eller inte har det rört runt i den starka AI:ns gryta ordentligt. Brister i stark AI:s tankesätt som inte beaktades innan de kom fram i full dager. Jag har försökt att inte ta ställning varken i fråga om computationalismen eller stark AI är rimliga tankar, sanningen att säga är att jag inte själv vet var jag står. Jag tror att det hela är mer av ett filosofiskt problem än ett datavetenskapligt. Stark AI, om den nu är möjlig verkar ligga alltför långt bort från där vi står idag för att idag ens utgöra en viktig filosofisk fråga. Computationalismen har däremot visat upp sig under så lång tid, som ett sätt att förstå den mänskliga kognitionen att det inte verkar vara dristigt att säga att åtminstone en betydande del av vårt tänkande utgörs av beräkningar. Jag menar att Putnams tankar om att det mänskliga medvetandet består av en beräknande del och en annan del som fäster representationerna vid verkligheten verkar vettiga, i varje fall vid första anblicken. Glymours åsikt att semantiken beror av sociala konstruktioner resulterar i konsekvenser för Searles kinesiska rum. Är det datorer som försöker vara sociala som krävs för att få tänkande maskiner? En annan aspekt med stark AI som inte har alls att göra med om det är möjligt eller ej med datorer med medvetande eller om computationalismen är sann är att hur ska man etiskt förhålla sig till en maskin med medvetande. På något vis är det värre att manipulera ett medvetande än att sticka sprutor i ett oskyldigt djur. Ska det bildas etiska kommittéer på liknande sätt som idag finns mot djurförsök? Ska upprättas lagar till skydd för datorer? Kommer det att vara brottsligt att formatera hårddisken? Detta är helt andra frågor än de som tagits upp i uppsatsen men likväl intressanta den eventuella dag som stark AI blir sann. 11

15 Referenser Churchland, Paul M. & Churchland, Patricia (1990). Could a Machine Think? Scientific American, 266, Dennet, Daniel C. (1999). Att förstå medvetandet hos människor och andra djur. Stockholm: Natur och kultur. Dietrich, Eric (1994a). Thinking Computers and the Problem of Intentionality. I Eric Dietrich (red.). Thinking Computers & Virtual Persons: Essays on the Intentionality of Machines (s. 3-34). London: Academic Press. Dietrich, Eric (1994b). Computationalism. I Eric Dietrich (red.). Thinking Computers & Virtual Persons: Essays on the Intentionality of Machines (s ). London: Academic Press. Dyer, Michael G. (1994). Intentionality and Computationalism. I Eric Dietrich (red.). Thinking Computers & Virtual Persons: Essays on the Intentionality of Machines (s ). London: Academic Press. Glymour, Clark (1997). Thinking Thing Trough an introduction to philosophical issues and achievements. Cambridge, Massachusetts: MIT Press. Janlert, Lars-Erik (1999). Tänkande som beräkning en inledning till data- och kognitionsvetenskap. Lund: Studentlitteratur. Johansson, Lars-Göran (1999). Introduktion till vetenskapsteorin. Thales. Stockholm: Kim, Jaegwon (1998). Philosophy of Mind. Boulder, Colorado: Westview Press. Larsson Jan Erik (1992). Kan Searle tänka? Filosofisk tidskrift, 4, Putnam, Hillary (1988). Representation and Reality. Cambridge, Massachusetts: MIT Press. Searle, John R. (1990). Is the Brain's Mind a Computer Program. Scientific American, 266,