Teknik och moraliskt ansvar Elin Palm Vem har ansvar, i kraft av vad, och varför? 1) Ansvarsbegreppet 2) Kriterier för moraliskt agentskap 3) Under vilka villkor kan man vara moraliskt ansvarig? 4) Vad kan man hållas ansvarig för? 1
Ansvarsbegreppet Vad betyder moraliskt ansvar? Att uttrycka beröm/klander för en handling/undlåtande X är i viss mening att tillskriva ansvar för C. Ansvarssubjekt Individer? Kollektiv? Datorer? Robotar? Ansvar är typiskt sammankopplat med idén om personer och vad som allmänt anses skilja människan från övriga levande varelser - förnuft och autonomi. 2
Aristoteles 384-323 f. Kr. Nichomakeanska etiken - grunden för dygder och laster. För moraliskt ansvar krävs: a) Beslutskapacitet b) Kontroll c) Medvetande d) Frivillighet Kollektivt ansvar Om kollektivt ansvar hur sanktionera? Omöjligt att straffa en grupp utan att det drabbar dess medlemmar. Orättvist att utsätta en person för en bestraffning som hon inte individuellt förtjänat. 3
Moraliskt ansvar Men om allt redan är förutbestämt t ex av fysikaliska lagar eller en gudomlig plan kan jag då ha (1) fri vilja (2) moraliskt ansvar? Fatalism Fatalism - upplevd fri vilja = illusion => inget moraliskt ansvar. Homeriska epos 800 f Kr. Vissa aspekter ligger bortom vår förmåga att påverka mha valfria handlingar. Stjärnor, gudar styr. Denna starka variant av fatalism har förkastats för även om vissa aspekter ligger bortom vår förmåga att påverka gör inte alla det. 4
Determinism Allt som sker är orsakat av bakomliggande faktorer och omöjliggör att något som inte redan är bestämt sker och personer kan inte påverka men deras handlingar är nödvändiga länkar i den totala utvecklingen. Fatalism vs Determinism Skiljer sig vg mänskliga val och handlingar Om fatalismen är sann så spelar människans val ingen roll men D ser dessa som nödvändiga länkar i den kausala kedjan. Även om val och handlingar är determinerade så påverkar det i viss mån utvecklingen. 5
Ansvarstillskrivelse Inkompatibilism om D är sann så kan människan inte vara moraliskt ansvarig. Fri vilja är inkompatibel med D. Meritbaserad syn på ansvar. Ett omdöme som att en person P är moraliskt ansvarig kan aldrig vara sant om världen är determinerad. För att förtjäna beröm/klander krävs en viss kontroll - att välja att inte/utföra en handling. Beröm/klander blir meningslöst. Kant. Ansvarstillskrivelse Kompatibilism - en person kan vara ansvarig för vissa saker även om vad hon gör är determinierat. Konsekventialism vs moraliskt ansvar. Det behöver inte helt underminera fri vilja - kan vara effektivt/ge goda konsekvenser att tillskriva ansvar => förändra beteende. Hobbes, Hume, Mill. 6
Ansvarstillskrivelse Meritbaserad syn - beröm/klander efter förtjänst. Konsekvensbaserad syn - beröm/klander pga gynnsamma konsekvenser. Fyra typer av ingenjörsansvar 1) Rollansvar - rollanknutna plikter 1) Rollansvar rollanknutna plikter 2) Uppgiftsansvar - ansvar för att X utförs - ofta inbegrips rollanknutna plikter. 3) Skuldansvar - kan ställas till svars om X går fel. Oftast har skuldansvar sin grund i ett uppgiftsansvar. 4) Strikt ansvar - juridiskt ansvar. Skuldansvar som kan uppkomma även om man inte varit försumlig. 7
Whistle-blowing 1) Avslöjande - information befordras avsiktligt till mottagare utanför de gängse organisationskanalerna. 2) Ämne - informationen gäller ett förhållande X som den som utför WB anser vara etiskt problematisk 3) Agent - personen som avslöjar är anställd/har varit anställd inom organisationen/företaget X gäller. 4) Mottagare - information ges till en person eller organisation som är i en sådan position att hon kan påverka med avseende på X. Ex. Bratt och Boforsaffären Ingvar Bratt avslöjade att det statliga vapentillverkande företaget Bofors i Karlskoga betalade olagliga mutor och smugglade vapen till bland annat Indien. 1) hemlig källa men trög polisutredning. 2) trädde fram öppet när han var på väg att lämna företaget t (omskolade sig till lärare) Hatbrev, mordhot liten ort. Flyttade. 8
Berättigande av WB? Kunskap - hur säker på sin sak bör ingenjören vara för att slå larm? Kan kunskapskravet tillåtas variera med hur allvarligt förhållandet förefaller vara? Under vilka villkor är WB moraliskt tillåtet? Kan WB vara en moralisk plikt? Om så, i vilka situationer? Är WB förenlig med företagslojalitet? Ingenjörsetiska koder Skulle Ingenjörens hederskodex ge handlingsvägledning/stöd i Bratts fall? Ingenjörer som misskött sig kan inte hindras från att arbeta som ingenjörer. Borde ingenjörer ha en legitimation som kan återkallas på samma sätt som en läkare, psykolog eller sjuksköterskas? Redovisa (a) skäl för (b) skäl emot, samt (c) din egen ståndpunkt och hur du motiverar den. 9
Teknik och ansvar Smarta maskiner assisterar och ersätter oss. Kan datorer vara moraliskt ansvariga och isf. för vad? - kan de förstå sina handlingar? - kan de vara medvetna/agera avsiktligt? Om vi överlåter ansvar åt datorer, förverkar vi då vårt eget? Kan ett datasystem vara moraliskt ansvarigt? Ja maskiner med intentionalitet som Deep Ja, maskiner med intentionalitet som Deep Blue. Nej, datorer saknar empati/förståelse och kan därför inte vara moraliska agenter. Nej, enligt Aristoteles kriterier är datorers beslut inte frivilliga. Nja, datorer kan ha intentionalitet => ansvar men vi har fortfarande ansvar för deras intentionalitet. Kan på sikt underminera vårt eget ansvar. 10
Turingtestet Kan maskiner tänka? Om en maskin konverserar med en maskin och inte kan avgöra om det är en människa eller maskin uppfylls kriteriet för mänsklig intelligens. En person sitter vid en dator i ett isolerat rum och ställer frågor till andra datorer via nätverk - bemannade med människor som skriver svaren manuellt eller datorprogram som automatiskt svarar på frågorna. Om testpersonen inte kan avgöra vilka respondenter som är människor respektive program har sistnämnda klarat testet. Kinesiska rummet John Searle - kritik av TT En person som inte talar kinesiska sitter i ett stängt rum och får frågor på kinesiska. Mha manual besvarar hon dessa. Turingtestet är inte ett test på medvetande/förståelse. Personen i kinesiska rummet kommer aldrig att förstå kinesiska, bara följa instruktioner. 11
Intelligenta maskiner Robotar inom kirurgi. Fördel: roboten (ev styrd av läkare via monitor) opererar med hög precision (laparaskopisk kirurgi) Sjukhusroboten Flo kan prata, le, rynka på ögonbrynen, gå utan att krocka med föremål, ta pulsen, öppna medicinburkar, påminna patienter om medicinering och berätta för läkare hur patienter mår. Fördel: outtröttlig. Sälroboten Paro - sällskap till gamla/sjuka. Fördel: genererar välbefinnande som ett husdjur men har inte husdjurets nackdelar. Bikupa Bör robotar på egen hand få: a) medicinera patienter? b) utföra kirurgiska ingrepp? c) bedriva allmän tillsyn av äldre/sjuka? d) Var bör de yttersta ansvaret för robotens aktiviteter placeras? 12