Introduk)on )ll e)k för dataloger, Fö1. Föreläsning för DD1390, DD1348 och DD1325 av Per Wikman-Svahn Forskare vid Avdelningen för filosofi, KTH

Transkript

1 Introduk)on )ll e)k för dataloger, Fö1 Föreläsning för DD1390, DD1348 och DD1325 av Per Wikman-Svahn Forskare vid Avdelningen för filosofi, KTH

2 OM ETIKMOMENTET OCH DESS EXAMINATION 2

3 Lärandemål Enligt kursplanerna för DD1390 (Prosam), DD1325 och DD1348 ska du kunna analysera och ta ställning 0ll e0ska konsekvenser av datatekniska 0llämpningar. 3

4 Examina'on för e'kmomentet Skriv en essa som handlar om en av tre i förväg utvalda texter. I essän måste du övertyga läsaren om a> du 1) har förstå. och 2) kan 1llämpa norma'va teorier som togs upp på föreläsningarna och/eller i kursli>eraturen (Hansson 2002, Kapitel 2). 4

5 Texterna finns på kursens Canvas-sida. De tre texterna är: Software engineers must think deeply about ethics It Was A Matter of Life and Death : A YouTube Engineer's Decision to Alter Data in the 'It Gets Better Project The code I m still ashamed of Du behöver läsa alla tre eftersom de kommer att diskuteras på seminariet. Läs och följ de detaljerade instruktionerna för hur du ska skriva din essä på kursens Canvas-sida. 5

6 Vik$ga datum 26 november kl Deadline för inlämning av essä (fullständig första version) i Canvas (PeerGrade) november Gruppövningar (seminarier). Glöm ej af ta med pappersutskrig! Glöm inte heller af ha läst de två texter som du inte behandlar i din essä! 27 november Du får reda på vilken annan students essä du ska kamratgranska. 29 november kl Deadline för af kamratgranska annan students essä i PeerGrade. 3 december kl Deadline för inlämning av slutgil$g version i Canvas. 6

7 DATAETIK? 7

8 8

9 Vad är e'k? E'k handlar om frågor som 1. Vad är värdefullt? 2. Varför är det värdefullt? 3. Hur bör vi handla? 9

10 E"k och moral I vardagligt språkbruk betyder orden e"k och moral ungefär samma sak, men det finns en nyansskillnad mellan hur de brukar användas: E#k Frågor inom yrkeslivet, det offentliga livet. Moral Frågor inom privatlivet.

11 E"k och moralfilosofi E"k =läran om (e"ken och) moralen. Moralfilosofi=Akademisk disciplin som studerar e"ska och moraliska frågor. Moralfilosofi kallas också e"k.

12 Deskriptiv och normativ etik Deskrip1v e1k Studiet av hur människor handlar i moraliskt eller e1skt relevanta fall. Norma1v e1k Studerar frågor om hur man bör handla. 12

13 Exempel på deskrip.v-e.sk undersökning: The Moral Machine experiment a) World map highlighting the locations of Moral Machine visitors. Each point represents a location from which at least one visitor made at least one decision (n = 39.6 million). b) Moral Machine interface. An autonomous vehicle experiences a sudden brake failure. Staying on course would result in the death of two elderly men and an elderly woman who are crossing on a do not cross signal (left). Swerving would result in the death of three passengers: an adult man, an adult woman, and a boy (right). Awad, E., Dsouza, S., Kim, R., Schulz, J., Henrich, J., Shariff, A., Bonnefon, J.F. and Rahwan, I., The Moral Machine experiment. Nature, 563(7729), p

14 Att ett visst typ av beteende är allmänt accepterat innebär inte att det är rätt Bform%5D%5BSIGNATUR%5D=Bild+101I

15 E"k och juridik O.a sammanfaller rä7 och fel enligt lagen med vad vi anser är rä7 och fel moraliskt. Lags".ningen reflekterar moraluppfa7ningar. Lagen ställer typiskt mindre långtgående krav än de moraliska krav vi ställer på oss själva och varandra. ex affärse"k. omoraliskt beteende mot andra människor. Men det finns också fall då lagen "llåter eller kräver sådant som går emot rimlig e"k.

16 Fakta och värderingar (1) Människor använder darknets för a5 sprida barnpornografi. Faktautsaga ( Fakta ) (2) Det är omoraliskt a5 skapa darknets. Värdeutsaga ( Värdering ) (3) Vi är ense om a5 det är omoraliskt a5 skapa darknets. Faktautsaga ( Fakta ) (som refererar Cll en värdeutsaga). 16

17 Humes lag Påståenden om fakta och påståenden om värden är fundamentalt olika. Man kan aldrig härleda det som bör vara från det som är. David Hume ( )

18 Instrumentellt värde och egenvärde Instrumentellt värde bidrar 5ll a6 förverkliga något annat som uppfa6as som värdefullt Typxempel: pengar Egenvärde värdefullt i sig självt, oberoende av om det har e6 värde som medel för förverkligandet av något annat som uppfa6as som värdefullt Typxempel: lycka, människor 18

19 E"sk rela"vism = det är upp *ll individer eller samhället a3 själva avgöra vad som är rä3 eller fel. Olika människor och samhällen har delvis olika moral (deskrip*vt påstående om fakta) Av det följer dock inte a> moralen bör vara rela"v (norma*vt påstående om vad vi bör göra)

20 Diskussions-uppgi+ Håller du med om följande påstående? det är upp till individer eller samhället att själva avgöra vad som är rätt eller fel. Motivera varför/varför inte du håller med. 1. Fundera tyst för dig själv. 2. Diskutera era motiveringar för den bredvid. Försök hitta motargument emot era motiveringar. 20

21 Sammanfa&ning Moralen behöver inte vara rela4v bara för a& vi for5arande är oeniga om vissa saker. Någon4ng kan vara absolut även om alla ännu inte håller med om det (jorden är fak4skt rund, även om det finns de som inte håller med). Men vad är det som är moraliskt rä&? E4skt tänkande har utvecklats genom århundradena 4ll hela teorier. De e4ska teorierna är våra samlade bästa försök a& försöka finna fram 4ll vad som är moraliskt rä&. 21

22 NORMATIVA TEORIER 22

23 Citat från instruk-onerna -ll examina-onsuppgi5en Det gör du bäst genom a< på rimliga sä< applicera begrepp och angreppsvinklar som norma-va teorier innehåller. Därför är det mycket svårt för den som inte alls använder några begrepp eller dis2nk2oner såsom u"litarism, deontologi och skillnaden mellan norma"v och deskrip"v e"k a< bli godkänd på uppgi5en. Du kan använda en eller flera norma2va teorier i din essä. Om du bara använder en norma-v teori så förväntar vi oss dels a< du mo2verar valet av just denna teori, dels a< dina resonemang blir djupare med avseende på denna teori än om du hade använt flera norma-va teorier på samma textutrymme. 23

24 Norma&va teorier? Norma&v e&k Studerar frågor om hur man bör handla. Norma&v teori = Moralteori = Moralfilosofisk teori = E&sk teori Vanliga norma&va teorier: 1. U&litarism 2. Plikte&k 3. RäIghetse&k 4. Dygdee&ik 24

25 UTILITARISM

26 U"litarism baseras på idén a2 vi bör maximera summan av det goda Maximering av ny2a (eng. u"lity ). Allas intressen ska räknas exakt lika mycket. Man bör handla på e2 sådant sä2 a2 man åstadkommer de bästa möjliga konsekvenserna. Det innebär bland annat a2 man måste väga de dåliga konsekvenserna mot de bra konsekvenserna.

27 Känd u&litaris&sk filosof: Jeremy Bentham ( ) Jeremy Bentham brukar räknas som u&litarismens grundare, även om ideerna fanns &digare. Andra vik&ga &diga u&litarister: John Stuart Mill ( ) Henry Sidgwick ( ) Bilden visar figurer från Charles Dickens ( ) verk. /b/b4/charles_dickens_characters.jpg

28 Olika varianter av u-litarism beroende på vad man bör maximera Hedonis-sk (klassisk) u-litarism A< känna sig lycklig Ny<a=Lycka, njutning, posi-va sinnesupplevelser. Preferensu-litarism A< få/ha det som man vill ha/önskar Ny<a=Preferens-llfredsställelse Välfärdsu-litarism A< ha det som man behöver (i någon objek-v mening) Ny<a=Välfärd

29 U"litarism och konsekven"alism Det som är gemensamt för alla olika u"litaris"ska varianter är handlingar bedöms enbart u"från dess konsekvenser. (t.ex. mo"v eller avsikt spelar ingen roll.) U"litarism är därför en konsekven"alis"sk moralteori. Det finns andra konsekven"alis"ska moralteorier, men u"litarismen är den vanligaste och vik"gaste. 29

30 Exempel på u*litaris*ska aspekter på kameraövervakning Vad blir de samhälleliga konsekvenserna av ökad kameraövervakning på offentliga platser? Hur ska vi väga värdet av eventuell minskning bro? mot värdet av a? människor känner sig övervakade? De som drabbas av bro? får starkt nega*va upplevelser. Men de allra flesta kommer ändå inte drabbas av bro?, de drabbas däremot av känslan a? bli övervakade. De bör därför *llmätas mer värde! Är det bara dessa konsekvenser som är vik*ga? Mindre bro?? Människor känner sig övervakade? Finns det andra som vi inte har tänkt på? Hur säkra är vi på a? konsekvenserna verkligen blir just dessa? Kanske risken för dessa konsekvenser är överdrivna? Kanske blir det mycket värre konsekvenser? (Autorenkollektiv (talk)) [CC BY-SA 3.0 ( from Wikimedia Commons 30

31 Kostnads-ny*oanalys (eng. cost-benefit analysis) En prak;sk metod som i viss mån bygger på u;litarismens ideer. Används av ekonomer för a* beräkna värdet av olika alterna;v. t.ex. för a* beräkna samhällsny*an med a* bygga järnvägar eller broar. Bygger på a* försöka mäta styrkan hos människors preferenser Till exempel: Hur mycket är du beredd a* betala för a* komma 10 minuter ;digare ;ll jobbet? 31

32 Riskanalys Alternativ: A1 A2 A3 Riskgenererande ak-vitet p1*o1 + p2*o2 + p3*o3 + p4*o4 + p5*o5 =Väntevärde Utfall

33 Vilken roll bör vi -llmäta väntevärdet av konsekvenserna? Det läcker gas i kemifabriken! Något måste göras omedelbart. Det finns två alterna-v: 1 Skicka in reparatören. Det finns bara en reparatör som är kompetent ab klara jobbet. Han kommer garanterat ab klara av ab laga läckan, men risken är 0,9 ab han dör i en explosion omedelbart ejer ab arbetet är avklarat. eller 2 Släpp ut gasen i den omgivande lujen. Men det bor människor i fabrikens omedelbara närhet. Var och en av dem löper nu en risk på 0,001 ab dö av gasförgijning. Vilket alterna-v är rimligast? Varför då? 33

34 Utilitarismen tar inte uttryckligen hänsyn till andra värden än nytta, t.ex. jämlikhet Genomsnittlig nytta för människor i tre olika grupper i tre olika möjliga samhällen nytta Är samhällen A, B, C moraliskt likvärdiga? (Alla har total nytta=12)

35 Men jämlikhet kommer in indirekt om marginalny4an med pengar är avtagande

36 TACK FÖR IDAG 36