Teknik och etik. Professor Per Runeson. Lund University / Faculty of Engineering / Department of Computer Science/ Software Engineering Research Group

Transkript

1 Teknik och etik Professor Per Runeson

2 STAFFANSTORP 16 november :09 Familjeförlag masslånade egna titlar bibliotek stoppar all utlåning Burlöv, Lomma och Staffanstorp stoppar utlåningen av e- böcker efter upptäckten att ett familjeägt skånskt förlag masslånar sina egna titlar. Även flera bibliotek i nordvästra Skåne har drabbats."de lånar för att tjäna pengar, det är bedrägeri", säger Johan Rasmussen, bibliotekschef i Staffanstorp. Micaela Landelius FÖLJ SKRIBENT Bibliotek stoppar utlåning av e-böcker. Arkivbild. Bild: JONAS EKSTRÖMER / TT

3

4 #meetoo

5

6 Översikt Terminologi och definitioner Kort översikt om etik Teknik och etik Ingenjörens ansvar Etiska teknikvärderingar

7 Definitioner Etik Moral Etik krav i yrkes- och offentligt liv Moral krav i privatlivet Etik = läran om (etiken och) moralen = moralfilosofi

8 Etik Juridik Likheter Skyldigheter Rättigheter Terminologi Skillnader Lag < Moral (moralen omfattar fler områden än lagen och är strängare)

9 Tre slags etik Deskriptiv beskriver olika moraliska regler Normativ föreskriver rätt/orätt Meta studerar innebörd

10 Moralfilosofiska teorier utilitarism Hedonistisk/klassisk utilitarism (Bentham ) handla så att du åstadkommer största möjliga lycka för största möjliga antal människor För enkel för att vara praktiskt användbar

11 Moralfilosofiska teorier *utilitarism preferens tillfredsställ önskningar (preferenser) välfärds jämställ nytta med välfärd (goda livsbetingelser) ideell alla slags värden (skönhet, vänskap, dygd, miljö, rättvisa )

12 Exempel Lisa Kaati, forskare i datavetenskap, tror att datorer kan bli användbara i kampen mot extremism. Foto: Janerik Henriksson, TT/Lars Pehrson, TT. Artificiell intelligens ska hjälpa till att hitta terrorister på nätet Datorer kan lära sig att känna igen olika personligheter på sociala medier och på så vis upptäcka dem som är benägna att ta till våld. Det tror FOI som satt ihop ett forskningsprojekt inspirerat av Donald Trumps valkampanj. Vissa personlighetsdrag har visat sig öka benägenheten att ta till våld och strida för sin sak något som är högst intressant i kampen mot extremism. Men när det handlar om extremism och terrorism kan man knappast be folk att fylla i ett personlighetstest istället vill ett forskningsteam på Totalförsvarets forskningsinstitut nu lära datorer att nosa upp vissa egenskaper. Vi tror att datorer kan hjälpa oss att fånga upp olika personlighetsdrag genom att analysera text och annan aktivitet på sociala medier, säger Lisa Kaati forskare i datavetenskap. Två egenskaper kan spela särskild roll

13 arxiv: v1 Automated Inference on Criminality using Face Images Xiaolin Wu Shanghai Jiao Tong University After controlled for race, gender and age, the general law-biding public have facial appearances that vary in a significantly lesser degree than criminals. (a) Abstract We study, for the first time, automated inference on criminality based solely on still face images. Via supervised machine learning, we build four classifiers (logistic regression, KNN, SVM, CNN) using facial images of 1856 real persons controlled for race, gender, age and facial expressions, nearly half of whom were convicted criminals, for discriminating between criminals and non-criminals. All four classifiers perform consistently well and produce evidence for the validity of automated face-induced inference on criminality, despite the historical controversy surrounding the topic. Also, we find some discriminating structural features for predicting criminality, such as lip curvature, eye inner corner distance, and the so-called nose-mouth angle. Above all, the most important discovery of this research is that criminal and non-criminal face images populate two quite distinctive manifolds. The variation among criminal faces is significantly greater than that of the non-criminal faces. The two manifolds consisting of criminal and non-criminal faces appear to be concentric, with the non-criminal manifold lying in the kernel with a smaller span, exhibiting a law of normality for faces of non-criminals. In other words, the faces of general law-biding public have a greater degree of resemblance compared with the faces of criminals, or criminals have a higher degree of dissimilarity in facial appearance than normal people. arxiv: v1 [cs.cv] 13 Nov Introduction θ ρ Figure 4. (a) FGM results; (b) Three discriminative features, d and. d (b) Xi Zhang Shanghai Jiao Tong University zhangxi @sjtu.edu.cn people share the belief that the face alone suffices to reveal innate traits of a person. Aristotle in his famous work Prior Analytics asserted, It is possible to infer character from features, if it is granted that the body and the soul are changed together by the natural affections. Psychologists have known, for as long as a millennium, the human tendency of inferring innate traits and social attributes (e.g., the trustworthiness, dominance) of a person from his/her facial appearance, and a robust consensus of individuals inferences. These are the facts found through numerous studies [2, 32, 4, 5, 9, 20, 21, 27, 25]. Independent of the validity of pedestrian belief in the (pseudo)science of physiognomy, a tantalizing question naturally arises: what facial features influence average Joe s impulsive and yet consensual judgments on social attributes of a non-acquaintance member of their own specie? Attempting to answer the question, Todorov and Oosterhof proposed a data-driven statistical modeling method to find visual determinants of social attributes by asking human subjects to score four percepts: dominance, attractiveness, trustworthiness, and extroversion, based on first impression of static face images [26]. This method can synthesize a representative (average) face image for a set of input face images scored closely on any of the four aforementioned social percepts. The ranking of these synthesized face images by subjective scores (e.g., from least to most trustworthy looking) apparently agrees with the intuition of most people. criminal criminal (a) Histograms of non-criminal non-criminal Motivated by many commercial applications of artificial intelligence and man-machine interfaces, the research communities of pattern recognition and computer vision have devoted a great deal of efforts to the recognition and manipulation of human faces [10 Following the consensus in social perception from facial appearance, arrives the next even bigger speculation: is there any diagnostic merit of the face-induced inferences on an individual s social attributes? In this paper we intend not to nor are we qualified to di

14 Moralfilosofiska teorier deontologi Deontologi pliktetik Att följa pliktens bud ger högsta tillfredsställelsen Immanuel Kant ( ) utvecklade första konsekventa pliktetiken

15 Plikt tillåtelse Du är skyldig att rapportera händelsen Det är tillåtet att rapportera händelsen

16 Etiken i praktiken Utilitarismen (avvägningstänkande) Riskanalys Kostnad/nytto-analys Deontologi (principtänkande) Läkaretik Avtalspraxis

17 Etikens grund Religiös det moraliskt rätta sammanfaller med Guds vilja Naturlig det moraliskt rätta är enligt naturens ordning Samhällskontrakt det moraliskt rätta avtalas mellan rationella egoister Sharia FN:s mänskliga rättigheter, EUlagar Sveriges rikes lag, Tyskland 1930-t

18 Teknik Etik Är tekniken god, ond eller neutral? Dual-use dilemma Exempel: Tortyrredskap Dialysmaskin Signalspaning på internet Google maps

19 Private traits and attributes are predictable from digital records of human behavior Michal Kosinski a,1, David Stillwell a, and Thore Graepel b a Free School Lane, The Psychometrics Centre, University of Cambridge, Cambridge CB2 3RQ United Kingdom; and b Microsoft Research, Cambridge CB1 2FB, United Kingdom Edited by Kenneth Wachter, University of California, Berkeley, CA, and approved February 12, 2013 (received for review October 29, 2012) We show that easily accessible digital records of behavior, Facebook Likes, can be used to automatically and accurately predict a range of highly sensitive personal attributes including: sexual orientation, ethnicity, religious and political views, personality traits, intelligence, happiness, use of addictive substances, parental separation, age, and gender. The analysis presented is based on a dataset of over 58,000 volunteers who provided their Facebook Likes, detailed demographic profiles, and the results of several psychometric tests. The proposed model uses dimensionality reduction for browsing logs (11 15). Similarly, it has been shown that personality can be predicted based on the contents of personal Web sites (16), music collections (17), properties of Facebook or Twitter profiles such as the number of friends or the density of friendship networks (18 21), or language used by their users (22). Furthermore, location within a friendship network at Facebook was shown to be predictive of sexual orientation (23). This study demonstrates the degree to which relatively basic digital records of human behavior can be used to automatically

20

21 Etik och mjukvara Utmaningar [Rashid et al 2009] Integritet vs skydd för sårbara grupper Valfrihet vs skydd mot skada Lokala kulturvariationer Upphovsrätt vs kopierbarhet Högsta domstolen förklarar att bestämmelsen i 24 första stycket 1 upphovsrättslagen, där inskränkningen i upphovsmannens ensamrätt är begränsad till avbildningar, inte ger Wikimedia rätt att från sin databas med fotografier av konstverk, stadigvarande placerade på eller vid allmän plats utomhus, överföra verken via internet till allmänheten. Huruvida förfogandet sker i kommersiellt 04-04%20Ö% %20Beslut.pdf syfte saknar betydelse.

22 Ansvar Uppgiftsansvar Att ansvara för att något blir utfört Skuldansvar Att ansvara om något blir fel Oftast sammanfaller båda funktionerna

23 Vilket ansvar har en ingenjör? Följa instruktioner? Lösa en uppgift? Ta skuldansvar?

24 Skuldansvar Konstruktionen separat/ i sin omgivning Avsedd användning/förutsägbart missbruk/oförutsägbart missbruk Jonathan Zittrains "Mind for sale (24 min):

25 Amazon s mechanical turk

26 Lexbase

27 Vem har ansvar? Lexbase-fallet Svenska domstolar Lexbase Bahnhof/CloudFlare Den som söker info Den som sprider info Mechanical turk Säkerhetstjänst som lägger ut bildidentifieringsjobb Amazon Den som gör jobbet

28 Företagets vs ingenjörens ansvar Kan ett företag ta ansvar? Vad vinner ett företag på att ta ansvar? Vad vinner en ingenjör på att ta ansvar?

29 Volkswagen Gate

30 Lojalitetskonflikter Lojalitet mot arbetsgivaren mot andra intressenter missriktad Whistle-blowers

31 Malmöföretaget anklagas: Säljer övervakningsteknik till Erdogans Turkiet Procera Networks engineers software that identifies applications in data traffic to drive insights, provide intelligence and enable action in real-time. Flera anställda har lämnat företaget Procera i protest mot affären, som nu får internationell uppmärksamhet. Illustration: Petter Bjerregaard! 27 OKTOBER 2016, 23:00 16 SHARES Tekniken kallas deep package inspection, DPI, och används för att övervaka och granska nättrafik. Framför allt kan den göra prioriteringen av bandbredden mer effektiv.

32 Kategorier av dilemman Mission impossible omöjlig uppgift Mea culpa leverera ofärdig produkt Rush job leverera produkt med dålig kvalitet Not my problem kortsiktiga lösningar Red lies osanning i kundkommunikation Fictionware sälj sådant som inte finns Nondiligence inkomplett förståelse av problem Canceled vacation press på anställda Under the rug dölj problem

33 Yrkesetiska regler Behövs sådana? Nej samma regler gäller för alla Ja etiska problem specifika för ett yrke

34 Läkarförbundets etiska regler 1. Läkaren skall i sin gärning ha patientens hälsa som det främsta målet och om möjligt bota, ofta lindra, alltid trösta, följande människokärlekens och hederns bud. 2. Läkaren skall handla i enlighet med vetenskap och beprövad erfarenhet, ständigt söka vidga de egna kunskaperna samt efter bästa förmåga bidra såväl till den vetenskapliga utvecklingen som allmänhetens kännedom om denna. Efter förmåga skall läkaren alltid ställa sin kunskap till förfogande. 3. Läkaren skall besinna vikten av att skydda och bevara människoliv samt efter bästa förmåga bistå människor i medicinsk nödsituation. Läkaren får aldrig medverka till att aktivt påskynda döden. 4. Läkaren skall behandla patienten med empati, omsorg och respekt och får inte genom sin yrkesauktoritet inkräkta på vederbörandes rätt att bestämma över sig själv. 5. Läkaren skall respektera patientens rätt till information om sitt hälsotillstånd och möjliga behandlingsalternativ och om möjligt i behandlingen utgå från informerat samtycke samt avstå från att lämna upplysningar som patienten inte önskar. 6. Läkaren skall aldrig frångå principen om människors lika värde och aldrig utsätta en patient för diskriminerande behandling eller bemötande. 7. Läkaren får inte inleda ett sexuellt förhållande med en patient som står under läkarens vård. 8. Läkaren skall då så är motiverat anlita annan sakkunskap och tillmötesgå patientens eller närståendes rimliga önskemål att få tillfråga annan läkare. 9. Läkaren skall iakttaga tystlåtenhet om all information rörande enskild patient, såvida det inte äventyrar patientens väl. 10. Läkaren skall inte utan undersökning eller annan tillräcklig kunskap om patienten meddela råd eller föreskrifter. 11. Läkaren får inte låta sig påverkas av otillbörligt förvärvsbegär och inte utföra annan undersökning och behandling än vad som är medicinskt motiverat. Arvodet skall anpassa efter prestationens art och omfattning. 12. Läkaren skall utan att träda patientens intressen förnär respektera sina kollegors arbete. 13. Läkaren får aldrig på något sätt medverka vid dödsstraff, tortyr eller andra grymma och omänskliga handlingar. 14. Läkaren skall i sin gärning bidra till att medicinska resurser användes i enlighet med dessa regler och aldrig medverka till att bereda enskilda patienter eller patientgrupper otillbörlig ekonomisk, prioriteringsmässig eller annan fördel. 15. Läkaren skall i intyg och utlåtande endast efter noggrant övervägande bestyrka vad som har saklig och professionell grund och åtskilja detta från annan information, vars sanningshalt ej kan bedömas. 16. Läkaren skall avhålla sig från påträngande marknadsföring och från att på annat olämpligt sätt fästa uppmärksamhet på sin person och läkargärning.

35 IEEE Code of Ethics 1. Produkter 2. Allmänheten 3. Bedömningar 4. Kunder och arbetsgivare 5. Ledning 6. Professionalitet 7. Kolleger 8. Jag själv

36 Sveriges ingenjörers hederskodex 1. ett personligt ansvar för [hur] tekniken används sträva efter att förbättra tekniken och det tekniska kunnandet 3. till förfogande i offentliga och enskilda sammanhang inte arbeta med företag och organisationer av tvivelaktig karaktär full lojalitet mot arbetsgivare och arbetskamrater 6. inte använda otillbörliga metoder i tävlan respektera [konfidentiella] upplysningar 8. inte gynna obehöriga intressen 9....enskilt och offentligt, i tal och skrift, sträva efter [saklighet] aktivt stödja kollegor, som råkar i svårigheter på grund av dessa regler

37 Etisk teknikvärdering Utredning av konsekvenser för införande eller modifiering av ny teknik Vilka möjligheter det finns att påverka dessa konsekvenser

38 Teknikvärderingsprocess Bedöm teknikens möjligheter Avgränsa analysen Bedöm möjliga konsekvenser Utvärdera konsekvenserna Bedöm efterfrågan

39 Off-line analogier (1) Jämför med liknande fall i annan domän/tid Ex. vilket ansvar har ett webbhotell för kundernas websidor? Jfr: Telefonbolag telefonsamtal Förläggare bokinnehåll

40 Off-line analogier (2) Ex. vilken rätt har man att återge musik? Jfr: Papper använda vs kopiera noter CD spela upp vs kopiera Ljudfil ladda ner vs streama

41 Svårighet med scenarier This telephone has too many shortcomings to be seriously considered as a means of communication. The device is inherently of no value to us Western Union, 1876 Buth what it is good for Engineer at Advanced Computing Systems Division of IBM, 1968 Computers in the future may weigh no more than 1.5 tons Popular mechanics, 1949

42 Sammanfattning Etik moral juridik Teknik ond neutral god? Ingenjörens ansvar yrkesetik Teknikvärdering

43 Litteratur Rashid et al, Software engineering ethics in a digital world Berenbach, Broy, Professional and ethical dilemmas Hatton and Genuchten, When Software Crosses a Line. Spinellis, Developer, Debug Thyself. K A Olsen, The $100,000 Keying Error Extraläsning