IT och etik Iordanis Kavathatzopoulos Moraliska problem Du har nyligen fått ett uppdrag från ett företagsavdelning som aldrig lyckats uppnå sina produktivitetsmål. För att ändra på det får du som uppgift att konstruera och installera ett system som gör det möjligt att registrera vad de anställda gör med sina datorer, t ex hur många knapptryckningar de gör, vilken post de skickar och tar emot, vad de skriver, etc... 2 Moraliska problem Du är ansvarig läkare med lång erfarenhet på ett sjukhusavdelning och du har nyligen fått ett expertsystem till din hjälp. Systemet har fått många lovord av sjukhusets ledning, politiker och allmänhet. Du har en patient som du bedömer kan skrivas ut men systemet säger att en akut försämring kommer att äga rum med risk att patienten dör. Du förstår inte hur beslutsystemet är uppbyggt och du vet inte vad du ska göra... 3 1
Vad är moral och etik egentligen? Innehållet: Att handla rätt är moraliskt och att handla fel är omoraliskt Valet: Moral och etik har att göra med möjligheten till val 4 Psykologins definition av etik och moral Moral är kunskap om sociala relationer och samhälle. Denna kunskap utgör svar till problem och konflikter som uppstår i umgänget mellan människor, och bestämmer individens eller gruppens handlande. Individer och grupper använder bättre eller sämre etiska metoder för att klara av moraliska konflikter och problem. 5 Datorer & etik Skaffa, behandla, lagra, sprida, och använda information Förbindelse mellan människor: E-mail, communities, etc. 6 2
Samma etik? JA! Filosofi och psykologi NEJ! 1) Nya konflikter och möjligheter 2) Snabb förändring 3) Större och allvarligare konsekvenser 7 Har vi moralisk kunskap? Världen är global, komplex, snabb, oförutsägbar Vetenskapens och teknikens framsteg Problemen är flera, olika, varierade, små, privata Människorna är mångfacetterade, splittrade, isolerade Gamla auktoriteter kan inte vägleda som förr Decentralisering, delegering Allmänhetens och massmedias intresse 8 Om vi inte har moralisk kunskap: Ökad stress Sämre arbetsmiljö Dålig service Minskad effektivitet och användbarhet Förvirring, ångest och desperation Suboptimalitet 9 3
Är det lätt att få moralisk kunskap? Vi har en begränsad hjärna, vi är vanevarelser, vi söker trygghet, men lösningar till moraliska problem försvåras ytterligare av: Motstridiga värderingar avgör rätt och fel Moralisk kunskap nödvändig men motsägelsefull, t ex dubbelmoralen Moralisk kunskap är alltid kopplad till starka känslor Innehållet och auktoriteten viktigare än metoden 10 Etisk otrygghet? Om man diskuterar moraliska frågor öppet upplever man ett stort hot: Livsviktiga myter kan punkteras Allt från att slå larm eller att slakta heliga kor (modigt, ansvarsfullt, principfast) till att kränka andra personer eller bryta mot viktiga principer (aningslöst, respektlöst, illojalt, fientligt, förräderi) 11 Vad behöver vi? Etisk kompetens: Veta hur vi ska hantera moraliska problem, hur vi ska tänka och reflektera Etisk trygghet: Veta att vi kan hitta bra lösningar (dvs. veta att vår förmåga och vårt sätt att hantera moraliska problem räcker till, fungerar) 12 4
Färdighetsperspektivet Demokratiutbildning under antiken Klassisk litteratur Jean Piagets forskning Lawrence Kohlbergs etikutbildning 13 Kohlbergs moralutvecklingsteori Prekonventionell nivå 1. Egocentrism 2. Individualism Konventionell nivå 3. Interpersonalism 4. Institutionalism Postkonventionell nivå 5. Principalism 6. Universalism R Ä T T V I S A (nära, ytlig) (bred, djup) 14 Innehåll och process: Genus Kopplingen av tänkandet till särskilda principer, hopblandningen av Vad och Hur, skapar filosofiska och empiriska problem Carol Gilligans forskning: Kvinnor tar hänsyn till omsorgsprincipen, medan män tar hänsyn till rättviseprincipen Undersökning av andra grupper kan visa att de resonerar enligt helt andra principer 15 5
Kohlbergs etikutbildningsforskning Skolelever i s k Just Communities tränades att använda en självständig och kritisk metod att lösa sina moraliska problem Men även bredden och djupet, som finns inneboende i principstrukturen, fungerar som autonomi vid moralisk problemlösning 16 Piagets etikforskning Hur barn utvecklar sin uppfattning om spelregler och hur de lär sig förändra och anpassa dessa Hur barn lär sig och hur de använder moraliska begrepp, t ex jämlikhet, lögn, intention, etc. 17 Piaget: Två etiska tänkesätt Piaget undersöker hur människor tänker och agerar inför egna verkliga moraliska problem, oberoende av det normativa innehållet Heteronomi: Reflexmässigt och dogmatiskt tänkande, auktoritetsberoende Autonomi: Självständigt, kritiskt och systematiskt tänkande 18 6
Hur gör vi? Heteronomi: Instinktivt, reflexmässigt, automatiskt, dogmatiskt, begränsat och auktoritetsberoende tänkande Fördelar: Snabbt, sparar resurser, ger trygghet, slipper ansvar Nackdelar: Dålig kontroll, chansning, svårt att förklara 19 Kan vi göra det bättre? Autonomi: Kritiskt sökande och systematiskt tänkande, överblick, helhet Nackdelar: Kräver tid, resurser och färdighet, skapar ångest Fördelar: Bra kontroll, insikt, ansvar, lätt att förklara 20 One example You are the president of a company developing a new personnel administration system for another company where information on its employees will be stored. There are many security levels to choose among but your customer wants the cheapest one which also happens to be the less secure. Your are convinced that hackers or even employees will be able to access this information. You have warned your customer but they want to take the risk. 21 7
Heteronomy: giving up control and responsibility, one thought dominates Automatic reactions It is going to be a big scandal! It is the customer s responsibility! Don t worry! It s going to be alright! This is the way to do things, etc. Dogmatic fixations People s integrity must be respected! You should always obey the law! Image is very important! Finances are very important! Customers should be respected! 22 Autonomy: take control and responsibility, holistic Relevant values and interests Do I want to support the customer? Is the relationship to my customer important? What do customer s employees feel? Do I care about my image or finances? Possible alternative actions Design according to customer? Follow your own plans? Negotiate more? Give up? How do the different alternatives affect values? 23 Autonomy Skill Analysis of the concrete situation instead of general moral principles Specification of own and relevant others essential interests, values and feelings Generation of alternatives and weighing against the essential values Building a comprehensive picture of the problem situation to reflect upon before decision or action 24 8
Autonomy Skill Autonomy thinking Own economy All relevant values, interests, duties, feelings, needs, etc. Employees integrity Customer s finances Own reputation (cont.) All possible solutions Design acc. customer Negotiate (cont.) Positive but risk for bad image Customer get tired, but maybe a safer contract Risks for personal integrity, but still at work Chance to secure rights, but risk to lose job Chance to make profit but risk for conflict Higher losses, but avoidance of conflict Cynical, but responsible for own company Indecisive, fearful, but cautious and serious 25 Ethical competence in organizations Processes for construction of ethical codices and guidelines Processes for revision of ethical codices Dialog groups, support structures, ethical committees etc. Special roles, e.g. ethical officers, coordinators Continuing education for ethical competence Ethical leadership focusing on organizational and personal development 26 Ethical codices and competence Codices have to be created by people who know how to do this Codices demand always interpretation and adaptation. Rules and principles cannot applied automatically Ethical codices can work against their goals: - They can never be exhaustive and what is missing can be interpreted as being allowed - Rules can be used with rigidity, with fanatism or simply in a wrong way 27 9
One example You are the president of a company developing a new personnel administration system for another company where information on its employees will be stored. There are many security levels to choose among but your customer wants the cheapest one which also happens to be the less secure. Your are convinced that hackers or even employees will be able to access this information. You have warned your customer but they want to take the risk. 28 Construction of ethical rules Autonomous principle construction All involved values, interests, persons, groups, organizations, society, etc. Economy Work climate Law (cont.) Organizational actions, decisions, functions, etc. Actual Employee integrity Possible Constrains flexibility, but safer planning Good, but difficulties in discussing problems Follows the law but risk for violation of information 29 An example of a rule 1 Our actions must always respect the integrity of the employees because it is according to the law, it facilitates internal relations and cooperation, and allows safer planning of business activities. 2 However, there is a risk for lower business flexibility, violation of employees and others right of information, and may be difficult to handle internal conflicts openly. 3 If we do not care about the integrity of the employees we could easier adapt and handle difficult business situations, 4 but there is a great risk for internal conflicts, bad image, and difficulties to hire new employees ( 1, 2, 3, 4 All four parts have to be included!) 30 10