Informationsteknik och etik

Informationsteknik och etik 2004-04-01 1. Kopplingen mellan informationsteknik och etik kan göras på flera olika nivåer. Den för mig mest uppenbara är den som den tyske filosofen Hans Jonas introducerar i en av sina artiklar där han skriver att all teknikanvändning är maktutövning. Ifrån denna utgångspunkt kan man med lätthet se hur tekniken passar in i ett moraliskt perspektiv. Om all teknikanvändning är maktutövning är det relevant att fråga efter hur denna makt används, och hur tekniken som tillåter utövningen utvecklas och införs i samhället. 2. Ett exempel på att teknik och arkitekturer i stort har denna effekt är Robert Moses broar. Langdon Winner känd teknikfilosof brukar ta upp dessa broar för att visa att all teknik, och dit räknar han även broar, innehåller värderingar. Ofta kan värderingarna också vara ganska tydliga. Enligt Winner byggde Moses broar över avfarterna till stränderna i New York som var så låga att det inte var möjligt för bussar att åka ned på de aktuella avfarterna. Resultatet blev att ingen som åkte buss kunde komma till stränderna. I ett slag hade Moses broar skapar segregerade stränder, eftersom de afroamerikanska grupperna i New York endast hade råd att åka buss. 3. Lawrence Lessig har följt upp Winners exempel i modern tid och menar att vi nu står inför en kommande strid om vilka värderingar vi ska bygga in i cyberrymdens arkitektur. Ska vi främja kunskapsdelning och ansvar för individerna eller bygga in upphovsrätten i sina mer extrema former? Cyberrymden är nämligen inte, som de tidiga libertarianerna trodde, omöjlig att reglera. Vanliga lagar kanske inte räcker, men det går att bygga in regleringen i den grundläggande tekniken. Ta ett exempel: vad skulle hända om det grundläggande protokollet på Internet, TCP/IP byggdes om så att det tydligt talade om exakt vad varje paket innehöll? Då skulle det bli möjligt, i princip, att spåra allt material som skickas på nätet och övervaka trafiken i detalj. 4. Det jag vill diskutera i denna korta föreläsning är inte etik i allmänhet, utan den svåra avvägning som måste ske mellan informationsfrihet och yttrandefrihet, personlig integritet och upphovsrätten eller immaterialrätten. Jag tror att denna avvägning kommer att ge oss några av de mer besvärliga moraliska problem som vi kommer att möta i en nära framtid. 5. Låt oss börja med den personliga integriteten. I Vernor Vinges True Names har framtiden gått dithän att Internet, eller dess efterföljare, är en helt laglös zon med en enorm mängd anonyma aktörer som kan bedriva alla möjliga typer av olagliga verksamheter. Polisen står maktlös så länge de inte vet hur de kopplar samman de många pseudonymerna på nätet med deras verkliga, sanna, namn. Vinges novell betonar den makt som ligger i att känna någons identitet, och därmed pekar den i grunden på den moraliska frågan i diskussionen om den personliga integriteten. Om vi känner till någons identitet kan vi utöva makt över den personen, vi kan utöva påtryckningar och också tillfoga den personen skada. Diskussionen om den personliga integriteten är därför en diskussion om makt. 6. Men diskussionen om den personliga integriteten är också en fråga om ansvar och uppträdande. Den engelske filosofen Jeremy Bentham är känd för en mängd olika saker. En av de saker han är mer känd för är konstruktionen av ett fängelse, som han kallade Panoptikon. I detta fängelse var fången placerad i mitten av ett cirkulärt fängelse, och runtom honom, bakom dunkla fönsterrutor, fanns ständigt, någonstans, en fångvaktare. Fången visste att han var ständigt iakttagen och därför, menade Bentham, kunde fången rehabiliteras och bli god. David Brin har anslutit till detta

tema och i den moderna diskussionen om den personliga integriteten menat att om vi utgår från att den personliga integriteten redan är borta kan detta faktiskt innebära en hel del positiva konsekvenser. Vi kanske alla blir mer ansvarsfulla och goda om vi ständigt bevakas med kameror, registreras i databaser och på Internet. Frågan om demokrati och diktatur reduceras i Brins perspektiv till en fråga om access. I ett demokratiskt panoptikon har alla tillgång till all information om alla andra. I ett diktatoriskt panoptikon har endast en utvald grupp tillgång till övervakningsinformationen. Brin välkomnar utvecklingen mot ett genomskinligt samhälle med motivet att vi alla då blir mer ansvariga för våra handlingar. 7. Men hur hanterar vi missbruk av den mängd information som idag finns om oss alla på Internet? Hur hanterar vi ansvaret och moralen i ett genomskinligt samhälle. Ibland ställs frågan på sin spets som i fallet Amy Boyer. Boyer var en ung amerikanska som förföljdes av en ung klasskamrat uppenbart sjuk som hette Liam Youens. Youens var besatt av Boyer och bestämde sig snabbt för att om inte han kunde få henne så skulle ingen annan få henne heller. Boyer blev så skrämd att hon valde att flytta, och under en lång tid förlorade Youens kontakten med Boyer. En dag hittade han dock en särskild informationsbyrå på nätet med mottot As intrusive as you want us to be!. Firman, Docusearch, försåg Youens med data om vara Boyer befann sig och hur hon kunde kontaktas. Youens sökte upp och sköt ned henne, för att sedan ta sitt eget liv. Det är en tragisk historia, men den har ett intressant efterspel. Boyers föräldrar stämde nämligen Docusearch för att de hanterat informationen om deras dotter på ett direkt skadligt sätt. 8. Boyers föräldrar kunde också visa att om Docusearch letat på nätet skulle de ha upptäckt att kunden som efterfrågade information om Boyer förde en Internetdagbok där det klart framgick att han avsåg döda Amy Boyer. En sökning på Liam Youens hade gett dem direkt besked om vilken typ av person han var, och vad han avsåg göra med informationen. Frågan gick specifikt till högsta domstolen i New Hampshire, som menade att Docusearch verkligen hade ett ansvar för den information man förmedlade, i flera olika avseenden en rättslig utveckling som kan leda till ett nytt perspektiv på den personliga integriteten. 9. Trots extrema exempel som Boyerfallet fortsätter identiteten sitt segertåg på Internet, och alltfler företag ställs inför frågor om hur de vill göra med sina anställda. Frågor om övervakning av e-posten tillhör de absolut vanligaste och en av de snabbast växande marknaderna idag är marknaden för övervakningsprogram som e-blaster som lovar chefer att skicka all information som de anställda skickar också till dem. Här finns en viktig ledarskapsfråga inbäddad i integritetsproblematiken. Litar du på dina anställda? I vilken utsträckning? Arbetsgivarens rätt att läsa de anställdas e-post korresponderar inte nödvändigt vis med vad som kommer att uppfattas som det moraliska valet. Identiteten blir långsamt standardläget på Internet idag. 10. Samtidigt är det viktigt att minnas att också anonymiteten har en potentiell kostnad. I ett worst-case-scenario kan anonymiteten bli ett reellt hot mot mycket av samhället. Ett av de bästa exemplen på detta är Jim Bells vadslagningsbyrå. Bell, kemist från MIT och en typisk amerikansk rättshaverist, utformade för ett par år sedan en vadslagningsbyrå som är helt beroende av anonymitetsteknik. Föremålet för Bells vadslagning är när olika personer kommer att dö. Vem som helst kan anonymt bidra med en del av prissumman för den som framgångsrikt gissar när en viss person dör, och sedan kan vem som helst, anonymt skicka in gissningar. Den som kommer närmast får, anonymt, alla pengar. Eftersom systemet är anonymt finns det inget som hindrar att den som slår vad också effektuerar sitt vad genom att ta livet av personen

det rör. Bell kallade själv modellen för Assassination Politics menade att systemet var idealiskt för att skapa ett rättvist samhälle. För oss andra är det en bra påminnelse om vad anonymiteten i värsta fall kan användas till. 11. Idag är den personliga integriteten utsatt för allt häftigare mariginalisering. Efter terroristattackerna 11:e september har den enskilde medborgarens integritet kommit på undantag, och många godkänner denna utveckling med motiveringen att det är rimligt att ge avkall på litet integritet för att få en större samhällelig trygghet. Växelkursen mellan trygghet och integritet är dock mycket dålig, och det tycks inte finnas några indikationer på att terroristerna verkligen använde Internet, trots att det är främst digitala medier som nu avsöks med Echelon och liknande övervakningssystem under National Security Agencys vakande öga. 12. Den personliga integriteten förändras snabbt, och i avvägningen mellan den personliga integriteten och tryggheten i allmänhet tycks den personliga integriteten satt på undantag. Detsamma gäller i diskussionen om upphovsrätten. Upphovsrätten är det andra stora området för moraliska diskussioner i dagens debatt, och med verktyg som Napster och Kazaa har olika teknikföretag helt förändrat villkoren för upphovsrätten. Debatten förs på flera plan, med stämningar såväl som med individuella samtal, och rasar intensivt inte minst nu när IFPI bestämt sig för att börja stämma individer också i Europa för fildelning av olika slag. Den första avvägningen man måste göra är om system som Napster och Kazaa alls skall tillåtas. Vilket moraliskt ansvar har tillverkarna för hur tekniken används? Upphovsrättsindustrin har i olika omgångar försökt att förbjuda ny teknik. Det kan tyckas svårt att förstå idag, men en gång försökte man faktiskt förbjuda till och med videobandspelaren i tron att den skulle skada filmindustrin. Idag vet vi att videomarknaden är starkare än biografmarknaden, och att farhågorna var ogrundade, men tidigt försökte industrin fördöma videotekniken som i grunden omoralisk och endast ett hjälpmedel för olaglig verksamhet. Detsamma gjorde man med mp3-spelarna, men i samtliga fall förlorade man. Den amerikanska rättsbildningen på området är intressant, för den säger något om den avvägning man gör mellan utveckling och immaterialrätt. I videofallet uttalad domstolen att så länge det fanns lagliga användningsområden avsåg man inte förbjuda den nya tekniken en princip som man hållit sig till också när det gäller annan ny teknik. I den moraliska avvägningen bedömdes framsteget så mycket värt att det fick gå före upphovsrätten. 13. Upphovsrättsindustrin har ett enormt legitimitetsproblem. I sin marknadsföring talar industrin om att nedladdning av musik är att jämföra med att stjäla en singel i en butik, samtidigt som det nästan inte finns någon som anser att det är en riktig beskrivning av nedladdning från Internet. De flesta verkar anse att nedladdning av musik från Internet är att jämföra snarast med att lyssna på radio eller något liknande. I skillnanden mellan de olika perspektiven finns ett legitimitetsproblem för branschen som är svårt att övervinna. 14. Upphovsrätten ger upphov till en mängd spännande frågor om avvägningar mellan personlig integritet och upphovsrätten själv. Ett exempel på denna spänning är frågan om Internetleverantörerna skall vara skyldiga att lämna ut namn på personer som har ägnat sig åt fildelning. Verizon, en stor amerikanska Internetleverantör, bestred detta och menade att det skulle kränka individernas integritet, men den amerikanska skivindustrin överklagade och vann. I förlängningen kan det frågas om Internetleverantörer i framtiden alls kan erbjuda anonym Internetaccess. Den europeiska lagstiftningen idag tycks utesluta detta, då det finns krav på att det skall gå att spåra individer.

15. Mycket av den retorik som används i upphovsrättsdiskussionen har sitt upphov i moraliska argument. Det moraliska argumentets grundform är att respekten för upphovsmannen kräver att vi respekterar upphovsrätten. Men det är viktigt att minnas att de företag som idag verkligen tjänar mest pengar på upphovsrätten, som Disney, ofta gör detta på produkter som i grunden bygger på tidigare verk från upphovsmän som antingen sålt eller överlåtit verket eller på verk som finns i det allmänna idégodset, som Aladdin, Pocahontas och Robin Hood. 16. Frågan kan alltså ställas på huvudet. Vilket moraliskt ansvar har vi för det allmänna idégodset eller the public domain? Lessig m.fl. arbetar i USA med att försöka befrämja vad de kallar för en ny miljörörelse, där den intellektuella allmänningen, the creative commons, är det som skall skyddas från alltför kraftig exploatering. Respekten för upphovsmannen behöver modereras och matchas av en respekt för den intellektuella allmänningen. 17. Vår bild av upphovsmannen är en av grundbultarna i den moraliska diskussionen av upphovsrätten. Ursprungligen tänkte vi oss upphovsmannen som ett romantiskt geni som ex nihilo fick infall som han sedan slutförde och skänkte oss som Beethoven. 18. Idag är upphovsmannen och kreativiteten avdramtiserade. Det finns program som kan komponera i kända kompositörers stil som ställer viktiga frågor om vad en upphovsman egentligen är och på nätet ser vi framväxten av olika kollektivt skapade verk, som encyklopedian susning.nu, där ingen enskild person står bakom verket som sådant. Upphovsmannen håller på att avdramatiseras, och den moraliska plikten att respektera honom håller på att balanseras mot plikten att ge tillbaka till den intellektuella allmänning som vi alla är beroende av. 19. Upphovsrättsdiskussionen håller dessutom på att ideologiseras kraftigt. I USA har RIAA m.fl. stämt ett antal privatpersoner, och bland dessa en tolvåring som dömdes till 1000 dollar i skadestånd för att ha delat ut filer. Musikindustrin vinner knappast på detta, utan håller idag på att alienera hela den uppväxande kundgruppen. Det håller långsamt på att bli moraliskt riktigt att kämpa mot upphovsrätten. 20. Ett exempel på detta är FreeNet, som explicit skapats för att undanröja upphovsrätten eftersom skapar Ian Clarke menar att upphovsrätten och yttrandefriheten inte är kompatibla: You cannot guarantee freedom of speech and enforce copyright law It is for this reason that Freenet, a system designed to protect Freedom of Speech, must prevent enforcement of copyright. Freenet är ett exempel bland många på att hela musik-på-nätet frågan nu håller på att bli en krigzon för olika moraliska metaforer. Upphovsrättsindustrin lutar sig tillbaka på myten att upphovsrätten är en äganderätt vilken som helst (trots att idéer inte kan ägas på samma sätt som jord) och fildelarna lutar sig mot teorier om yttrandefriheten som absolut (vilket den inte kan vara). 21. Ett försök att komma tillrätta med problemet har varit att på Lessigskt vis bygga in skyddet i arkitekturen med hjälp av Digital Rights Management tekniker. Men detta har misslyckats, till den grad att upphovsrättsindustrin tvingats söka ett särskilt lagskydd för den teknik som ursprungligen avsåg skydda verk för att inte lagen räckte till. En intressant rundgång. 22. Även här finns dock enorma problem. Bortsett från att konsumenter protesterar över detta ingrepp i sin äganderätt till den musik de köper, har lagarna också lett till absurda konsekvenser som när programmeraren Dmitrij Skljarov greps på en konferens i USA för att han blott demonstrerat svagheter i det kopieringsskydd som

Adobe hade tagit fram för sin e-böcker. Ingen kopiering eller spridning skedde, utan Skljarov visade endast hur ett skydd kunde tas bort något som nu gjorts olagligt till följd av de nya skyddslagar för tekniska åtgärder som införts. Här menar många att det finns nya säkerhetsrisker. Om vi inte ens får testa olika skydd kan vi inte forska om säkerhet och då löper vi risken att bli mer sårbara. 23. På en helt annan nivå upptäcker vi framväxten av nya moraliska fenomen, som syftar till att öka individers bidrag till fildelningsnätverken. Sedan man upptäckte att 20 procent av noderna i Gnutella stod för 80 procent av innehållet beslutade sig alla som byggde fildelningsnätverk för att se till att fördelningen blev jämnare. I Kazaa får man nu olika grader beroende på dels hur mycket material man delar med sig av, och dels på hur väl man innehållsdeklarerat det. Dessa åtgärder syftar till att minimera freeriderproblemen som man ställs inför, och skapar en fildelningsmoral för sig själv. I verktyg som Direct Connect finns det till och med särskilda krav på att den som vill delta tar med sig en viss mängd material in i leken, för att alls få vara med. En maffiaregel: vill du vara med måste du begå ett brott för att vi alla skall vara medbrottslingar. 24. Vad händer då när upphovsrätten kommer i konflikt med den personliga integriteten och med yttrandefriheten? Det finns en hel del olika svar på den frågan. Julie Cohen, amerikanska rättsvetare, erbjuder en teori enligt vilken det borde vara möjligt för den som vill att ta bort skyddsåtgärder om dessa gör det omöjligt att läsa anonymt. Anledningen är enkel: Cohen menar att det följer av yttrandefriheten att vi har en rätt att läsa anonymt, eftersom vi inte annars fritt kan bilda de åsikter som vi sedan har rätt att yttra. Från yttrandefriheten som hon i enlighet med amerikanska rättstradition anser överordnad upphovsrätten följer rätten att ta bort alla kopieringskydd som loggar identitet på något sätt. 25. En annan fråga är naturligtvis om piratkopieringen bör ge rättighetsinnehavaren rätt att slå tillbaka. Idag är det vanligt att någon kanske skivbolagen släpper ut brus och störfiler i fildelningsnätverken. Ett av de mer intressanta exemplen är Madonnas singel American Life som när den släpptes förekom i en mängd brusvarianter. En av dessa var direkt moraliserande, och bestod av ett kort citat där Madonna säger What the fuck do you think you are doing? följt av sju minuters tystnad. Experimentet föll inte enastående väl ut, eftersom Madonnas webbplats snart hackades och under texten This is what the fuck I think I am doing lade någon upp hela singeln för nedladdning. Men kanske kommer vi att se mer aktivt motarbetande av fildelningen. Howard Berman, kongressledamot i USAs kongress, föreslog till exempel en lag som skulle göra det möjligt för rättighetsinnehavaren att med virus och liknande verktyg tillfoga en fildelare skada för maximalt 50 dollar i vedergällning för upphovsrättsintrång. Denna typ av vigilanterättvisa skulle dock vara mycket problematisk att genomföra i praktiken. 26. Upphovsrätten är alltså ytterligare ett komplext område. Hur är det då med yttrandefriheten? Vi vet att yttrandefriheten på Internet vunnit en mängd segrar, och att det blir svårare och svårare för totalitära regimer som Kinas att kontrollera informationstillgången för medborgarna. Samtidigt räcker det inte, och många menar att det är viktigt att skydda yttrandefriheten än mer. Ett exempel på hotet mot yttrandefriheten fick en hel del uppmärksamhet nyligen i Sverige, och det rörde webbplatsen Flashback. Flashback publicerar en hel del som avviker från normen, och efter påtryckningar beslutade Flashbacks Internetleverantör för att avsluta Flashbacks avtal. Inget olagligt vare sig visades eller påstods vara skälet, utan anledningen angavs som att andra kunder viktigare kunder hotat lämna Internetleverantören annars.

Flashback försvann under en tid för att sedan återkomma med ny kraft hos en ny leverantör. Men fallet ställde en hel del viktiga frågor om vilken rätt att finnas på Internet som egentligen finns. Vissa debattörer hävdade till och med att det borde finnas en sorts kontraheringsplikt för Internetleverantörer, så att de inte skulle kunna neka någon att ha en webbplats om det inte kunde påvisas att där fanns saker som var direkt olagliga. 27. Framtiden kommer att erbjuda otaliga nya verktyg för att avhjälpa dessa problem. Ett av dem är Publius, ett system utvecklat av AT&T. Systemet tillåter publiceringen av filer på ett nätverk av servrar för filen först delas upp i en massa delar och sedan publiceras kanske redundant på nätverket. Sedan kan den hämtas hem av den som vill ha den, samtidigt som de enskilda servrarna inte kan utsättas för påtryckningar, eftersom ingen av dem vet vad de har på just sin server det är ju bara en del av en fil. Denna typ av teknik kan möjliggöra ickereversibel publicering på ett sätt som skulle kräva att hela nätverket togs ned för att material skulle kunna tas bort. 28. Det kanske mest uppmärksammade fallet när det gäller yttrandefriheten på Internet har varit de s.k. Nürnbergfilerna, där amerikanska abortmotståndare listat doktorer och andra som utför aborter. På sidan, som har en särskild animerad bild med droppande blod, finns en lista där de som dödats av abortmotståndare är genomstrukna och gråade. De drabbade doktorerna stämde sidans upphovsmän och hävdade att det örde sig om olaga hot. De förlorade i första instansen, men vann, uppmärksammat och överraskande i den andra instansen. Domare Konzinski uttryckte saken i den första domen som så: The jury would be entitled to hold defendants liable if it understood the statements as expressing their intention to assault the doctors but not if it understood the statements as merely encouraging or making it more likely that others would do so. I den senare domen konstaterades istället att [a] "threat of force" [...] is properly defined in accordance with our long-standing test on "true threats," as "whether a reasonable person would foresee that the statement would be interpreted by hose to whom the maker communicates the statement as a serious expression of intent to harm or assault." This, coupled with the statute's requirement of intent to intimidate, comports with the First Amendment. We have reviewed the record and are satisfied that use of the Crist Poster, the Deadly Dozen Poster, and the individual plaintiffs' listing in the Nuremberg Files constitute a true threat. Därmed förbjöds sidorna att visas. De finns givetvis fortfarande kvar på nätet. 29. Yttrandefrihetsfrågan kompliceras av att på Internet handlar legitimitet om att skapa en viss utformning. Jämför man Sverigedemokraternas och socialdemokraternas hemsidor ser man betydande likheter, och det är lätt att konstatera att det går att skapa en betydande legitimitet i design med ganska enkla medel. En så kraftfull yttrandefrihet med en så relativt låg kostnad för legitimitet kan vara hotfull för många. 30. Avslutningsvis skulle jag vilja ge tre exempel på hur moralen idag dyker upp i de många olika spel som finns på Internet. I Asherons Call till exempel har man valt att i flera fall bygga in moralen i spelets arkitektur. Det kanske tydligaste exemplet är att spelaren kan välja mellan player-killer worlds och non-player-killer-worlds, alltså världar där spelaren kan respektive inte kan döda varandra. Men även andra moraliska fenomen finns inbyggda i spelet. Ett exempel är den feodalism som i Asherons call gör det möjligt att svära trohet till en duktigare spelare och få stöd och hjälp från denne det är en funktion som är inbyggd i spelet.

31. Ett annat exempel på spel och moral är frågan om datorspelsvåld som debatterats ganska kraftigt på sistone. I ljuset av den debatten kan det vara intressant att se denna trailer från Kuma War, som gör verklighetsbaserade datorspel utifrån dagsaktuella nyheter här blir spelen å ena sidan ett sätt att presentera nyheterna på ett spännande sätt, å andra sidan en sorts spekulation i andras lidande. 32. Det tredje exemplet är Americas Army det spel som den amerikanska armén sponsrat, och som ger en minst sagt blodlös och fördelaktig bild av den amerikanska arméns vardag. Även här är spelets utformningen en moralisk fråga hur bör en soldats vardag skildras? Bör det vara blodfria spel med glada instruktörer eller barn med bomber i dessa spel? 33. Om vi summerar pågår en ständig avvägning mellan en mängd olika intressen i informationssamhället. Samtidigt skall vi inte överdriva vår egen roll. Neil Postman brukar skildra all teknik som ett faustianskt avtal, med för och nackdelar, men hans syn är i grunden felaktig. Postman förutsätter att vi kan välja bort teknik, men i själva verket visar det sig vara mycket svårt att göra. Se på kärnkraften. Vi valde bort den, men den finns fortfarande kvar, och den kommer att finnas kvar om tjugo år också. Vi blir långsamt beroende av tekniken och den insinuerar sig in i vart skrymsle i samhället. Avvägningen måste ske, men den tekniska förändringen kommer inte att stanna av alltså. 34. Till sist så en fråga som ofta glöms bort. En stor del av diskussionen om IT och etik borde handla om vem som tar ansvar för framtiden. Idag produceras en mängd teknik och tekniska system som inte kommer att hålla mer en ett par år. Men vi behöver arkiv och minnen som varar längre än så för att inte bli det första samhället med snar minnesförlust. Tekniken och tiden diskuteras alltför sällan och det kan vara värdefullt att kontemplera exemplet The Clock of the Long Now. Denna klocka, som konstruerats av Danny Hillis, byggdes för att snurra ett varv på 10 000 år. Den representerar därmed en alldeles särskild form av ansvarstagande, ett ansvarstagande för att information och teknik också lagras och finn stillgänglig i framtiden. 35. Tack.