Språk, datorer och textbehandling. Kön och politik. Mats Dahllöf Institutionen för lingvistik och filologi Mars 2012

Transkript

1 Språk, datorer och textbehandling Kön och politik Mats Dahllöf Institutionen för lingvistik och filologi Mars 2012

2 Dagens punkter Om att undersöka språkbruket i politisk text, närmare bestämt riksdagsanföranden. Text från ett parti kontra de andra. Text från ett kön (kvinnor, män) kontra det motsatta.

3 Frågeställningar Finns det intressanta relativa frekvensskillnader i hur ord används i anföranden från ett parti jämfört med andra? Och motsvarande vad gäller kön. Annan användning: automatisk textklassificering.

4 Lite om textklassificering Klassificering bestämma vilken kategori en text tillhör, t.ex. språk, spam vs intressant brev, skönlitteratur vs facktext, avdelning i tidning (ledare, sport,... ). Även indirekt författarens person ålder, politisk inriktning, kön. Ledtrådar (särdrag): Vilka ord förekommer? Hur ofta? Eller ordklassekvenser. System som bygger på maskininlärning kan tränas från givna data. Och sedan appliceras på nya fall.

5 Egen forskning några resultat Riksdagsledamöter utifrån ordförekomster i riksdagsanföranden. De inledande 200 orden. Tre klassifikationsuppgifter: vänster ((MP), (S), (V)) vs höger ((C), (FP), (KD), (M)), äldre (f. 1953) vs yngre (f. 1959), kvinnor vs män. Tränar klassifikationssystemet på 6000 texter från vardera gruppen. (Totalt 2,4 miljoner ord alltså.)

6 Resultat Mått: korrekthet andelen prediktioner som är korrekta. Basnivå blir 50 % (tvåvalsfråga) om utvärderingsdata (facit med nya data) är balanserade hälften av varje klass. (Gissa konsekvent på ena eller rent slumpmässigt.) 100 % alla rätt. Träningsdata från andra personer än vad utvärderingsdata kommer ifrån så att systemet inte får pluspoäng på att lära sig känna igen bestämda individer. Bästa resultat per text (200 ord): vänster vs höger 66,4 % äldre vs yngre 62,7 % kvinnor vs män 64,7 %

7 Resultat Bästa resultat om vi väger samman 21 texter (4200 ord): vänster vs höger 89 % äldre vs yngre 79 % kvinnor vs män 81 % Det är lättare att skilja män och kvinnor (ger högre korrekthet) åt om man begränsar sig till högerpolitiker eller till äldre individer. Det är lättare att skilja äldre och yngre personer åt om man begränsar sig till högerpolitiker. Automatic prediction of gender, political affiliation, and age in Swedish politicians from the wording of their speeches A comparative study of classifiability, Literary and Linguistic Computing, under utgivning.

8 Informativa ord nyckelord Överrepresenterade ord. Styrkan mätt med Information Gain (IG) (som tar hänsyn till frekvens och skevhet i ordets distribution). IG anges multiplicerad med IG ger en typ av mått på hur starka nyckelord är. (Avsett för automatisk textklassificering.) För den som är speciellt intresserad av IG och den matematiska uträkningen: Yang, Y. and Pedersen, J. O. (1997). A Comparative Study on Feature Selection in Text Categorization, Proceedings of the Fourteenth International Conference on Machine Learning.

9 Nyckelord per parti Total undersökning. Partierna, Riksmötet 2010/2011. Relativa frekvenser hos ord. Anföranden från visst parti kontra dem som kommer från alla andra talare. Visas som antal förekomster per en miljon löpord. Dessa tabeller visar de av IG högst rangordnade orden, deras relativa frekvens F r för partiet och för motsatta kategorin (alla andra). Rena graford ingen lingvistisk analys. Graford med versal/gemen neutraliserat.

10 Riksmötet 2010/2011 antal ord Anföranden tagna ur riksdagsprotokollet. (Annan text borttagen.) För varje anförande anges talare och parti. Antal löpord: (M) (S) (V) (C) (FP) (MP) (KD) (SD) opolitiska totalt

11 (C) Ord F r parti F r andra IG centerpartiet pts centerpartiets bredband förnybara vi gröna vindkraft landsbygden matilda

12 (FP) Ord F r parti F r andra IG folkpartiet förskolan folkpartiets ann-christin damberg elever ahlberg detta utrikes iran

13 (KD) Ord F r parti F r andra IG kristdemokrater bostadsbyggandet vi kristdemokrat hälso socialstyrelsen bostadsmarknaden kristdemokraterna kristna olika

14 (MP) Ord F r parti F r andra IG miljöpartiet miljöpartiets reservation mångfald regeringen uranbrytning biologisk friåret inte klimatpåverkan

15 (M) Ord F r parti F r andra IG arbetsmarknaden viktigt trafikverket frågat avser reformer arbete utvecklingsgarantin eva-lena finanser

16 (S) Ord F r parti F r andra IG socialdemokrater ministern arbetsmarknadsministern statsrådet engström hillevi borgerliga regeringen säger fas

17 (SD) Ord F r parti F r andra IG sverigedemokrater svenska sverigedemokraterna invandringen invandring islam invandringspolitik invandrare sverigedemokraternas svenskar

18 (V) Ord F r parti F r andra IG vänsterpartiet kvinnor riskkapitalbolag carl borgerliga bildt vinster skattepengar marocko valutaunion

19 Nyckelordsextraktion med IG Vad får vi ut? Självreferens. Ett undantag... Sakliga nyckelbegrepp. Motståndarlagets talesperson i partiets profilfrågor namnet får nyckelstatus. Verkar detta (intuitivt) vara en bra metod att extrahera nyckelord?

20 Nyckelord per kön Total undersökning. Riksmötena 2006/ /2010. (Fyra år.) Nyckelordsextraktion med IG, som tidigare. Tabeller som tidigare.

21 Riksmötena 2006/ /2010 Anföranden tagna ur riksdagsprotokollet. (Annan text borttagen.) För varje anförande anges talare. Kön kopplat till det via data från Riksdagens beskrivningar av ledamöterna. Antal löpord: Män Kvinnor totalt

22 Kvinnliga talare Ord F r kvinnor F r män IG kvinnor barn och också våld män försäkringskassan kvinnors barnen många

23 Kvinnliga talare (tio ord till) Ord F r kvinnor F r män IG mäns kvinnorna äldreomsorgen behöver sjuka ministern otroligt viktigt undrar föräldrar

24 Manliga talare Ord F r män F r kvinnor IG den detta låt arbetsmarknadsministern svenska sverige östros punkten europeiska han

25 Manliga talare (tio ord till) Ord F r män F r kvinnor IG politik möjligen naturligtvis sysselsättningen en lars peter ulla svensk unionen

26 Nyckelordsextraktion per kön Vad får vi ut? Innehållsteman : Kvinnor: former av substantiven kvinna, man (grundformen dock osynlig utan analys) och barn. Män: Geografiska termer, egennamn, han. Tematiskt mer neutrala ord: Kvinnor: otroligt, viktigt, och, också, många, undrar. Män: den, detta, låt, naturligtvis. Vad säger detta?

27 Bigram partier Lite annan undersökning: Bigram, två löpord intill varandra utan mellanliggande skiljetecken. (Därför färre än löporden.) Total undersökning. Partierna, Riksmötet 2010/2011. Rena graford (och grafbigram ) ingen lingvistisk analys. Graford med versal/gemen neutraliserat. Samma kvantitativa mått som tidigare. Relativa frekvenser och IG hos bigram. Anföranden från visst parti kontra dem som kommer från alla andra talare.

28 Riksmötet 2010/2011 antal bigram Anföranden, som tidigare. (M) (S) (V) (C) (MP) (FP) (KD) (SD) opolitiska totalt

29 (C) bigram Bigram F r parti F r andra IG i+centerpartiet centerpartiet+och centerpartiet+har och+centerpartiet för+centerpartiet centerpartiet+vill centerpartiet+är det+förnybara matilda+ernkrans åsa+romson

30 (FP) bigram Bigram F r parti F r andra IG i+folkpartiet från+folkpartiets folkpartiets+sida födda+kvinnor folkpartiet+har så+vidare utrikes+födda och+så folkpartiet+och betänkandet+och

31 (KD) bigram Bigram F r parti F r andra IG vi+kristdemokrater som+kristdemokrat oss+kristdemokrater kristdemokrater+har det+civila och+sjukvården eva+olofsson civila+samhället vårt+land öppna+jämförelser

32 (MP) bigram Bigram F r parti F r andra IG i+miljöpartiet miljöpartiet+anser miljöpartiet+har miljöpartiet+vill från+miljöpartiets miljöpartiet+är biologisk+mångfald till+reservation miljöpartiets+reservationer miljöpartiets+sida

33 (M) bigram Bigram F r parti F r andra IG jag+avser frågat+mig avser+att bengt+berg har+frågat offentliga+finanser och+utvecklingsgarantin viktigt+att på+arbetsmarknaden är+viktigt

34 (S) bigram Bigram F r parti F r andra IG vi+socialdemokrater hillevi+engström anders+borg den+borgerliga i+fas oss+socialdemokrater att+ministern borgerliga+regeringen socialdemokrater+har maria+larsson

35 (SD) bigram Bigram F r parti F r andra IG vi+sverigedemokrater det+svenska svenska+samhället illegala+invandrare till+sverige här+landet menar+att svenska+folket svenska+ungdomar sverigedemokraterna+har

36 (V) bigram Bigram F r parti F r andra IG i+vänsterpartiet carl+bildt vänsterpartiet+har den+borgerliga vänsterpartiet+är kvinnor+som vänsterpartiet+vill vi+rödgröna vänsterpartiet+anser i+afghanistan

37 Nyckelbigramsextraktion med IG Vad får vi ut? Självreferensbigram. Ett undantag igen... Kollokationer: förnamn-efternamn, vissa sakliga fraser (t.ex. utrikes födda, civila samhället, biologisk mångfald). Motståndarlagets talesperson i partiets profilfrågor förnamn-efternamn får nyckelstatus. Verkar detta (intuitivt) vara en bra metod att extrahera nyckelbigram?

38 Nyckelbigram per kön Total undersökning. Riksmötena 2006/ /2010. (Fyra år.) (Som för graford.) Samma kvantitativa mått som för partiundersökningen.

39 Riksmötena 2006/ /2010 Anföranden tagna ur riksdagsprotokollet. (Annan text borttagen.) För varje anförande anges talare. Kön kopplat till det via data från Riksdagens beskrivningar av ledamöterna. Antal bigram: Män Kvinnor Totalt

40 Kvinnliga talare bigram Bigram F r kvinnor F r män IG kvinnor+som kvinnor+och mot+kvinnor våld+mot mäns+våld och+män att+kvinnor barn+och barn+som viktigt+att

41 Kvinnliga talare bigram (tio till) Bigram F r kvinnor F r män IG jag+undrar vet+att och+unga för+kvinnor och+barn på+landsbygden många+kvinnor handlar+om och+att är+otroligt

42 Manliga talare bigram Bigram F r män F r kvinnor IG den+svenska thomas+östros europeiska+unionen låt+mig den+punkten i+sverige ulla+andersson offentliga+finanserna offentliga+finanser på+den

43 Manliga talare bigram (tio till) Bigram F r män F r kvinnor IG full+sysselsättning de+offentliga i+grunden politik+som patrik+björck lars+johansson låt+oss lång+rad allt+väsentligt kalle+larsson

44 Nyckelbigram per kön Nyckelbigrammen relaterade till de nyckelord vi fann tidigare. Innehållsteman bekräftas: Kvinnor: fraser med former av substantiven kvinna, man och barn. Män: Tvåledade geografiska termer, tvåledade egennamn, offentliga finanser(na). Tematiskt mer neutrala bigram: Kvinnor: jag undrar, vet att, viktigt att, och att. Män: låt mig, låt oss, i grunden, lång rad, allt väsentligt. Vad säger detta?