1 (7) Inlämningsuppgift: Pronomenidentifierare 2D1418 Språkteknologi landes@bredband.net johnne@kth.se 1
2 (7) 1 Uppgiften... 3 2 Algoritmen i korthet... 3 3 Representation av data... 3 4 Indikatorer... 4 4.1 Definiteness... 5 4.2 Lexical reiteration... 5 4.3 Non-prepositional noun phrases... 5 4.4 Collocation pattern reference... 5 4.5 Givenness... 5 4.6 Indicating verbs... 5 4.7 Section heading preference... 6 4.8 Immediate reference... 6 4.9 Referencial distance... 6 4.10 Term preference... 6 4.11 Personliga pronomen... 6 5 Resultat... 6 6 Sammanfattning... 7 2
3 (7) 1 Uppgiften Detta är en presentation av en mindre projektuppgift i kursen Språkteknologi på KTH. Uppgiften består i att implementera och utvärdera en algoritm för att hitta ett förslag till antecedent till ett pronomen i löpande text. Algoritmen är föreslagen av Ruslan Mitkov 1998 1. Den har blivit omarbetad sedan dess men vi skulle alltså implementera denna. Mitkovs algoritm är anpassad för engelsk text, och dessutom för tekniska manualer. I vårt fall var det föreslaget att vi skulle titta på resolution i svensk nyhetstext. Detta innebär att algoritmen inte kan implementeras utan modifikation. Vi återkommer till varför, och hur det påverkade detta projekt i praktiken. 2 Algoritmen i korthet Algoritmen bygger på heuristik och styrkan är att den är kunskapsfattig och inte kräver någon lingvistisk analys av den aktuella texten. Algoritmen är konceptuellt sett ganska enkel och rättfram. Indata förutsätts vara en textström med ordklass- och IOB-taggade ord. Stega igenom meningarna. Sök efter pronomen i varje mening. Vid funnet pronomen sök igenom den aktuella meningen, samt de två tidigare, efter nominalfraser. Sök endast till vänster om anaforen. Välj ut de nominalfraser som stämmer överens med anaforen i genus och numerus som tänkbara kandidater. Varje kandidat poängsätts med en mängd indikatorer. Välj den kandidat som har högst poäng som antecedent. Om två eller flera kandidater får samma poäng, välj någon av dessa till antecedent med lämplig strategi. Det centrala i algoritmen är hur dessa indikatorer fungerar. I avsnitt 4 ska vi titta närmare på dessa. Där ska vi också titta på hur en strategi vid lika poäng kan se ut. 3 Representation av data För att få det indata som söks måste den obehandlade texten först analyseras och taggas med hjälp av någon textanalysator. Till vår hjälp hade vi Granskas Text Analysator (GTA), som tar in en textström och returnerar en taggad textström i XML-format. 1 http://acl.ldc.upenn.edu/p/p98/p98-2143.pdf 3
4 (7) Meningen bollen är rund taggad med GTA Denna XML-text måste parsas in i en lämplig datastruktur. Vi valde att representera texten i en objektmodell, där meningar och ord håller en mängd data som t.ex. ordets lemma, ordklasstaggar och IOB-taggar. Orden håller också information om aktuell kandidatpoäng, vald antecedent (om det är ett pronomen) och annan data av den typen. Detta skulle kunna representas i listor utanför också men vi tyckte att detta verkade enkelt. Text Sentence -Word Denna modell är som synes lite förenklad. För att implementera ett mer generellt ramverk där det är möjligt att lägga till nya tänkbara indikatorer i algoritmen så behövs det en finare uppdelning av textmassan, där man håller reda på klausuler och frasgränser också. För de indikatorer vi har valt att implementera så räcker det emellertid med ovanstående representation. 4 Indikatorer En indikator är en funktion som tar en anafor och en mängd nominalfraser som indata. Dessutom behöver den tillgång till hela texten och dess beståndsdelar för att kunna avgöra vissa egenskaper hos nominalfraserna. Vi återkommer till detta senare i texten. Indikatorn poängsätter varje kandidat efter en given preferens. När alla indikatorer har körts så väljs den bästa kandidaten. Mitkov använder sig av tio olika indikatorer. Dessa är som sagt anpassade för att användas på en engelsk teknisk manual. I denna uppgift var strävan att implementera Mitkovs indikatorer och sedan modifiera dem för att passa svensk nyhetstext. För att detta ska kunna göras fullt ut krävs mycket empiriskt arbete och tid. Arbete som tyvärr inte ryms inom ramarna för denna laboration. Bland annat så skulle en frekvensanalys på vanliga ord i svensk nyhetstext behövas. Detta skulle kunna göras på KTH news corpus. För att skapa adekvata indikatorer krävs också stor kunskap om det aktuella språket och dess egenskaper. När dessa indikatorer är definierade så måste man sedan också empiriskt testa dem och ställa in poängnivåerna för att nå ett så när optimalt resultat som möjligt. Detta är som förståeligt ett mycket omfattande arbete. Nedan följer en presentation av Mitkovs indikatorer. Kom ihåg att de är anpassade för tekniska manualer på engelska. För att vi inte ska göra oss skyldiga till svengelska så behåller vi de engelska namnen. 4
5 (7) 4.1 Definiteness Nominalfraser i bestämd form är med högre sannolikhet antecedent än en obestämd sådan. (Bestämd nominalfras får 0 poäng och obestämd får -1 poäng). GTA:s taggning ger oss inte direkt information om ett nomen tillhör en bestämd nominalfras. Här måste man alltså inte bara kolla på nomenets species utan också avgöra om det bestäms av ett possessivt pronomen (Hans bil). I engelska undersöks också om det bestäms av demonstrativa pronomen. 4.2 Lexical reiteration Nomen (tillhörande lemma) som upprepas i det stycke som pronomenet befinner sig i får högre poäng. (0 om det inte upprepas någon gång, 1 vid en upprepning och 2 om ordet upprepas två eller flera gånger). Detta verkar rimligt i en svensk nyhetstext också. Här är också ett exempel på då man måste läsa in hela texten, eller åtminstone det aktuella stycket, innan man kan beräkna poängen för kandidaterna. 4.3 Non-prepositional noun phrases Ett nomen som inte är i en prepositionsfras får högre poäng än ett som är i en (0, -1). 4.4 Collocation pattern reference Här tittar man på hur en kandidat förhåller sig till verbet i en mening (klausul). Om det förekommer i samma ordning som anaforen gör så får det högre poäng (2, 0). Mitkov begränsar sig till att undersöka följderna nominalfras/pronomen verb och verb nominalfras/pronomen Vi är dock inte övertygade om hur väl detta stämmer överens med svenska. Kanske kan det till och med vara tvärt om, att det är större chans att ett nomen är antecedent om verbföljden är tvärtom. Det enklaste vore att titta på subjekt/predikat men GTA stöder inte det. 4.5 Givenness Ofta är det den första nominalfrasen i en mening som utgör den centrala (givna) informationen som också behandlas senare i texten. Med andra ord kan man dra slutsatsen att pronomen oftare syftar till nominalfraser som förekommer tidigt i en föregående mening, förutsatt att meningen inte är imperativ. Dessa nomen får en 1 poäng och andra icke-centrala nomen får 0 poäng. 4.6 Indicating verbs Nomen som direkt följer vissa kontextspecifika verb utgör oftare antecedenten än nomen som följer mindre kontextspecifika verb. Exempel på dessa verb är i Mitkovs fall för en teknisk manual; analysera, utveckla, definiera, sammanfatta m.m. Dessa verb bestäms på empirisk väg utifrån det kontext som ska behandlas. Nomen som följer dessa verb ger Mitkov 1 poäng. 5
6 (7) 4.7 Section heading preference Nominalfraser som förekommer i rubriken är ofta antecedenter till pronomen i det efterföljande stycket. Dessa kandidater får därför 1 poäng. 4.8 Immediate reference En heuristik som kan komma till nytta vid pronomenidentifiering inom tekniska manualer är att det för meningar med instruktioner ofta går att identifiera antecedenten som det nomen som efterföljer den första uppmaningen. Ett förklarande exempel är För att öppna locket ska man skruva det och sedan lyfta det. Här är ordet efter första verbet (locket) antecedent till det. Man kan tänka sig andra former av heuristiken för svenska där orden är omkastade i uppmaningsfrasen som t.ex. För att öppna locket ska det skruvas och sedan ska det lyftas då verben förekommer i s-form. 4.9 Referencial distance För komplicerade meningar poängsätts nominalfraser i den föregående klausulen med 2 poäng, därefter nominalfraser i den föregående meningen med 1 poäng och nominalfraser ytterligare en mening bakåt får 0 poäng. Nominalfraser ännu längre bakåt straffas med en poäng. 4.10 Term preference Nominalfraser som ingår i terminologin för ett specifikt område utgör oftare också antecedenten till pronomen. Dessa kandidater får därför 1 poäng. 4.11 Personliga pronomen När personliga pronomen han och hon förekommer syftar dessa på ett egennamn. Dessa poängsätts med 1 poäng. 5 Resultat I vår algoritm valde vi, i brist på tid att implementera de av Mitkovs indikatorer som var mest generella och passade för en svensk nyhetstext. En av Mitkovs indikatorer som inte implementerades men ändå faller i denna kategori är section heading preference. De indikatorer som vi valde är: definiteness, lexical reiteration, non-prepositional noun phrases och collocation pattern reference. Vi valde också att implementera en egen indikator för personliga pronomen som poängsätter pronomen för han och hon då dessa är vanligt förekommande i nyhetstexter. Resultatet består av enkla meningar med utmärkta antecedenter. Anledningen till att vi inte lyckades pronomenidentifiera en större textmassa beror på ett problem med uppkopplingen till GTA. Exempel på meningar som pronomenidentifieraren lyckades med är: Pojken kastar en boll. Han (pojken) är glad. En bil och en moped krockade och mopeden gick sönder. Den (mopeden) gick inte att laga. En kille sprang in i en vägg. I efterhand tyckte han (kille) att det var lite onödigt. 6
7 (7) Räven sprang fram och då ropade hönan på hjälp. Han (räven) jagade hönan runt huset. Pelle åkte hem till mannen och han (Pelle) var glad. 6 Sammanfattning Vi har implementerat Mitkovs algoritm för pronomenidentifiering och strävat efter att anpassa denna till en svensk nyhetstext. Algoritmen baseras på heuristik där indikatormetoder poängsätter kandidater till pronomen utefter specifika preferenser. Mitkov redogör för 10 indikatorer och vi har valt att implementera fyra av dessa plus ytterligare en indikator för personliga pronomen. 7