Datorlingvistisk grammatik Kontextfri grammatik, m.m. http://stp.lingfil.uu.se/~matsd/uv/uv11/dg/ Mats Dahllöf Institutionen för lingvistik och filologi Februari 2011 Denna serie Formella grammatiker, mest kontextfri. Beskriva språk m.h.a. kontextfri grammatik. Linjär precedens Konstituens Kategorisering Visst överlapp med och repetition av saker från Matematik för språkteknologer. 1 2 Formell kontra traditionell grammatik Tendenser (men mkt gemensamt, olika användning): Handkodad grammatik kontra maskinlärning Tendenser i språkteknologin, grovhuggen bild: traditionell grammatik vaghet heterogenitet implicithet robust ofta preskriptiv ej direkt implementerbar redan de gamla grekerna formell grammatik precision systematik explicithet begränsad täckning vetenskaplig, empirisk typiskt implementerbar 1900-talssak handkodning maskininlärning 1950 1990-tal senaste decenniet personalintensivt dataintensivt - trädbanker språkspecifikt tvärspråkliga metoder allmän grammatikteori ST-orienterade metoder kvalitativ värdering kvantitativ värdering begränsad täckning fokus på robusthet 3 4
Kategorisk vs heuristisk analys Kategorisk regler: Objekt antingen exemplifierar en kategori eller gör det inte. Inga grader. Absoluta regler. Rätt/fel. (Grammatik i lingvistiken är ofta sådan.) Heuristiska principer: Grader av exemplifierande. Osäkerhet. Kan bygga på statistik/sannolikhetsberäkningar. (Vanligt inom språkteknologin.) Inga anspråk på 100% korrekthet. Formell grammatik: konstituens Konstituens: abstrakt del-helhetsbegrepp. Enkla konstituenter: (typiskt) ord. Sammansatta konstituenter: fraser. omedelbar vs medelbar konstituens (föräldrar dominerar barn) konstituensen placerar noderna i ett rotat träd visas t.ex. som en graf: omedelbar konstituens blir streck eller genom bracketing : [i [lådan [på [vinden]]]] 5 6 Linjär precedens = grammatikens abstrakta linjära ordning, (ordföljd och frasföljd) Syntaxträd (med kategorietiketter) S motsvarar före efter i tal NP VP motsvarar vänster höger i skrift (Kan glömmas bort, eftersom man fångar informationen gratis genom talets flöde i tiden och skriftens riktning på pappret.) det en n katt v såg det flera NP n hundar 7 8
Grammatisk beskrivning av noder Noderna svarar mot ord, fraser, satser och meningar. Vi vill antagligen knyta en beskrivning av det språkliga uttrycket till varje nod. Enkel sak: en kategorisymbol. Mer utvecklat: Strukturerade beskrivningar, t.ex. särdragsstrukturer (senare på kursen). Syntaxträd, vanliga begränsningar Syntaxträd brukar lyda följande begränsningar: Omedelbara konstituensen (OK) ger just en trädstruktur (utifrån ett ändligt antal noder). Träd (typ av graf): En nod har ingen förälder; alla andra har precis en; ingen cirkularitet. (Noder som saknar barn kallas löv.) Linjär precedens överensstämmer med OK: Varje fras är linjärt kontinuerlig. (Inga korsande grenar.) M.a.o. linjär precedens ger ett ordnat träd. Precis en kategori per nod. 9 10 Språk och grammatik i formell bemärkelse i formell, matematisk mening (Chomsky). Ett språk är en mängd strängar En grammatik definierar ett språk. En grammatik definierar en mängd syntaktiska strukturer (t.ex. träd) och därmed ett språk (eftersom vi kan läsa av en ordsträngen ur varje träd). Detta är perspektivet i matematisk lingvistik. Olika typer av formell grammatik Det finns olika typer av grammatiker som kan definiera olika klasser av oändliga språk, t.ex. Reguljära uttryck Kontextfria grammatiker (CFG) Det finns andra grammatiktyper som analyseras inom matematiska lingvistiken. Chomskyhierarkin är den mest kända uppställningen. 11 12
Chomskyhierarkin Avser klasser av automater, grammatiker och språk. typ automat grammatik språk 0 Turingmaskin obegränsad rekursivt enumerabla 1 linjärt begränsad a. kontextkänslig kontextkänsliga 2 stackmaskin kontextfri kontextfria 3 ändlig a. linjär reguljära (reguljära uttryck) 0 3: Fallande beräkningsmässig styrka, ökande uttrycksmässiga begränsningar, mindre klasser av språk. Obegränsad grammatik, typ 0 En obegränsad grammatik (omskrivningssystem) är en kvadrupel N,T,P,Σ, där N är en mängd icke-terminaler (kategorisymboler), T är en mängd terminaler (ord), P är en mängd produktioner och Σ är en startsymbol. En produktion är av formen α β, där α är en icke-tom sträng över N T (terminaler och icke-terminaler) och β är en sträng över N T. 13 14 Grammatiker härledning språk Givet ett omskrivningssystem N,T,P,Σ kan man härleda: Strängen Σ (sträng av ensam startsymbol). Givet att α β P och att en sträng xαy (över N T) kan härledas (där x och y är godtyckliga strängar över N T ), så kan xβy härledas. Ett omskrivningssystem definierar det språk (i Chomskys mening) som består av alla de strängar av icke-terminaler som kan härledas. Varje språk i Chomskyhierarkin kan definieras på detta sätt. (Typ 0.) Begränsade grammatiktyper, typ 1 Givet definitionen av omskrivningssystem kan vi ställa hårdare krav på produktionerna. Typ 1, kontextkänslig grammatik: Alla produktioner är av formen X 1 CX 2 X 1 βx 2, där C N (d.v.s. är en icke-terminal), X 1,X 2 N T {ε} (d.v.s. är en terminal, icke-terminal eller tomma strängen). Alltså, C får bara skrivas om till β när det förekommer i en viss kontext, alltså X 1 och X 2. (Mellan ε och ε betyder överallt.) 15 16
Typ 1, alternativ definition Typ 1, kontextkänslig grammatik. Alternativt begrepp: Alla produktioner är av formen α β, där β längre än eller lika lång som α. Detta ger en annan sorts grammatik, men den har precis samma styrka som kontextkänslig grammatik enligt tidigare definition. Denna kan kallas icke-kontraktiv grammatik (men kallas även den kontextkänslig grammatik). Begränsade grammatiktyper, typ 2 Givet definitionen av omskrivningssystem kan vi ställa än hårdare krav på produktionerna. Typ 2, kontextfri grammatik Enbart produktioner av typen C β, där där C N (d.v.s. är en icke-terminal). Kontextfri i jämförelse med kontextkänslig grammatik. 17 18 Begränsade grammatiktyper, typ 3 Givet ett definitionen av omskrivningssystem kan vi ställa hårdare krav på produktionerna. Typ 3, högerlinjär grammatik. Enbart produktioner av typen C 1 tc 2 och C 1 t, där C 1,C 2 N (d.v.s är icke-terminaler) och t T (d.v.s. är en terminal). Alternativt begrepp: Spegelvända begreppet vänsterlinjär grammatik ger samma beräkningsmässiga styrka. Reguljära uttryck: semantik (repetition) Reguljära uttryck är ett annat sätt att definiera språk av typ 3 (s.k. reguljära språk). Basuttryck: D(ε) = {ε}. Om s Σ, där Σ är alfabetet, så D(s) = {s}. Konkatenering (ibland skrivs mer explicit R 1 R 2 istället för R 1 R 2 ): D(R 1 R 2 ) = {xy x D(R 1 ) och y D(R 2 )}. 19 20
Reguljära uttryck: semantik (repetition) Union (alternativitet) (ibland skrivs R 1 R 2 istället för R 1 R 2 ) D(R 1 R 2 ) = {x x D(R 1 ) eller x D(R 2 )}. Kleenehölje (godtycklig självkonkatenering) D(R ) = {x 1 x 2...x n n 0 och x i D(R)} Förkortade skrivsätt: R + för RR. (R) (optionalitet i SWB 2.2.2) för R ε. Kontextfri grammatik (CFG) träd För en CFG gäller att ett träd tillåts av omm: Rotnoden (den utan förälder) är märkt med grammatikens startsymbol. Varje föäldranod med barn (=lokalt träd) matchar en regel i grammatiken. Lövnoderna (lexikala, terminala) matchar lexikoningångar. En sträng tillåts av grammatiken om det finns ett motsvarande träd. 21 22 Syntaxträd, regler, lexikon CFG, ännu mer formellt NP det n en katt S v såg VP det flera NP n hundar S NP VP NP det n VP v NP det en n katt v såg det flera n hundar Vanligt sätt att definiera en CFG formellt: En CFG är en kvadrupel N, T, P, Σ, där N är mängden icke-terminaler (kategorisymboler), T är mängden terminaler (ord), P är mängden av regler (inklusive lexikoningångar) och Σ är startsymbol. En CFG definierar en mängd träd och en mängd strängar icke-terminaler (alltså ett språk i Chomskys mening). 23 24
CFG, ännu mer formellt, exempel Exempel på en CFG, N,T,P,Σ (utifrån tidigare träd): N = {S, NP, VP det, n, v} T = {en, flera, hundar, katt, såg} P = { S NP VP, NP det n, VP v NP, det en, n katt, v såg, det flera, n hundar } Σ =S CFG och naturligt språk En CFG kommer i bästa fall att kunna fånga en delmängd (ett fragment) av ett naturligt språk. Kategorierna måste fånga alla syntaktiskt viktiga distinktioner. (De bildar en platt taxonomi.) En bra grammatik för ett fragment bör (liksom varje teoretisk redogörelse) vara så enkel så möjligt. 25 26 Fraser/konstituenter: distribution Distribution: Vilka grammatiska satskontexter ett uttryck kan förekomma i. Om två fraser har olika distribution så finns det grammatiska satser i vilka det ena uttrycket förekommer och där det inte kan bytas mot det andra utan att grammatikaliteten fördärvas. den lilla hunden och den stora katten har samma distribition. den lilla hunden och det stora djuret har olika distribution: Den lilla hunden är snäll. *Det stora djuret är snäll. Fraser/konstituenter: syntaktiska kategorier Grundprincip: Fraser med samma distribution tillhör samma kategori. Fraser med olika distribution tillhör olika kategorier. Vi måste kunna skilja på den lilla hunden och det stora djuret kategorimässigt. Vi använder ofta också vidare kategorier: Begreppet nominalfras täcker in många olika nominalfraser som vi måste kunna skilja på. 27 28
Problem med atomära beskrivningar Om vi i en kontextfri grammatik har en kategori för substantiv i singularis obestämd form neutrum, nson, och en för substantiv i singularis obestämd form utrum, nsou, så blir nson och nsou lika olika som nson och VP. Viktig observation: Grammatisk information är flerdimensionell: Vi behöver molekylära /dekomponerade/faktoriserade beskrivningar. Annars kan vi inte uttrycka många generaliseringar som vi borde kunna fånga. Problem med atomära beskrivningar Om vi i en kontextfri grammatik har en kategori för substantiv i singularis obestämd form neutrum, nson, och en för substantiv i singularis obestämd form utrum, nsou, så blir nson och nsou lika olika som nson och VP. Vi måste ha massor av regler för att få till alla sekvenser av t.ex. determinerare adjektivfras substantiv (i NP), en för varje kongruensfall. (Övning: skriv ner alla regler som behövs och ange hur lexikoningångar måste se ut.) CFG tillåter ingenting enklare, p.g.a. att taxonomin är platt. 29 30 Problem med atomära beskrivningar Grammatisk information är flerdimensionell: Vi behöver molekylära /dekomponerade/faktoriserade beskrivningar i grammatiken. Det finns många generaliseringar som vi borde kunna fånga med som CFG inte tillåter oss att uttrycka. Exempel, två ord hund huset ordklass subst. subst. (samma) numerus sing. sing. (samma) genus utrum neutrum (olika) species obest. best. (olika) Orden har en några gemensamma särdrag och några som skiljer dem åt. 31 32