TDDD02 Föreläsning 5 HT-2013 Informationsutvinning Lars Ahrenberg Litteratur: H. Cunningham: Information Extraction, Automatic
Översikt Informationsutvinning (IE) Definition och jämförelser Något om semantik och faktarepresentation Ontologier och extraktion av semantiska relationer Komponenter i IE-system Namnigenkänning Koreferensbestämning Relationsbestämning bootstrapping av relationsuttryck Mallinstansiering Exempel Åsiktsanalys, Automatisk nyhetsläsning
IE gentemot IR Dokumentsökning (IR) möter givna informationsbehov genom att söka efter dokument Informationsutvinning (IE) möter informationsbehov genom att söka i dokument Informationsbehovet formuleras som en mall med en eller flera relationstyper, t.ex. <HOTELLATTRIBUT: OMDÖME> TYP: <företagstyp> ORT: <ort> ANSTÄLLDA: <antal>
IE gentemot IR Dokumentdatabas IR-system Dokument Analytiker Dokumentdatabas Strukturerade fakta IE-system IR-system
En karaktärisering Informationsutvinning ombildar textdata (dvs. ostrukturerade data) till strukturerade data. Systemen bygger på identifiering av relevanta ord och fraser, semantisk klassificering av dessa, strukturering av data efter givna typer eller mallar, sammankoppling av information via koreferenser
En enkel klassificering av dokument och meningar Subjektiva Objektiva Positiva Negativa
Varianter av informationsutvinning Message understanding / Automatisk nyhetsläsning Systemet söker information om en viss typ av händelse, t.ex. ekonomisk verksamhet, kriminell verksamhet, sjukdomsutbrott,... Systemet identifierar förekomster av händelsetypen och specificerar relevanta entiteter och deras relationer
Varianter av informationsutvinning Åsiktsanalys ( opinion mining ) Systemet söker information om vad folk tycker om en produkt, tjänst eller politiskt förslag, ( hotellet är prisvärt, ligger nära centrum,...) Associationer ( media distance ) Systemet extraherar omdömen som texten kopplar ihop med en person eller produkt. och klassificerar dem sedan t.ex. i positiva/negativa, starkt/svagt hopkopplade, etc.
Exempel: sammanställning av associerade begrepp Andel negativa begrepp associerade med Berlusconi under oktober 2011. Källa: http://gavagai.se/blog/2011/10/ 9
Varianter av informationsutvinning Sammanställning av information från flera dokument. relativt lätt för associerad information svårare att avgöra om olika dokument handlar om samma händelse eller inte. Presentation/Hopkoppling av dokument (t.ex. citeringar) t.ex. att skilja ett korrekt citat från ett plagiat. IE för prognoser Forecasting large-scale human behavior using global news media tone in time and space (Leetaru, 2011)
Varianter av informationsutvinning Ontologiorienterad informationsutvinning Systemet extraherar namn som instanser av givna klasser, t.ex. identifierar företag, platser, sjukdomar,... Systemet extraherar synonymer och begreppsrelationer, t.ex. hyponymi (specificering som i hylla - möbel ) del-helhetsrelationer (som kök - lägenhet)
Exempel på åsiktsanalys: hotellrecensioner Ett bra och prisvärt hotell som endast ligger en kort tunnelbaneresa bort från centrum. Personalen är trevlig och rummen är helt OK. Så länge själva hotellvistelsen inte är det huvudsakliga målet med resan är detta ett alternativ som kan rekommenderas. Är man ute efter en plats att sova på som inte kostar så mycket så är det perfekt. Sängarna är otroligt sköna. Läget är inte jättecentralt, men buss och t-station finns nära. Frukosten innehåller frallor, pålägg fil, cornflakes, musli, juice och kaffe. Ingen hotellfrukost i den vanliga bemärkelsen men den funkar. Är man däremot ute efter en mysig hotellvistelse ska man välja något annat. Hade jag fått bestämma så hade jag nog valt att kalla detta för vandrarhem istället för hotell. Minimala par: <hotell: prisvärt>, <hotell: bra>,...
Några krav på informationsstrukturerna Fullständighet Semantik
Några semantiska begrepp De flesta semantiska modeller bygger på en grundläggande distinktion mellan uttryck och innehåll, eller 'betydare' och 'betytt' Den semiotiska triangeln (Ogden & Richards, The meaning of meaning): begrepp SPRÅK VÄRLD ord entiteter
Logik och kunskapsrepresentation Gör relationen mellan betydare och betytt entydig och strukturen i utsagor transparent Linköping är en stad i Sverige Predikatlogisk representation Tillhör(lkpg,sverige) Stad(lkpg) lkpg och sverige antas här vara unikt (eller universellt) refererande. De är s.k. individkonstanter Tillhör och Stad är också konstanter som står för begrepp
Entiteter och relationer En entitet (eller individ) är något som kan urskiljas från sin omgivning och refereras. En relation (eller predikat) är något som uttrycker ett förhållande för en entitet eller mellan flera entiteter och som för givna entiteter kan bestämmas som sann eller falsk. Tillhör(lkpg,sverige) sant Tillhör(london,sverige) falskt
Semantiska webben the Semantic Web aims at converting the current web dominated by unstructured and semi-structured documents into a 'web of data' Länkade data: URIer (Universal Resource Identifiers) identifierar saker HTTP URIs gör det möjligt för både människor och maskiner att hitta saker och information om dem Informationen kan representeras i standardformat som RDF/XML Länkar till relaterade URIer kan inkluderas
Ontologisk information Plats underbegrepp_till Stad Land Tillhör instans_av instans_av lkpg sthlm sverige argument-2 Rel-141 argument-1
Linked Open Data (källa: bbc.co.uk)
Ontologiinlärning som 'reverse engineering' concepts Extraction words
Från text till begrepp Lemmatisering ge alla böjningsvarianter en gemensam representant book, books, book's book_n book, booked, books, booking book_vb Betydelsebestämning identifiera olika betydelser av lemman bar bar-1, as in chocolate bar bar bar-2, as in piano bar bar bar-3, as in standing at the bar...
Språkliga mönster för semantiska relationer Hyponymi (underbegrepp) datorer är en slags maskiner som mönster: X är (en/ett (slags)) Y som du kan även använda andra bär som röda vinbär eller björnbär... Instanser... Skandinavien omfattar Danmark, Sverige och Norge Palme var statsminister under åren
Informationsutvinning, delproblem Namnigenkänning (Named Entity Recognition) Identifiering av koreferens namnupprepning, pronomenreferens (ord som han, hon, de, den,...) Relationsigenkänning enkla mallattribut t.ex. ort, ålder, pris,... relationer mellan mallentiteter Mallifyllning koppla ihop relationer och namn på rätt sätt
Informationsutvinning, stödsystem Lemmatisering Ordklasstaggning Betydelsebestämning Chunkning identifiera fraser som uttrycker entiteter eller relationer av intresse Parsning identifiera grammatiska relationer för hela satser och meningar
Namnigenkänning Inom IE används begreppet namn (named entity) dels om vanliga namn personnamn, företagsnamn, geografiska namn, dels om sifferuttryck årtal, prisangivelser, antalsangivelser, dels om refererande uttryck som refererar till entiteter som är relevanta i domänen, t.ex., företag, sjukdomar, stöldgods,...
Namnigenkänning För namnigenkänning används t.ex. namnlistor, (eng. gazetteers) reguljära uttryck för sådana namn som följer specifika teckenmönster klassificering med hjälp av kontextinformation kodad som indikatorer ( features ) t.ex. Naive Bayes
Exempel: en namnlista över svenska kommuner Ale Alingsås Alvesta Aneby Arboga Arjeplog Arvidsjaur Arvika Askersund Östhammar Östra Göinge Överkalix Övertorneå
Utvärdering av namnigenkänning Namnigenkänning är ett sökproblem, varför precision och recall är lämpliga mått. Cunningham anger accuracy till 95% men olika typer av namn är olika svåra att känna igen. Flertydighet är inte ovanlig: Ericsson Klippan Ikeamöbler som Billy, Stockholm,...
En händelsemall Exempel: arbetsmarknadsförändringar Typ_av_förändring: Tid: Källa: Företag Namn: Typ: Ort: Antal_anställda: Omsättning: Berörda Antal: Typ:
En text om neddragningar 160 riskerar jobbet i Klippan Skogsbolaget Klippan AB planerar neddragningar i produktionen för att förbättra lönsamheten. Enligt ett förslag kan det innebära att 160 personer förlorar sina jobb i Klippan, skriver Helsingborgs Dagblad. I dag sysselsätter bruket i Klippan 216 personer. Klippan AB har också produktion i Lessebo. För de första nio månaderna förra året redovisade Klippan en förlust på 2,5 miljoner kronor efter finansnetto. Koncernens försäljning uppgick till 619 miljoner kronor.
Instansierad mall Typ_av_förändring: neddragningar Tid: - Källa: Helsingborgs Dagblad Företag Namn: Klippan AB Typ: skogsbolag Antal_anställda: 216 personer Ort: Klippan Omsättning: 619 miljoner kronor Berörda Antal: 160 Typ: personer
Entitetsbaserad representation (jmf. Cunninghams artikel) Klippan id: type: ENTITY-1 ort Klippan AB id: type: ort: ENTITY-2 Skogsbolag ENTITY-1 160 personer id: type: ENTITY-3 berörda
Referenser till samma objekt 160 riskerar jobbet i Klippan Skogsbolaget Klippan AB planerar neddragningar i produktionen för att förbättra lönsamheten. Enligt ett förslag kan det innebära att 160 personer förlorar sina jobb i Klippan, skriver Helsingborgs Dagblad. I dag sysselsätter bruket i Klippan 216 personer. Klippan AB har också produktion i Lessebo. För de första nio månaderna förra året redovisade Klippan en förlust på 2,5 miljoner kronor efter finansnetto. Koncernens försäljning uppgick till 619 miljoner kronor.
Referenser till samma objekt Senare referenser använder (ofta) delar av (fullständigt) namn Klippan AB Klippan Bo Lennart Johansson Johansson anaforiska pronomen han, hon, den, det, de, dom,... beskrivande referenser i bestämd eller demonstrativ form företaget, koncernen,... denna åtgärd,...
En text med pronomen Jan Ahrenbring lämnar sin post som marknadsdirektör vid Ericssons division Konsumentprodukter efter elva år. Ahrenbring slutar på egen begäran. Han kommer dock att vara kvar i Ericssonkoncernen. Hans arbetsuppgifter övertas av holländaren Philip Vanhoutte, som sedan i november i fjol är ansvarig för marknadsstrategi. Philip Vanhoutte har sitt kontor i London. Han kommer närmast från amerikanska teleoperatören MCI-Worldcom. Ericsson beslutade nyligen att lägga ut all tillverkning av mobiltelefoner på amerikanska Flextronics. I stället ska Ericsson koncentrera sig på design, marknadsföring och distribution, de områden som Ahrenbring ansvarat för.
Villkor på anaforisk koreferens Morfologiska egenskaper Antecedent och anafor skall ha samma numerus och genus. Han kommer dock att vara kvar... Syntaktiska egenskaper Antecedentens och anaforens syntaktiska positioner måste tillåta koreferens Ericsson gav honom ett stort avgångsvederlag (Ericsson honom)
Villkor på anaforisk koreferens Syntaktiskt-semantiska egenskaper Semantiska villkor på anaforens referent som ges av den omedelbara syntaktiska kontexten måste passa in även på antecedenten. Erik köpte en pizza på bensinstationen. Han åt genast upp den. (bensinstationen den)
Mjuka villkor eller preferenser Antecedenten finns oftare i närmast föregående mening än längre bort. Antecedenten är oftare i en framträdande syntaktisk position, t.ex. subjekt, än i en mindre framträdande. Lisa ringde till Saras mormor. Hon... Finns flera möjliga kandidater som uppfyller de absoluta villkoren, väljs en kandidat utifrån mjuka villkor.
Att hitta relationer Klippan varslar 160 anställda... <X> varslar <ANTAL> <Y> Strindberg föddes 1849 i Stockholm... <PERSON> föddes <ÅR> Problem: det finns så många sätt att uttrycka samma relation
Olika sätt att identifiera relationer Expertdriven systemutveckling expert = lingvist Övervakad inlärning förutsätter uppmärkt korpus Så frön ('bootstrapping') gissa mönster och/eller instanser/tupler Exempel: /varslar [0-9]+ / /Volvo [a-zåäö]+ [a-zåäö0-9 \b]{0,3} anställda/
Att använda mönsterfrön Fröexempel: [FÖRETAG] varslar [ANTAL] [BERÖRD_PERSON] Tupelexempel: <Klippan, 160, anställda> Att ta reda på Vilken variation finns i hur relationen uttrycks? Vilken variation finns i ordningen mellan olika entiteter? Vad kan finnas mer än relationsuttryck och entitetsuttryck i meningarna?
Fröbaserad relationsutvinning ( bootstrapping ) Sökning Mönster Extraktion Mönsterfrön Tupelmängd Mönstermängd Extraktion Sökning Tupelfrön Tupler
Att välja ut nya mönster Ett nytt mönster kan värderas utifrån dess precision och recall på kända tupler antal nya tupler som föreslås precision på nya tupler
Utvärdering av IE-system Utvärdering på komponentnivå namnigenkänning: ca 95% precision och recall koreferens: ca 65-70% Utvärdering på systemnivå Vad är viktigt? precision vs. recall på händelsenivå? precision vs. recall på uppgiftsnivå.
Att visualisera data Positiva och negativa omdömen kan tabuleras och åskådliggöras grafiskt Positiva Negativa Hotell 1 Rum 120 16 Personal 80 42 Frukost 95 2 Hotell 2 Rum 65 28 Personal 75 3 Frukost 24 28
Resultat för Hotell 1 och Hotell 2 (andel positiva av alla) 0,5 Rum Personal Frukost
kommersiell IE (exempel) demo.saplo.com www.recordedfuture.com...