Språkteknologiska stöd. Förskolor. Stemming. Slå ihop till samma ord

Transkript

1 Språkteknologiska stöd Språkteknologiska stöd Hercules Dalianis DSV-SU-KTH / Stemming, trunkering, frågeexpansion Långa frågor och frassökning Stavningsstöd Synonymsökning KWIC- Key word in context Extrakt av relevanta textutdrag Hercules Dalianis 1 Hercules Dalianis 2 Förskolor Trunkering förskol* (förskolor, förskolelärare) Stemming + lite regler förskola => förskol, förskolelärare => förskolelärar Frågeexpansion- generera alla böjningsformer förskola => förskola, förskolan, förskolans, förskolor, förskolorna, förskolornas,etc. Samma effekt som stemming men mer kostsamt datamässigt Stemming Stemming (Carlberger et al 2001) bilverkstaden, bilverkstäder, mm => bilverkstad 15% bättre precision och 18% bättre täckning vid sökning på svenska. Andra språk upp till procent bättre träffar Hercules Dalianis 3 Hercules Dalianis 4 Slå ihop till samma ord webmaster, webbmaster, webbansvarig => webbmaster Mord,mordet, mördare => mörd Tomlinson (2001) (Hummingbird Fulcrum) ökade precisionen vid sökning genom att använda stemming tyska 43% holländska 30% franska 18% italienska 16% spanska 12%, engelska 12% Hercules Dalianis 5 Hercules Dalianis 6 1

2 Tomlinson (2002) (Hummingbird Fulcrum) ökade precisionen vid sökning genom att använda ordsplittring Mobiltelefonbatteri => mobil telefon batteri Finska 69%, (word splitting) Tyska 27% (word splitting) Spanska 8% Holländska 8%, Franska 6%,? Italienska 4%,? Svenska 4% Engelska 2% användandes Inxight LinguistX tool (Xerox) Långa frågor Genomsnitt tvåordsfrågor 1.8 eller 2.3 ord per fråga Längre frågor ger bättre svar Större inmatningsfält Frassökning innebär att måste behålla stopporden NEAR och ordposition Större index - lika stort som dokumentsamlingen minst. Hercules Dalianis 7 Hercules Dalianis 8 Stavningsstöd d vid söknings Många felstavade sökord i sökmotorer 10 % minst Stavningsstöd => fuzzy matching Många felstavningar vid söknings 10 procent av alla sökfrågor är felstavade (1 miljon sökfrågor på RSVs webbplats, (Dalianis 2002)) Google pressrelease (2002) säger samma sak 10 procent av alla sökfrågor är felstavade på Sunets webbkatalog (Stolpe 2002) Euroling-SiteSeeker loggar säger procent felstavade sökfrågor (på 4 miljon sökfrågor totalt) Hercules Dalianis 9 Hercules Dalianis 10 Sökning i ordböcker Stava används i Lexin Skolverket en webbaserad ordbok, med bl.a. svensk-engelsk ordbok 7 miljoner uppslagningar per månad och där har man upp till 33 procent felstavningar totalt Sex olika typer av stavfel Personer som inte kan inte stava rätt- dyslektiker, andraspråksanvändare, mfl Slarvfel - slinter på tangentbordet Osäkra på stavningen Särskrivningar eller hopskrivningar Alternativa stavningar av ord i indexet (Namn stavas på olika sätt, Eriksson, Erikson, Erixon) Felstavningar i indexet Hercules Dalianis 11 Hercules Dalianis 12 2

3 Dynamiskt stavningsstöd Indexet är lexikonet Alla ord i indexet är rätt även felstavade ord. Om ett sökord ej finns i indexet försöker stavningsstödet hitta närmaste editerings-avstånd av sökordet till ett ord i indexet. Provar med olika näraliggande tangentbordsättningar insertion deletion Fyra feltyper substitution transposition täcker 80 procent av alla stavfel Hercules Dalianis 13 Hercules Dalianis 14 På RSV sökmotor med stavningsstöd korrigerades 90 procent av stavfelen 40 procent av förslagen var särskrivningar (datamässigt tungt) 30 procent är alternativa stavningar 22 procent var felstavningar Dokumentsamlingen innehöll drygt dokument Särskrivningar 40 procent utrikestraktamente => traktamente utrikes bilavgifter => avgifter bilar expertskatt => expert skatt skattejämkningsblankett => jämkningsblankett skattejämkning Hercules Dalianis 15 Hercules Dalianis 16 Alternativa stavningar 30 procent kyrkskatt => kyrkoskatt hempc => hem-pc rotavdrag => rot-avdrag arvsskifte => arvsskiftet pharmasia => pharmacia skattåterbäring => skatteåterbäring Stavfel 22 procent engångskatt => engångsskatt giftemål => giftermål jämnkning => jämkning skillsmässa => skilsmässa skiljsmässa => skilsmässa skattejämnkning => skattejämkning Hercules Dalianis 17 Hercules Dalianis 18 3

4 Stavningsstödets precision och täckning? t Sökning med stavningsstöd bland svenska nyhetstexter ökade precisionen och täckningen med 4 respektive 11,5 procent (Sarr 2003). Sökning med svensk stemming på texter ökade precisionen och täckningen med 15 resp 18 procent (Carlberger et al 2003). Sär- och hopskrivning Att göra automatisk särskrivning är datamässigt tungt rättstavning => rätt stavning Hopskrivningar lätt att göras automatiskt rätt stavning => rättstavning text sammanfattning => textsammanfattning Google, SiteSeeker Hercules Dalianis 19 Hercules Dalianis 20 KWIC-Snippets Snippets-Extrakt Prova att söka på Google med Utrikestraktamente Businessintelligence Särskrivning sker! KWIC- Key word in context Extrakt av relevanta textutdrag De första sökmotorerna hade bara länkadressen och kanske första orden i den indexerade texten Tvungen att klicka in i alla dokument Textsammanfattare SweSum ihopkopplad med Altavista 1999!! Hercules Dalianis 21 Hercules Dalianis 22 Sökmotorer med KWIC Google Altavista-Yahoo-Inktomi Alltheweb-Yahoo-Inktomi SiteSeeker Hercules Dalianis 23 Hercules Dalianis 24 4

5 Hercules Dalianis 25 Hercules Dalianis 26 Synonymgenerering Termexpansion vore bra att ha Bilverkstad => bilverkstad, bilreparation, garage, verkstad Man vill slippa använda synonymlexikon Gratis att söka för universitet, högskolor och skolor Sök på fordon och få träff på bil Synonymer och stemming! Hercules Dalianis 27 Hercules Dalianis 28 Latent semantic indexing LSI Latent Semantic Indexing (LSA Latent semantic analysis) Bygger på vektorrymdsmodellen Termer som befinner sig nära varandra kanske har med varandra att göra. Tidskrävande Samförekomster bilverkstad, bilreparation, bilskada, garage, Volvo, Sverige, mm Random indexing Approximation av Latent Semantic Indexing Snabbare och effektivare Hercules Dalianis 29 Hercules Dalianis 30 5

6 Google synonymsökning Demo Google ~ ~volvo => volvo car, cars ~volvo -volvo ~car -car => 240, vehicle, motor, racing, automotive, auto ~car => BMV, auto, motor, car ~car -car => automotive, motor vehicle, racing Hercules Dalianis 31 Hercules Dalianis 32 Trunkering Stemming Synonymer Stavningstöd LSI och RI Sammanfattning Hercules Dalianis 33 6