14. Minsta kvadratmetoden

Transkript

1 58 MINSTA KVADRATMETODEN. Minsta kvadratmetoden Eempel.. Det är inte så svårt att komma åt en trasig lampa på golvet för att byta den. Det är bara att gå fram till den. Hur är det om lampan hänger i taket? Var ställer man sig för att komma så nära lampan som möjligt. Lösning: Låt oss välja en av rummets punkter till origo och låt vektorerna u = v = och spänna upp golvet. Antag att lampan befinner sig i en punkt med ortsvektorn b. Då kan problemet formuleras matematiskt som att söka lösning till ekvationssystemet u + v = b. Om lampan ligger på golvet, dvs b är en linjärkombination av u och v, så har ekvationssystemet en lösning. Då är det bara att gå fram till lampan. Figur.2. v b u Om däremot lampan hänger högt upp i taket, betyder det att vektorn b inte är en linjärkombination av u och v, dvs ekvationssystemet u+ v = b + = = A = b 2 (.2) saknar lösning. Man söker självklart att minimera avståndet A b, dvs man ställer sig naturligtvis rakt under lampan.

2 59 Vi ska i det här avsnittet försöka ge svar på följande frågeställning: Problem: Sök så att A blir närmaste vektorn till b, dvs minimera avståndet (eller felet) A b. Figur.3. %# %!#! #'#%#!#(+ * #! $# ()# "# % &&! #'#() * # Enligt Sats 2.25 och Anmärkning 2.26 löser tydligen den ortogonala projektionen av b på planet vårt problem, ty den har kortast avstånd till b. Vi väljer så att vektorn b A är ortogonal mot planet, dvs u (A b) = v (A b) = Vi skriver om skalärprodukten som en matrisprodukt i stället: u t (A b) = v t (A b) = dvs u t v t (A b) =. Idenförsta parentesen står alltså A :s kolonner u t och v t omställda som rader, dvs A t (A b) = A t A = A t b. Definition.. Sambandet A t A = A t b (.3) kallas för normalekvationen och för en minsta kvadratlösning till A = b.

3 6 MINSTA KVADRATMETODEN Observera: Matrisen A t A är symmetrisk. Anmärkning.5. Om ekvationssystemet A = b saknar lösning, så kallar vi metoden för minsta kvadratmetoden förkortat MK-metoden när vi löser systemet A = b via normalekvationen A t A = A t b. Vi går tillbaka till Eempel. och löser normalekvationen: A t A = A t b = 2 Förenkling ger = Minsta kvadratlösningen till ekvationssystemet (.2) är då = Vi beräknar också felet. Eftersom b A =. =,.. blir felet A b =.

4 6 Nästa eempel visar kopplingen mellan MK-metoden och teorin för euklidiska rum. Många av eemplen vi har sett i euklidika rum kan lösas med hjälp av MK-metoden. I själva veket så är det Sats 2.22 vi använder när vi säger att vi använder MK-metoden. Men eftersom tillämpningar är många och viktiga så har metoden fått eget namn och ett eget kapitel. Eempel.6. Låt W =[(,,, ) t, (,,, ) t, (,,, ) t ] E och låt u =(,, 3 ) t vara en godtycklig vektor i E 3.. Bestäm med MK-metoden den ortogonala projektionen P W (u) =u W. 2. Vilken vektor i W ligger närmast (,,, ) t? Lösning:. Enligt MK-metoden så söker vi den vektor λ (,,, ) t + λ 2 (,,, ) t + λ 3 (,,, ) t i W som ligger närmast u =(,, 3 ) t,dvs λ λ 2 = λ 3 3 A = b. Detta system saknar i allmänhet lösning eftersom u är godtycklig och behöver inte ligga i W. Vi bestämmer en minsta kvadratlösning ( )/ λ = ( )/ A t A = A t b ( + 3 )/ λ 2 = ( + 3 )/ ( + 3 )/ λ 3 = ( + 3 )/ Ortogonala projektionen P W (u) =u W av u på W ges av P W (u) = = = Av alla vektorer i W är P W (u) =u W den som ligger u närmast. Detta ger P W ((,,, ) t )= Jämför detta eempel med Eempel =

5 62 MINSTA KVADRATMETODEN Eempel.7. Bestäm i minsta kvadratmening en lösning till Lösning: Vi börjar med att skriva systemet på matrisform och får 6 2 = 9, dvs A = b = = 9 2 = 2 Löser vi sen normalekvationen A t A = A t b, får vi minsta kvadratlösningen 7 =. Geometriska tolkningen av ekvationerna i systemet är räta linjer i planet och den sökta lösningen är därmed skärningspunkten mellan de tre linjerna. Figur.8.

6 63 Eempel.9. Avgör för vilka värden på konstanten a som ekvationssystemet + y + z = + ay + 2z = + 2y + az = saknar lösning. Bestäm för dessa värden på a en minsta kvadratlösning till ekvationssystemet. Lösning: Systemet kan skrivas på matrisform A = b, där A = a 2 och b = 2 a Vi undersöker nu det A. Vi har att det A = a 2 = 2 a a =,a=2. Systemet har alltså entydig lösning för a =, 2. För a = har systemet oändligt många lösningar. Medan för a = 2 saknar systemet lösning. För detta a =2bestämmer vi en minsta kvadratlösning till ekvationen A = b, dvsenlösning till normalekvationen A t A = A t b. Minsta kvadratlösningen är (, y, z) = t(,, )..

7 6 MINSTA KVADRATMETODEN Eempel.. Anpassa en rät linje, y = k + m,påbästa möjliga sätt till följande mätdata: 2 2 y Lösning: Sätter vi in mätdata i linjens ekvation får vi ekvationsystemet: 2k + m = 2 k + m = 5 k + m = 2 dvs k 5 = k + m = 7 m 2 dvs A = b. 7 2k + m = 2 Lös normalekvationen A t A = A t b så fås = bästa linjen är y = Figur.. k m = 2 5 dvs y y=2 + 5