Institutionen för Matematiska Vetenskaper TENTAMEN I LINJÄR ALGEBRA OCH NUMERISK ANALYS F1/TM1, TMA

Transkript

1 Institutionen för Matematiska Vetenskaper Göteborg TENTAMEN I LINJÄR ALGEBRA OCH NUMERISK ANALYS F/TM, TMA DAG: Måndag 6 maj 4 TID: SAL: V Ansvarig: Ivar Gustafsson, tel: Förfrågningar: Ivar Gustafsson, tel: Lösningar: Anslås vid sal MVF Resultat: Tentan beräknas vara rättad senast 6 juni, resultat tillsänds dig. Betygsgränser: 3, 4, 54 av maximalt 6 poäng Bonus (högst poäng) från inlämningsuppgifter får tillgodoräknas. Hjälpmedel: Inga Iakttag följande: - Skriv tydligt och disponera papperet på lämpligt sätt - Börja varje ny uppgift på nytt blad - Alla svar skall väl motiveras Uppgift. Låt A =. LYCKA TILL! a) Bestäm en bas för nollrummet N(A). (p) b) Bestäm en bas för värderummet V (A). (p) c) Gör en LU-faktorisering utan pivotering av A. (p) d) Låt följande matriser L och U vara faktorer i en LU-faktorisering av en matris B: L = 3 U = Avgör, utan att bilda B, om pivotering har skett, om B är symmetrisk och om B är positivt definit. (3p)

2 Uppgift. En Householdermatris av ordning n n har formen H = I uu T med u R n och u =. a) Bestäm Householdermatrisen som speglar y = till z = i R 3, speciellt ange vektorn u. Vad uttrycker vektorn u geometriskt? (p) b) Bestäm alla egenvärden och motsvarande egenvektorer till en Householdermatris av ordning n n. (3p) c) Betrakta en rotation i R, en vinkel θ runt origo. Ta fram matrisen för avbildningen. Visa att avbildningen är ortogonal. (p) Uppgift 3. a) Gör en full SVD och en kompakt SVD av matrisen A =. (p) b) Bestäm effektiva konditionstalet till matrisen A i a)-uppgiften. (p) c) Beskriv vad som menas med en trunkerad SVD samt ge ett relevant exempel på användningsområde för trunkerad SVD. (p) d) Ange en formel för ˆx, en lösning med SVD till minsta-kvadratproblemet min x Ax b, där A R m n, med m > n. Visa att ˆx löser problemet. Visa att om A inte har full rang så är lösningen till minsta-kvadrat problemet inte entydig. (3p) Uppgift 4. Betrakta den kvadratiska formen Q(x) = 4x + 4x + 3x 3 + 3x 4 + 4x x x 3 x 4. a) Bestäm största och minsta värde på Q(x) under villkor att x T x =. (3p). b) Bestäm en vektor u med u T u = så att Q(u) är maximal. (p) c) Bestäm två linjärt oberoende vektorer x och y med x T x = y T y = för vilka Q(x) och Q(y) blir minimal. (p) Uppgift 5. a) Visa att Newtons metod för ekvationslösning i en variabel konvergerar linjärt med asymptotisk felkonstant C=/3 vid trippelrot (multiplicitet = 3). Du får anta att funktionen är tillräckligt reguljär så att ditt bevis fungerar. (3p) { b) Betrakta ekvationssystemet x 3 3x = x x 3 + 4x =. Gör en iteration med Newtons metod med start i origo. (3p) c) Vad innebär Newtons modifierade metod? Ange fördelar och en väsentlig nackdel med metoden. (p)

3 Uppgift 6. Betrakta följande tabell över funktionsvärden av en funktion f(t) i tre punkter. t - 3 f - a) Bestäm en approximation till 3 f(t) dt med trapetsformeln. (p) b) Bestäm interpolationspolynomet genom de tre punkterna. (p) c) Bestäm en kvadratisk spline s(t) som interpolerar f i de tre punkterna och som uppfyller s (3) =. (3p) Uppgift 7. Heuns metod för begynnelsevärdesproblem för ordinära differentialekvationer definieras av: y k+ = y k + h {f(t k, y k ) + f(t k+, y k + hf(t k, y k ))} Betrakta prediktor/korrektorparet Heuns metod som prediktor och trapetsmetoden som korrektor för att lösa begynnelsevärdesproblem för system av ordinära differential-ekvationer. a) Anta att man gör en fixpunktsiteration i korrektorn. Skriv upp den explicita metod man då får. (3p) b) Bestäm approximationsordning för metoden i a-uppgiften. (3p) c) Bestäm stabilitetsområdet för metoden i a-uppgiften. Vad blir stabilitetsområdet om man itererar till full konvergens i fixpunktsiterationen? (p) Uppgift 8. a) Definiera vad som menas med en tillåten riktning och vad som menas med en descentriktning vid optimering med bivillkor. (p). b) En Kvasi-Newton metod (vid optimering utan bivillkor) definieras av att sökriktningen s k bestäms från ett ekvationssystem: B k s k = f(x k ). Visa att s k blir en descentriktning om B k är positivt definit. (p) c) Gör ett steg med steepest descentmetoden på problemet min xt Hx + b T x, x R 3, med H = och b =. Starta i origo och gör optimalt val av steglängd. 3 (3p) 3

4 Institutionen för Matematik Göteborg a) Gausselimination: F/TM - Linjär algebra och numerisk analys, TMA67 Lösningar till tentamen 6 maj 4 Homogena systemet med denna uppåt triangulära matris har parameter-lösningen x = t ( ) T, så en bas för nollrummet är { ( ) T }. b) Vi ser att de två första kolonnerna i Gauss-elimineringen är pivot-kolonner, då spänns kolonnrummet av de två första kolonnerna i ursprungsmatrisen, dvs { ( ) T T, } är bas för kolonnrummet. c) LU-faktoriseringen görs parallellt med Gausseliminationen i a)-uppgiften. Samma radoperationer ska reducera L till I. Vi får L =, U = d) Pivotering har inte skett eftersom det finns element i L som är större än till belopp. Eftersom U = DL T med D = diag(,, 3) så är B = LDL T och därmed symmetrisk. Vidare är x T Bx = (L T x) T D(L T x) med ett element i D negativt. Alltså är B inte positivt definit. (Exempelvis ger x = ( ) T att x T Bx = ). a) Bestäm först u = (y z)/ y z = ( ) T /. Matrisen blir sedan H = I uu T =. b) Rimligen testar man den enda vektor som är given nämligen u. Detta ger Hu = u u = u. Alltså är u egenvektor med egenvärde -. H skiljer sig från I med en rangett matris uu T så den har egenvärdet med (algebraisk) multiplicitet n. Detta inses även genom att för v ortogonal mot u gäller Hv = v, alltså egenvärde och alla vektorer ortogonala mot u är egenvektorer motsvarande egenvärdet. c) Vi kontrollerar vad avbildningen, säg T, gör på standardbaselementen i R. Vi får T (e ) = (cos θ sin θ) T, T (e ) = ( ( sin θ cos θ) T. ) Avbildnings matris har dessa svarsvektorer som kolonner dvs. M =. Man beräknar enkelt M cos θ sin θ sin θ cos θ T M = I (trigonometriska ettan), alltså är M ortogonal. 3a) Vi får direkt att A = = UΣV T, som alltså ger den.

5 fulla SVD-faktoriseringen. Den kompakta blir då A = ( ) ( U Σ r V T. 3b) Det effektiva konditionstalet är kvoten mellan de största och minsta positiva singulära värdena, dvs. effektiva konditionstalet är. 3c) Kompakt SVD kan skrivas A = U Σ r V T = r i= σ iu i v T i, där u i och v i är kolonnerna i U resp V. Trunkerad SVD ger en approximation av matrisen genom att färre termer tas med i summan dvs (med k < r) A k = k i= σ iu i vi T, vi antar σ i i avtagande storlek. Tillämpning: Bildkomprimering, modellreduktion, skilja brus från signaler etc. 3d) Låt A = U Σ r V T vara kompakt SVD av A. Då är ˆx = V Σ r U T b en lösning ty Aˆx = U Σ r V T V Σ r U T b = U U T b, där V (U ) = V (A) (värderummen lika), dvs ˆb = Aˆx är ortogonala projektionen av b på V (A). En allmän lösning är då ˆx + x h där x h N(A) enligt teorin för linjära ekvationssystem. Eftersom A inte har full rang så är dim N(A) > så lösningen är inte entydig. 4a) Den kvadratiska formen kan skrivas Q(x) = x T Ax med A = Egenvärdena till A är egenvärdena till diagonalblocken dvs (i storleksordning) λ = 6, λ = 4, λ 3,4 = (multipelt). Enligt Sats 4.4 i kompendiet blir största värdet på Q(x) lika med λ max x T x som alltså är 6 =. 4b) Vi bestämmer egenvektorn u som hör till största egenvärdet λ = 6. Detta görs på vanligt sätt och ger u = ( ) T, som är lösningen eftersom u T u =. 4c) Lösningen är egenvektorer som hör till minsta egenvärdet dvs λ 3,4 =. Två aktuella egenvektorer bestäms på vanligt sätt: x = ( ) T T, y =. 5a) Taylorutveckla f och f kring lösningen x : f(x k ) = f(x ) + f (x )(x k x ) + f (x )(x k x ) + f (x )(x 6 k x ) 3 + O((x k x ) 4 ) f (x k ) = f (x ) + f (x )(x k x ) + f (x k x ) + O((x k x ) 3 ) Teckna Newtons metod och utnyttja att f(x ) = f (x ) = f (x ) = för trippelrot: x k+ = x k f(x k) = x f (x k ) k 6 f (x )(x k x ) 3 +O((x k x ) 4 ) x f (x )(x k x ) +O((x k x ) 3 ) k (x 6 k x ) då x k x. Så x k+ x x k x (x 3 k x ) = (x 3 k x ) eller x k+ x x k då x x 3 k x vilket ger C =. 3 ( ) x 5b) Vi skriver ekvationssystemet som f(x) =, där f(x) = 3 3x x x 3. Jacobianen beräknas till J(x) = 3 + 4x ( ) 3x x + 4 3x. I startpunkten x = blir 3 f = och J =. Ekvationssystemet J 4 s = f har lösningen /4 /4 s = och första iterationen blir x /3 = x + s =. /3. ) =

6 5c) Modifikationen innebär att Jacobianen väljs konstant, t.ex. som Jacobinen i startpunkten, genom iterationerna. Fördelar är att derivatorna inte behöver beräknas om och att Jacobianen bara behöver faktoriseras en gång. Nackdel är att konvergensen inte längre blir kvadratisk för reguljär rot. 6a) Integralen approximeras med (f( ) + f()) + 3 (f() + f(3)) = 6b) Ansätt polynomet som p(t) = x + x (t + ) + x 3 (t + )t. Bestäm koefficienterna successivt genom att sätta in interpolationsvillkoren: p( ) = x = p() = + x = x = p(3) = 5 + 5x 3 = x 3 = 3 Interpolationspolynomet blir p(t) = (t + ) (t + )t. 3 6c) Splinen har två delar: s (t), t, s (t), t 3. Ansätt s = +a(t 3)+b(t 3) (så att villkoret s (3) = gäller) med s = a+b(t 3). Villkoret s (3) = ger a = och villkoret s () = ger så b =. 9 Vi har alltså bestämt s (t) = + (t 9 3) med s () = 4. 3 Ansätt vidare s = ct+dt (så att vilkoret s () = gäller) med s = c+dt. Splinevillkoret s () = 4 ger c = 4 och villkor s 3 3 ( ) = ger så d = 5. Vi har alltså bestämt s = 4t 5 3 t. 7a) Trapetsmetoden är y k+ = y k + h[f(t k, y k ) + f(t k+, y k+ )] Med en fixpunktsiteration från Heuns metod blir metoden: y k+ = y k + h[f(t k, y k ) + f(t k+, y k + h{f(t k, y k ) + f(t k+, y k + hf(t k, y k ))})]. 7b) Metoden på testproblemet y = λy blir y k+ = y k + h[λy k + λ(y k + h{λy k + λ(y k + hλy k )})] = y k ( + hλ + h λ + h3 λ 3 ). 4 Formeln stämmer till tre termer med exakta lösningens tillväxtfaktor e hλ = + hλ + h λ... och metoden är då av ordning. + h3 λ 3 6 7c) Stabilitetsområdet är de z = hλ som ger begränsade lösningar. Från b)-uppgiften ger detta: {z C; + z + z + z3 }. 4 Om man itererar till konvergens i prediktorn så blir metoden trapetsmetoden som har hela vänstra halvplanet av komplexa talplanet som stabilitetsområde (den är A-stabil). 8a) Låt optimeringsproblemet vara min f(x) då x X, där X är det tillåtna området. s är en tillåten riktning i x om x + αs X för < α < δ för något δ. s är en descentriktning i x om f(x + αs) < f(x) för < α < δ för något δ. 8b) Om x ligger i det inre av X så är s en tillåten descentriktning om f(x) T s <. Detta gäller om B k är positivt definit eftersom då är s T k f(x k) = s T k B ks k som är positivt. 8c) Låt f(x) = xt Hx + b T x, då är gradienten f(x) = Hx + b. I startpunkten x = ( ) T är gradienten g = () T och steepest descentriktningen s = () T. Formeln för val av steglängd vi kvadratisk funktion ger α = gt s s T Hs ger x = ( ) T ( )T = ( )T. = 4 =. Detta 3