Institutionen för Matematiska Vetenskaper Göteborg TENTAMEN I LINJÄR ALGEBRA OCH NUMERISK ANALYS F, TMA67-8-5 DAG: Onsdag 5 augusti TID: 8.3 -.3 SAL: V Ansvarig: Ivar Gustafsson, tel: 75-33545 Förfrågningar: Ida Säfström, tel 73-8834 Lösningar: Anslås vid sal MVF Resultat: Tentan beräknas vara rättad senast september, resultat tillsänds dig. Betygsgränser: 3, 4, 54 av maximalt 6 poäng Bonus (högst poäng) från inlämningsuppgifter får tillgodoräknas. Hjälpmedel: Inga Iakttag följande: - Skriv tydligt och disponera papperet på lämpligt sätt - Börja varje ny uppgift på nytt blad - Alla svar skall väl motiveras Uppgift. Låt A = LYCKA TILL! a) Bestäm rangen Rank(A). (p) b) Gör en LU-faktorisering (utan pivotering) av A. (p) c) Bestäm de singulära värdena till A. (p) d) Bestäm konditionstalet i -norm till A med hjälp av de singulära värdena. (p). Uppgift. a) Definiera normen av en matris utgående från en vektornorm. (p) b) Ge en formel för -normen av en matris. (p) c) Visa att -normen av en vektor är invariant under ortogonal transformation dvs visa att Qx = x för x R n och Q R n n ortogonal matris. (p) d) Visa att alla egenvärden till en reell ortogonal matris har beloppet lika med. (p)
Uppgift 3. Låt avbildningen T : P P 4, där P n är rummet av polynom av grad n, vara definierad av T (p(t)) = tp(t) + t p(t). a) Visa att T är linjär. (p) b) Bestäm matrisen för avbildningen i standardbaserna för P och P 4. (p) c) Visa att B = {, + t, + t + t } är bas i P. (p) d) Bestäm matrisen för avbildningen i basen B (från c-uppgiften) för P och standardbasen för P 4. (p) Uppgift 4. a) låt Q(x) = x T Ax, med A R n n symmetrisk, vara en kvadratisk form. Visa att λ min xt Ax x T x max, där λ min och λ max är minsta och största egenvärde till A. Visa att gränserna antas med likhet då x är egenvektor hörande till λ min respektive λ max. (3p) b) Betrakta den kvadratiska formen Q(x) = x + 3x + x 3 x x 3. Karakterisera den kvadratiska formen. Bestäm största och minsta värde på Q(x) då x =. Bestäm alla vektorer u med u = sådana att Q(u) blir maximal resp. minimal. (4p) Uppgift 5. a) Betrakta ett minsta-kvadrat-problem min x Ax b, där A R m n, m > n, har full rang och b R m, x R n. Visa med hjälp av normalekvationerna att lösningen till problemet ges av systemet Rx = Q T b, där A = QR är en QR-faktorisering av A. (3p) b) Vid icke-linjär minsta-kvadrat kan Gauss-Newtons metod användas. Härled den metoden. (3p) c) Anta att du vill anpassa parametrarna α, β och γ i modellen Ψ(t) = α + e βt + sin(γt) till mätdata enligt tabellen: t 3 4 Ψ 3 Ange explicit det ekvationssystem som ska lösas i varje iteration i Gauss-Newtons metod. (3p) Uppgift 6. Betrakta följande tabell över funktionsvärden av en funktion f(t) i fem punkter: t 3 4 f - a) Bestäm en approximation till 4 f(t) dt med trapetsformeln. (p) b) Bestäm interpolationspolynomet genom de fem punkterna. (3p)
Uppgift 7. Betrakta optimeringsproblemet i två variabler utan bivillkor: min[ x + ] x x + x 3x. a) Lös problemet genom iteration med Newtons metod från x =. (p) [ ] b) Gör en iteration med Steepest Descent metoden från x = och exakt linjesökning. (3p) c) Ge exempel på ett linjärt programmeringsproblem (LP-problem) som kommer från en relevant tillämpning. Formulera LP-problemet matematiskt. (p) Uppgift 8. Betrakta prediktor/korrektorparet Eulers framåtmetod som prediktor och Eulers bakåtmetod som korrektor för att lösa begynnelsevärdesproblem för system av ordinära differentialekvationer. a) Anta att man gör två fixpunktsiterationer i korrektorn. Skriv upp den explicita metod man då får. (3p) b) Bestäm approximationsordning för metoden i a-uppgiften. (p) c) Bestäm stabilitetsområdet för metoden i a-uppgiften. (p) d) Anta att du vill använda metoden på systemet y = Ay med A = 3. Blir metoden säkert stabil om du väljer steglängd h = /5? (p) 3
Institutionen för Matematik Göteborg a) Gausselimination: F - Linjär algebra och numerisk analys, TMA67 Lösningar till tentamen 5 augusti Vi ser alla tre kolonnerna är pivotkolonner och spänner värderummet som då är av dimension 3, dvs rangen av matrisen är 3. b) LU-faktorisering är en variant på Gausselimination, där räkningarna administreras så att A = LU, där U är den uppåt triangulära matris som är resultatet av eliminationen och L är nedåt triangulär med ettor i diagonalen. Från a)-uppgiften får vi då A = LU med L = c) De singulära värdena är roten ur egenvärdena till matrisen A T A =. Egenvärdena är λ = 4 samt egenvärdena till delmatrisen [ 4 4 4 ]. De senare är λ = 3 + 5, λ 3 = 3 5. De singulära värdena är alltså, 3 + 5 och 3 5. d) Konditionstalet är kvoten mellan största och minsta singulära värde dvs (3 + 5]. Ax a) A = max x. x b) A = max(λ(a T A)) (roten ur största egenvärde till A T A). c) Qx = x T Q T Qx=(Q ortogonal)= x T x = x. d) Qx = λx Qx = λ x λ = Qx x = (enligt c)-uppgiften). 3a) T (p + q) = t(p + q) + t (p + q) = tp + t p + tq + t q = T (p) + T (q) T (cp) = t(cp) + t (cp) = c(tp + t p) = ct (p). 3b) Standardbasen är B = {b i = t i } n+ i=. Avbildningen på baselementen blir T (b ) = t + t = b + b 3, T (b ) = t + t 3 = b 3 + b 4, T (b 3 ) = t 3 + t 4 = b 4 + b 5 Matrisen blir [T ] B =
3c) Den nya basen är C = {, + t, + t + t }. Överföringsmatrisen till bas B = P B C =. Denna matris är reguljär så basen C är ok! 3d) För avbildningens matris i denna bas beräknar vi T (c ) = T () = t + t = b + b 3, T (c ) = T ( + t) = t + t + t + t 3 = b + b 3 + b 4, T (c ) = T ( + t + t ) = t + t + t 3 + t + t 3 + t 4 = b + b 3 + b 4 + b 5. Matrisen blir då [T ] C = 4a) Eftersom A är symmetrisk är den ortogonalt diagonaliserbar. Vi kan alltså skriva x T Ax = y T Dy, y = P T x x = P y, där D är diagonal med egenvärden på diagonalen och P är ortogonal med egenvektorer som kolonner. Vi får då Q(x) = Q(P y) = y T Dy = λ y +... + λ n y n λ min (y +... + y n) = λ min y T y = λ min x T x Likhet får vi om y i = för alla λ i > λ min dvs för x = P y = y i u i λ i =λ min där u i är egenvektor motsvarande λ i. Då är Ax = λ min y i u i = λ min x λ i =λ min dvs x är egenvektor hörande till λ min. På samma sätt visas övre gränsen. 4b) Den kvadratiska formen kan skrivas Q(x) = x T Ax med A = 6 3 6 Egenvärden och egenvektorer till A bestäms. Karakteristiska ekvationen 3 (3 λ)[( λ)( λ) 36] har lösningarna λ = 8 4,, Egenvärden har olika tecken så den kvadratiska formen är indefinit. Enligt sats i Lay gäller 4 Q(x) x T x och undre gränsen antas för x = u = ± [ ] T.. med motsvarande egenvektorer 8, där övre gränsen antas för x = u = ± [ ] T
5a) Normalekvationerna är A T Ax = A T b. Med A = QR där Q är ortogonal och R är uppåt triangulär och reguljär (eftersom A har full rang), får vi (QR) T (QR)x = (QR) T b R T Q T QRx = R T Q T b Rx = Q T b (eftersom Q är ortogonal och R T reguljär). 5b) Det icke-linjära minsta-kvadrat-problemet formuleras min x f(x). Taylorutveckla f kring en approximation x k : f(x) f(x k ) + J(x k )(x x k ). Den linjära modellen för ett iterationssteg blir då: min x f(x k ) + J(x k )(x x k ), där lösningen x tas som nästa approximation x k+, som alltså fås ur det överbestämda linjära systemet J(x k )(x k+ x k ) = f(x k ). Ett sådant system ska alltså lösas i varje iteration av Gauss- Newtons metod. Det kan göras med exempelvis QR-faktorisering som i a)-uppgiften. 5c) Låt f i = Ψ(x, t i ) Ψ i vara residualerna där Ψ i är uppmätt värde i tid t i enligt tabellen och x = (α, β, γ) T. Vi får då f(x) = Gauss-Newtons metod skrivs: α α + e β + sinγ α + e β + sinγ α + e 3β + sin3γ α + e 4β + sin4γ 3 Jacobianen blir J(x) = { xk+ = x k + s k J(x k )s k = f(x k ) 6a Integralen approximeras med.5(f() + f() + f() + f(3) + f(4)) =.5( + + + + ] =.5 e β cosγ e β cosγ 3e 3β 3cos3γ 4e 4β 4cos4γ 6b Ansätt polynomet som p(t) = c +c t+c t(t )+c 3 t(t )(t )+c 4 t(t )(t )(t 3). Bestäm koefficienterna successivt genom att sätta in interpolationsvillkoren: p() = c = p() = c + c = c = p() = c + c + c = c = / p(3) = c + 3c + 6c + 6c 3 = c 3 = /3 p(4) = c + 4c + c + 4c 3 + 4c 4 = c 4 = /8 Interpolationspolynomet blir p(t) = + t t(t ) + t(t )(t ) t(t )(t )(t 3) 3 8 3
[ 7a) Objektfunktionen är f(x) = x +x x +x x + x 3x med gradient f = 3 ] x + 4x [ 4 och Hessian. Objektfunktionen är kvadratisk så det bli en iteration med Newtons [ ] [ ] [ ] [ ] 3 3 metod: x = x H\ f = + \ =. 4.5 7b) Vi ska minimera längs riktningen d = f = [3 ] T. Exakt linjesökning vid kvadratisk funktion ges av steglängden: α = f T d = 9 =.5. Nästa approximation d T Hd 8 blir alltså x = x + αd = [.5 ] T. 7c) Exempelvis dietproblem: Du ska äta av n varor som kostar c, c,..., c n och innehåller a ij, i =,... m, j =,..., n enheter av m kvaliteter (protein, vitaminer mm). Du ska äta till minsta kostnad men få minst b, b,..., b m enheter av kvaliteterna. Problemet blir: min x c T x då Ax b. 8a) (p) y k+ = y k + hf(t k, y k ) (k) y k+ = y k + hf(t k+, y k+ ) En fixpunktsiteration ger: y k+ = y k + hf(t k+, y k + hf(t k, y k )). Två fixpunktsiterationer ger: y k+ = y k + hf(t k+, y k + hf(t k+, y k + hf(t k, y k ))) 8b) Metoden på testproblemet y = λy blir y k+ = y k + hλy k + (hλ) y k + (hλ) 3 y k = y k [ + hλ + (hλ) + (hλ) 3 ]. Formeln stämmer till två termer med exakta lösningens tillväxtfaktor e hλ = +hλ+ h λ +... och metoden är då av ordning. 8c) Stabilitetsområdet är de z = hλ som ger begränsade lösningar. Från b)-uppgiften ger detta: {z C; + z + z + z 3 }. 8d) Största egenvärde (till belopp) är λ = med z = hλ =. Insatt i stabilitetskravet i c)-uppgiften får vi + 4 8 = 5 som inte uppfyller kravet att vara. Vi kan inte garantera stabilitet i det långa loppet. ] 4