Numerisk Analys, MMG410. Exercises 2. 1/33

Numerisk Analys, MMG410. Exercises 2. 1/33

1. A är en kvadratisk matris vars alla radsummor är noll. Visa att A är singulär. Låt e vara vektorn av ettor. Då är Ae = 0 A har icke-trivialt nollrum. 2/33

3. a) Visa attt matrisen A är singulär. A = 1 1 0 1 2 1 1 3 2 b) Hur många lösningar har systemet Ax = [2,4,6] T? a) A[1, 1,1] T = 0. b) Ae = [2,4,6] T, dvs. oändligt många lösningar. 3/33

4. Beräkna A 1 då A = 1 0 0 1 1 0 1 2 1 Inversen beräknas normalt med LU-faktorisering. Beteckna inversen med X, s.a. AX = I. Kolonnvis får vi Ax k = e k, där x k och e k är kolonn k i X resp. I. Vi har n linjära ekvationssystem att lösa. A är triangulär vilket förenklar lösningsprocessen. Vi kan i detta specialfall beräkna inversen med tre framåt substitutioner. 4/33

Problemet kan även lösas via ansats. En triangulär matris har en triangulär invers (om den existerar) s.a. (A 1 ) k,k = 1/a k,k. Ansatsen ger I = 1 0 0 0 1 0 0 0 1 vilket ger systemet (visa!) = 1 0 0 α 1 0 β γ 1 } {{ } X α 1 = 0 β +γ +1 = 0 γ 2 = 0 vilket ger α = β = 1 och γ = 2. 1 0 0 1 1 0 1 2 1 } {{ } A 5/33

5. A är kvadratisk med A 2 = 0 Visa att A är singulär. 0 = det(a 2 ) = (deta) 2 deta = 0. 6/33

6. Antag att A,B R n n Visa att (AB) T = B T A T samt (AB) 1 = B 1 A 1 (när A och B är ickesingulära). a) Vi visar istället (A T B) T = B T A. Detta är ekvivalent med det som efterfrågas om vi tar C = A T. Partitionera matriserna kolonnvis A = [a 1,...,a n ] och B = [b 1,...,b n ]. Vi får A T B = a 1 T a 2 T. a n T [ ] b1 b 2 b n = Transponatet av ovanstående blir a T 1 b 1 a T 2 b 1 a T n b 1 a T 1 b 2 a T 2 b 2 a T 2 b 2... = a T 1 b n a T 2 b n a T n b n a 1 T b 1 a 1 T b 2 a 1 T b n a 2 T b 1 a 2 T b 2 a 2 T b n... a T n b 1 a T n b 2 a T n b n b 1 T a 1 b 1 T a 2 b 1 T a n b 2 T a 1 b 2 T a 2 b 2 T a n... b T n a 1 b T n a 2 b T n a n vilket är lika med B T A. Likheten ovan följer av att x T y = y T x. 7/33

b) Det enklaste sättet är att multiplicera ihop matriserna och se att vi får enhetsmatrisen: (AB)(B 1 A 1 ) = A(BB 1 )A 1 = AIA 1 = AA 1 = I Multiplikationen från andra hållet följer analogt. 8/33

7. A är ickesingulär. Visa att (A 1 ) T = (A T ) 1 Vi skriver därför A T. Vi visar först att inversen är entydig. Om C är ickesingulär och CX = I, CY = I följer C(X Y) = 0, men C är ickesingulär så X Y = 0. Vidare är A T (A T ) 1 = I men det gäller även att I = A 1 A = (A 1 A) T = A T (A 1 ) T. Det följer att (A 1 ) T = (A T ) 1. 9/33

8. Beskriv, i punktform, hur man löser systemet [ ][ ] [ ] L1 0 x b =, B L 2 y c L 1 och L 2 är undertriangulära ickesingulära matriser. Vektorerna har partitionerats så att de passar ihop med blocken i matrisen. Systemet är ekvivalent med L 1 x = b Bx+L 2 y = c Algoritm: Lös L 1 x = b, bilda t = c Bx och lös slutligen L 2 y = t. 10/33

10. a) Beräkna LU-faktoriseringen av matrisen nedan. b) När är matrisen singulär? [ ] 1 a c b 11/33

10. a) Beräkna LU-faktoriseringen av matrisen nedan. b) När är matrisen singulär? [ ] 1 a c b = A = [ 1 a c b [ u11 l 11 l 11 u 12 l 21 u 11 l 21 u 12 +l 22 u 22 ] [ ] l11 0 = l 21 l 22 }{{} L ]. [ u11 u 12 0 u 22 ] } {{ } U l 11 u 11 = 1,l 11 u 12 = a,l 21 u 11 = c,l 21 u 12 +l 22 u 22 = b,l 11 = l 22 = 1. A = [ 1 0 c 1 ][ 1 a 0 b ca Singulär om b = ca. 12/33 ]

11. Visa att en symmetrisk och positivt definit matris A har: a) positiva diagonalelement; b) stor diagonal, a j,j +a k,k > 2 a j,k ; c) det till beloppet största elementet på diagonalen; d) har positiva diagonalelement, i D, i LDL T faktoriseringen (Du kan anta att den existerar). Definition: x T Ax > 0, x 0. a) Tag x = e k,e T k Ae k = a k,k. b) Med σ = sign(a j,k ) och x = e j +σe k fås x T Ax = a j,j +2σa j,k +a k,k > 0 a j,j +a k,k 2 > a j,k c) a j,k < a j,j +a k,k 2 max(a j,j,a k,k ) 13/33

d) Eftersom A är positivt definit kan man visa att LDL T -faktoriseringen alltid existerar (dvs. inget pivotelement kan bli noll). L är alltså ickesingulär och vi kan ta x = L T e k (e k är kolonn k i I). x kan inte vara noll (varför?) och vi får 0 < x T Ax = [L T e k ] T LDL T [L T e k ] = e T k De k = d k,k 14/33

13. Visa att matrisen nedan saknar LU-faktoriseringen: [ ] 0 1 1 0 15/33

13. Visa att matrisen nedan saknar LU-faktoriseringen: [ ] 0 1 1 0 Gör ansatsen [ ][ l1 0 u1 u 2 l 2 l 3 0 u 3 ] = [ 1 0 0 1 l 1 u 1 = 0 ] l 1 u 2 = 1, l 2 u 1 = 1 l 2 u 2 +l 3 u 3 = 0 l 1 u 1 = 0 l 1 = 0 eller u 1 = 0, men då kan inte l 1 u 2 = 0 och l 2 u 1 = 1. 16/33

14. Använd Choleskyfaktorisering för att avgöra för vilka α följande matris är positivt definit. [ ] α 1 A = 1 2 17/33

14. Använd Choleskyfaktorisering för att avgöra för vilka α följande matris är positivt definit. [ ] α 1 A = 1 2 Vi behöver antaga α 0 för första steget i Gausseleminationen: [ ] [ ] [ ] [ α 1 l11 0 l11 l = 21 l 2 11 ; l 11 l 21 = 1 2 l 21 l 22 0 l 22 }{{}}{{} l 21 l 11 ; l 2 21 +l2 22 L L T ] A = LL T, [ ] α 0 L = 1/ α För att kunna dra roten ur diagonalen 2 1/α måste α > 0 och 2 1/α > 0. Alltså α > 1/2. 18/33

18. u,v R n. När existerar (I uv T ) 1? Bestäm inversen när så är fallet (Den har nästan samma form som matrisen själv). a) Om matrisen är singulär existerar x 0 så att (I uv T )x = 0 dvs. x = u(v T x), dvs. x måste vara parallell med u. Tag x = u. Detta ger u = u(v T u) dvs. v T u = 1. Om v T u 1 är matrisen ickesingulär. (I uv T )(I σuv T ) = I σuv T uv T +uv T σuv T = I uv T (1+σ σv T u) Detta är enhetsmatrisen om σ = 1/(v T u 1) och v T u 1. 19/33

20. Visa att p, p = 1,2, verkligen är vektornormer. p = 1: 1) x 1 = n k=1 x k > 0 om x 0. 2) γx 1 = n 1 γx k = γ n 1 x k = γ x 1 3) x+y 1 = n 1 x k +y k n 1 ( x k + y k ) = n 1 x k + n 1 y k = x 1 + y 1 20/33

p = 2: 1) och 2) enkla, visar tredje villkoret. x+y 2 = (x+y) T (x+y) = x T x+2x T y+y T y x 2 2 +2 x 2 y 2 + y 2 2 = ( x 2 + y 2 ) 2 p = : 1) och 2) enkla, visar tredje villkoret. x+y = max x k +y k max k = x + y ( x k + y k ) max k k x k +max y k k 21/33

21. Visa att p, p = 1, verkligen är matrisnormer. p = 1: 1) A 1 = max j i a i,j så om A 0 finns något a i,j 0 varför A 1 > 0. 2) γa 1 = max j i γa i,j = max j i γ a i,j = γ max j i a i,j = γ A 1 3) A+B 1 = max j i a i,j +b i,j max j i ( a i,j + b i,j ) max j i a i,j +max j i b i,j = A 1 + B 1 Nu till submultiplikativiteten. Vi visar Ax 1 A 1 x 1 först. Det följer från definitionen av normen A 1 = max x 0 Ax 1 x 1 att A 1 Ax 1 x 1. Nu till AB 1. Antag att max antas för kolonn k i B: AB 1 = Ab k 1 A 1 b k 1 A 1 B 1 p = kan visas analogt. Ett trick är att A T 1 = A. 22/33

22. Visa att x A = (x T Ax) 1/2 definierar en vektornorm (elliptisk norm), då A är symmetisk och positivt definit. Låt A = CC T vara Choleskyfaktoriseringen av A. Då är x A = (x T Ax) 1/2 = (x T CC T x) 1/2 = ((C T x) T (C T x)) 1/2 = C T x 2 Vi kan alltså återinföra x A på tvånormen. Eftersom A är positivt definit och därmed ickesingulär är även C ickesingulär, varför C T x = 0 x = 0 Vi testar nu de tre normvillkoren: 1) x A > 0,x 0 ty C T x 2 > 0 om x 0 ty 2 är en norm. 2) αx A = αc T x 2 = α C T x 2 = α x A 3) x+y A = C T (x+y) 2 C T x 2 + C T y 2 = x A + y A 23/33

23. a) Visa att A max = max i,j a i,j definierar en matrisnorm, men att den ej är submultiplikativ. b) Visa att A F = ( i,j a i,j 2 ) 1/2 är en matrisnorm (Frobeniusnormen). a) 1) A max = max j,k a j,k > 0 om något a j,k 0. 2) γa max = max j,k γa j,k = γ max j,k a j,k = γ A max 3) A+B max = max j,k a j,k +b j,k max j,k ( a j,k + b j,k ) max j,k a j,k +max j,k b j,k = A max + B max Notera att denna norm inte är submultiplikativ. Tag A = ones(2). Då är AA max = 2, men A max = 1. 24/33

b) Låt vec(a) vara den vektor som fås om man staplar alla A:s kolonner på varandra. Vi ser att A F = vec(a) 2. 1) A F = vec(a) 2 > 0 om något a i,j 0. 2) γa F = γvec(a) 2 = γ vec(a) 2 = γ A F 3) A+B F = vec(a+b) 2 = vec(a)+vec(b) 2 vec(a) 2 + vec(b) 2 = A F + B F 25/33

24. Låt D = diag(d 1,...,d n ) med alla d i 0. Beräkna κ(d) (för de tre normer vi använder). 26/33

24. Låt D = diag(d 1,...,d n ) med alla d i 0. Beräkna κ(d). D 1 = diag(1/d 1,...,1/d n ). För en diagonalmatris gäller D = max k d k (för de tre normer vi använder). Så κ(d) = max d k max 1/d k = max d k /min d k. 27/33

25. Beränka κ 1 (A) som funktion av α då [ ] 1 α 1 1 28/33

25. Beränka κ 1 (A) som funktion av α då [ ] 1 α 1 1 Om α = 1 så är matrisen singulär och vi säger att κ(a) =. I annat fall gäller [ ] [ ] κ 1 (A) = 1 α 1 1 α 1 1 1 1 α 1 1 1 }{{}}{{} A 1 A 1 1 = max(1+ α,2) max(1+ α,2)/ 1 α }{{}}{{} A 1 A 1 1 Med andra ord, κ 1 (A) = 4/ 1 α om α < 1 och (1+ α ) 2 / 1 α annars. 29/33

26. Visa att en positivt definit matris är ickesingulär och att inversen är positivt definit. a) Om A är singulär existerar x 0 s.a. Ax = 0. Medför att x T Ax = 0, motsägelse! b) Vi kräver inte att A är symmetrisk utan vet bara att x T Ax > 0 om x 0. Tag x = A 1 y (notera att x = 0 y = 0). Vi får 0 < x T Ax = (A 1 y) T A(A 1 y) = y T A T y som är en skalär så att (y T A T y) T = y T A T y. Men (y T A T y) T = y T A 1 y. Alltså är 0 < y T A 1 y. 30/33

27. Antag att A = BB T där B är ickesingulär. Visa att A är symmetrisk och positivt definit. Symmetrisk ty A T = (BB T ) T = (B T ) T B T = BB T = A. Positivt definit ty x T Ax = xbb T x = (B T x) T B T x = B T x 2 2 > 0 om x 0. 31/33

28. Antag att B nedan, av ordning n+1, är symmetrisk och positivt definit, α är en skalär, a en kolonnvektor om n element, och A en kvadratisk matris av ordning n. [ ] α a T B = a A a) Visa att α > 0 och att A är positivt definit. b) Beräkna Choleskyfaktoriseringen av B i termen av α, a och A. 32/33

a) x T Bx > 0 om x 0. Tag x = e 1 0. Ger 0 < e1 TBe 1 = e1 T[α,aT ] T = α. Tag nu x T = [0,y] med godtyckligt y 0. Detta medför att [ ][ ] 0 < x T Bx = [0,y T α a T 0 ] = y T Ay. a A y }{{} = at y Ay b) Gör ansatsen (L matris, z vektor, och λ skalär): [ ] [ ][ ] [ α a T λ 0 λ z T λ 2 λz = a A z L 0 L T = T λz zz T +LL T }{{}}{{} L L T ] vilket medför λ = α, z = a/ α och LL T = A zz T = A aa T /α. 33/33