Lösningsförslag till tentamen i SF86 Optimeringslära för T. Onsdag 25 augusti 2 kl. 4. 9. Examinator: Per Enqvist, tel. 79 62 98. (a) Vi har ett nätverksflödesproblem med 5 noder. Låt x = (x 2, x 3, x 24, x 25, x 34, x 45 ) T vara variabelvektorn och vi noterar att den angivna punkten är en tillåten lösning till problemet och en baslösning eftersom den svarar mot ett spännande träd. Börja nätverksversionen av simplexalgoritmen i den angivna punkten. Låt nodpotentialen i nod 5 vara noll, dvs låt y 5 =. Utnyttja att r jk = c jk y j + y k = för basvariabler, vilket ger att y 2 = 3, y = 7, y 3 = 5 och y 4 = 2. För de två ickebasvariablerna har vi då att de reducerade kostnaderna ges av r 34 = 4 5 + 2 = och r 45 = 3 2 + = båda är positiva och den givna punkten är optimal. (b) Utför rad- och kolonnoperation på H tills vi erhåller matrisen 6 2/3 och vi noterar att matrisen inte är positiv på diagonal och alltså varken är positivt definit eller positivt semidefinit. Problemet att minimera f(x) är därför inte begränsat underifrån och det finns ingen optimal punkt för problemet. 2. (a) Problemet (P ) kan skrivas på standardform min c T x x (P ) s.t. Ax = b x där A = [ 3 [, b =, c = [ 2 T. Vi börjar med slackvariablerna x 4 and x 5 i basen, d.v.s. β = {4, 5} och δ = {, 2, 3}. [ [ 3 B =, N = 2 Då ger ekvationerna A T β y = c B och rδ T = ct δ yt A δ att [ y =, r T δ = [ 2.
Page 2 of 5 Lösningar Tentamen 2-8-25 SF86 Låt x 2 gå in i basen. Vilken variabel ska lämna basen? Från A β ā 4 = a 4, får vi ā 4 = (, ) T, och eftersom det första elementet är noll, så måste den andra basvariabeln, nämligen x 5, lämna basen. Nu är β = {4, 2} och δ = {, 5, 3}, och vi uppdaterar bas- och ickebasmatriser: A β = [ Nu ger ekvationerna A T β y = c β och r T δ [ y = 2 [ 3, A δ = = ct δ yt A δ att, r T δ = [ 2 3. Låt x 3 gå in i basen. Vilken variabel ska lämna basen? Från A β ā 3 = a 3, får vi ā 3 = (3, ) T, och eftersom det andra elementet är negativt, så måste den första basvariabeln, nämligen x 4, lämna basen. Nu är β = {3, 2} och δ = {, 5, 4}, och vi uppdaterar bas- och ickebasmatriser: [ A β = 3 Nu ger ekvationerna A T β y = c β och r T δ y = [ 2 [, A δ = = ct δ yt A δ att, r T δ = [ 2 2. Eftersom alla reducerade kostnader är positiva så är den aktuella baslösningen ˆx = (, 4 3, 3,, ) optimal. (b) Det duala problemet blir (D) max 2y + y 2 y då y y 2 y + y 2 2 y y 2 2 2y + y 2 5 Komplementaritet ger att bivillkor 2 och 3 är uppfyllda med likhet och vi ser att y = och y 2 = 2 uppfyller detta ekvationssystem. Dessutom uppfylls övriga bivillkor med strikt olikhet. (c) Först och främst uppfyller x b alla bivillkor, så det är en tillåten punkt. Vi kollar att c T x = b T y, dvs 2 3/2 2 /2 = 2 = 2 + 2, alltså är x optimal för primalen och y optimal för dualen enligt dualitetssatsen. 3. (a) Genom LDL T -faktorisering ser vi att: Matris H är inte positivt semidefinit, så motsvarande optimeringsproblem har ingen ändlig lösning.
SF86 Lösningar Tentamen 2-8-25 Page 3 of 5 Matris H 2 är positivt definit, så motsvarande optimeringsproblem har en unik ändlig lösning. Matriserna H 3 och H 4 är positivt semidefinita, men inte positivt definita, så motsvarande optimeringsproblem har en ändlig lösning om och endast om c j R(H j ). Eftersom c 3 R(H 3 ), så har motsvarande optimeringsproblem en ändlig lösning. (t.o.m. oändligt många lösningar som ligger på en linje i IR 2 ) Eftersom c 4 R(H 4 ), så har motsvarande optimeringsproblem ingen ändlig lösning. (b) Bestäm nollrummet till A A = [. Det spänns av kolumnvektorn Z = [. Den reducerade hessianen Z T H Z = 6 är positivt definit, så motsvarande optimeringsproblem Den reducerade hessianen Z T H 2 Z = 5 är positivt definit, så motsvarande optimeringsproblem Den reducerade hessianen Z T H 3 Z = 8 är positivt definit, så motsvarande optimeringsproblem Den reducerade hessianen Z T H 4 Z = 8 är positivt definit, så motsvarande optimeringsproblem 4. Gradienten till f är f(x) = [2x + 2x 3 +, 4x 2 + 4x 3, x 3 + 2x + 4x 2 + 4x 3 3, och hessianen ges av 2 f(x) = 2 2 4 4 2 4 + 2x 2 3. (a) Vi LDL T -faktoriserar, efter första steget får vi 2 4 4 4 8 + 2x 2 3, efter andra steget får vi 2 4 4 + 2x 2 3, och denna diagonalmatris är positivt definit för alla x och alltså är f strikt konvex.
Page 4 of 5 Lösningar Tentamen 2-8-25 SF86 (b) I punkten x () = har vi då d () = f(x () ), dvs d () = (,, ). Nästa punkt väljs med hjälp av exakt linjesökning, minimera g(α) = f(x () + αd () ) = f( α,, ) = α 2 α för positiva α. f är en kvadratisk funktion med positiv hessian, och därför konvex, och har alltså ett unikt minimum som ants där derivatan är noll, dvs i punkten ˆα = /2 (vilket är i det tillåtna området). Nästa punkt ges då av x () = x () + ˆαd () = ( /2,, ). (c) Det tillåtna området ges av x j för j =, 2, 3. Det kan beskrivas med hjälp av g i (x) för i =, 2, 3, 4, 5, 6 där g (x) = x, g 2 (x) = x 2, g 3 (x) = x 3, g 4 (x) = x, g 5 (x) = x 2, g 6 (x) = x 3. Då kan problemet skrivas min f(x) då g(x). I punkten x = (,, ), är bivillkoren,2,3 aktiva och 4,5,6 inaktiva (och alltså måste λ 4, λ 5, λ 6 alla vara noll). f(x ) + λ g(x ) = + λ + λ 2 + λ 3 =. Detta är sant för λ = >, λ 2 =, λ 3 =. Alltså är KKT och KKT3 uppfyllda. Eftersom x är tillåten så är även KKT2 uppfyllt och i och med att bivillkor,2,3 är aktiva och 4,5,6 är uppfyllda med strikt olikhet så är KKT4 uppfyllt. Problemet är konvext, så KKT-villkoren är ekvivalenta med de globala optimalitetsvillkoren och vi kan alltså säga att x är ett globalt minimum. 5. (a) Området är inte konvext. Punkterna x () = (, ) och x (2) = (, ) är tillåtna, men punkten /2x () + /2x (2) = är inte tillåten. Tillåtna området bestäms av att h(x) = x 2 + x2 2 =. Gradienten till denna funktion ges av h(x) = (2x, 2x 2 ). Målfunktionen ges av f(x) = Ax + Bx 2. Gradienten till denna funktion ges av f(x) = (A, B). Vi har att f + λ g = (A + λ2x, B + λ2x 2 ) =, om och endast om x = A/(2λ) och x 2 = B/(2λ). Värdet på λ bestäms genom att sätta in dessa punkter i bivillkoret, x 2 + x 2 2 = A2 4λ 2 + B2 4λ 2 = vilket ger λ = ± 2 A 2 + B 2. Funktionerna f och h är differentierbara oändlig många gånger i hela IR 2, gradienten för h är nollskild för alla tillåtna punkter, så problemet är reguljärt. Minimum måste då( antas i en punkt) som uppfyller ( KKT-villkoren och alltså A i en av punkterna, B A 2 +B 2 A och A, B 2 +B 2 A 2 +B 2 A ). Genom att 2 +B 2 jämföra målfunktionsvärdena i dessa två punkter ser vi att minimum antas i den senare av punkterna. (maximum antas i den andra)
SF86 Lösningar Tentamen 2-8-25 Page 5 of 5 (b) Det nya problemet har målfunktionen g(t) = f(x(t)) = A cos(t) + B sin(t). Det tillåtna området är nu konvext, men istället så är målfunktionen inte konvex eftersom g (t) = A cos(t) B sin(t) kommer att vara negativ för något t [ π, π om inte både A och B är noll. Så problemet är inte konvext nu heller. Låt t () =. Newtons metod ger nu att vi bestämmer riktningen till nästa punkt från g ()d () = g (), dvs Ad () = B så d () = B/A. Med ett enhetssteg blir nu nästa iterationspunkt t () = t () + d () = + B/A = B/A. Newtonmetoden ger en descentriktning om hessianen är positiv i iterationspunkten, dvs om A <.