TSRT62 Modellbygge & Simulering Föreläsning 4 Christian Lyzell Avdelningen för Reglerteknik Institutionen för Systemteknik Linköpings Universitet C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 1 / 23
Sammanfattning: Föreläsning 3 Icke-parametriska skattningsmetoder för linjära system Rent impulssvar : bruskänsligt Korrelationsanalys : ger god noggrannhet om antalet data är tillräckligt stort Överföringsfunktionen ur skattningar av fouriertransformer : brusigt Överföringsfunktionen ur spektralskattningar. Fönster: avvägning mellan frekvensupplösning och minskning av varians. C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 2 / 23
Kommentar: Föreläsning 3 Inverkan av återkoppling Metoderna vi tittat på är tänkta för fallet att mätbrus och insignal är okorrelerade Detta är inte fallet vid återkoppling Metoderna kan alltså ge missvisande resultat för återkopplade system. C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 3 / 23
Föreläsning 4: Parametrisk identifiering Innehåll: Skattning av linjära modeller med okända parametervärden. Hur görs skattningen? Hur bra blir skattningarna? Biasfel Variansfel Identifierbarhet (Kan alla parametrar skattas?) Läsanvisning: Kapitel 12 i boken C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 4 / 23
Ickeparametriska metoder TSRT62 Modellbygge och simulering Fysikaliska principer Systemidentifiering Parametriska metoder Objektorienterat modellbygge Differentialalgebraiska ekvationer Bindningsgrafer C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 5 / 23
Skräddarsydda modeller I princip av formen: ẋ(t) = f (x(t); u(t); ) y(t) = h(x(t); u(t); ) där de okända parametrarna finns i vektorn = 0 B @ 1 C A : Formen på f och h ges av det fysikaliska modellbygget. Exempel: Tank med okänd utloppsarea Aḣ(t) = u(t) q. d 2gh(t); 1 q(t) = q 2gh(t) C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 6 / 23
Parametriserade modeller w(t) u(t) System y(t) Om modellen är okänd måste först en modellstruktur väljas innan parametrarna kan skattas. Systemmodell (från u till y) och störningsmodell (w till y) Modellordning (oftast ordning på polynom i överföringsfunktioner) Oftast på tidsdiskret form (eftersom mätdata är det) C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 7 / 23
Linjära parametriserade modeller (konfektionsmodeller) AutoRegression, external signal ARX e(t) Output Error OE e(t) u(t) B(q) + 1 A(q) y(t) u(t) B(q) F (q) + y(t) AutoRegression, Moving Average, external signal ARMAX e(t) Box Jenkins BJ e(t) C(q) C(q) D(q) u(t) B(q) + 1 A(q) y(t) u(t) B(q) F (q) + y(t) C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 8 / 23
Linjära konfektionsmodeller: Generell struktur Vanligt val av modellstruktur är Box Jenkins där e(t) är vitt brus och y(t) = G(q; )u(t) + H(q; )e(t); G(q; ) = b 1q n k + + b nb q n k n b +1 1 + f 1 q 1 + + f nf q n f = B(q) F (q) H(q; ) = 1 + c 1q 1 + + c nc q nc 1 + d 1 q 1 + + d nd q n d = C(q) D(q) n k ger tidsfördröjning, n b ; n f ; n c ; n d antalet parametrar i polynomen innehåller parametrarna fb k g; ff k g; fc k g; fd k g C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 9 / 23
Parameterskattning: Grundprincip u(t) System Modell y(t) by(t θ) Modellen förutsäger, predikterar, att utsignalen blir by(t θ) om parametervärdet är. Verkliga värdet är y(t) Välj så att dessa värden överensstämmer så bra som möjligt. Här finns flera valmöjligheter: Vad by(t θ) blir beror på hur störningarna modelleras så bra som möjligt måste ges en matematisk formulering C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 10 / 23
Parameterskattning: Tillvägagångssätt 1 Räkna ut modellens prediktion av y(t), vid tiden t 1: by(t θ) 2 Bilda prediktionsfelet ε(t, θ) = y(t) by(t θ) 3 Bilda godhetsmåttet (förlustfunktionen) V N (θ) = 1 N NX t=1 ` ε(t, θ) 4 Tag det värde som minimerar förlustfunktionen bθ N = arg min V N (θ) C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 11 / 23
Parameterskattning: Förlustfunktionen Om e(t) är normalfördelad, så är V N () = 1 N negativa log-likelihood-funktionen. NX t=1 " 2 (t; ) () Skattningen b N av blir då en maximum-likelihood-skattningen. Detta motiverar (teoretiskt) varför förlustfunktionen () är så vanligt förekommande. C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 12 / 23
Prediktion för svartlådemodeller Antag modellstrukturen är given av Då gäller att by(t j ) = y(t) = G(q; )u(t) + H(q; )e(t): 1 H 1 (q; ) y(t) + H 1 (q; )G(q; )u(t) Specialfall: OE: H(q; ) = 1 by(t j ) = G(q; )u(t) ARX: H(q; ) = 1=A(q) och G(q; ) = B(q)=A(q) by(t j ) = 1 A(q) y(t) + B(q)u(t) = T '(t) C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 13 / 23
Parameterskattning: Specialfallet ARX För ARX-modeller A(q)y(t) = B(q)u(t) + e(t); gäller att där = 0 B @ a 1. a na b 1. b nb 1 C A by(t j ) = T '(t); och '(t) = 0 B @ y(t 1). y(t n a ) u(t n k ). u(t n k n b + 1) Prediktionen by(t j ) linjär i prediktionsfelet "(t; ) linjärt i Förlustfunktionen V N () kvadratisk i Lätt att beräkna minimum (linjärt ekvationssystem) C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 14 / 23 1 C A :
Parameterskattning: Iterativa metoder För mer generella modellstrukturer måste V N () minimeras numeriskt. Iterativ metod Newtons metod: b (j+1) N = b (j) N jm j V 0 N(b (j) N ) M j = V 00 N b (j) 1 N Gauss-Newton-metoder: Inversa Hessianen M j approximeras så att bara förstaderivator behöver beräknas. Praktiskt problem: Resultatet kan vara ett lokalt men inte globalt optimum. C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 15 / 23
Exempel: Parametrisk modell Data samplat med T = 0:1 och mätbrusvarians 0:02 2 från systemet 5 G(s) = s 2 + 2s + 1 10 1 System arx([2; 2; 1]) oe([2; 2; 1]) 10 3 10 1 10 0 10 1 0:5 y(t) arx([2; 2; 1]) 0 oe([2; 2; 1]) 0:5 0 5 10 15 20 25 C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 16 / 23
Modellkvalitet: Bias och varians Om bz är en skattning av en variabel som har sanna värdet z 0 och så gäller sambandet E (bz) = z E jbz z 0 j 2 = E jbz z j 2 {z } varians + jz z 0 j 2 {z } (bias) 2 En del av modellfelet beror på slumpmässiga störningar. Detta fel kallas variansfel och går typiskt mot noll när antalet mätdata går mot oändligheten. Om modellen inte kan beskriva verkligheten exakt, så kvarstår ett fel även vid oändligt många data: biasfel. C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 17 / 23
Biasegenskaper: Tidsplanet Under mycket allmänna villkor gäller att V N () = 1 N samt att NX t=1 " 2 (t; )! V () = E " 2 (t; ); då N! 1 bn!? = arg min V (); då N! 1: Poäng: Kan studera V () vid analys (mycket lättare) C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 18 / 23
Biasegenskaper: Frekvensplanet Betrakta y(t) = G 0 (q)u(t) + w(t) y(t) = G(q; )u(t) + H (q)e(t) (Sanna systemet) (Modell) Då N! 1 gäller att Tolkning:? = arg min Z jg 0 (e i! ) G(e i! ; )j 2 Φ u (!) jh (e i! )j 2 d! Minimerar skattningsfelet frekvens för frekvens, med tonvikt på de frekvenser där insignalsenergin är stor (i förhållande till brusmodellen) Om det existerar 0 sådant att G(q; 0) = G 0 (q), då gäller att G(q;? ) = G 0 (q) om Φ u (!) 6= 0 tillräckligt ofta. C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 19 / 23
Biasegenskaper: Alternativ infallsvinkel Antag att det finns ett värde 0 så att "(t; 0) = vitt brus; (vilket betyder att verkligheten kan beskrivas av modellen) Då är 0 = arg min V (). Om det gäller att by(t j ) = by(t j 0) ) = 0 (identifierbarhet: Olika parametervärden marks ) kan man dra slutsatsen lim N!1 b N = 0 C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 20 / 23
Variansegenskaper: Vilken noggrannhet får man? Antag att "(t; 0) är vitt brus. Då gäller E (b N 0)(b N 0) T N R 1 där är brusvariansen och R = E (t; 0) (t; 0) T ; (t; ) = d d by(t j ) Översatt till varians hos skattning av G: Var G(e i! ; b N ) n N Φ w (!) Φ u (!) ; där n är antal parametrar, Φ u insignalspektrum och Φ w brusspektrum. C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 21 / 23
Identifierbarhet: Går att skatta? Olika värden på bör ge olika prediktioner. Att detta inte är uppfyllt kan beror på parametriseringen i sig insignalvalet återkoppling C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 22 / 23
Identifiering av y(t) + ay(t 1) = bu(t 1) + e(t) Återkoppling: u(t) = k(r(t) y(t)). Identifierad modell: (sann heldragen, ARX prickad, spektralanalys streckad) 10 1 AMPLITUD 10 0 10-1 10-2 10-1 10 0 10 1 frekvens (rad/sek) 0 FAS -50-100 -150-200 10-2 10-1 10 0 10 1 frekvens (rad/sek) C. Lyzell (LiTH) TSRT62 Modellbygge & Simulering 2013 23 / 23