Formell Verifiering. Hur vet man att ett system fungerar korrekt? Lisa Kaati

Transkript

1 Formell Verifiering Hur vet man att ett system fungerar korrekt? Lisa Kaati

2 Innehåll Motivering Formell verifiering Modellkontroll (model checking) Verifiering av kod Forskning

3 Dator system finns överallt

4 Säkerhetskritiska system Ett system vars misslyckande kan leda till skada eller död för människor.

5 Hur kan man undvika fel i systemet? Det finns flera metoder för att minska risken för att system och datorprogram innehåller fel - Testning - Formell verifiering

6 Testning Manuell testning Automatisk testning

7 Testning Manuell testning Automatisk testning Räcker inte till Det är omöjligt att gå igenom alla tänkbara scenarier.

8 Formell verifiering Bevisa eller motbevisa korrektheten hos ett system med avseende till en formell specifikation eller egenskap genom att använda formella matematiska metoder.

9 Olika typer av formell verifiering Logik

10 Olika typer av formell verifiering Logik p=q &r q= a b Specifikation p=q &r q= a b Teorem bevisare

11 Olika typer av formell verifiering Logik Modellkontroll (model checking)

12 Olika typer av formell verifiering Logik Modell kontroll (model checking) system modell egenskap bevis

13 Modellkontroll Automatisk verifierings teknik för system med ändligt antal system tillstånd. 1. System modell 2. Egenskap 3. Algoritm

14 System modell En system modell är en matematisk modell av ett system - Transitions system - Tids automater - Petri nät - Push down automater - Counter machines

15 System modell Transitions system

16 Egenskaper Säkerhet Något dålig kommer aldrig att inträffa Liveness Något kommer att inträffa någon gång Deadlock Ett program kommer inte oväntat att stanna upp Mutual exclusion Två processer kan inte använda en delad resurs samtidigt

17 Egenskaper Tidslogik Används för att uttrycka tid Jag är hungrig - Jag är alltid hungrig - Jag kommer att bli hungrig - Jag kommer att vara hungrig tills jag äter något

18 Algoritm Beror på modellen och egenskapen

19 Algoritm Beror på modellen och egenskapen Dåligt tillstånd

20 Algoritm Beror på modellen och egenskapen Nåbara tillstånd Dåligt tillstånd

21 Modellkontroll schema System modell Egenskap Algoritm Ja Nej Egenskapen är inte uppfylld

22 Exempel

23 Exempel Krasch

24 Fördelar med modellkontroll Snabbt Automatiskt Lätt att uttrycka egenskaper med tidslogik Returnerar exempel på felaktiga beteenden

25 Nackdelar med modellkontroll Ändliga system Tillstånds explosion Korrekt system modell

26 Nackdelar med modellkontroll Ändliga system Tillstånds explosion Korrekt system modell Abstraktion

27 Abstraktion Abstrahera bor irrelevanta detaljer om systemet Mindre (ändliga) modeller Enklare modeller Olika typer av abstraktioner

28 Exempel - abstraktion Konkret system

29 Exempel - abstraktion STOP GO Konkret system Abstrakt system

30 Finita automater 1 a 2 p s 3 45 a 4 Accepterar strängarna: apa och as

31 Trädautomater a q1 b(q1,q1) c(q2,q2,q2) q2 q3 b b b b a a a a a a

32 Abstraktion - minimering Två automater är ekvivalenta om de accepterar samma språk

33 Abstraktion - minimering Två automater är ekvivalenta om de accepterar samma språk

34 Nackdelar med modellkontroll Ändliga system Tillstånds explosion Korrekt system modell Abstraktion Verifiering av kod

35 Verifiering av program kod Idé: Skapa en matematisk modell automatiskt genom att använda program kod.

36 Verifiering av program kod Idé: Skapa en matematisk modell automatiskt genom att använda program kod. Problem Olika programspråk Olika sätt att programmera på Komplexa program språk

37 Verifiering av program kod Passar utmärkt för vissa typer av problem. Använd endast en liten delmängd av programspråket.

38 När det fungerar SLAM - Microsoft - Använder en liten delmängd av programspråket C. - Används för att verifiera kod till drivers.

39 Forskning Nya metoder som kan verifiera komplexa datastrukturer och operationer Prestanda Användning av olika delmängder av programspråk