Erinnerung VL vom

Transkript

1 Erinnerung VL vom Karatsuba-Ofman-Langzahlmultiplikation Vereinbarungen: Heute: Algorithmenanalyse (Asymptotik) Maschinenmodell (Variante des RAM-Modells) Mehr Vereinbarungen (Pseudocode, Graphen) Programmanalyse (Master-Theorem) Folgen und Listen (Motivation) KIT Institut für Theoretische Informatik 1

2 Pseudocode just in time Beispiel: Class Complex(x, y : Number) of Number Number r:= x Number i:= y Function abs : Number return r 2 + i 2 Function add(c : Complex) : Complex return Complex(r + c.r,i + c.i) KIT Institut für Theoretische Informatik 2

3 Design by Contract / Schleifeninvarianten assert: Aussage über Zustand der Programmausführung Vorbedingung: Bedingung für korrektes Funktionieren einer Prozedur Nachbedingung: Leistungsgarantie einer Prozedur, falls Vorbedingung erfüllt Invariante: Aussage, die an vielen Stellen im Programm gilt Schleifeninvariante: gilt vor / nach jeder Ausführung des Schleifenkörpers Datenstrukturinvariante: gilt vor / nach jedem Aufruf einer Operation auf abstraktem Datentyp Hier: Invarianten als zentrales Werkzeug für Algorithmenentwurf und Korrektheitsbeweis. KIT Institut für Theoretische Informatik 3

4 Beispiel (Ein anderes als im Buch) Function power(a : R; n 0 : N) : R p=a : R; r=1 : R; n=n 0 : N while n > 0 do return r if n is odd then n ; r:= r p else (n, p):= (n/2, p p) KIT Institut für Theoretische Informatik 4

5 Beispiel (Ein anderes als im Buch) Function power(a : R; n 0 : N) : R assert n 0 0 and (a = 0 n 0 = 0) // Vorbedingung p=a : R; r=1 : R; n=n 0 : N // p n r = a n 0 while n > 0 do invariant p n r = a n 0 // Schleifeninvariante (*) if n is odd then n ; r:= r p else (n, p):= (n/2, p p) assert r = a n 0 // (*) n = 0 Nachbedingung return r KIT Institut für Theoretische Informatik 5

6 Rechenbeispiel: 2 5 p=a = 2 : R; r=1 : R; n=n 0 = 5 : N // = 2 5 while n > 0 do if n is odd then n ; r:= r p else (n, p):= (n/2, p p) Iteration p r n p n r KIT Institut für Theoretische Informatik 6

7 Beispiel Function power(a : R; n 0 : N) : R assert n 0 0 and (a = 0 n 0 = 0) // Vorbedingung p=a : R; r=1 : R; n=n 0 : N // p n r = a n 0 while n > 0 do invariant p n r = a n 0 // Schleifeninvariante (*) if n is odd then n ; r:= r p else (n, p):= (n/2, p p) assert r = a n 0 // (*) n = 0 Nachbedingung return r neues n {}}{ Fall n ungerade: Invariante erhalten wegen p n n r = 1 p pr }{{} neues r KIT Institut für Theoretische Informatik 7

8 Beispiel Function power(a : R; n 0 : N) : R assert n 0 0 and (a = 0 n 0 = 0) // Vorbedingung p=a : R; r=1 : R; n=n 0 : N // p n r = a n 0 while n > 0 do invariant p n r = a n 0 // Schleifeninvariante (*) if n is odd then n ; r:= r p else (n, p):= (n/2, p p) assert r = a n 0 // (*) n = 0 Nachbedingung return r neues n {}}{ Fall n gerade: Invariante erhalten wegen p n n/2 = (p p) }{{} neues p KIT Institut für Theoretische Informatik 8

9 Programmanalyse Die fundamentalistische Sicht: Ausgeführte RAM-Befehle zählen einfache Übersetzungsregeln {}}{ Pseudocode Maschinenbefehle Idee: O( )-Notation vereinfacht die direkte Analyse des Pseudocodes. T (I ; I ) = T (I ) + T (I ). T (if C then I else I ) O(T (C) + max(t (I ), T (I ))). T (repeat I until C) O( i T (i-te Iteration)) Rekursion Rekurrenzrelationen KIT Institut für Theoretische Informatik 9

10 Schleifenanalyse Summen ausrechnen Das lernen Sie in Mathe Beispiel: Schulmultiplikation KIT Institut für Theoretische Informatik 10

11 Eine Rekurrenz für Teile und Herrsche Für positive Konstanten a, b, c, d, sei n = b k für ein k N. r(n) = { a cn + dr(n/b) falls n = 1 Basisfall falls n > 1 teile und herrsche. n cn 1 2 d n/b n/b... n/b a a a a... a a k KIT Institut für Theoretische Informatik 11

12 Master Theorem (Einfache Form) Für positive Konstanten a, b, c, d, sei n = b k für ein k N. r(n) = { a cn + dr(n/b) falls n = 1 Basisfall falls n > 1 teile und herrsche. Es gilt Θ(n) falls d < b r(n) Θ(n log n) falls d = b Θ ( n log d) b falls d > b. Übung: dasselbe gilt, wenn wir beliebige n N zulassen und r(n) = cn + dr( n/b ) für n > 1 setzen. KIT Institut für Theoretische Informatik 12

13 Beweisskizze Auf Ebene i haben wir d i n/b i = b k i d i c n b i = cn ( ) i d b ad k KIT Institut für Theoretische Informatik 13

14 Beweisskizze Fall d < b geometrisch schrumpfende Reihe erste Rekursionsebene kostet konstanten Teil der Arbeit ( ) k 1 i r(n) = a d }{{ k d } + cn Θ(n) b i=0 o(n) }{{} O(1) d=2, b=4 KIT Institut für Theoretische Informatik 14

15 Beweisskizze Fall d = b gleich viel Arbeit auf allen k = log b (n) Ebenen. r(n) = an + cn log b n Θ(n log n) d=b=2 KIT Institut für Theoretische Informatik 15

16 Beweisskizze Fall d > b geometrisch wachsende Reihe letzte Rekursionsebene kostet konstanten Teil der Arbeit ( ) i ) r(n) = ad k d + cn Θ(n logb d k 1 i=0 beachte: d k = 2 k log d = 2 k logb logb log d = b k logd logb = b k log b d = n log b d b d=3, b=2 KIT Institut für Theoretische Informatik 16

17 Master Theorem Beispiele Für positive Konstanten a, b, c, d, sei n = b k für ein k N. r(n) = { a cn + dr(n/b) falls n = 1 Basisfall schon gesehen, kommt noch, allgemeinerer Fall d < b: Median bestimmen d = b: mergesort, quicksort falls n > 1 teile und herrsche. d > b: rekursive Multiplikation, Karatsuba-Ofman-Multiplikation KIT Institut für Theoretische Informatik 17

18 Analyse im Mittel später an Beispielen Randomisierte Algorithmen später an Beispielen KIT Institut für Theoretische Informatik 18

19 Graphen Sie kennen schon (?): Relationen, Knoten, Kanten, (un)gerichtete Graphen, Kantengewichte, Knotengrade, knoteninduzierte Teilgraphen. Pfade (einfach, Hamilton-), Kreise, DAGs self loop s t u s x K 5 H w z 2 2 w 1 1 y 1 x 1 w u v U t u K 3,3 v 1 v 1 1 G 2 u w v undirected w v bidirected KIT Institut für Theoretische Informatik 19

20 Bäume Zusammenhang, Bäume, Wurzeln, Wälder, Kinder, Eltern,... undirected s t undirected rooted r r directed r expression + r s t u s t u s t u a / u v v v rooted v 2 b KIT Institut für Theoretische Informatik 20

21 Ein erster Graphalgorithmus Ein DAG (directed acyclic graph, gerichteter azyklischer Graph) ist ein gerichteter Graph, der keine Kreise enthält. Function isdag(g = (V, E)) while v V : outdegree(v) = 0 do invariant G is a DAG i the input graph is a DAG V := V \ {v} E:= E \ ({v} V V {v}) return V =0 Analyse: kommt auf Repräsentation an (Kapitel 8), geht aber in O( V + E ). KIT Institut für Theoretische Informatik 21

22 Beispiel Function isdag(g = (V, E)) while v V : outdegree(v) = 0 do V := V \ {v} E:= E \ ({v} V V {v}) return V = 0 KIT Institut für Theoretische Informatik 22

23 Beispiel Function isdag(g = (V, E)) while v V : outdegree(v) = 0 do V := V \ {v} E:= E \ ({v} V V {v}) return V = 0 KIT Institut für Theoretische Informatik 23

24 Beispiel Function isdag(g = (V, E)) while v V : outdegree(v) = 0 do V := V \ {v} E:= E \ ({v} V V {v}) return V = 0 KIT Institut für Theoretische Informatik 24

25 Beispiel Function isdag(g = (V, E)) while v V : outdegree(v) = 0 do V := V \ {v} E:= E \ ({v} V V {v}) return V = 0 KIT Institut für Theoretische Informatik 25

26 Beispiel Function isdag(g = (V, E)) while v V : outdegree(v) = 0 do V := V \ {v} E:= E \ ({v} V V {v}) return V = 0 KIT Institut für Theoretische Informatik 26

27 Beispiel Function isdag(g = (V, E)) while v V : outdegree(v) = 0 do V := V \ {v} E:= E \ ({v} V V {v}) return V = 0 KIT Institut für Theoretische Informatik 27

28 Beispiel Function isdag(g = (V, E)) while v V : outdegree(v) = 0 do V := V \ {v} E:= E \ ({v} V V {v}) return V = 0 KIT Institut für Theoretische Informatik 28

29 Beispiel Function isdag(g = (V, E)) while v V : outdegree(v) = 0 do V := V \ {v} E:= E \ ({v} V V {v}) return V = 0 KIT Institut für Theoretische Informatik 29

30 Beispiel Function isdag(g = (V, E)) while v V : outdegree(v) = 0 do V := V \ {v} E:= E \ ({v} V V {v}) return V = 0 KIT Institut für Theoretische Informatik 30

31 Beispiel Function isdag(g = (V, E)) while v V : outdegree(v) = 0 do V := V \ {v} E:= E \ ({v} V V {v}) return V = 0 Leerer Graph. KIT Institut für Theoretische Informatik 31

32 P und NP das kommt in Theoretische Grundlagen der Informatik Ganz kurz: Es gibt einigermaÿen gute Gründe, ezient mit polynomiell gleichzusetzen (d. h. Laufzeit n O(1) ). Es gibt viele algorithmische Probleme (NP-vollständig/-schwer), bei denen es SEHR überraschend wäre, wenn sie in Polynomialzeit lösbar wären. KIT Institut für Theoretische Informatik 32

33 Folgen als Felder und Listen KIT Institut für Theoretische Informatik 33

34 Folgen spielen in der Informatik eine überragende Rolle. Das sieht man schon an der Vielzahl von Begrien: Folge, Feld, Schlange, Liste, Datei, Stapel, Zeichenkette, Log... (sequence, array, queue, list, le, stack, string, log... ). Wir unterscheiden: abstrakter Begri 2,3,5,7,9,11,... Funktionalität (stack,... ) Repräsentation und Implementierung Mathe Softwaretechnik Algorithmik KIT Institut für Theoretische Informatik 34

35 Anwendungen Ablegen und Bearbeiten von Daten aller Art Konkrete Repräsentation abstrakterer Konzepte wie Menge, Graph (Kapitel 8),... KIT Institut für Theoretische Informatik 35

36 Form Follows Function Operation List SList UArray CArray explanation ` ' [ ] n n not with inter-list splice rst last insert 1 1 n n insertafter only remove 1 1 n n removeafter only pushback amortized pushfront 1 1 n 1 amortized popback 1 n 1 1 amortized popfront 1 1 n 1 amortized concat 1 1 n n splice 1 1 n n ndnext,... n n n n cache-ecient KIT Institut für Theoretische Informatik 36