Datorarkitekturer med operativsystem ERIK LARSSON

Transkript

1 Datorarkitekturer med operativsystem ERIK LARSSON

2 Personal Examinator: Erik Larsson (använd ämne/subject: EITF60) Christoffer Cederberg

3 Nyheter Gästföreläsningar (Ericsson och IKEA) Ny examination Betyg 3: Gör duggor Betyg 4 och 5: Gör duggor plus tentamen Ny laboration

4 Kursbeskrivning Syfte är att illustrera grundläggande konstruktionsprinciper hos ett datorsystem samt ge kunskap om operativsystems funktion och inre organisation. Mål kunna förklara begreppen pipelining, cacheminne, virtuellt minne och operativsystem kunna beskriva hur dessa begrepp samspelar i en modern datorarkitektur jämföra prestanda hos olika arkitekturer med avseende på instruktionsuppsättning, pipelining och minnesorganisation.

5 Litteratur Rekommenderad kursbok» Patterson & Hennessy: Computer Organization and Design, 5th Edition, The Hardware/Software Interface, Morgan Kaufmann, 2013, Print Book ISBN : ebook ISBN : Övrig litteratur Artiklar:» Microprocessors» Microprocessors II» Reduced Instruction Set Computers» Blocked algorithms for caches Föreläsningsanteckningar

6 Kursprogram - kursmoment Kursen består av föreläsningar, övningar, laborationer och rapportskrivning. Kursen svarar mot 7.5 hp, vilket motsvarar 200 timmar arbete. Kursmoment Laboration (2hp, vilket motsvarar 53 timmar av arbete) Rapport (1.5hp, vilket motsvarar 40 timmar av arbete) Duggor (elektroniska frågor) och tentamen (4hp, vilket motsvarar 107 timmar av arbete)

7 Kursprogram - slutbetyg För att få slutbetyg 3 krävs godkänt på: Laboration Rapport Duggor För att få slutbetyg 4 och 5, krävs allt för slutbetyg 3 och möjlighet att få högre betyg genom att göra tentamen. OBS. För att få betyg 3 behöver du inte skriva tentamen Övergångsregler för de som är kursregistrerade 2016 eller tidigare se kurshemsidan

8 Duggor Godkända duggor ger betyg 3 Tid för duggor: Dugga 1: 13:e november 19:e november Dugga 2: 20:e november 26:e november Dugga 3: 27:e november 3:e december Dugga 4: 4:e december 10:e december Vid varje försök: 2 timmar För godkänt: 80% rätt Duggorna finns på:

9 Duggor

10 Tentamen För att försöka få betyg 4 eller 5, duggor godkända plus: Skriftlig tentamen. Inga hjälpmedel Första tentamen: klockan 08:00-13:00 Maximalt 60 poäng Betygsgränser: Betyg 3: Minst 30 poäng Betyg 4: Minst 40 poäng Betyg 5: Minst 50 poäng Tentamen bara för de som vill ha betyg 4 eller 5

11 Laborationer Material: Finns på kurshemsida Uppgifter: Sätt samman en processor Godkänt: Demonstration + laborationsrapport

12 Laborationer: Regler För att göra laborationer måste du följa följande regler: Laborationsuppgifter ska lösas självständigt av varje laborationsgrupp Det är inte tillåtet att ge laborationsresultat eller laborationsrapport till en annan grupp Det är inte tillåtet att ta, kopiera eller på något annat sätt efterlikna en annan grupps resultat eller rapport Alla gruppmedlemmar måste ta aktiv del i alla delar av laborationen, det inkluderar att skriva programkod, testa och felsöka, genomföra experiment, skriva laborationsrapport och demonstrera (examination). Examinationen är alltid baserad på individuella resultat.

13 Rapport: Översikt Välja ämne Skriv rapport Presentera rapport Opponera på rapport

14 Rapport: Välja ämne Något med pipeline Förslag Konflikthantering i multi-pipelining En schemaläggnings metod för multi-pipeline Pipelines i processor y Inte ok Pipelines //För allmänt (täcks av kursen) Processor z //För stort område Tidigare års rapporter (kurser/läsårsvis)

15 Rapport: Skriv EITA20 Datateknik, introduktionskurs (tidigare EDT632 Datateknik, översiktskurs). Detta är ingen kurs i att översätta, t ex från engelska till svenska

16 Rapport: Skriv Title: Väldigt kort sammanfattning av arbete. Abstract: Sammanfattning där ord från titel återanvänds. Introduction: Varför är problemet viktig? Related work Här visar man att man är insatt i området. Problem formulation - Definiera problemet, gärna på mätbart sätt. Proposed scheme- beskriv din lösning Experimental results beskriv vilka experiment du gjort. Conclusions vilka slutsatser drar du från arbetet. References väldigt viktigt att ha bra referenser som visar att du är insatt I området.

17 Analys av tid i IEEE P1687 Access Time Analysis for IEEE P1687 Farrokh Ghani Zadegan, Student Member, IEEE, Urban Ingelsson, Member, IEEE, Gunnar Carlsson, Member, IEEE, Erik Larsson, Senior Member, IEEE Återanvänder ord från titel och förklarare dem lite This paper..beskriver vad som avhandlas i artikeln Berättar om hur fantastik utvecklingen är. (med ord och termer från titel och sammanfattning) Abstract The IEEE P1687 (IJTAG) standard proposal aims at providing a standardized interface between the IEEE Standard test access port (TAP) and on-chip embedded test, debug and monitoring logic (instruments), such as scan-chains and temperature sensors. A key feature in P1687 is to include Segment Insertion Bits (SIBs) in the scan-path to allow flexibility both in designing the instrument access network and in scheduling the access to instruments. This paper presents algorithms to compute the overall access time (OAT) for a given P1687 network. The algorithms are based on analysis for flat and hierarchical network architectures, considering two access schedules, i.e. concurrent schedule and sequential schedule. In the analysis, two types of overhead are identified, i.e. network configuration data overhead and JTAG protocol overhead. The algorithms are implemented and employed in a parametric analysis and in experiments on realistic industrial designs. Index Terms Access time calculation, IEEE P1687 IJTAG, P1687 network architectures, instrument access schedules 1 INTRODUCTION THE complexity and reduced feature sizes in recent integrated circuit (IC) designs, necessitates the provision of on-chip infrastructures for test, debug and monitoring. The IEEE Standard (a.k.a. JTAG 1 ) [1], originally intended for board test, has proved useful in ad hoc access to such on-chip infrastructure, as discussed in [2]. However, since JTAG has not been originally meant for accessing such onchip test, debug and monitoring logic (collectively called instruments), there are some drawbacks associated with its use in this context [2]. Furthermore, due to the lack of a uniform method of using JTAG to access the on-chip instruments, electronic design automation (EDA) support in this context is limited. Therefore, there is a need to standardize how JTAG circuitry should connect to the embedded logic. The IEEE P1687 standard proposal [2], [3], [4], [5], [6] aims to address this need of standardization by describing a flexible data transport infrastructure (called network) to interface JTAG to the chip internal instruments. P1687 has therefore received the informal name of Internal JTAG (IJTAG). When ratified, P1687 will specify methods for access and control of embedded instruments [3]. Here, instrument refers to any device with a shift-register [7] that could be included in the JTAG scan-path. Examples of instruments include embedded sensors, internal scan-chains and IEEE standard 1500 wrapped cores [8]. Compared with similar efforts for interfacing the on-chip instruments with JTAG, e.g. the works presented in [9], [10], [11], [12], [13], P1687 is charac- F. Ghani Zadegan, U. Ingelsson and E. Larsson are with the Department of Computer and Information Science, Linköping University, Sweden, SE , Linköping, Sweden ghanizadegan@ieee.org, urban.ingelsson@liu.se, erik.larsson@liu.se. G. Carlsson is with Ericsson AB, Sweden gunnar.carlsson@ericsson.com. The preliminary version of this work has been presented in the Asian Test Symposium, Shanghai, Joint Test Action Group Visar på terized by introduction of a single JTAG instruction called GateWay ENable (GWEN) and a hardware component called problem Segment Insertion Bit som (SIB). The use of SIBs makes it possible to create a multitude of different networks måste for the same set lösas of instruments, and to have the benefit of flexibility in scheduling the access to those instruments, as will be discussed in this paper. To setup the scan-path, P1687 proposes to transport SIB control data together with instrument data on a single wire (the JTAG scan-path), and this will affect overall access time (OAT). Since IEEE P1687 has recently been proposed, only a few studies have considered it [4], [9], [14], [15]. In particular, no study has investigated the impact of IEEE P1687 on overall access time (OAT). Therefore, this paper analyzes (Sections 4, 5, and 7) the impact of IEEE P1687 on OAT and identifies two types of overhead associated with accessing embedded instruments using P1687, namely network configuration data (i.e. SIB control data) overhead and JTAG protocol overhead. Furthermore, it is shown that OAT depends on several parameters including the placement of instruments and SIBs. To make it possible to calculate OAT for large P1687 networks, a first OAT calculation tool, IJTAGcalc, is presented (Section 6) for both concurrent and sequential schedules. IJTAGcalc is used in a parametric analysis (Section 7) to investigate how OAT and the identified overhead types react to changes in the design variables. IJTAGcalc is also used to calculate OAT for a number of P1687 networks based on ITC 02 benchmark set (Sections 8 and 9). Tyvärr finns en massa 2 BACKGROUND AND PRIOR WORK In this section, JTAG is briefly introduced and the drawbacks associated with its application in accessing problem. the on-chip instruments are explained. It should be noted that such application is beyond the intended scope of JTAG. Furthermore, it will be discussed how P1687 addresses these drawbacks.

18 Rapport: Presentationer Presentation (10 minuter) Fokusera på det viktiga Projektor kommer finnas i sal Tips: Gör en powerpoint presentation

19 Rapport: Opposition/bedömning Opposition (5 minuter) förbered oppositionen väl fokusera på det relevanta i rapporten ha alltid argument för dina synpunkter; både för positiva och negativa kommentarer. Om något är bra (eller dåligt), säg vad och VARFÖR det är bra (dåligt). ställ direkta och konkreta frågor. Opponentsituationen är en DIALOG mellan respondenten och opponenten.

20 Viktiga datum (1 av 2) Välj ämne senast 15 november meddela Erik Larsson via mail. Mailet ska innehålla: förnamn, efternamn och titel på rapport Delta vid ett tillfälle med bibliotekstöd (21/11 eller 28/11) Senast 4 december, ladda upp rapport (PDF) via Moodle. OBS! Rapporten ska namnges enligtföljande: förnamn.efternamn.pdf Senast 6 december klart vem som läser vad

21 Viktiga datum (2 av 2) Senast 12 december klockan 12:00, skicka kommentarer på de rapporter som bedömts till Erik Larsson. OBS! Filen med kommentarer ska namnges enligt följande: kom.förnamn.efternamn.pdf 13:e och 15:e december: presentationer Senast 10 januari,, ladda upp slutrapport (PDF) via Moodle där du inkluderar dokument som visar vilka ändringar som gjorts sedan oppositionen. Ta med kommentarer från opponent samt från de som bedömt din rapport.

22 Rapport: Godkänt närvaro vid en av bibliotekts genomgångar om skrivande rapporten är godkänd, vilken sker när: rapport är uppladad i Moodle, rapporten är presenterad, rapporten är uppdaterad efter opposition opponering är godkänd, vilket sker när: frågor och kommentarer för opponering är skickade opponeringen är genomförd bedömning är gjord av 5 stycken rapporter närvaro vid två presentationstillfällen

23 Om du får förhinder? Ett reservtillfälle den 19 december då du kan kompensera för ett missat moment (biblioteksnärvaro eller ett presentations tillfälle) Tänk på att meddela din respondent och opponent eftersom din närvaro påverkar dem. Om din respondent inte kommer till ett presentationstillfälle kan du välja att opponera på någon annan, t ex på någon av rapporterna du läst eller så väljer du att opponera vid reservtillfället. Om din opponent inte kommer till ett presentationstillfälle kan du försöka ordna en ny opponent, t ex någon som läst din rapport eller så väljer du att presentera vid reservtillfället.

24 Reservtillfälle Om du vill närvara vid reservtillfället så måste du anmäla detta till Erik Larsson senast klockan 12:00 den 18 december. Vid reservtillfället blir det lite speciellt. Alla läser alla rapporter till de som behöver opponent och respondent. Det gör att alla är beredda att vara opponent och respondent. Vem som blir opponent och respondent bestäms vid reservtillfället.

25 Blooms taxonomi - lärande Blooms taxonomi, lanserades av Benjamin Bloom, beskriver olika steg i lärandet: 1. Kunskap - Att kunna ta till sig fakta - memorera. 2. Förståelse - Att kunna förstå fakta som memorerats. 3. Tillämpning - Att kunna utföra något med de fakta och med hjälp av den kunskap som man fått. 4. Analys - Att kunna se samband mellan olika fakta. 5. Syntes - Att kunna dra egna slutsatser. 6. Utvärdering - Att kunna producera, planera och generera något nytt.

26 Datorarkitekturer med operativsystem ERIK LARSSON

27

28 Datorer

29 Marknad för processorer

30 Trender 2015: Sun SPARC M7-10 miljarder transistorer

31 IC tillverkning SPARC64 X+ (Athena+) 3 miljarder transistorer 600 mm 2 (2.5cmx2.5cm)

32 IC tillverkning Kostnad för att iordningställa tillverkning i en 45 nm process ligger kring $ million. Att köpa en mask kan kosta mellan $1,000 to $100,000 och det krävs upp till 30 olika masker för en komplett tillverkning.

33 IC, die och wafer AMD Opteron X2: 300mm wafer, 117 chips, 90nm technology X4: 45nm technology

34 Processorn insida AMD Barcelona: 4 processor cores

35 Datorns delar Output device Network cable Input device Input device

36 Lagring av data och instruktioner Flyktiga (Volatile) minnen main memory Förlorar information (instruktioner och data) när strömmen stängs av Icke-flyktiga (Non-volatile) secondary memory Magnetic disk (hårddisk) Flash memory Optical disk (CDROM, DVD)

37 Dator Primärminne Instruktioner och data Data/instruktioner Kontroll Central processing unit (CPU) Fetch instruction Execute instruction

38 Dator (1) Hämta instruktion på (där PC pekar) Fetch (2) Flytta instruktionen till CPU (3) Avkoda instruktionen: MOVE, Adress, 011 Register 3 (4) Hämta data på adress: Execute (5) Lagra datan i register 3 Primärminne Address Instruktion/data Data Instruktioner Register CPU Kontrollenhet Aritmetisk Logisk Enhet (ALU)

39 Dator Adress Data OP IN Kontrollenhet UT ALU Status IN

40 Klockan En klocka styr hastigheten på digital hårdvara Klock (cykler) Dataöverföring och beräkningar Uppdatering Klockperiod Klockperiod: tid för en klockcykel (T) e.g., 250ps = 0.25ns = s Klockfrekvens: cykler per sekund e.g., 4.0GHz = 4000MHz = Hz

41 Datorprogram Högnivåspråk Assemblyspråk Maskinspråk

42 Datorer Desktop datorer Generella, olika program beroende på användare Viktigt med kostnad/prestanda avvägning Server computers Nätverksbaserade Hög prestanda, hög pålitlighet Små servers till mycket stora system Inbyggda system (Embedded computers) Datorn en del av systemet Ofta hårda krav på effektförbrukning, prestanda/ kostnad

43 Prestanda Vilket flygplan har bäst prestanda? Boeing 777 Boeing 747 BAC/Sud Concorde Douglas DC-8-50 Boeing 777 Boeing 747 BAC/Sud Concorde Douglas DC Passenger Capacity Cruising Range (miles) Boeing 777 Boeing 777 Boeing 747 BAC/Sud Concorde Douglas DC-8-50 Boeing 747 BAC/Sud Concorde Douglas DC Cruising Speed (mph) Passengers x mph

44 Prestanda Algoritm Bestämmer vilka och hur många operationer som ska utföras Programmeringsspråk, kompilator, arkitektur Bestämmer hur många maskininstruktioner som ska utföras per operation Processor och minnessystem Bestämmer hur snabbt instruktioner exekveras I/O (Input/Output) och operativsystem Bestämmer hur snabbt I/O operationer ska exekveras

45 Mäta prestanda? Svarstid: Hur lång tid tar en task/jobb/program? Throughput Totalt arbete per tidsenhet» e.g., tasks/transactions/ per timma Hur påverkas svarstid och throughput av: Ersätta processorn med en snabbare? Lägga till fler processorer? Vi tittar på svarstider.

46 Mäta exekveringstid Förbrukad tid Total svarstid, inklusive alla aspekter» CPU tid, I/O, OS overhead, idle tid Ger systemets prestanda Processor tid Tid för ett givet jobb (task/program), exklusivt I/O tid, andra jobbs del

47 Exekveringstid Antal klockcykler för att exekvera en maskininstruktion Clocks per instruction (CPI) Tid för en klockcykel Tid för en klockperiod (T) Frekvens (f) är: f=1/t Antal maskininstruktioner Instruction count (IC) Exekveringstid i klockcykler = CPI x T x IC

48 Clocks per instruction (CPI) (1) Hämta instruktion på (där PC pekar) Fetch (2) Flytta instruktionen till CPU (3) Avkoda instruktionen: MOVE, Adress, 011 Register 3 (4) Hämta data på adress: Execute (5) Lagra datan i register 3 Primärminne Address Instruktion/data Data Instruktioner Register CPU Kontrollenhet Aritmetisk Logisk Enhet (ALU)

49 Exekveringstid Exekveringstid i klockcykler = CPI x T x IC Prestanda kan ökas genom: Öka klockfrekvensen (f) (minska T) Minska antal instruktioner (IC) Minska antal klockcykler per instruktion (CPI)

50 Exekveringstid Prestanda bestäms av: Algoritmer: IC, delvis CPI Programmeringsspråk: IC, CPI Kompilator: IC, CPI Hårdvaran: IC, CPI, T Antal instruktioner (IC), Klockcykler per instruktion (CPI) Tid för en klockcykel (T)

51 Relativ prestanda Definition av prestanda = 1/exekveringstid X är n gånger snabbare än Y Performance X Performance Y = Execution time Y Execution time X = n Exempel: tid att exekvera ett program 10s på dator A, 15s på dator B Execution TimeB / Execution TimeA = 15s / 10s = 1.5 Så A är 1.5 gånger snabbare än B

52 Exekveringstid (exempel) Dator A: 2GHz klocka, 10s exekveringstid (CPU tid) för ett givet program Utveckla dator B: Sikta på 6s CPU tid för samma program Möjligt med högre klockfrekvens, men leder till 20% fler klockcykler (1.2 x klockcykler) Hur snabb måste dator B vara (CPUtid=CPI x T x IC)? Dator A: 10 = CPI x IC x 1/2G // ger: CPI x IC=10 x 2G Dator B: 6 = CPI x IC x 1.2 x 1/f // ger f = CPI x IC x 1.2 / 6 Klocka för B: f = 10 x 2G x 1.2 / 6 = 4GHz

53 Prestandajämförelse (exempel) Givet: Dator A: Frekvens = 4 GHz, CPI = 2.0 Dator B: Frekvens = 2 GHz, CPI = 1.2 A är snabbast Vilken är snabbast och med hur mycket? CPU tid A = CPI x IC x T = 2 x IC / 4G = IC x 500 ps CPU tid B = CPI x IC x T = 1.2 IC / 2G = IC x 600 ps Hur mycket snabbare? CPU tid B / CPU tid A = (1.2 x IC x 500 ps) / (2 x IC x 250 ps ) = 1.2 med så här mycket

54 Prestanda för singleprocessorer Begränsning: effekt, instruction-level parallelism,svarstider från minne

55 Multiprocessorer Multicore mikroprocessorer Mer än en processor (core) per chip (IC) Kräver parallel programmering Jämför med instruktionsnivå parallellism» Hårdvara exekverar flera instruktioner samtidigt» Göms för programmeraren Svårt» Effektiv programmering» Kunskap hos programmerare» Balansera jobb (tasks)» Optimera kommunikation och synkronisering

56 Amdahls lag Förbättra en aspekt (sida) av en dator och förvänta sig proportionell förbättring: T improved = T affected improvement factor + T unaffected Exempel: Antag ett program med 100s exekveringstid där 80s används för multiplikation. Hur mycket snabbare (n) måste multiplikationen göras för att systemet ska bli 5 gånger snabbare? En olösbar ekvation. 5X (100/5) = n 20 Tid för icke multiplikation

57 Amdahls lag Antag att ett program (algoritm) implementeras så att f är den del som måste exekveras sekventiellt. Resten (1-f) kan exekveras parallellt på p enheter. f 1-f T s f (1-f)/p T p Exekveringstid: T p =f*t s +(1-f)*T s /p Speedup: S=T s /T p =T s /(f*t s +(1-f)*T s /p)=1/(f+(1-f)/p) Efficiency: E=S/p=1/(f*(p-1)+1)

58 Amdahls lag Antag att ett program (algoritm) implementeras så att f är den del som måste exekveras sekventiellt. Resten (1-f) kan exekveras parallellt på p enheter. f=20% (f-1)/4=20% (f-1)/4=20% (f-1)/4=20% (f-1)/4=20% Exempel: om f=20% och man har 4 processorer, fås: Speedup S=1/(0.2+(1-0.2)/4)= 2.5 Efficiency E=1/(0.2*(4-1)+1)= Även en liten bit sekventiell exekvering (1/f) leder till begränsningar på speedup och efficiency

59 Effektförbrukning Effektförbrukning i CMOS består av statisk del och en dynamisk del Den statiska delen förbrukas hela tiden och ökar med antalet transistorer Den dynamisk delen förbrukas när transistor går från 0->1 och från 1->0. Mer aktivitet ger högre förbrukning.

60 Dynamisk effektförbrukning Uttryck för dynamisk effektförbrukning: Power = Capacitive load Voltage 2 Frequency 30 Hur värden ändrats över tiden 5V 1V 1000

61 Effektförbrukning Intel förbrukade ~ 2 W 3.3 GHz Intel Core i7 förbrukar 130 W Värme måste bort från det 1.5 x 1.5 cm stora chipet

62 Minska effekt (power) Dynamic Voltage-Frequency Scaling Spänning och frekvens kan ändras Low power tillstånd för DRAM Överklockning, stäng av cores som inte används Balansera arbetet

63 Minska effektförbrukning Antag en ny CPU som har: 85% kapacitiv last järmfört med äldre CPU 15% lägre spänning och 15% lägre frekvens P 4 2 new Cold 0.85 (Vold 0.85) Fold 0.85 = = 0.85 = 2 P C V F old old old old 0.52 Effektväggen (power wall) Kan inte minska spänningen (voltage) mer Kan inte få bort mer värme Hur öka prestandan?

64 Sammanfattning Kostnad/prestanda blir bättre och bättre På grund av teknologiutveckling Hierarkier av abstraktionsnivåer I både hårdvara och programvara Gränssnittet mellan programvara och hårdvara är processorns instruktioner: Instruction set architecture (ISA) Exekveringstid ett bra mått på prestanda Effektförbrukning är en begränsande faktor Parallellism kan förbättra prestanda

65