Idag. EDAA35: Utvärdering av programvarusystem. Mål. Innehåll. Kursmoment. Lärare

Transkript

1 EDAA35: Utvärdering av programvarusystem MARTIN HÖST Idag Intro till kursen Forskningsmetodik Att sätta mål i studier Mål Innehåll Kursens syfte är att ge förståelse om hur vetenskapliga studier genomförs, samt kunskap om vetenskapligt skrivande och muntlig presentation av vetenskapligt arbete Mer specifikt behandlar kursen hur man kan utvärdera programvarusystem, samt hur utvärderingar av denna i typ bör planeras, genomföras och rapporteras Planering och design av vetenskapliga studier, med fokus på fallstudier och experiment Skriftlig och muntlig presentation av utvärderande studier Introduktion till statistisk analys av mätning, medelvärde, variation, etc Exekveringssystem, virtuella maskiner Mätning av dynamiska mått, t ex exekveringstid i Java Mätning och definition av statiska mått på kod Deskriptiv och statistisk analys av mätdata och hypotestest Grundläggande statistisk analys med hjälp av verktyg/paket för detta Rapportstruktur och språkbehandling för vetenskapliga rapporter Latex, Bibtex Bedömning av presenterade utvärderande studier, opponering Kursmoment Lärare Föreläsningar Laborationer Övningar Projekt Quiz För att bli godkänd på kursen måste laborationer och projekt vara godkända Vissa laborationer kräver förberedelser och rapportering Projekt kräver quiz och redovisning Martin Höst, kursansvarig, föreläsningar, laborationer, projekt Johan Linåker, laborationer, projekt Dennis Medved, laborationer, projekt Mattias Nordahl, laborationer, projekt 1

2 Kursombud Julia Baeza Adam Barvesten Examinerade moment Lab 1, R intro: moodle-quiz Lab 2, R-prog: quiz från lab 1 förkunskapskrav Lab 3, analys av data: inga förberedelser Lab 4, Poster-presentation: inga förberedelser, godkänns på övning i lp 4 Lab 5 (dubbel-lab) mätning och analys: förberedelseuppgifter, granskning, rapport godkänns individuellt men utförs i grupper om två Projekt (grupper om 3) Teori-quiz (individuellt) Granskning Rapport, presentation Material Föreläsnings-OH: direkt efter föreläsningarna Kompendium: I pdf på kursens hemsida R-kompendium: I pdf på kursens hemsida Om anmälan etc Om ni inte är anmälda, skriv upp er på lista eller maila mig Om ni är anmälda men inte tänker gå kursen, maila mig Förkunskapskrav: godkänd tentamen eller laborationer i programmeringskursen 2

3 Vilken typ av undersökningar? Utvärderingar Förstudier Utredningar under utvecklingens gång Bedömning av alternativa programvaror Acceptanstest Forskning Högskoleförordningen visa förmåga att skapa, analysera och kritiskt utvärdera olika tekniska lösningar visa förmåga att med helhetssyn kritiskt, självständigt och kreativt identifiera, formulera och hantera komplexa frågeställningar samt att delta i forskningsoch utvecklingsarbete och därigenom bidra till kunskapsutvecklingen osv Utveckling av programvara Vad utvärderar man? Specifikation Design och implementation Validering Vidareutveckling Mer eller mindre iterativt Steg efter steg Inkrementellt Iterativt sätt mål idé utveckling validering V 1 V 2 V n Inte bara funktionella krav Även kvalitetskrav, t ex Tillförlitlighet Användbarhet Effektivitet Underhållsbarhet Portabilitet Kräver systematiskt angreppssätt för att mäta / utvärdera Steg i en vetenskaplig undersökning Definition av mål Sammanfattning relaterat arbete Planering / design Genomförande Formulera mål Lagom omfång Resurser och kunskap måste vara tillgängliga Vilket uppdrag man Målen brukar uppdateras och förfinas efter hand Analys av data Diskussion / slutsatser Rapportering 3

4 Hur formulera mål? Forskningsmetodik Text Forskningsfrågor GQM-mål Analyze Object(s) of study for the purpose of Purpose with respect to their Quality focus from the point of view of the Perspective in the context of Context Olika sätt att forska inom software engineering vetenskapliga metoden, t ex en simuleringsmodell som byggs och studeras ingenjörsmässiga metoden: studera + förbättra empiriska metoden: modell + empirisk data analytiska metoden: formell teori [Glass] Vanliga metoder inom tillämpad forskning Kvantitativt - kvalitativt Kartläggning Experiment Fallstudie Aktionsforskning, simulering, etnografi, design science, Fix Bygger på att man mäter samma sak många gånger Ofta kvantitativ Flexibel Man kan anpassa vad man mäter efterhand som man får ny kunskap Ofta kvalitativ [Robson] Kartläggning survey Kartläggning viktiga moment Målgrupp Sampel Definiera målgrupp Formulera frågor Definiera sampel Slumpmässigt, baserat på tillgänglighet eller annat sätt Kontakta sampel, ställ frågor, (följ upp) Analysera, dra slutsatser, analysera validitet 4

5 Exempel - kartläggning Experiment Forskningsfrågor: 1Hur kan medicinsk utveckling i allmänhet karakteriseras med avseende på programvaruutveckling Jämförande studie där man vil ta reda på effekten av ett antal variabler på ett antal andra variabler 2Vilka tekniker, verktyg och processer används oftast i utveckling av medicinsk mjukvara? Activities PROBLEM related to other N/A, 6% 3Vilka Tool Support är de for Development största utmaningarna Activities Activities inom activties utveckling, 4% av medicinsk mjukvara? related to 63% implementation, Testing 12% 10% Activities Activities 35% related to related to 20% Medical Device Development, architecture 2007 requirements 40% 60% 80% 100% and design, eng, 63% 0% 20% 16% Risk Management Architecture and Design Requirements Engineering Feldman, Shull, Denger, Höst, Lindholm, A Survey of Software Engineering Techniques in Oberoende variabler Experiment Beroende variabler Exempel Exempel 2 Undersöka effekten av checklista vid granskning Jämföra hur lång tid två olika implementationer tar att exekvera Person Teknik Antal fel Tid (min) A Ad-hoc B Checklista C Ad-hoc D Checklista E Ad-hoc F Checklista G Ad-hoc H Checklista I Ad-hoc J Checklista Körning Implementation Tid (ms) 1 A B A B A B A B A B 143 Experiment viktiga aktiviteter Exempel på olika typer av experimentdesign Definition av population, sampling (när det är relevant) Randomisering dela upp i grupper Genomför, gör mätningar Analysera mätningar Dra slutsatser En oberoende variabel med två nivåer, varje person gör en sak En oberoende variabel med två nivåer, varje person gör båda sakerna En oberoende variabel med mer än två nivåer Mer än en oberoende variabel 5

6 Fallstudie Fallstudie, viktiga egenskaper A case study is an empirical enquiry that investigates a contemporary phenomenon within its real-life context, especially when the boundaries between phenomenon and context are not clearly evident -- Yin Ofta svårt skilja på fall och omgivning acceptera / ta vara på detta i en fallstudie Betrakta fall i sin naturliga omgivning Datainsamling från flera håll T ex intervjuer, dokument, observationer, mätningar Flexibel forskningsmetodik Forskningsfrågor etc kan ändras under analysen Analys både kvantitativ och kvalitativ data Slutsatser mer baserat på kvalitativ förståelse än statistisk generalisering Exempel på forskningsfrågor Jämförelse Kartläggning: Vilka tekniker för granskning används i Sverige? Fallstudie: Varför använder man teknikerna A och B i olika sorters projekt? Hur lämpliga är de i olika sammanhang? Experiment: Vilken teknik är mest effektiv, A eller B? Faktor Kartläggning Fallstudie Experiment Kontroll, genomförande Kontroll, mätning Nej Nej Ja Nej Ja Ja Kostnad Låg Medium Hög Validitetshot Design av studie Interna hot Finns det något annat än det man undersöker som påverkar resultatet (som den som undersöker inte känner till)? Externa hot I vilken utsträckning kan vi generalisera resultaten (t ex med avseende på material och personer)? Val av grundläggande metod Val av tekniker för datainsamling Planering typ vem gör vad, när och hur? Validitetsanalys 6

7 Sammanfattning Nästa föreläsning Inom tillämpad forskning är t ex experiment, fallstudier och kartläggningar Tekniska undersökningar som i lab 5 liknar experiment, men har inte människor inblandade Viktiga steg i en undersökning: Definition av mål, sammanfattning relaterat arbete, planering, genomförande, analys, diskussion, dra slutsatser, presentation Vad göra nu? Gå till hemsidan för att se material Kompendium OH Anmäl till labb-grupp Nästa föreläsning är om R, se t ex (kap 3) 7