Interaktiva multidisciplinära konstnärliga upplevelser i unika miljöer digital förstärkning av scenkonst



Relevanta dokument
De interaktiva kuddarna. Textil som kommunikationsredskap

De interaktiva kuddarna Textil som kommunikationsredskap

Människa-datorinteraktion och användarcentrerad design

SCRATCH är ett nytt programmeringsspråk som gör att du kan skapa dina egna interaktiv historier, animationer, spel, musik och konst.

HARDI KURDA. Diagnosmaskinen. The Diagnosis Machine

Människa-Datorinteraktion

TiS 2017 Inkluderande koppelkodning. Tomas Jonsson Maria Adlerborn

Objektorienterad programmering Föreläsning 2

GRÄNSSNITTSDESIGN. Ämnets syfte. Kurser i ämnet

LEGO MINDSTORMS Education EV3

Kodtimmen med Swift Playgrounds

Vad säger forskningen om programmering som kunskapsinnehåll? Karin Stolpe, föreståndare NATDID liu.se/natdid

Tangible interaction &TUI KIRSTEN RASSMUS-GRÖHN

Styrteknik 7.5 hp distans: E-1000 och E-Designer

PILOTSTUDIE #3 FISKSÄTRA VIBES VIDEO OCH MÖNSTER EN SERIE WORKSHOPS PÅ ETT BOENDE FÖR ENSAMKOMMANDE I FISKSÄTRA.

Ämnesområden. Examensarbete inom datavetenskap (1DV41E) Martin Fredriksson

Den otroliga kodmaskinen med Swift Playgrounds

Titel Mall för Examensarbeten (Arial 28/30 point size, bold)

Simulering av brand i Virtual Reality

DH2622 MDI-fk Introduktion till kursen & ämnet. MDI på KTH. Kursen i sitt sammanhang

Matematikundervisning med digitala verktyg* Översikt över modulstrukturen

Robotfotboll med Arduino

Interaktionsdesign som profession. Föreläsning Del 2

Introduktion till människa datorinteraktion och interaktionsdesign

UTMANINGSBASERAT LÄRANDE I FÖRSTA PROGRAMMERINGSKURSEN

Barn lär med interaktiva och lekfulla metoder.

Beslut om fastställande: - - Behörighetskrav: -

Inledande programmering med C# (1DV402) Introduktion till C#

Konstnärligt kandidatprogram i musik, musikproduktion, 180 högskolepoäng

KONSTFACK Institutionen för design, inredningsarkitektur och visuell kommunikation KURSPLAN

Inledande programmering med C# (1DV402) Ditt första C#-program med Visual Studio

Programvaruintensiva system

Fakulteten för ekonomi, kommunikation och IT. Utbildningsplan SGITD. IT-Designprogrammet. Study programme in IT-Design

KUNG. TEKNISKA HÖGSKOLAN. Laboration. Programmering av LEGO-robot

Spel som interaktiva berättelser

Programmering på vetenskaplig grund? Några forskningsresultat. Karin Stolpe, föreståndare NATDID liu.se/natdid

Not everything that counts can be counted, and not everything that can be counted counts. William Bruce Cameron

Fakulteten för ekonomi, kommunikation och IT. Utbildningsplan. Medier och Kommunikation SGMKV. Medier och kommunikation Media and Communication

Universe Engine Rapport

GeoGebra in a School Development Project Mathematics Education as a Learning System

Forskningsperspektiv inom MDI Vetenskap, mångvetenskap och tvärvetenskap Vad är forskning inom MDI?

Interaktiva Bibliotek. Eva Eriksson. IDC Interaction Design Collegium

Digitalt lärande och programmering i klassrummet. Introduktionsworkshop - Bygg ett akvarium i Scratch

Deltagarbaserad forskning, 7.5 högskolepoäng

Design för användbarhet Designexempel, hur tänkte man vid designen?

TOUCH POINTS AND PRACTICES IN THE SMART GRID

Programmering, grundkurs, 8.0 hp, Elektro, KTH, hösten Programmering: att instruera en maskin att utföra en uppgift, kräver olika språk:

Vad händer egentligen före en krasch? Svarta lådor och tidsmaskiner sparar pengar för företag

Kursplan. Ämnesövergripande

INNEHÅLLSFÖRTECKNING... 2 FÖRORD... 3 INLEDNING... 4 ATT ANVÄNDA MOTORERNA... 9 LOOP (UPPREPANDE) FUNKTIONEN SKAPA EN EGEN KLOSS...

F12: Användarna i fokus

Syns du, finns du? Examensarbete 15 hp kandidatnivå Medie- och kommunikationsvetenskap

LabVIEW uppgift 4. Erik Andersson och Johan Schött. 22 februari 2010

Linköpings universitet 1 TDP029. Systemutveckling. Systemutveckling. Vanliga faser. Fler faser. Systemutvecklingsmetod

Rapport Interaktivt golv på HUMlabX

Föreläsning 3: Mer om utvärdering, Inspektionsmetoder kan man utvärdera utan användare?

PROGRAMMERING. Ämnets syfte. Kurser i ämnet

ooo EN INTERAKTIV LUFTBLOBB MARIA HÅKANSSON HANNA LANDIN JOHAN SANDSJÖ

Fakulteten för ekonomi, kommunikation och IT. Utbildningsplan SGITD. IT-design. Study programme in IT-Design

Projekt: Utveckling av ett användargränssnitt

Beslut Utbildningsplanen är fastställd av Nämnden för konstnärligt utvecklingsarbete (KUnämnden)

Kursplan Gränssnittsdesign och Webbutveckling 1 Vårtermin 2014

IT OCH PROGRAMMERING I SKOLAN. Jan Erik Moström Peter Vinnervik

Slutrapport. Innovativt utbildnings- och forskningsmaterial användning av 3D visualisering och animering för att bemöta pedagogiska utmaningar

Portabel dockningsstation för bärbara datorer - HDMI eller VGA - USB 3.0

Kristoffer Eriksson Christer Oscarsson Andreas Dahlberg Martin Bengtsson

Utvecklingsm odell och utvecklingsm etod för att skapa god kom m unikation

Laboration i datateknik

PlantPuppy Räddaren för den som inte kan hålla växterna vid liv

New Media. De nya praktikerna och kontexter för den nya praktiken

The Intelligent Timer

Interaktionsdesign. Användbarhet ISO Usability goals. Interaktionsdesign, grundkurs (7,5 HP) Sammanfattande föreläsning

Interaktiva applikationer för dator (WPF) och web (Silverlight) Grafisk utvecklingsmiljö. Hela produktioner: design, layout, animationer, skins, etc.

Introduktion till vetenskaplig metodik. Johan Åberg

Matematik och det nya medialandskapet

PROGRAMMERING. Ämnets syfte. Kurser i ämnet

Lunds Tekniska Högskola Datorarkitektur med operativsystem EITF60. Superscalar vs VLIW. Cornelia Kloth IDA2. Inlämningsdatum:

Viktiga begrepp. Algoritm. Array. Binärkod. Blockprogrammering. Bugg / fel och felsökning. Dataspel. Dator

Tjänsteprototypning. och tjänsterepresentationer. Johan Blomkvist IDA-HCS-IxS

Människa-Datorinteraktion. HCI text

Nya Medier. Gränssnitt, Interaktivitet och Digital kod

Fakulteten för teknik- och naturvetenskap. Utbildningsplan TGHEL, TGHME, TGHML

Föreläsning 7: Kognition & perception

Hi-Fi Prototyping + laborationsgenomgång & verktyg

Interaktionsdesign och användbarhet Personas. Paper prototyping. » Metod för representation av användaren. » Metod för konceptutveckling

Teknisk / Audiologisk Information. FREE VC och FREE VC Open FREE Exclusive och FREE Exclusive Open

180 Higher Education Credits

Civilingenjör Mjukvaruteknik Att designa en utbildning utifrån ACM CS Curriculum

På vilka sätt kan mönster vara en ingång till att utveckla förmågan att uttrycka och argumentera för generaliseringar algebraiskt?

UTBILDNINGSPLAN Masterprogram Contemporary Performance and Composition (CoPeCo), 120 högskolepoäng

Idrottsvetenskap AV, Magisterkurs i idrottsvetenskap, 30 hp

Att intervjua och observera

Skapa ett eget programnu! NU! Komplett med programvara och konkreta exempel! Patrice Pelland. Swedish Language Edition published by Docendo Sverige AB

HAND TRACKING MED DJUPKAMERA

JavaRats. Kravspecifikation. Version 1.1. Gustav Skoglund Marcus Widblom Senast ändrad: 13 / 05 / 08

EV3 Roboten. Sida 1 av 13

Labb i Datorsystemteknik och programvaruteknik Programmering av kalkylator i Visual Basic

Berättelser Scenarios Presentationer Skisser Formella modeller Mjukvaruprototyper Kartong modeller etc.

Robot Educator En introduktion

Slump och statistik med Scratch. Se video

Transkript:

Akademin för innovation, design och teknik EXAMENSARBETE FÖR KANDIDATEXAMEN I DATAVETENSKAP 15 HP Interaktiva multidisciplinära konstnärliga upplevelser i unika miljöer digital förstärkning av scenkonst Författare: Anne Wesseling Lindblom och Likhith Phal

Sammanfattning Den här rapporten presenterar utvecklingsprocessen av ett inbyggt system som förstärker en. Interaktionen mellan cellisten och den digitala artefakten förkroppsligades genom användning av sensortekniken elektromyografi (EMG) som känner av musklers aktivitet. Med hjälp av EMG-sensorer för medicinsk teknik mättes cellistens muskelaktivitet i realtid. Projektet har förhållit sig till den konstnärliga gestaltningen, vilket har inneburit ett öppet slut och förändringar i utvecklingsprocessen. Utvecklingsprocessen har också tagit tillvara cellistens behov och synpunkter. Projektet har utvärderats genom återkommande formativa utvärderingar som protokollförts med video. Projektet har visat att värnande av upplevelsevärden, exempelvis estetiska värden, påverkar förhållningssättet till implementationen. Artefaktens slutliga formgivning har utvecklats genom att experimentellt utveckla tekniken i projektet. Abstract This report presents the development of an embedded system e through interactive video. The aim was to explore how the development process of software can support artistic expression. The interaction between the cellist and the digital artefact embodied using the sensor technology electromyography (EMG) which senses muscle activity T muscle activity measured in real-time using medical technical EMG-sensors. The project related to the artistic creation, which involved an open ending and changes in the development process. The needs and views of the cellist were taken in consideration during the development process. The project has been evaluated by recurring formative assessments recorded on video. The project has shown that the safeguarding of experience values, such as aesthetic values, affect the approach to T was developed by experimentally developing the technology in the project. Date: 17 januari 2015 / 17 January 2015 Handledare vid MDH /Advisor at MDH: Rikard Lindell Examinator: / Examiner: Baran Cürüklü

Innehåll 1. Inledning... 4 2. Bakgrund... 4 3. Problemformulering... 7 4. Metod... 8 5. Implementation... 8 Artefakten... 8 Video Demo... 15 Användarupplevelse... 15 6. Diskussion... 17 7. Tack... 18 8. Referenser... 19 iii

1. Inledning som oftast kan ses som inbyggda system? Examensarbetet handlar om designing och implementation av ett inbyggt system för materialitet. I det här sammanhanget betyder det att återkoppling från artefaktens beteende styr utvecklingsarbetet av artefakten. -datorinteraktion har blivit ett bredare begrepp (Dourish, 2001). Den bräddade variationen av datorsystem kräver också bräddade former för användargränssnittsdesign. Kuutti (2009) har visat att vi behöver ta hänsyn till fler upplevelsevärden än användbarhet. Genom att skapa en digital artefakt, som i princip är ett inbyggt system s ng till medicinska EMG-sensore. sitt instrument. 2. Bakgrund -datorinteraktion (Human-Computer Interaction, HCI) och interaktionsdesign och der. Vi presenterar först en allmän översikt av relationen mellan konst och vetenskap. Kolijn (2013) reflekterar om relatio mikroorganismer ser ut och hur dessa kan använ och undrar hur konst kan bidra till vetenskap. Hon k har svårt för att artefakten 4

de arbetar tillsammans. Han kom fram till att en vanl fri Som Kolijn (2013) och England (2012) kommer fram ti - -datorinterkationen. (England, 2012). T -, lj, text och ljud via Bluetooth till skulpturen. Filerna omvandlas till ljud som kombineras med b T, 2010). Både Sonic Onyx och HUM är exempel där datavetenskap har en avgörande roll för verkets tillblivelse och utformning samt där verkens upplevelsevärden är rikare än en ensidig fokus på användbarhet.. Den ansluter och drar från många discipliner, bland annat matematik, elektroteknik, psykologi, statistik, fysik, lingvistik och konst. Ingenjörsorganisationerna IEEE och ACM 1 anse. Men om 1 Computer Science Curricula 2013 - Curriculum Guidelines for Undergraduate Degree Programs in Computer Science http://www.acm.org/education/cs2013-final-report.pdf 5

fysisk och social verklighet, och som utnyttjar detta faktum i hur de interagerar med oss (Dourish, 2001). Datavetenskap har alltså en koppling till den konstnärliga gestaltningsprocessen. I d Bertelsen et al. (2007) tar upp materialitet hos dig (Candy, 2005). (Bertelsen et med ett antal kommunikationskanaler. De flesta programmeringsspråk som C, är kontrollflödesspråk och de som lär sig pro (Wadge och Ashcroft, 1985). De diverse programmeringsspråk kan man anse som skilda digital materi annorlu prototypprogram då motståndet från en prototyp skri -, 1983 därmed den framtida artefaktens design (Lindell, 2014). Konst och vetenskap har berikat och påverkat varandra på många olika sätt. Med hjälp av datavetenskap kan man skapa ett konstverk. Tekniken och koden i konstverket ska dock vara robust och man ska använda rätt material för att få rätt återkoppling. Interaktionen med en konstnärlig artefakt är mycket mer användarcentrerad och hur användaren upplever artefakten och alltså inte bara baserat på användbarhet. 6

3. Problemformulering I det här examensarbetet undersöks hur datavetenskap kan bistå till och vara en del av konstnärlig gestaltning och digital informationsdesign genom att skapa en digital artefakt och reflektera över dess skapande. Vi använder konstformerna musik och video. I detta projekt ingår det samarbete med cellisten Ruth Spargo, som kommer att vara artefaktens användare. Cellisten kommer att använda ett geststyrt videoinstrument och hennes upplevelse kommer att styra artefaktens design. Designprocessen och hur den leder till en fungerade digital artefakt är tyngdpunkten i detta examensarbete. Projektet har ett öppet slut, men det är essentiellt att artefakten är ett visuellt komplement till musik. Digitala artefakter för uppträdanden med performativa egenskaper kräver ett tekniskt genomförande (Elblaus et al. 2012). Genom digitala gestaltningsverktyg öppnas möjligheterna till interaktivitet mellan artisters framträdande och det audivisuella uttrycket. Vi undersöker hur dataflödesprogrammeringsspråk påverkar processen och utvecklingen av en digital artefakt. Digital konst och programkod har en inneboende materialitet (Lindell, 2014). Arbetet avslutas genom att värdera projektets explorativa designprocess och dess relation till kodens materialitet genom introspektion och reflektion. Projektet bidrar till att undersöka relation mellan designprocess och implementation med syftet att hitta arbetsmetoder som förvaltar upplevelsevärden i utveckling av programvara. 7

4. Metod Metodmässigt är projektet en induktiv kvalitativ 2 studie. Det induktiva tillvägagångssätt som används i denna studie är baserat på erfarenheter som införskaffats under projektets experiment (Eneroth, 1984). Projektet utgår ifrån en frågeställning, nämligen på vilket sätt kan datavetenskap bidra till konstnärlig gestaltning. Grunden till slutsatserna kommer fram på ett empiriskt sätt från erfarenheterna och upplevelsen att utveckla denna artefakt. Vi har skrivit reflekterande anteckningar under tiden vi programmerat. Anteckningarna beskriver vad som fungerat och hur det har fungerat. Reflektion och diskussion över anteckningarna styrde hur vi arbetade vidare med projektet. Den här arbetsmetoden tillämpar Schöns (1983) teorier om reflektion-i-handling och reflektion-överhandling. Genom improvisation med kod erhölls en känsla för materialet och möjliggjorde situationsanpassning i stunden efter resultatet. Projektet var explorativt eftersom artefakten vi utvecklade hade ett öppet slut. Implementationstekniken Kanban (Kniberg, 2009) stödjer agila utvecklingsprocesser som är i ständig förändring. Modellen gör det möjligt att ändra ett pågående arbetets mål i synnerhet när artefaktens upplevelsevärden står i fokus (Lindell, 2014). Projektet tog utgångspunkt i upplevelsevärden för gestaltning av tid och vatten genom video och musik istället för en kravspecifikation med operationaliserbara funktionella och icke-funktionella krav. Traditionella tekniker och sätt att resonera inom programvaruteknik var inte tillämpliga. Vi arbetade på ett sätt som liknar Kanban, där vi planerade för varje vecka genom att skriva vad vi skulle göra och hur lång tid vi trodde varje uppgift skulle ta. Resultatet av varje uppgift styrde eller ändrade vårt arbete och planeringen. Genom att reflektera över planeringen och resultatet från varje uppgift lärde vi oss mer och blev mer medvetna om projektets framgång och dess möjligheter. För att värdera resultat har vi också tillämpat introspektion video-promted recall. Video-prompted recall är en metod känd från psykologi (Lodge et al. 2000) som använder video för att återkalla ett minne. Vi har gjort metoden introspektiv genom att spela in videos av eget arbete som vi sedan analyserat genom att söka efter indikationer och stöd för kategorier med avseende till projektet frågeställning. Artefaktens användare är en utomstående person. Med hänsyn till de forskningsetiska 3 aspekterna informerade vi användaren om den övergripande planen för och syftet med forskningen. Dessutom informerade vi om de metoder som användes och att användarens deltagande i forskningen var frivilligt. 5. Implementation I implementation presenteras artefakten och vilka hårdvaror och program som användes. De olika hårdvarorna och program hade skilda möjligheter och vi beskriver på vilket sätt detta påverkade artefakten. Vi gjorde en videoprototyp och en video demo och beskriver vad vi lärde oss från de och hur vår användare upplevde artefakten. Artefakten Artefakten som vi utvecklade använder sig av en EMG-sensor som tar in signaler, antingen muskelspänning med hjälp av en medicinsk sensor, eller ljud med hjälp av en mikrofon. Signalerna fångas upp och bearbetas i en dator som skickar dem vidare till en annan dator som använder dem för att påverka en video i realtid. Videon projekteras sedan på scenen där cellisten och projektionen blir en musikalisk och visuell upplevelse. 2 Kvalitativ Metod, http://kvalitativmetod.webs.com/, (hämtad 2014-05-28) 3 Codex regler och riktlinjer för forskning, http://codex.vr.se/manniska2.shtml, (hämtad 2014-10-16) 8

Figur 1. Artefaktens olika delar. En EMG-sensor mäter muskelspänning, en DAQ-enhet fångar upp signalerna och de bearbetas i LabVIEW. Med hjälp av Open Sound Control skickas signalerna sedan vidare till Quartz Composer där de påverkar olika video effekter. Videon blir sedan projicerad på scenen i realtid. DAQ Skapandet av den digitala artefakten utfördes på ett explorativt sätt. Artefakten är ett datainsamlingssystem. Datainsamling (Data Acquisition 4 eller DAQ) är processen att mäta ett elektriskt eller fysiskt fenomen såsom spänning, ström, temperatur, tryck, eller ljud med en dator. Ett DAQ-system består av sensorer, DAQ mätningshårdvara, samt en dator med programmerbar programvara (Figur 2). Figur 2. National Instruments delar av ett DAQ-system Sensorn (Figur 3) som används är en EMG-sensor (elektromyografi) och är skapad för bruk inom det medicinsktekniska området. Den mäter muskelspänning och konverterar detta till en mätbar elektrisk signal som kan läsas av en DAQ-enhet. 4 National Instruments DAQ, http://www.ni.com/data-acquisition/what-is/, (hämtad 2014-05-18) 9

Figur 3. Den gråa sensorn inkopplad till DAQ-enheten Vi utförde experiment med olika inmatning såsom volt genom DMM-kablar, ljud genom ljud-kablar och ljud genom mikrofon och prövade olika sätt att visualisera och bearbeta värdena som DAQenheten fått ut. Dessa experiment tyder på att det går lätt att byta ut inmätning från mikrofon till sensorn, då DAQ-enheten kommer att skicka ut samma typ av signaler. Genom att DAQ-enheter ger samma typ av mätdata till LabView-stystemet kunde vi använda olika sensorer under utvecklingen. Det var avgörande för att projektet skulle kunna utvecklas framåt eftersom utvecklingen av vår digitala artefakt löpte parallellt med utvecklingen av EMG-sensorn. LabVIEW Vi valde att använda programvaran National Instruments LabVIEW 5 i projektet då det är en grafisk programmeringsplattform som är utformat för mätnings- eller kontrollsystem och är lämplig för att bearbeta signaler med. Man kan använda LabVIEW för att utveckla mätsystem snabbare, automatisera flera mätningar och göra datadrivna beslut. LabVIEW programmen heter virtuella instrument (VIs) eftersom deras utseende och funktion emulerar fysiska instrument. Man kan bygga ett användargränssnitt (frontpanelen, Figur 4) med kontroller, som rattar och knappar, och indikatorer som grafer och lysdioder. I blockdiagrammet (Figur 5) lägger man sedan koden som använder VIs och strukturer för att styra frontpanelens objekt (LabVIEW). Det grafiska programmeringsspråket heter G och är ett dataflödesprogrammeringsspråk. Exekveringen är bestämd av det grafiska blockdiagrams struktur där programmeraren kopplar olika funktionsnoder genom att dra kablar. Dessa kablar sprider variabler och varje nod kan köra så fort inmätningsdata blir tillgänglig. Eftersom detta kan vara fallet för flera noder samtidigt använder sig G av parallell exekvering 6. 5 National Instruments LabVIEW, http://www.ni.com/labview/, (hämtad 2014-05-16) 6 Wikipedia LabVIEW, http://en.wikipedia.org/wiki/labview, (hämtad 2014-05-20) 10

Figur 4. Frontpanelen Figur 5. Blockdiagrammet Arbetet med sensorn och LabVIEW var explorativt då de inte är särskilt gjorda för att skapa en sådan artefakt som vi försökte åstadkomma i detta projekt. Designen av artefakten påverkades av vad som var möjligt med LabVIEW, sensorn och cellistens upplevelse, då sensorn inte ska hindra cellisten. Vi började arbetet genom att bekanta oss med LabVIEW och utforskade hur vi kunde påverka video. Mediaspelare LabVIEWs möjligheter att samla och använda information för att bearbeta, påverka och spela video utforskades. Detta gjordes för att ta reda på hur användbart LabVIEW är för att bearbeta video. Det explorativa arbetssättet gjorde att vi ibland fick oväntade resultat när vårt material reagerade annorlunda än förväntat vilket medförde att vi behövde tänka om och leta efter alternativa lösningar. Ett exempel är att spela video som man kan göra med Windows Media Player (WMP). Det är essentiellt att videon kan spelas upp på helskärm, men implementationen av denna funktion blev mer tidskrävande än förväntad då man behöver skapa särskilda kontroller. Ett alternativ som utforskades då WMP inte kunde göra det som behövdes var att använda Quartz Composer 7 som är ett visuellt dataflödesprogramspråk och en del av utvecklingsmiljön Xcode i Mac OS X som används för att bearbeta och rendera grafisk data. Quartz Composer programmeras genom att koppla ihop funktionsnoder i så kallade patchar. Patchar är processenheter som exekveras och producerar ett resultat. De körs bara när deras utmatning behövs. Både LabVIEW och Quartz Composer stödjer Open Sound Control (OSC) som är ett protokoll för kommunikation mellan datorer, elektroniska musikinstrument och andra multimedia enheter som är optimerade för modern nätverksteknik (Schmeder et al, 2010). Tanken var att videon skulle vara påverkad på så sätt att styrkan på ljudet som kommer in förändrar uppspelningspositionen i videon som spelas. Om videons positionsförändring skulle kopplas direkt till ljudets styrka så skulle videon hoppa fram och tillbaka flera gånger per sekund ibland så fort att programmet till och med kraschar. Detta behövdes lösas genom att utföra ett hopp i videon endast när det sker större förändringar i ljudstyrka under en viss period. Implementeringen ändrades väsentligt då Quartz Composer blev inblandat. Programmet är byggt på så sätt att DAQ-enheten tar in ljud från en mikrofon eller signaler från sensorn och i LabVIEW skickas signalerna vidare genom OSC till Quartz Composer som i sin tur påverkar signalerna och lägger till olika effekter på videon.. 7 Mac Developer Library, Introduction to Quartz Composer User Guide, https://developer.apple.com/library/mac/documentation/graphicsimaging/conceptual/quartzcomposeruserguide/qc_intr o/qc_intro.html#//apple_ref/doc/uid/tp40005381, (hämtad 2014-05-28) 11

Dataflödesprogrammering Både LabVIEW och Quartz Composer är dataflödesprogrammeringsspråk. Noder i LabVIEWs blockdiagram exekveras så fort de har fått all nödigvändig inmätningsdata. När noden exekveras så produceras ett utmätningsvärde som skickas vidare till nästa nod i dataflödets bana 8. Detsamma gäller Quartz Composers patchar, vilka bara körs när deras utmatning behövs. Video För att få videomaterial till artefakten filmades vattenströmmar i Kolbäckån i Hallstahammar. Just på detta ställe uppkommer det ovanliga virvlar. Dessutom är själva rörelserna i vattnet mjuka med stora förändringar i hastighet och kraft. Det här stämmer även bra in med många klassiska musikstycken. Genom att filma på olika ställen under kraftig vind fick vi långa filmsekvenser med varierande dynamik i vattnets rörelser. En del av filmen bearbetades i programmet Adobe After Effects för att experimentera med olika effekter som påverkar videon (Figur 6) och för att få en känsla om hur det kommer att se ut när man projekterar videon på en vit, halvgenomskinlig skärm med någon som spelar cello bakom skärmen (Figur 7). Vi gjorde också tester med olika kontrast och färgvärden (Figur 8). Figur 6. video effekt, CC Lightburst Figur 7. video test, Opacity 8 National Instruments Dataflow Programming Basics, http://www.ni.com/gettingstarted/labviewbasics/dataflow.htm, (hämtad 2014-06-25) 12

Figur 8. video effekt, kontrast Inför premiärföreställningen med cellisten provade vi ut olika sätt att projicera videon på scen. Vi provade ut om cellisten skulle sitta bakom en genomskinlig duk och framför en vit skärm för att på så vis ge en förnimmelse om hennes närvaro i videon (Figur 9). En alternativ design var att projicera videon bakifrån för att ge intrycket av ett skuggspel (Figur 10). Figur 9. Vy från ovan, cellisten bakom genomskinliga skärmen 13

Figur 10. Vy från ovan, skuggspel De olika sätten att projicera videon ger stora förändringar till föreställningen. Materialet på duken hon sitter bakom, eller bakgrunds färg kan ge olika resultat som vi testade när vi gjorde en video demo. 14

Video Demo 9 För att testa artefakten så ställde vi upp den i studion som finns i Mälardalens högskola i Eskilstuna. Vi hade tillgång till EMG-sensorn, men det blev för mycket störning i signalen av alla apparater som fanns omkring så vi bestämde att använda en mikrofon istället. Figur 11. Uppställning av artefakten i studion Vi testade uppställning som beskrev i figur 9, där cellisten sitter bakom en genomskinlig duk, i detta fall var duken en sorts stort nät, så att man kunde se bakom den. Vi märkte att artefakten upplevdes väsentligt annorlunda med olika bakgrunder (Figur 12 och 13). Figur 12. Vit bakgrund Figur 13. Svart bakgrund Det som vi märkte medans vi filmade och när vi tittade tillbaka på videon, var att effekter på videon såg helt annorlunda ut på en stor scen projicerat på duken än det man ser på en liten laptopskärm. Användarupplevelse Efter att vi skapade video-demo utvecklades EMG-sensorprototypen så att det blev mindre störning i signalen. En ny användarstudie och uppträdande genomfördes åter igen med cellisten Ruth Spargo som försöksperson. Den här gången genomfördes studien med EMG-sensorn 10 som indata. 9 Länk till video demo: http://vimeo.com/105751595 och https://www.youtube.com/watch?v=k8mzq2txi-e 10 Länk till video där EMG-sensorn används: https://vimeo.com/107696843 15

En av de stora skillnaderna mellan att använda mikrofon och EMG-sensorn var att hon kände att hon inte tydligt kunde manipulera bildflödet via EMG-sensorn. Med mikrofon så kunde hon spela högre eller mjukare så ändrades bilden direkt. EMG-sensorn tillät inte en tät återkoppling mellan spelstil och videoflöde, vilket hon anser vara en bra sak eftersom hon upplevde att det blev mer konstnärligt intressant resultat. Innan implementationen hade vi några idéer och tankar över hur vi ville att programmet skulle fungera, men under utvecklingen var det koden som avgjorde och styrde. När vi bestämde oss att använda Quartz Composer för att spela och påverka videon öppnade det nya möjligheter att arbeta med videon, men vi behövde också hitta ett sätt att kommunicera mellan LabVIEW och Quartz Composer. Alltså har byte av programvara och kod ändrat implementationen av artefakten för oss som utvecklare. Användarens upplevelse ändrades när vi byte hårdvara från mikrofon till EMGsensorn. För oss utvecklare hade bytet av hårdvara mindre betydelse eftersom DAQ-enheten skickade samma typ av signaler till LabVIEW. Man kan göra stora ändringar på artefaktens upplevelse utan att behöva ändra mycket i artefaktens kod. I diskussion reflekterar vi över det sättet som vi implementerade artefakten och över hur dataflödesprogrammeringsspråk har påverkat processen. Vi reflekterar också över den explorativa designprocessen. 16

6. Diskussion Vår utgångspunkt i arbetet har varit frågeställningen om programmering inom digital konst och gestaltning. I bakgrunden redogjorde vi för datavetenskapens relation till digital konst och kod som material (Lindell, 2014) samt begränsningar hos materialet som förutsättning för gestaltnings- och designprocess (Candy, 2005). Om du har färg som material, då har de olika färgtyperna som akvarell, olja och vattenfärg olika egenskaper och begränsningar som skapar olika förutsättningar för gestalningsprocessen. Om kod betraktas som ett material då har varje språk, utvecklingsmiljö och program olika egenskaper och begränsningar som dels måste tas i beaktande och dels måste utforskas för att visa materialets fulla potential (Bertelsen et al, 2007). Det är viktigt att välja rätt material och verktyg för att skapar prototyper. T.ex. i vårt projekt skapade vi en videoprototyp i Adobe After Effects, men detta program har helt olika alternativ och möjligheter än till exempel den inbyggda Windows Media Player inom LabVIEW eller Quarts Composer. Vår After Effects prototyp reagerade inte på musik, utan alla rörelser och effekter var statiska. När vi använde Quartz Composer ihop med musiken så såg effekterna annorlunda ut då de ändrade dynamisk beroende på musiken eller muskelrörelser. Tankesätt i LabVIEW är detsamma som när du skriver kod men i LabVIEW visualiseras till exempel en loop med en grå kant kring de operatörer som ska ingå i loopen. Skillnaden är dock att dataflödesspråk som LabVIEW fokusera på flödet av data och generella programspråk som C på kontrollflöde (Wadge och Ashcroft, 1985). I Quartz Composer skapas patchar genom att koppla ihop olika noder som utför olika operationer. De här grafiska dataflödesprogramspråken upplevs som en låda med klossar som tillåter programmeraren att bygga program. Både LabVIEW och Quartz Composer är således lämpliga verktyg för explorativ programutveckling. De är relativt formbara och det tar förhållandevis kort tid testa nya designs i jämförelse med exempels programspråket C#. I ett C#-program går det inte lika lätt att byta ut en del av programmet. För dåligt strukturerade program kan det vara mycket svårt (Martin et al. 2010) Att skriva kod i C# kan vara mer tidskrävande än att till exempel koppla ihop olika färdiga funktioner i blockdiagrammet i LabVIEW. Att utveckla experimentellt kan upplevas annorlunda och utmanande. Det kan ibland försvåra planeringen och översikten för hur projektet ligger till. I vårt projekt visste vi inte vad som var möjligt med de olika programvarorna och varje experiment vi gjorde styrde hur vi skulle jobba vidare. När det visade sig att någonting inte var möjligt så behövde vi tänka om och anpassa planeringen. Det mer traditionella arbetssättet inom programmering brukar ha ett mål och ett sätt att nå målet, ibland behövs justeringar eller projektet kan ibland behöva ta sidospår, men vägen brukar vara ganska rättfram som till exempel i vattenfallsmodellen 11. Det explorativa sättet att arbeta var en annorlunda erfarenhet. Vi upplevde detta som att gå in en labyrint utan att se där man går och är ibland omedveten om att man vandrar fel väg och hamnar i en återvändsgränd och behöver då tänka om och ta en annan väg. Vi behövde utforska olika lösningar och de olika problem varje lösning kunde ta med sig, vilket var tidskrävande. Som Christodoulou och Styliaras (2008) beskrev så gick vi också fram och tillbaka mellan de olika steg för att skapa en digital artefakt. Att arbeta explorativt lärde oss att tänka i flykten och anpassa oss på platsen, som Schön (1983) beskriver hur jazz-musiker improviserar tillsammans, så lärde vi oss att anpassa oss efter situationen och materialet. Enligt Dourish (2001) så har sammanhanget vi använder datorer och sättet vi interagerar med dem breddats. Cellisten som var användare av artefakten vi utvecklade, interagerade med systemet annorlunda än den standardinteraktion man brukar se med exempelvis stationära datorer eller mobila enheter. Systemet utökade hennes uppträdande. Input med hjälp av muskelsensorn gjorde att hon blev mer medveten om sin kropp medan hon spelade. Inte bara cellon, utan hela kroppen blev ett instrument. 11 Wikipedia, vattenfallsmodellen: http://en.wikipedia.org/wiki/waterfall_model, (hämtad 2014-11-30) 17

7. Tack Tack till vår handledare Rikard Lindell som gett oss möjligheten att jobba med detta projekt och vägledde oss igenom det. Vi skulle också vilja tacka Ruth Spargo för att våga vara med på vårat annorlunda projekt och Martin Ekström som försåg oss med sensorn och introducerade oss till LabVIEW. Ett stort tack också till Tony Lindblom som bollat idéer med oss och som allmänt har varit ett bra stöd, inte bara för detta examensarbete men hela vår utbildning. 18

8. Referenser Bertelsen O.W, Breinbjerg M, Pold S. 2007. Instrumentness for Creativity. Mediation, Materiality & & Candy L. 2005. Constraints and Creativity in the Digital Arts, creativity and embodied mind in digital fine art Christodoulou S.P, Styliaras G.D. 2008. Digital Art 2.0: Art meets Web 2.0 trend, 3rd International Conference on Digital Interactive Media in Entertainment and Arts Dourish P. 2001. Where the Action Is The Foundations of Embodied Interaction, Massachusetts Institute of Technology Elblaus L, Falkenberg Hansen K, Unander-Scharin C. 2012. Artistically Directed Prototyping in Development and in Practice, Journal of New Music Research Volume 41, Issue 4 Eneroth B. 1984. Grundbok i kvalitativ metod, ISBN 91-27-01869-5 England D. 2012. Digital Art and Interaction: Lessons in Collaboration, CHI EA '12: Proceedings of the 2012 ACM annual conference extended abstracts on Human Factors in Computing Systems Extended Abstracts Filatriau J, Zajéga F. 2010. HUM, an Interactive and Collaborative Art Installation, MM '10: Proceedings of the international conference on Multimedia Kniberg H. 2009. Kanban vs Scrum How to make the most of both, version 1.1 Kolijn E. 2013. Observation and visualization: reflections on the relationship between science, visual arts, and the evolution of the scientific image, Antonie van Leeuwenhoek October 2013, Volume 104, Issue 4, pp 597-608 Kuutti K. 2009. HCI and design: uncomfortable bedfellows? In Binder, Löwgren & Malmborg (eds.) (Re)searching the Digital Bauhaus. Springer, London, pp. 43-59 (LabVIEW) National Instruments LabVIEW, Getting started with LabVIEW, August 2007 de Lange C. 2012. Creative sparks, New Scientist. 1/14/2012, Vol. 213 Issue 2847, p42-45. 4p Lindell R. 2014. Crafting Interaction: The epistemology of modern programming, Personal and Ubiquitous Computing, Volume 18 Issue 3 Lodge J, Tripp G, Harte D.K. 2000. Think-Aloud, Thought-Listing, and Video-Mediated Recall Procedures in the Assessment of Children's Self-Talk. Cognitive Therapy and Research, Volume 24, Issue 4, pp 399-418, Springer August 2000 Martin R.C., Feathers M.C., Ottinger T.R. 2010. Clean Code: A Handbook of Agile Software Craftsmanship. Schmeder A, Freed A, Wessel D. 2010. Best Practices for Open Sound Control, Linux Audio Conference Schön D.A. 1983. The Reflective Practitioner How Professionals Think in Action, Basic Books Inc. Trifonova A, Jaccheri L. 2008. SArt Project: Research in the Intersection between Software and Art, Culture, Creativity, Interaction, Volume 2, Pages 173-176 19

Wadge W.W, Ashcroft E.A. 1985. Lucid, the Dataflow Programming Langugage, Academic Press Bild försättsblad: Luis & Clark Cello over the Stockbridge Bowl, Lenox, MA, Photo elements and composite by Kevin Sprague. Studio Two, Lenox MA, www.studiotwo.com, Copyright 2002 Kevin Sprague 20