Bilaga B Specifikation 1 Beräkningskluster Klustret som efterfrågas skall innehålla: Beräkningsnoder (1.1.1) Systemservrar (1.2) Kommunikationsnätverk (1.3) Övervakningsnätverk (1.4) Rack, övrig utrustning och installation (1.5) Delar som bör erbjudas som optioner: 4 processors noder (Nodtyp B, 1.1.2) Beräkningsnod med utökat minne (Nodtyp C, 1.1.3) Beräkningsnod med GP- GPU accelerator (Nodtyp D, 1.1.4) Beräkningsnod med grafikkort och PCIoIP (Nodtyp E, 1.1.5) Racknära kylning (1.6) För installation, konfiguration och underhåll av systemprogramvara ansvarar respektive centra. Operativsystemet som kommer att installeras är någon paketerad variant av RedHat Enterprise Linux 5.5 och 6.0 (eller senare), CentOS eller derivat därav, eventuellt komplette- rat med lokala patchar och utvidgningar. All levererad hårdvara skall vara kompatibel med moderna Linux- kärnor och bör vara kompatibel med Windows 2008 HPC Server. Alla beräkningsnoder och systemservrar skall vara av typen AMD64, Intel 64 eller av likvärdig typ. Datorerna skall levereras med minnen av ECC- typ, som skall vara aktiverat vid leverans. Senaste versioner av firmware och BIOS skall vara installerade på all utrustning innan leve- ranskontroll påbörjas. Beräkningsnoderna bör vara identiska, prestandatester skall inte kunna skilja ut vissa noder från andra beroende på vilken leverantör som valts för komponenter, som diskar och min- nen. All hårdvara som ingår i systemet skall vara dimensionerad för kontinuerlig drift (24x7) med full last. 1(7)
1.1 Beräkningsnod Fem typer av noder kan komma att ingå i klustret. 2- processornoder (Nodtyp A), 4- processornoder (Nodtyp B) samt 2- processornoder med utökat minne (Nodtyp C), GP- GPU- acceleratorer (Nodtyp D) eller med grafikkort (Nodtyp E). Den huvudsakliga delen av klustret kommer att utgöras av Nodtyp A eller Nodtyp B. Förslag på noder av typ C, D och E bör ges, men kommer att väljas som en option. 1.1.1 Nodtyp A Varje nod skall utrustas med två processorer med vardera minst fyra fysiska kärnor. Beräkningsnoderna skall utrustas med minst 2 GB internminne per fysisk kärna dvs. totalt minst 16 GB/nod för grundalternativet. Alternativ skall också ges för noder med minst 4 GB internminne per fysisk kärna dvs. totalt minst 32 GB/nod för grundalternativet. Alternativ skall också ges för noder med minst 6 GB internminne per fysisk kärna dvs. totalt minst 48 GB/nod för grundalternativet. 1.1.2 Nodtyp B Varje nod skall utrustas med fyra processorer med vardera minst fyra fysiska kärnor. Noder skall utrustas med minst 2 GB internminne per fysisk kärna dvs. totalt minst 32 GB/nod för grundalternativet. 1.1.3 Nodtyp C Varje nod skall utrustas med 2 processorer med vardera minst fyra fysiska kärnor. Beräkningsnoderna skall utrustas med minst 8 GB internminne per fysisk kärna dvs. totalt minst 64 GB/nod för grundalternativet. Alternativ skall också ges för noder med minst 12 GB internminne per fysisk kärna dvs. totalt minst 96 GB/nod för grundalternativet. 2(7)
1.1.4 Nodtyp D Varje nod skall utrustas med 2 processorer med vardera minst fyra fysiska kärnor. Beräkningsnoderna skall utrustas med minst 2 GB internminne per fysisk kärna dvs. totalt minst 16 GB/nod för grundalternativet. Beräkningsnoderna skall utrustas med accelerator av GPGPU- typ, NVIDIA Fermi eller bättre. 1.1.5 Nodtyp E Varje nod skall utrustas med två processorer med vardera minst fyra fysiska kärnor. Beräkningsnoderna skall utrustas med minst 2 GB internminne per fysisk kärna dvs. totalt minst 16 GB/nod för grundalternativet. Beräkningsnoderna skall utrustas med grafikkort. Grafikkort bör vara av typen NVIDIA Quadro 5000 eller motsvarande. Beräkningsnoderna skall vara utrustade med ett Teradici PCI- over- IP kort. 1.1.6 Systemdisk Av tre nedanstående alternativ till konfiguration av systemdisk skall ett anges och övriga bör anges. 1 eller fler SSD diskar med en totalyta på minst 100 GB. En detaljerad specifikation av disken skall anges. 1 eller fler SAS diskar med en totalyta på minst 140 GB. Rotationshastighet 10000 varv/minut eller högre. 2 eller fler SATA diskar med en totalyta på minst 250 GB. Rotationshastighet 7200 varv/minut eller högre. Nedanstående alternativ bör anges som ytterligare alternativ 1 eller fler SATA diskar med en totalyta på minst 2 TB. Rotationshastighet 7200 varv/minut eller högre. Om fler än en disk levereras skall dessa vara konfigurerade som separata enheter (devices) och de skall vara identiska. 3(7)
1.1.7 Nätverk Det klusterinterna kommunikationsnätverket innehåller 3 delar. Därför skall varje nod förses med: Ett Ethernet- gränssnitt (1000Base- T). Ett Infiniband- gränssnitt 4xQDR eller bättre. Infiniband- gränssnittet skall vara anslutet via PCI Express 8x generation 2 eller bättre. En port för övervakningsnätverk som skall vara separat från ovanstående samt ej åt- komlig från operativsystemet. Övervakningsnätverket skall vara konfigurerat av leverantören enligt centras specifikation vid leverans. 1.1.8 Chassi Noderna skall vara avsedda för rackmontage alternativt montage i bladchassin. Den fysiska storleken i 19 rackmontage eller motsvarande skall vara mindre än 1U per be- räkningsnod för nodtyp A, C respektive mindre än 2U för nodtyp B, D och E. 1.1.9 BIOS Nodernas BIOS skall kunna uppgraderas och konfigureras utan fysisk access till datorerna. Nodernas BIOS bör kunna uppgraderas och konfigureras från operativsystemet. Noderna skall kunna bootas via PXE och detta skall vara aktiverat som första val vid leve- rans. 1.1.10 Övervakning Varje nod skall kunna nås genom IPMI för konfiguration, omstart och övervakning även om det installerade operativsystemet är ur funktion. 1.2 Systemserver Systemservrarna kommer att ha till uppgift att tillhandahålla centrala tjänster i klustret. Arkitekturen skall vara identisk med beräkningsnodernas förutom nedanstående avvikelser. 1.2.1 Systemdisk Varje systemserver skall ha två stycken hårddiskar med följande minimikrav: SAS eller SSD disk minst 140 GB. För SAS diskar skall rotationshastighet vara 10000 varv/minut eller högre. Systemservrarna skall stödja RAID1 (spegling) i hårdvara och detta skall vara konfigurerat vid leverans. 4(7)
1.2.2 Nätverk Det klusterinterna kommunikationsnätverket innehåller 3 delar. Därför skall varje server förses med: Minst 2 ethernet- gränssnitt (1000Base- T). Ett infiniband- gränssnitt 4xQDR eller bättre. Infiniband- gränssnittet skall vara anslutet via PCI Express 8x generation 2 eller bättre. En port för övervakningsnätverk som skall vara separat från ovanstående samt ej åt- komlig från operativsystemet. Övervakningsnätverket skall vara konfigurerat av leverantören enligt centras specifikation vid leverans. 1.2.3 Chassi Systemservrarna skall vara utrustade med redundant nätaggregat. Den fysiska storleken på systemservrarna får avvika från beräkningsnodernas. 1.2.4 Övrigt Extern VGA- kontakt eller motsvarande för anslutning av bildkärm skall finnas. DVD- läsare skall finnas. 1.3 Kommunikationsnätverk Beräkningsklustret skall innehålla 2 st kommunikationsnätverk, ett baserat på Gigabit Ether- net samt ett baserat på Inifiniband. Allt erforderligt kablage skall ingå. Alla kablar skall vara märkta enligt centras specifikation. 1.3.1 Gigabit Ethernet Alla noder och servrar skall kunna kommunicera via Gigabit Ethernet (1000BASE- T). Lösning- en bör ha en bisectional bandwidth på minst 40 Gbit/s. Lösningsförslagets bisectional bandwidth skall anges. Nätverket skall innehålla: Switchade, full duplex, Gigabit Ethernet- portar (1000Base- T) för alla datorer i klust- ret. Möjligheter till övervakning och felsökning ner på portnivå. Ca. 10% outnyttjade portar. 1.3.2 Infiniband Alla noder och servrar skall kunna kommunicera via Infiniband 4xQDR eller bättre. Nätverket skall: 5(7)
Innehålla infiniband- portar för alla datorer i klustret. Om mer än 1 switch används skall dessa bilda en trädstruktur. Innehålla minst sex outnyttjade portar. Option på avancerad programvara för övervakning, konfiguration och kontroll av infiniband- nätverk skall anges. Noderna bör kunna nätverksbootas och installeras via infiniband. 1.4 Övervakningsnätverk Alla servrar, switchar, noder och disklådor skall kunna nås via ett separat övervakningsnät- verk. Förbindelse till en server skall inte påverkas av övriga servrars tillgänglighet. 1.5 Rack, övrig utrustning och installation Rack för montering av all specificerad utrustning samt eldistribution inom rack skall ingå. Rack anslutes externt via 3- fas 32 A handskar. Möjlighet att expandera och komplettera i framtiden bör finnas. Nätverksövervakningsbara PDU:er bör anges som option. 1.6 Racknära kylning Alternativ för racknära kylning bör ges som option. Förslag på racknära kylning skall täcka minst 100 % av systemets kylbehov. Schematiska skisser på förslagen skall redovisas. Kylbehov som inte täcks av racknära kylning hanteras av befintlig kylutrustning installerad i datorhall på respektive center. 2 Garanti och service Garantin skall omfatta minst fyra år på systemets alla samtliga delar. Garantitiden räknas från det att hela systemet godkänts i systemkontroll (Bilaga A kapitel 3). För beräkningsnoderna skall den lägre servicenivån, NBD på platsen (Next Business Day on site), tillämpas. För de kritiska delarna i systemet skall en servicenivå med högst 4 timmars inställelsetid (kontorstid dagtid) tillämpas. Kritiska delar omfattar komponenter beskrivna i avsnitt 1.2-1.4 och 1.6. Leverantören skall svara för avancerad felsökning av komponenter och system. 6(7)
Leverantören skall tillhandahålla sådan dokumentation att supportorganisationen kan spåra ingående reservdelar med hjälp av serienummer på levererade enheter. 2.1 Felaktigt minne Vid misstanke om minnesfel på noder kan memtest eller memtest+ komma att användas. Indikerar dessa verktyg fel anses berörda minneskapslar felaktiga. Även vid minnesrelate- rade Machine Check Exception anses relevanta minneskapslar felaktiga. Kan enskilda minneskapslar inte pekas ut skall samtliga minneskapslar på noden anses vara felaktiga och bytas ut. 2.2 Felaktig hårddisk Indikerar loggfilerna i Linux att det finns läs- eller skrivfel alternativt dåliga sektorer anses hårddisken felaktig. 2.3 Felaktig hårdvara Avslutas operativsystemet upprepade gånger med undantaget Machine Check Exception anses detta tyda på ett hårdvaruproblem. Machine Check Exception är ett undantag som utlöses av hårdvaran själv vid hårdvaruproblem. De flesta operativsystem är implemente- rade på ett sådant sätt att de stannar med felmeddelande vid dessa typer av undantag. Le- verantören kontaktas för att utföra vidare felsökning. 3 Utvecklingsverktyg Optioner för följande programvaror bör anges: Intel Cluster Studio Accumem TotalView Vampir Allinea DDT Allinea OPT I det fallet att licenser är per kärna bör priser redovisas med staplingsnivåer. 7(7)