Syftet med denna del är att utveckla och försvara en form av preferensutilitarism, vilken kan identifieras med kritiskt tänkande. Den huvudsakliga framställningen är i kap. 5-6. En senare kort sammanfattning (s. 220) verkar tillföra en del nya tankar och är till stor hjälp.
H vill visa att det finns en rationell metod för att ta reda på vad man bör göra i en given situation. Även om H inte själv säger detta så påminner hans metod om Kants på så vis att den används till att utesluta specifika 'bör'-omdömen (eller universella preskriptioner). Som H själv erkänner (s. 112, 183-87) kan man bara använda hans metod för att utesluta bör - omdömen, inte till att bevisa dem. Det visar sig att alla icke-utilitaristiska omdömen kan uteslutas.
H hävdar att min kunskap om hur mina handlingar påverkar andra, som är relevant information, leder till att jag själv nu får/har preferenser om vad som skulle hända mig om jag vore i deras situation, med deras preferenser. Han baserar denna tes på två premisser: 1. Den första är att min kunskap om andras upplevelser förutsätter kunskap om hur det skulle vara för mig att befinna mig i deras situation. 2. Den andra är ett antagande som har kallats "reflektionsprincipen" (dock ej av H). Den säger följande: för att jag ska kunna veta att jag skulle ha en viss preferens med en viss styrka om jag befann mig i en annan persons situation, med hans preferenser, måste jag redan nu ha en motsvarande preferens för denna hypotetiska situation.
H påstår att denna princip är en begreppslig sanning. Den verkar dock i sin tur vila på två olika tankegångar: a. Enligt en tolkning handlar principen enbart om lidande. Precis som jag inte kan veta hur mitt lidande är för mig om jag inte har en preferens att lidandet upphör så kan jag inte veta hur det är för en annan person att lida om jag inte nu har en motsvarande preferens för att inte lida på det sättet om exakt samma sak hände mig (där "exakt samma sak" förutsätter att min upplevelse är exakt densamma).
b. Ordet 'jag' är delvis preskriptivt. Det betyder att i den utsträckning som jag ser en person som "jag" så delar jag den personens preferenser. Hur är detta relevant? En tolkning är denna: för att veta hur det är för den andre att lida så måste jag veta hur det skulle vara för mig att lida på precis samma sätt. Men att veta detta förutsätter att jag identifierar mig med personen som lider (som ju då skulle vara jag), vilket i sin tur förutsätter att jag tar över den personens preferenser.
H säger själv (s. 104) att han enbart uttalar sig om preferenser som gäller ens egna samtidiga upplevelser. Dessa preferenser behöver dock inte föreligga nu. De preferenser som räknas är därmed bara vad han kallar "nu-för-nu" och "då-för-då". Detta leder till en "lyckoversion" av utilitarismen, snarare än en "preferensversion". Den senare beaktar alla preferenser. Inskränkningen till upplevelsepreferenser är betydelsefull, men H håller sig inte till den konsekvent. Han talar ofta om preferenser i allmänhet.
Hur använder H reflektionsprincipen för att komma fram till utilitarismen? För att svara på den frågan måste vi granska hur H tillämpar sin metod på konkreta fall. De intressanta fallen är de där två eller flera personer har motstridiga preferenser. De enklaste är de med bara två personer inblandade (varav agenten är en). En möjlig tolkning följer. Vi använder H:s eget exempel med två personer (s. 111): du vill flytta på min cykel så att du kan parkera din bil; jag vill inte att du flyttar på cykeln; din preferens är starkare; jag kan låsa fast cykeln så att du inte kan flytta på den. Jag hävdar nu följande moraliska omdöme: jag bör låsa fast cykeln. Låt oss nu pröva detta omdöme genom kritiskt tänkande.
Universaliserbarheten hos bör implicerar att jag är logiskt tvingad att acceptera följande princip: i fall av denna typ bör cyklisten låsa fast cykeln. Detta är en universell preskription. En universell preskription är det språkliga uttrycket för en universell preferens. En sådan preferens kan förstås på två olika sätt: 1. En preferens som gäller alla situationer av en viss typ (oavsett vilka individer som spelar vilken roll i situationen). [Denna är sannolikt den avsedda tolkningen.] 2. En preferens som gäller en generisk situation, beskriven i rent universella termer, utan individkonstanter.
Hares fråga: är detta omdöme rationellt? Om inte kan det uteslutas. För att ett moraliskt omdöme ska vara rationellt måste det uppfylla två villkor (s. 218): 1. Det baseras på alla tillgängliga relevanta fakta. 2. Det respekterar de logiska egenskaperna hos de begrepp som ingår i det. Vilka fakta är relevanta? H: Det måste vi använda kritiskt tänkande för att besvara. Vi får inte använda intuitioner.
Invändning: H:s metod är cirkulär. För att tänka kritiskt måste vi först veta vilka fakta som är relevanta. Men för att veta det måste vi redan ha tänkt kritiskt. H svarar: Det är ingen cirkel, för vi utgår inte från att det eller det är relevant. Vi antar att det är det och kan sedan testa denna hypotes med hjälp av kritiskt tänkande. Det visar sig sen att fakta om personers (varelsers) preferenser är de enda relevanta (p.g.a. reflektionsprincipen). Bara dessa kan leda fram till preskriptioner.
Vi återvänder till frågan: är mitt (cyklistens) omdöme rationellt? Anta att jag tar hänsyn till alla tillgängliga fakta inklusive fakta om dina och mina preferenser och respekterar preskriptiviteten och universaliserbarheten hos bör. Två konsekvenser: 1. Universaliserbarhet + preskriptivitet jag har en preferens att cykeln ska låsas fast även i den hypotetiska situation där jag är bilisten. 2. Kunskap om dina preferenser + reflektionsprincipen jag har en starkare preferens att cykeln inte låses fast i denna hypotetiska situation.
Följaktligen: om jag vidhåller att cykeln bör låsas fast även i den hypotetiska situationen där jag är bilisten så måste jag bryta mot något av rationalitetskraven ovan. 1. Jag kan förneka att bilisten har en starkare preferens. 2. Jag kan förneka universaliserbarhet och hävda att det spelar roll moraliskt att det är jag som är cyklisten. 3. Jag kan förneka preskriptiviteten hos bör och ignorera betydelsen av preferensstyrka. Om preskriptivitet gäller och jag accepterar Cykeln bör låsas fast i den hypotetiska situationen S i vilken jag är bilisten så måste jag nu acceptera imperativet Lås fast cykeln i S. Men det kan jag inte göra eftersom jag nu har en starkare preferens för att cykeln inte låses fast i S. Men om det inte är så att jag bör låsa fast cykeln i den hypotetiska situationen så följer det, p.g.a. universaliserbarhet, att jag inte bör göra det i den faktiska situationen heller.
I nästa steg vill H utsträcka sin metod till fall som involverar fler än två personer. Detta är enkelt, menar han. Det är det dock inte. Vi återgår till cykelfallet, men ändrar lite på premisserna: I bilen finns också en passagerare. Cyklistens preferens för att cykeln ska vara kvar är starkare än både bilistens och passagerarens preferens för att den ska flyttas men inte starkare än deras sammanlagda ( aggregerade ) preferens för att flytta cykeln.
Problemet för H är att det inte verkar gå att tillämpa den tidigare beskrivna modellen på det här fallet. Detta beror på att när jag (cyklisten) prövar mitt moraliska omdöme med hjälp av kritiskt tänkande så får jag i. o. f. s. nya preferenser som svarar mot bilistens respektive passagerarens, men dessa gäller olika hypotetiska situationer (en där jag är bilisten och en där jag är passageraren). Så det finns ingen situation där min preferens vägs mot bägge deras.
Vad göra? På s. 220 (avsnitt 12.7) verkar H mena att jag ska pröva en universell preskription även i flerpersonsfall, men att jag gör detta genom att se om den är förenlig med summan av alla mina preferenser, inklusive mina preferenser för hypotetiska fall med ombytta roller. Vidare säger han att den är förenlig med summan av preferenser endast om jag föredrar att den efterlevs universellt framför att den inte efterlevs universellt.
Ett sätt att förstå denna idé med visst stöd i H:s diskussion i kap. 6 är denna. När jag universaliserar mitt moralomdöme visar det sig att jag måste ha preferenser som gäller situationen beskriven i universella ordalag bilföraren flyttar på cykeln. Mina två preferenser att bilföraren flyttar på cykeln (om jag är bilföraren) och att bilföraren inte flyttar på cykeln (om jag är cyklisten) kan då verkligen sägas vara oförenliga, precis som H hävdar, därför att de båda gäller samma generiskt beskrivna situation.
Vidare är min preferens allt som allt för denna universellt beskrivna situation resultatet av en avvägning av alla mina preferenser rörande situationen. På det viset kan vi också begripa Hares tal på s. 220 om summan av agentens preferenser, eftersom alla dessa preferenser då rör samma situation (fast en generisk situation). Även om alla de nya preferenserna gäller samma situation så förblir det oklart hur man kan aggregera dem. Men om det problemet kan lösas är det klart varför mitt omdöme kan uteslutas: det är oförenligt med min preskription om den generiska situationen.
H bemöter en vanlig typ av motexempel mot utilitarismen: i ovanliga fall implicerar U slutsatser som strider mot våra intuitioner. H ställer motståndaren inför ett dilemma, beroende på vilken nivå denne rör sig på: Kritiska nivån: här är intuitioner irrelevanta eftersom syftet med KT är att avgöra vilka intuitioner som är tillförlitliga. Skulle det visa sig att kritiskt tänkande har den ovälkomna implikationen är det bara att svälja (men se nedan).
Intuitiva nivån: som tidigare sagts (kap 3), våra intuitioner är anpassade för normala situationer och har därför inte tillämpning på (tillräckligt) ovanliga situationer. Om motståndaren insisterar på ett ovanligt fall måste vi därför tillgripa kritiskt tänkande. H:s svar här vilar delvis på det empiriska antagandet att de fall motståndaren tar upp är mycket osannolika.
H försöker mildra den hårda linjen på två sätt: 1. Våra intuitioner är rättfärdigade genom sin acceptansnytta. Det är bra att vi har dem och den som vägrar att göra vad U kräver i den ovanliga situation är på det viset åtminstone ursäktad. 2. H inför dock inte helt explicit en distinktion mellan en rätt, eller rättfärdigad, handling och en rationell handling, där det senare ordet används i en speciell moralisk mening. En rättfärdigad handling är (som tidigare) den som en perfekt informerad ärkeängel skulle utföra. En rationell handling är den med högst förväntad nytta. Förväntad nytta bestäms av agentens tillgängliga information. Det är svårare att konstruera realistiska exempel där en kontraintuitiv handling är rationell i denna mening än ett exempel där den är rättfärdigad.