Det här LessWrong-inlägget skiljer på
PR och
rykte. Det är kort och jag är i allmänhet dålig på att skriva referat, så här kommer mer eller mindre hela inlägget som ett citat:
If I am safeguarding my “honor” (or my “reputation”, “brand”, or “good name”), there are some fixed standards that I try to be known as adhering to. For example, in Game of Thrones, the Lannisters are safeguarding their “honor” by adhering to the principle “A Lannister always pays his debts.” They take pains to adhere to a certain standard, and to be known to adhere to that standard. Many examples are more complicated than this; a gentleman of 1800 who took up a duel to defend his “honor” was usually not defending his known adherence to a single simple principle a la the Lannisters. But it was still about his visible adherence to a fixed (though not explicit) societal standard.
In contrast, if I am “managing PR concerns,” there is no fixed standards of good conduct, or of my-brand-like conduct, that I am trying to adhere to. Instead, I am trying to do a more complicated operation:
Model which words or actions may cause “people” (especially media, or self-reinforcing miasma) to get upset with me;
Try to speak in such a way as to not set that off.
It’s a weirder or loopier process. One that’s more prone to self-reinforcing fears of shadows, and one that somehow (I think?) tends to pull a person away from communicating anything at all. [...]
One way you can see the difference, is that when people think about “PR” they imagine a weird outside expertise, such that you need to have a “PR consultant” or a “media consultant” who you should nervously heed advice from. When people think about their “honor," it's more a thing they can know or choose directly, and so it is more a thing that leaves them free to communicate something.
So: simple suggestion. If, at any point, you find yourself trying to “navigate PR”, or to help some person or organization or cause area or club or whatever to “navigate PR,” see if you can instead think and speak in terms of defending your/their “honor”, “reputation”, or “good name”. And see if that doesn’t make everybody feel a bit clearer, freer, and more as though their feet are on the ground.
En kommentatör adderar till resonemanget:
I think another way to gesture at the distinction here is whether your success criteria is process-based or outcome-based.
If you're "trying to do PR," then you're sort of hanging your hopes on a specific outcome—that people will hold you in high regard, say good things about you, etc. This opens you up to Goodharting, and various muggings and extortions, and sort of leaves you at the mercy of the most capricious or unreasonable member of the audience.
Whereas if you're "trying to be honorable" (or some other similar thing), you're attempting to engage in methods and processes that are likely to lead to good outcomes, according to your advance predictions, and which tend to produce social standing as a positive side effect. But you're not optimizing for the social standing, except insofar as you're contributing to a good and healthy society existing in the first place (and then slotting into it).
I see this [...] as sort of analogous to whether you do something like follow diplomatic procedures or use NVC (process-based), or do whatever-it-takes to make sure you don't offend anybody (outcome-based). One of these is sort of capped and finite in a way I think is important, and the other is sort of infinitely vulnerable.
***
Kan vi då tänka på moralfilosofi ur det här perspektivet?
Utilitarism handlar som bekant om att optimera för utfall, enligt någon definition av nytta. ("Utilitet", dvs. nyttighet, är ett närbesläktat svenskt ord). En extrem-utilitarist är okej med ALLT, givet att netto-nyttan är positiv. Skjut baby-Hitler för fan!
Deontologi handlar om att följa vissa givna regler. En extrem-deontolog vägrar att ljuga för att rädda Anne Frank från nazisterna, om "inte ljuga" är en helig princip.
Vid lite eftertanke är utilitarism och deontologi i någon mening interdependenta. På ett pragmatiskt plan följer utilitaristen gärna deontologiska principer, eftersom detta kan tendera att vara en bra tumregel för att maximera netto-nyttan. (Om utilitarister börjar skjuta bebisar, kan detta visa sig ha negativa konsekvenser som utilitaristen har svårt att beräkna.)
Samtidigt kommer deontologiska principer att i slutändan utvärderas utifrån den nytta eller onytta de skapas. Vi skulle kunna tänka på detta som ett fall av kulturell evolution, där nyttiggörande principer selekteras för. (Men säkert finns det också parasitiska principer, samt en eftersläpning i hur man uppdaterar de deontologiska principerna).
Jag har tidigare skrivit:
Utilitarism är konsekvensialism är global maxnytta är ändamålen helgar medlen är effekt är utfall är libidinal morot är Rumkowsky är pragmatiska tumregler.
Deontologi är heliga värden är schelling's fence är skjut inte Hitler är process är handling är mortidinal piska är Czerniaków är kristalliserade tumregler.
Det sammanfattar den moralfilosofiska diskussionen här på Antropofagi ganska väl, men det huvudsakliga medskicket är hur som helst att utilitarism/deontologi-diskussionen brukar sluta som en orm som biter sig själv i svansen: Mätt men död.
***
Som tur var finns det smartare hjärnor än min som jobbar hårt där ute. Slate Star Codex-posten "Axiology, Morality, Law" räddar ormen från sitt kannibalistiska självmord. Scott visar hur vi kan diskutera vad som är Gott på en abstrakt/global nivå (axiologi); hur vi pragmatiskt och kulturellt-evolutionärt manifesterar detta i intuition, värderingar, normer och livsföring (moral); och hur vi försöker operationalisera (viktiga delar av) denna moral i lagstiftning. (Jag citerar här ett väl valt stycke, men rekommenderar att Du läser Scotts bloggpost i sin helhet.)
Axiology is the study of what’s good. If you want to get all reductive, think of it as comparing the values of world-states. A world-state where everybody is happy seems better than a world-state where everybody is sad. A world-state with lots of beautiful art is better than a world-state containing only featureless concrete cubes. Maybe some people think a world-state full of people living in harmony with nature is better than a world-state full of gleaming domed cities, and other people believe the opposite; when they debate the point, they’re debating axiology.
Morality is the study of what the right thing to do is. If someone says “don’t murder”, they’re making a moral commandment. If someone says “Pirating music is wrong”, they’re making a moral claim. Maybe some people believe you should pull the lever on the trolley problem, and other people believe you shouldn’t; when they debate the point, they’re debating morality.
(this definition elides a complicated distinction between individual conscience and social pressure; fixing that would be really hard and I’m going to keep eliding it)
Law is – oh, come on, you know this one. If someone says “Don’t go above the speed limit, there’s a cop car behind that corner”, that’s law. If someone says “my state doesn’t allow recreational marijuana, but it will next year”, that’s law too. Maybe some people believe that zoning restrictions should ban skyscrapers in historic areas, and other people believe they shouldn’t; when they debate the point, they’re debating law.
These three concepts are pretty similar; they’re all about some vague sense of what is or isn’t desirable. But most societies stop short of making them exactly the same. Only the purest act-utilitarianesque consequentialists say that axiology exactly equals morality, and I’m not sure there is anybody quite that pure. And only the harshest of Puritans try to legislate the state law to be exactly identical to the moral one. To bridge the whole distance – to directly connect axiology to law and make it illegal to do anything other than the most utility-maximizing action at any given time – is such a mind-bogglingly bad idea that I don’t think anyone’s even considered it in all of human history.
These concepts stay separate because they each make different compromises between goodness, implementation, and coordination.
One example: axiology can’t distinguish between murdering your annoying neighbor vs. not donating money to save a child dying of parasitic worms in Uganda. To axiology, they’re both just one life snuffed out of the world before its time. If you forced it to draw some distinction, it would probably decide that saving the child dying of parasitic worms was more important, since they have a longer potential future lifespan.
But morality absolutely draws this distinction: it says not-murdering is obligatory, but donating money to Uganda is supererogatory. Even utilitarians who deny this distinction in principle will use it in everyday life: if their friend was considering not donating money, they would be a little upset; if their friend was considering murder, they would be horrified. If they themselves forgot to donate money, they’d feel a little bad; if they committed murder in the heat of passion, they’d feel awful.
***
Som jag så förtjusande har fetstilat i det ovanstående citatet så gör axiologi, moral och lagstiftning helt olika kompromisser mellan godhet, implementering, och koordination. Inte minst moral handlar om en viktig kompromiss med avseende på koordinering. Utilitaristen kan, som Scott påpekar, inte egentligen skilja på "döda en störig granne" och "inte donera pengar som räddar ett sjukt barn i Uganda". Men, moralen säger att det är betydligt mer fel att döda sin störiga granne. (Tack för det, eftersom jag är en fett jävla störig granne!)
Med risk att straw-manna nu, så tycker jag mig ha mött Rationella Individer som medvetet strävar mot att ha en personlig moral (etik) som är i linje med axiologiska principer - dvs. vara så mycket utilitarister som är praktiskt möjligt. Dessa människor kan ha svårt att hantera Somewheres vs. Anywheres-debatten (se del 2 i denna slappa politisk-filosofiska essä), eftersom din lokala kolgruvearbetare icke rimligen kan anses ha ett primat jämfört med en mer konkurrenskraftig bangladeshier. Dessa människor tenderar alltså att vara svårt nyliberala.
En Making Sense-podd (#232) med Jack Goldstone ger mycket bra tanke-mat för denne tänkta nyliberalist. Goldstone argumenterar (i min mening övertygande) för vikten av att genomgående ha en lokal förankring, snarare än att segmentera populationen i en lokalt förankrad underklass och en global och kosmopolitisk överklass.
Givetvis har utilitarist-nyliberalisten rätt i att bangladeshiern har rätt att konkurrera med sin låga lön på en global marknad, och därmed bidra till sitt hemlands ekonomi och samhällsbyggnad. Det blir dåligt om vi hindrar bangladeshiern i detta avseende, bara för att skydda vår lokala rostbältesfabriksarbetare. Skillnaden i dessa två människors nytta är också så sådan, att bangladeshierns nytta blir viktigare om denne är fattigare (givet en avtagande marginalnytta av pengar). Dessutom får vi en mer effektiv ekonomi, där rätt pay-grade sköter rätt uppgift, till konsumenternas stora nytta i form av billigare varor. Så talar axiologin.
Emellertid säger moralen, eller i alla fall vissa människors moral, att vi har en skyldighet att säkra även vår lokale rostbältesarbetarens välstånd i någon utsträckning. Goldstone argumenterar för att betydande samhälleliga risker som uppstår när en elit blir kosmopolitisk och fjärmar sig från sitt lokalsamhälle. Den moraliska intuition som utilitarist-nyliberalisten strävar efter att frigöra sig ifrån, har lyckats faktorera in den här externa kostnaden. När eliten inte längre känner en sådan moralisk intuition, och inte har ett lokalt ansvarstagande (baserat på en lokal prestige-hierarki), så kommer Viktiga Saker att Explodera. (Relaterat: Peniafobi; det mesta om jämlikhet.)
Min uppfattning: En ideologi som har en för stark lutning mot axiologin kommer att bli sämre på att göra vissa viktiga kompromisser mellan godhet, implementering, och koordination.
***
Tillbaka till LessWrong-inläggets distinktion mellan PR och rykte, samt kommentatorns distinktion mellan utfall och process. Parallellen till utilitarism/deontologi är uppenbar. Problemet med att sträva efter maxnytta är att det är svårt, och det är just därför som deontologiska principer kan vara nyttiga. Goldstones argumentation är ett exempel (som nyliberala läsare visserligen kanske inte håller med om), och ett annat skulle kunna vara Rumkowsky och Czerniaków.
Att moral handlar om rykte säger sig självt. Moral kan ses som en koordinationsmekanism för att samordna människor i ett ömsesidigt gynnsamt beteende, och där är rykte en viktig aspekt. (Se Frågan..., avsnitt 5.15-5.18 samt avsnitt 8.5.) Moralen är en liten egen ekonomi som genom skuld, skam, stigma och prestige allokerar resurser inom en koordinerande enhet. Jag har tidigare skrivit:
Den svarta jorden ägnar ett av många läsvärda kapitel åt att bedöma hur onda eller goda polska bönder som gömde judar egentligen var. Det framgår att diskussionens vågor gått höga, vilket alla som följt Vi från Jedwabne-gate kan förstå. Det pågår ett propagandakrig omkring polackernas roll i Förintelsen. [...]
Hur som helst verkar debatten kring polska bönder som faktiskt gömde judar bl.a. ha handlat om att judarna ofta tvangs träla och/eller betala för sin fristad. Anklagelsen är att man inte gömde judarna av "godhet", utan av "girighet". Snyder kontextualiserar det hela och pekar på de stora risker som polackerna i fråga faktiskt kan sägas ha tagit, samt det fullkomligt normala i att man trälar på en bondgård i Polen under 1900-talets första hälft.
Frågan om hur "moralisk" eller "omoralisk" någon är, handlar i någon mening om vad de gör med sina förutsättningar. Givetvis ska vi optimera för nytta - det är bra utfall att gömma och rädda judar i Polen. Men, om riskerna eller kostnaderna för dig själv är stora, och du ändå "gör gott" - då tycker vi att du är mer moralisk. Att bara vardagligt nyttomaximera är väl no biggie, liksom. Det är miniminivå, att inte slå folk, och att vara snäll mot din nästa. Att rädda judar under dödshot från nazister, det är fan däremot hjältedåd, kan jag tycka. Det enda rätta, såklart, men likväl hjältedåd.
Varför? Det innebär ju egentligen en sämre nyttokalkyl än det vardagliga nyttomaximerandet. Du riskerar ju själv liv och lem, du polske bonde. Ändå är det som att en person är mer moralisk ju större risken är! Detta trots att "rädda nåns liv" borde ge större förväntad nytta om risken för en själv är 0!
[...]
Att "vara moralisk" verkar inte handla om att nyttomaximera globalt - utan om att nyttomaximera lokalt, för någon annan. Antagligen är det rimligt att beskriva detta som att vi ska få betalt för riskfyllda och dyra operationer. Betalt i heder och ära, vill säga.
Normer upprättas som betalar bra för riskfyllda, altruistiska handlanden. Att upplevas som "god" är att få betalt för oegennytta. (Det kan så klart vara andra saker.)
Att utan risk för eget väl och ve kasta en livboj till någon ska inte ha så bra betalt i moral-pengar. Däremot ska att inte kasta livbojen istället kosta mycket i moralpengar. Det ska vara dyrt att inte agera, om det är billigt att agera.
[...] Det jag menar är att dyra handlingar upplevs som moraliska eftersom det behövs starka norm-incitament för att folk ska vilja utföra dessa handlingar. Handlingar som inte kostar en något ska kosta att inte utföra. Normerna här är en samordningsmekanism. Vi vill ju leva i en reciprokal altruism - i ett plus-summe-spelat fångarnas dilemma. Helt enkelt i en värld där vi ömsesidigt hjälper varandra.
Och eftersom känsligheten för den moraliska ekonomin har evolverat under samlar-jägar-förutsättningar, så kommer den moraliska ekonomin alltid att handla om ens omedelbara sociala nätverk. Vi vill alltid använda evolverade drag till att skapa större nytta - godhetssignalerande ska såklart nyttjas till att generera faktiskt godhet - men vi kan ofta fråga oss om våra egenskaper härvidlag är skalbara.
Faran med Anywheres/kosmopoliter är i någon mening att de inte upplever sitt lokalsamhälle som en del av sin egen moraliska ekonomi. Om de hade lyckats skala upp sin moraliska intuition till att gälla hela mänskligheten, så fine. Men ofta skalar de nog bara upp sitt godhetssignalerande till att gälle sitt nätverk av kosmopolitisk överklass.
Och, även om de lyckas skala upp sin moraliska intuition till att gälla hela mänskligheten, så hade de mycket väl rent rationellt skolat vilja kasta sina lokala rostbältesarbetare under bussen till förmån för en större global maxnytta (för konsumenter, bangladeshier, och Bangladesh). Problemet då är att det jobb som en lokalt förankrad moralisk pliktupplevelse gör, i termer av en koordineringsmekanism med lokalt fokus och syfte, kommer att gå till spillo.
Det är som Scott skriver, att "morality is an attempt to triage the infinite demands of axiology, in order to make them implementable by specific people living in specific communities". Om alla människor börjar sikta på global maxnytta, så kommer lokala samfälligheter att gå under, och vad kostnaden är av det vet vi inte riktigt, men kanske är det typ krig och förödelse.
Dessutom så är det alltså troligen i många fall främst eliterna som slutar moral-koordinera sig lokalt. Rostbältesarbetarna är fortfarande Somewheres (förrutom så klart i sin roll som konsumtenter, icke att förglömma). Om endast eliter världen över överför sin moralkoordineringspeng till det globala elit-prestige-molnet, men alla Somewheres sitter kvar med investeringen i hembygdens vana mylla, så kommer det vara en massiv global segregation där de resursstarka flyr till ett Oåtkomligt Himmelskt Palats, medan hela resten av världen består av ett sönderrostat, övergrivet, och opioidberusat konsumtariat.
***
Egentligen handlar väl dock det här problemet om vad som händer när ryktesreceptorerna riktas bort ifrån lokalsamhället, och istället tunar in sig på den kosmopolitiska våglängden. Distinktionen mellan PR och rykte handlar kanske om mer än att de resursstarka svävar iväg till Valhalla i gyllene Teslor. PR handlar om att man överhuvudtaget tror att man kan göra axiologin till ett moraliskt imperativ.
I denna bemärkelse handlar PR om att ställa upp indikatorer för vad som är Gott, och optimera för dessa. Alla som har jobbat en smula med utvärdering vet hur fel det oftast blir när man endast följer pinnarna. (En annan eminent källa till förståelse för denna problematik är så klart The Wire, samtliga säsonger.) Det är ju just därför vi skiljer på axiologi och moral (och lag), eller som Scott skriver:
[Morality] makes assumptions like “people have limited ability to predict the outcome of their actions”, “people are only going to do a certain amount and then get tired”, and “people do better with bright-line rules than with vague gradients of goodness”.
Genom att optimera för rykte istället för trubbiga och kanske missvisande indikatorer, så kan Höger Hjärnhalva få hjälpa en att lyckas. Vänster kanske kan göra det bättre i teorin, men aldrig i praktiken. Chesterton's fence passar väldigt väl ihop med den kulturella evolutionsteorin, där vi ofta inte förstår varför det är bra att vi bestämmer var vi ska jaga renar genom att tolka sprickorna i ett förbränt skulderbladsben. (Det är - kanske - för att en sådan sedvänja i sammanhanget utgör en slumpgenerator, vilket hindrar renarna från att evolvera en motstrategi mot våra val av jaktmarker.)
(Problemet är såklart att vi kommer att ha dåliga eller anakronistiska upplevelser av vad som konstituerar ett gott rykte, men Chesterton's fence utesluter ju inte heller att vi går ett steg längre när vi väl förstår våra bevekelsegrunder. Det här spåret leder dock in i en meta-nivå-labyrint som ligger bortom detta blogginlägg. För, vad vi i nästa steg vill optimera för handlar ju om vad vi har för bevekelsegrunder, etcetera. Se detta inlägg och dess addendum.
Det är också troligen vanskligt att försöka helt gå emot våra instinkter, ty även ett sådant agerande kommer så klart att ske i enlighet med våra instinkter. Ett exempel skulle kunna vara hur kontrarianer blir måna om att anti-godhetssignalera, vilket istället kan tolkas som att de intelligens-signalerar.)
***
Anledningen till att titta på process istället för bara utfall, är - som Alexander Bard säger - att inte enkom effekterna av ett handlande räcker för att göra ett moraliskt ställningstagande därav:
"What is then dictating the value of the desired outcome?
[...]
Life changes all the time. And because it changes all the time, and you don't know all the conditions that are involved in your desicion-making, that means you can not be judged for your outcome, you must be judged on your intention. But that intention has to build on you searching for the truth to speculate as well as you possibly can on the outcome."
Utfall är fan svårt att förutsäga. Skulle vi kunna åka till framtiden och ta reda på utfallet, så skulle vi inte ens vilja göra det eftersom det skulle korrumpera vår enda modell för att testa våra teorier. Man skojar ibland om det påstådda Niels Bohr-citatet om att "it is hard to make predictions, especially about the future", men det ligger otrivial visdom i citatet, vem som nu än egentligen myntat det. Vi kan p-hacka fram vilket som helst signifikant resultat ur ett befintligt dataset, men vi kan inte riktigt p-hacka framtiden. Vi kan skapa jättebra modeller som perfekt passar vår indata, men vi kan overfitta och missa målet helt när ny data inkommer.
Jag påstår inte att det är lättare att förutsäga vad en given process ska leda till, men det är i alla fall möjligt att medelst introspektion och självrannsakan i viss mån förstå om vi ärligen försöker försöka. Att jaga The Wire-pinnar tenderar att komma ivägen för den äkta ansträngningen. Att vilja verka vara god tenderar att komma ivägen för att faktiskt vilja vara god. Jag säger inte att Godheten är objektivt god, eller att vår bedömning av den i utgångsläget bygger på någonting mer sofistikerat än vad hjortsvinets betar gör. Jag säger bara att det är skillnad på en adaptionsexekverande men faktiskt upplevd dygdighet, och en överlagt spelad - medvetet fejkad - godhet.
Godhetssignalerande är inte samma sak som godhetssignalerande, eftersom godhetssignalerande som en effekt av evolutionen har uppkommit utan syfte eftersom det funkar bra - medan godhetssignalerande som en effekt av din egen medvetna process har uppkommit med syftet att lura och bedra.
