AI-moral och människoinkonsekvens

Med tanke på metaetik och huruvida utilitarism = moral, så är det intressant att betänka en fråga som diskuteras i Sam Harris AI-diskussion i senaste Waking Up. Intressanta poänger med bäring på Antropofagis tidigare resonemang:

 

A. Vi lär AI smärta eftersom det är ändamålsenligt.

 

Detta är en påminnelse om att smärta liksom andra känslor och beteenden vaskats fram av evoutionsalgoritmen. Det är gravt förenklat att betrakta smärta som något negativt som ska minimeras. Smärta har sas. en funktion. För utilitarismen blir med således viktigt att skilja på meningslös och meningsfull smärta/sorg/etcetera. Detta kan vara lite klurigt, gissar jag. (Meningslös = hjortsvinets betar; meningsfull = bidrar till att överleva och reproducera.)

 

B. Att lära AI moral innebär att vi själva måste bena ut hur vår moral egentligen ser ut; detta vet vi inte. Och, på vilka ställen moralen vi håller oss med är inkonsekvent.

 

Detta skulle kunna få implikationerna att vi förändrar vårt moraliska system. Liksom människorna i Three Worlds Collide egentligen borde kalibrera sin moral för att passa Super Happy People-utomjordingarna, som ju är bättre utilitarister givet omständigheterna.

 

Kanske kommer en mer konsekvent moral kännas helt bisarr och fel; kanske kommer först nästkommande generationer förstå och acceptera. Liksom typ 1800-talsfolket förmodligen skulle misstycka över vår moral - än idag motsätter sig konservativa moralister vissa logiska moraliska slutsatser.

 

När en inkonsekvens förekommer, måste något av de inkompatibla leden förändras om inkonsekvensen ska upphöra. Detta kan vara mer eller mindre smärtsamt beroende på hur heligt värde en måste ge avkall på.

 

C. Att lära AI moral innebär att vi måste komma överens om vilken moral som gäller - vad är mänsklighetens moraliska konsensus?

 

Här finns som nämnts vissa kulturella skillnader, men även vad jag nog skulle vilja kalla IQ-relaterade skillnader. Gemene man är förmodligen inte så skicklig på att rent filosofiskt bena ut alla moraliska frågeställningar och lösa de inkonsekvenser som uppkommer när en tillämpar en blandning av utilitaristisk princip och godtycklig sacred value-moralism. Samtidigt är det svåra frågor, eftersom moral i någon mening är lika relativt som allting annat.

 

Hur ska vi komma fram till vad vi ska lära AI:n? En demokratisk process? En kommittee av experter?

 

Liksom i punkt C i detta inlägg handlar det kanske om att tillsätta teknokrater som bygger själva systemet, men sen rösta om grundvärderingarna. Så får systemet spotta ut slutsatser som är logiskt härledda från våra gemensamma (godtyckliga, relativistiska) heliga värden. Då blir distinktionen mellan terminala värden och instrumentella värden givetvis oerhört central. 

 

***

 

Frågan som en moralisk allsmäktig AI ställer, och som även nämnda Three Worlds Collide ställer, är hur konsekventa vi pallar vara. Okej, vi har vissa värden, och kan i teorin tillämpa ett rationellt tänkande. Men, vi ogillar slutsatsen. Vi borde göra såhär, men vi gör givetvis såhär. Vi borde se Du sköna nya värld som en utopi, men vi ser den som en dystopi.

 

Det värsta är att mänsklig kultur, inte minst romantiken, tenderar att romantisera den här inkonsekvensen.

Aron Flam och islamofobi

Antropofagi har tidigare påstått att Aron Flam befinner sig rätt långt ner i den hala backen mot islamofobi (tillsammans med Sam Harris, mind you). Den här intervjun indikerar emellertid att Aron kan skilja på muslimer och islam, och förhålla sig relativt sakligt till frågan.

 

 

Antropofagi har tidigare även varit inne på frågan om huruvida islam är bättre eller sämre än andra religioner. (Ompröva sin tes och ompröva sin omprövelse; motherfucker Vilks; ideologi = religion.) Liksom Haider är Omar Makram Anti inne på att Koranen ses som guds ord, och därför lämnar mindre utrymme till tolkning än t.ex. Bibeln. Således är reformationsutrymmet mindre i islam än i kristendomen. Kanske är det så, kanske.

 

Oavsett om denna intervju är trevlig och uppvisar en saklig Flam, så tyder andra framträdanden (intervjun med Arg Blatte samt senaste medverkar i Arkiv Samtal) att Flam ofta är hög på tjack. Detta verkar ha viss effekt på grad av saklighet, intellektuell hederlighet, och förmåga att producera sammanhängande meningar. Att skilja mellan amfetamin-missbruk och islamofobi kan således vara vanskligt.

SchäsLong, del 14

Med tanke på att Sverige är en subkultur, och kanske som svar på frågan om huruvida vi skulle moralisera över utomjordingar: Three Worlds Collide. Mycket spoiler alert i det nedanstående, där jag vill lyfta några intressanta aspekter av verket ifråga.

 

A. Three Worlds Collide är en fantastisk kommentar till fenomenet kulturrelativism; skulle vi acceptera bebisätarnas bebisätande? Och, givetvis, ska Super Happy-gänget acceptera människans icke-nyttomaximerande samhälle? I någon mening är utilitatism den enda tillåtna kulturen enligt utilitarismen.

 

B. Three Worlds Collide är en fantastisk kommentar till vad jag skulle vilja kalla moralistisk historieskrivning, vilket i någon bemärkelse är frågan om kulturrelativism men över tid. Historiepodden diskuterar huruvida det är rimligt att moralisera över t.ex. Djingis Khans massmord, tror i något av avsnitten om Djingis Khan. De kommer så vitt jag minns fram till att det är helt meningslöst att döma t.ex. en elvahundratals-massmördarkung efter dagens moraliska standards. Svaret på "kulturrelativism över tid?" är således i någon mening "ja!". Iaf., följande:

 

 

Alltså, the Babyeaters moraliserar inte över Djingis Khan, utan ser "reasonable mistakes".

 

C. Antropofagi har tidigare påstått att om vi tillfullo synkroniserar våra värden (t.ex. mellan GAL och TAN) så borde vi kunna hålla normativ diskussion väl avskilt från allt annat, som då blir tekniska och teknokratiska frågor. Detta synsätt är redan tillämpat i Three Worlds Collide:

 

 

The Confessors håller i rationaliteten, dvs. ansvarar för att vettiga resonemang härleds ur de moraliska ståndpunkter som politiken vaskar fram.

 

***

 

Det hela får mig att tänka på att utilitarism i någon mening är banalt, eller kanske synonymt med moral. När en invänder att andra känslor än lycka/avsaknad av smärta är av värde, då vill utilitaristen ofta hävda att även dessa kan räknas in i den nyttomaximerande ekvationen. Men, i så fall omfattar utilitarismen allt och bidrar inte med några riktlinjer till vår etik.

 

Att fake consequentialism är en grej tyder ju också på att utilitarism är lite sisådär hard wired i våra tänkande - det verkar ju vara så pass universellt att det funkar som draglok åt godtyckliga heliga värden.

 

Detta kan väl ses antingen som utilitarismens seger, eller som utilitarismens död. Utilitarismen är självklar, men å andra sidan snarare att betrakta som en metaetik - frågan om vad vi optimerar på kvarstår. Vilken utility, nytta, är det som vi -ismar?

 

Three Worlds Collide handlar i mycket om spelteori, inte minst fångarnas dilemma. Kanske bör vi se utlilitarismen som en slags moralfilosofisk motsvarighet till deltagande i plussummespel. Utilitarismen berättar för oss att vi ibland måste låta bli att defecta, även när våra heliga värden kränks - om nyttokalkylen visar att mycket värre scenarier är att vänta.

 

"Akon stared out a viewscreen, showing in subdued fires a computer-generated graphic of the nova debris. He just felt exhausted, now.  'I never understood the Prisoner's Dilemma until this day. Do you cooperate when you really do want the highest payoff? When it doesn't even seem fair for both of you to cooperate? When it seems right to defect even if the other player doesn't? That's the payoff matrix of the true Prisoner's Dilemma. But all the rest of the logic - everything about what happens if you both think that way, and both defect - is the same. Do we want to live in a universe of cooperation or defection?'"

 

Utilitarism är helt enkelt samordning, och samordning är kompromiss. Ganska grundläggande egentligen, i ett mänskligt samhälle: Mina rättigheter är dina skyldigheter och vice versa.

 

På så vis är utilitarism meta-etik, snarare är etik. Analogt med att äkta liberalism kan sägas vara en metaideologi snarare än en ideologi. (De stal liberalismen ifrån oss.) Kanske kan vi säga att utilitarism är moral, men att utilitarismens verklighets-begränsningar inte ger oss så mycket att hålla oss i - vi måste snart falla tillbaka på budord av varierande tyngd. Således inte så konstigt att deontologer och utilitarister kan vara ett.

Men framförallt...

Med tanke på detta med utomjordingar och circle of concern.

 

Vi moraliserar ju inte över djurs beteenden. Vi studerar dem blott. Människors beteenden kan vi i regel inte hålla oss från att moralisera över.

 

Skulle vi moralisera över utomjordingarnas beteenden? Har det med objektets intelligens att göra, eller vårt eget grupp-relaterande sociala beteende?

Sverige är en subkultur

Snackat om GAL-TAN-synkronisering. Givet ett sas. evolutionärt perspektiv på moral kan en gissa att grupp-tänk ligger i sakens, dvs. människans, natur. Skillnaden på GAL och TAN, eller liberal och konservativ, är egentligen främst hur gruppen definieras. Hur stor är din circle of concern? GALler tenderar att se mänskligheten som in-gruppen, medan TANner håller sig snävare, företrädelsevis till familjen.

 

Subkulturer är en grej. Det finns kulturer inom kulturen, cirklar inom cirkeln. Vi är inte med i samhället - vi är ju hiphopare/punkare/antroposofer/motorcykelgäng/etcetera.

 

Vad skulle hända om utomjordningar dök upp?

 

Då skulle mänskligheten vara en kultur, och den utomjordiska en annan. Etniska/nationella kulturer skulle vara subkulturer inom den mänskliga kulturen.

 

Skulle liberaler vidga sin circle of concern till att inkludera utomjordningarna?

 

("Djuren då?", frågar sig någon. "Kommer inte de först?" Men utomjordningarna i mitt exempel är intelligenta varelser, såsom vi människor, vilket djuren inte är. Alla vet ju att utomjordingar är löjligt lika människor i löjliga kostymer.)

 

Skulle de konservativa isf. också vidga sin cirkel, till att inkludera hela mänskligheten? Skulle striden mellan GAL och TAN handla om marsianernas rättigheter?