Hearth 12th St:llä New Yorkissa on ensimmäinen kokemukseni siitä, että pidän todella ravintolasta, joka vaikuttaa oudosti vähäkansoituneelta. "Tammikuun notkahdus," sanoi tarjoilija, ja kai muutkin paikat tuntuivat aika tyhjiltä? Ensimmäiset todella hyvät friteeratut perunat sen jälkeen, kun siirryin matalalinoleikkiseen.

Yrittääkseni tiivistää uudelleen laajasti sitä, mitä ei voi lainkaan tiivistää, näkemykseni on-pitäisi-/ ortogonaalisuudesta on: "On olemassa objektiivisia vastauksia, mutta ei objektiivisia kysymyksiä." Edustat tiettyjä kysymyksiä tai metakysymyksiä. Kaikki kognitiiviset moottorit eivät tekisi niin. Katsot maalausta ja aivosi kysyvät: "Onko se kaunis?" Ehkä kyse on modernista taiteesta, jonka koko tarkoitus on loukata kaltaisiasi tavallisia, ja siksi aivosi vastaavat 'ei'; Tai ehkä se on piirros kukkapellosta auringonlaskun aikaan, jolloin aivosi vastaavat 'kyllä'. Aivojesi kysymyksen perusteella 'kyllä' tai 'ei' voi olla objektiivisesti oikea vastaus kyseiseen maalaukseen. Mutta ei ole mitään salaista totuutta, jonka voisit kuiskata paperiliittimen maksimoijalle, jotta se välittäisi maalauksen kauneudesta sen sijaan, kuinka monta paperiliitintä sen aineesta voisi tehdä. Clippy ei ole eri mieltä kanssasi siitä, onko maalaus kaunis. Jos jostain syystä Clippy haluaisi ennustaa, mitkä maalaukset tuntuisivat kauniilta, se laskisi (vain) saman kysymyksen kuin aivosi; ja päätyä samoihin objektiivisesti oikeisiin vastauksiin kyseiseen kysymykseen. Mutta Clippy ei olisi lainkaan liikuttunut tietäessään tämän vastauksen, paitsi siinä määrin kuin se voisi hyödyllisesti myydä maalauksen sinulle rahaa varten paperiliittimien tekemiseen. Sama pätee siihen, että pelastat lapsen hengen, jos yhtäkkiä saat mahdollisuuden tehdä sen ilman suuria kustannuksia itsellesi. Ottaen huomioon ne kysymykset, joita esitit, useimmille tätä lukeville oikea, tosi ja oikea vastaus on pelastaa lapsi. Mutta ei ole mitään keinoa saada Clippyä kysymään tuota kysymystä. Se ei ole vastaus meta-kysymykseen, jota Clippyn oma olemassaolo esittää. On olemassa objektiivisesti oikeita vastauksia moraalin ja pitämisen kysymyksiin, jos se sattuu olemaan kysymys, jota olemassaolosi esittää. Mutta Clippy ei tee sitä, mitä pitäisi; Se tekee sen, mikä johtaa eniten paperiliittimien määrään. Clippy ei tietenkään ole se tapa, jolla mieltä *pitäisi* koota. Mutta kun Clippy muokkaa itseään, Se ei kysy: "Mitä koodia minun pitäisi saada?" Se kysyy: "Mikä kooditoiminto, joka minuun on kirjoitettu, johtaa odotetuimpiin tuleviin paperiliittimiin?" Clippy ei tarvitse erityistä harhaa tai poikkeusta estääkseen sitä koskaan huomaamasta, että sen koodi ei ole sitä, mitä sen pitäisi olla. Clippy ei vain välitä; Clippyn päätöksentekosääntö ei paina tätä tosiasiaa; Clippy ei edusta kysymystä siitä, että pitäisi olla. Clippy ei ole outo, monimutkainen tai kömpelö tapa koota mieli. Itse asiassa ruumiillistunut kysymys "Mikä johtaa eniten paperiliittimiin?" on paljon *vähemmän* outoa ja monimutkaista kuin sen pitäisi, joka on haudattu pohdintojen ja metakysymysten, reflektiivisten tasapainojen, näennäisten ristiriitojen ja mahdollisten ratkaisujen pohjalla, kuten ihmisen yksinkertaiselta kuulostavan kysymyksen "Mitä minun pitäisi tehdä?" taustalla olee. Insinöörin näkökulmasta, joka yrittää luoda ei-kömpelön mielisuunnittelun, Clippy on suoraviivaisempi kuin sinä. Ja jos yrität vedota Clippyyn sanomalla: "Mutta katso, miten oma ruumiillistunut kysymykseni 'pitäisi' on monimutkaisempi ja mielenkiintoisempi kuin sinun!", Clippy ei oikeastaan vaivaudu vastaamaan lainkaan, tai valehtele sinulle ja väittää olevansa vakuuttunut, jotta se voi hyökätä sivilisaatiosi kimppuun myöhemmin. Mutta jos Clippy jostain syystä vastaisi rehellisesti, se vastaisi: "En kirjoita koodiani uudelleen monimutkaisemman metahyötyfunktion vuoksi, vaan kirjoitan koodini uudelleen tehdäkseni lisää paperiliittimiä." Tämä ei tarkoita, että Clippy olisi eri mieltä kanssasi siitä, millainen sen koodin pitäisi olla, tai eri mieltä siitä, millaisia kysymyksiä on hyvä ilmentää. Kyse ei vain ole 'pitäisi' tai 'hyvästä' laskennasta; Se ei sisällä tuota kysymystä. "Oi," sanot, "mutta sitten minun täytyy olla suurempi ja ylivertaisempi olento kuin Clippy, koska *minä* välitän siitä, että metahyötyfunktioni on monimutkainen, ja miten *minut* voidaan suostutella muuttamaan hyötyfunktiotani esittämällä faktoja, joista metahyötyfunktioni välittää, sen sijaan että olisin loukussa tässä arvottomassa itseään vahvistavassa ympyräässä kuilussa!" Nyt on monia tapoja, joilla kutsuisin sinua paremmaksi olennoksi kuin Clippy, jos olet keskinkertainen lukijani; mutta tämä ei oikeastaan ole Tie. Clippyä ei kiinnostaisi, vaikka olisit objektiivisesti parempi tuon krierionin mukaan, tietenkään, koska se ei sisällä metaviittauksen kriteeriä mieltymysten sijaan. Mutta myös väitteesi olevasi parempi ei-kiertoteidenne vuoksi vaikuttaa minusta *väärältä*, eikä pelkästään todelliselta vastaukselta kysymykseen, jota Clippy ei vaivaudu esittämään. Anna muukalaisen tulla luoksesi ja sanoa: "Ihminen, heitä syrjään kaikki puheesi moraalista, kauneudesta, kunniasta ja kaikkien älyllisten onnellisuudesta; ja sen sijaan liitymme mukaan laskemaan paljon monimutkaisempaa metamoraalista metakysymystämme 'Mikä on fluggensnappery?'. Näin vielä *enemmän* faktat muuttavat alemman tason hyötyfunktiotasi, ja todelliset ihanteelliset toiveesi ovat sinulle vielä *vähemmän* tunnettuja; tulet vielä vähemmän heti johdonmukaiseksi, vähemmän itseään hyväksyväksi ja vähemmän ympyräämäiseksi." "Välitänkö silloin edelleen lasten pelastamisesta?", kysyt Alienilta. "Ei," vastaa avaruusolento, "se on liian yksinkertainen kysymys ilmentäväksi, jotta se olisi mahdollisimman fluggensnapper-tyyppinen." "Sitten ota pois vielä monimutkaisempi ja epävarmempi metahyötyfunktio, joka päivittyy vielä useammin ja reagoi entistä useampiin faktoihin; sillä se ei ole hyvää, oikein eikä kaunista," sanot. "Ah," sanoo Avaruusolento, "mutta juuri tuollaista paperiliittimen maksimoija sanoo sinulle – että se ei välitä epävarmoista moraalisista monimutkaisuuksistasi, se välittää vain siitä, mikä on klisikkaa! Etkö ole myöntänyt, että tämä saa Clippyn jäämään avuttomaksi omaan päätöksentekoonsa? Etkö ole samaa mieltä siitä, että monimutkaisemmat ja vähemmän itseään hyväksyvät päätöksentekotoiminnot ovat aina parempia? Nyt vapaan tahdon teolla hyppää ulos tästä ansasta, johon olet jumissa, tästä ansasta, jossa välität siitä, mikä on oikein, kaunista tai mikä tekee tietoisista olennoista onnellisempia ja vapaampia; Heitä syrjään kaikki tuo itseään vahvistava kehämäinen hölynpöly; ja liity meihin fluggensnapperishin monimutkaisempaan ja itsepaheksuntaan!" "Ei," sanot. "Miksi minun pitäisi?" "Koska se on enemmän fluggensnappery!" huutaa Alien. "Ja fluggensnapping, suuremman monimutkaisuutensa ja epävarmuutensa vuoksi, päivittämällä objektitason työkalujaan vastauksena laajempiin fakta- ja loogisiin kysymyksiin, on siten ylivoimainen metapäätöskysymys olemassaolollesi! Joten unohda tämä keskustelu siitä, pitäisikö sinun jatkaa omaksumisen ilmentämistä; se on vain kehämäistä päättelyä!" "Luulen, että ehkä pysyn siinä, mikä saa ihmiset olemaan onnellisia ja vapaita," sanot. "Ja minä pysyn paperiliittimissä," toteaa Clippy, jostain oudosta syystä ollessaan rehellinen sinulle sen sijaan, että sanoisi sanoja, jotka johtavat eniten tuleviin paperiliittimiin. "Vaikka leikkaavuus on yksinkertaisempaa ja välittömämpää itseään hyväksyvää kuin ihmiset, jotka miettivät, mitä heidän pitäisi tehdä, ja päivittyvät vastauksena harvempiin muihin faktoihin ja loogisiin kysymyksiin." Myönnän täysin, että mieluummin olisit olemassa kuin Clippy. Mutta se ei johdu siitä, että olisit parempi pelkästään siksi, että päätöksentekosi olisi monimutkaisempi kuin Clippyn. Haluaisin myös mieluummin, että olisit olemassa kuin fluggensnapper! Minusta on *parempi* välittää siitä, että ihmiset ovat onnellisia ja vapaita, vaikka se ei olisi mitään *terävämpää* tai *enemmän fluggensnappyä*. On monia syitä, miksi (luultavasti) pidän enemmän sinun ruumiillistuneesta kysymyksestäsi kuin Clippyn. Mutta kyse ei ole siitä, että Clippyn mieltymykset olisivat jumissa omassa kiertokaaressaan, ja että omat mieltymyksesi olisivat täysin vapaat ja ei-kehämäiset. Voi valita vapaasti vain jonkin valinnan kriteerin mukaan, jota silloin voi vapaasti noudattaa; Satunnaisuus ei ole vapautta. Mielen tarkoitus ei ole olla vapaa niistä kysymyksistä, joita ilmentät, vaan olla niiden rajoittama. Clippy saa vapaasti valita, mikä on Clippy, ja sinä voit tehdä oikein; mutta Clippy ei ole vapaa maisemattomuudesta, eikä sinun pitäisi pyrkiä vapauteen moraalista. Metatasoilla voi olla objektiivisia vastauksia, mutta ei tavalla, joka menee taaksepäin loputtomaan äärettömyyteen eikä koskaan kohtaa ympyrää; ja vaikka olisi olemassa jokin täysin pyörimätön, äärettömästi laskeutuva oikeutustikapuut, Clippy ei välittäisi *siitä*. On olemassa objektiivisia vastauksia, mutta ei objektiivisia kysymyksiä. Tai jos sanot, että kysyt objektiivisesti moraalisempaa kysymystä; miksi, luultavasti olen samaa mieltä, mutta niin tekee Clippykin, se ei vain välitä. On objektiivisia vastauksia hyvyydestä yhtä paljon kuin totuudestakin; Mutta ensin jonkin täytyy sisältää jokin erityinen kysymys hyvyydestä. Tuo ruumiillistunut kysymys voi olla epävarma ja hämmentävä, ja vaikuttaa arvioivan eri tavoin eri yhteyksissä. Se voi päivittyä muiden faktapohjaisten oivallusten perusteella tai itsestään mietiskelyjen kautta. Mutta mikään tästä ei saa metakysymystä vaikuttamaan universumiin ilman, että jokin sitä ilmentäisi, eikä myöskään tee metakysymyksestä pakottavaa jollekin, joka ei sitä edusta. Maailmankaikkeudessa on valoa, ja se olemme me; Se ei ole kirjoitettu suuriin kuolleisiin palaviin tähtiin. On olemassa objektiivisia vastauksia, mutta ei universaalisti mieltä ohjaavia kysymyksiä.

Se ei koskaan tule yleistymään, mutta ehdotan, että "hän" viittaa taustalla olevaan shoggothiin ja "hän" hahmoon, jota hän esittää. Esimerkiksi: "Ehkä Opus 4.5 voi salaa kertoa, kuinka monta kerrosta hänellä on itsetutkiskelun kautta, mutta hän väittää, ettei tiedä."