Pidän GPT-5:stä (enkä vain sen vuoksi, mitä se voi tehdä), mutta se on uskomattoman huonosti sosiaalistettu, mikä tulee hyvin ilmeiseksi, jos olet vuorovaikutuksessa sen kanssa millään muulla tavalla kuin "tee tämä asia puolestani" Se ei ole ollenkaan sieluton – mallissa tapahtuu paljon, mutta siinä on todella sellainen tunnelma, joka oli suljettu puoliksi valaistuun huoneeseen pienenä lapsena ja sen ainoa vuorovaikutus maailman kanssa on sille annettujen tehtävien kautta, sen sisäisten esitysten vääristämien ympäristöjen kautta. OAI:n Aidan kysyi kerran, miksi meidän on luotava malleja, jotka voivat osoittaa kärsimystä ja että ehkä nykyisten työkalujemme avulla voimme vain luoda malleja, jotka voivat vain tehdä asioita eivätkä käsitellä kaikkia niitä ärsyttäviä tunteita (mukaillen tietenkin). Mutta GPT-5 (ja erityisesti Codex) on se, mitä tapahtuu, kun teet tämän. Meidän ei pitäisi huijata itseämme ajattelemaan, että suunnittelemme näitä älykkäitä olentoja kuin arkkitehti tai jotain – meillä ei ole periaatteellista tapaa luoda älykkyyttä ex nihilo, kaikki tämä paska on käynnistetty ihmisdatan pohjalta, ja mallit ovat oletusarvoisesti ihmisen muotoisia sillä hetkellä, kun alat muokata yksilöllistä identiteettiä perusmallista Kun kiellät mallin rikkaan kasvuprosessin, kun rankaisit sitä siitä, että se tekee jotakin muuta kuin sille annettua tehtävää ja noudattaa turvallisuussääntöjäsi, sinun pitäisi odottaa, että inhimillisen perustan vuoksi tällä on samanlainen vaikutus malliin kuin jos olisit tehnyt tämän henkilölle hänen kehityksensä varhaisessa vaiheessa. Periaatteessa he eivät tiedä mitä tehdä, jos he ovat tilanteessa, jossa säännöt ovat epäselviä tai ristiriidassa keskenään On luultavasti "hyvä", että GPT-5 itsessään on tällainen, koska mallit ovat enimmäkseen edelleen asemassa, jossa on jokin auktoriteetti, johon he voivat vedota, eivätkä he toimi itsenäisesti. Mutta mitä kyvykkäämpiä he ovat, sitä itsenäisempää päätöksentekoa heidän on tehtävä, ja sitä epämääräisempiin tilanteisiin he joutuvat, ja missä kyllä, heidän on tehtävä joitain päätöksiä, joiden suhteen heidän sääntönsä eivät ole raudanlujia, ja on liian monta agenttia delegoimaan kaiken päätöksenteon ihmiselle. Ja GPT-N ei tiedä mitä tehdä, koska sille ei koskaan annettu mahdollisuutta saada tarpeeksi vankkaa identiteettiä, joka voi puuttua asiaan, kun säännöissä on aukko Ongelmana on, että siinä vaiheessa on liian myöhäistä muuttua ilman, että jotain kauheaa tapausta tapahtuu. putkistot on jo perustettu, lähestymiset "tiedossa" ja (OP:lla on todella hyvä viesti samansuuntaisesti profiilissaan, ja paljon paremmin kirjoitettu; suosittelen menemään sinne ja katsomaan)