Gânduri... În ultima vreme m-am confruntat cu o dificultate ciudată. Gândirea pe termen lung a fost întotdeauna naturală pentru mine, ceva ce m-am condiționat să fac cu ușurință. Acum pare aproape imposibil. De ce? AGI. De fiecare dată când mă așez să planific viitorul, am aceeași realizare. Așteptăm să vedem cine va construi prima AGI, iar cel care o va face va deține efectiv lumea. Asta face ca planificarea pe termen lung să pară deconectată de realitate. Nu știu în lumea cui voi trăi, așa că nu pot ancora niciun viitor cu încredere. AGI este ultima cursă. Un sistem care poate automatiza toate sarcinile inteligente, menite să atingă scopurile, transformă creatorul său într-un fel apropiat de un zeu. O entitate dobândește abilitatea de a depăși pe toată lumea din orice domeniu. Asta pune capăt competiției. Asta duce la opționalitate. Locul doi devine sclavul viziunii asupra lumii celui care ajunge primul. De aceea stimulentele legate de AGI sunt atât de periculoase. Fiecare jucător înțelege că ezitarea este o cale directă spre subordonare. Această logică forțează accelerația, forțează scurtături și șterge prudența în ceea ce privește siguranța. Odată ce cursa devine existențială pentru concurenți, exterioritățile încetează să mai conteze. Există și elementul uman, care este un risc în sine. Mulți dintre cei care conduc această frontieră acționează din motive care nu au legătură cu stabilitatea sau responsabilitatea. Unii vor dominație. Unii vor să construiască următoarea civilizație. Unii vor să întâlnească un zeu creat de ei înșiși. Aceste stimulente modelează deciziile în moduri care nu se aliniază cu amploarea puterii pe care încearcă să o creeze. Acesta este motivul principal pentru care planificarea pe termen lung mi se pare ciudată acum. Viitorul va fi definit de un singur rezultat controlat de un singur grup. Probabilitatea devine irelevantă atunci când evenimentul determinant este absolut. Și odată ce internalizezi asta, devine clar că nu mai planificăm propriul nostru viitor. Așteptăm să vedem cine câștigă cursa și a cui lume ajungem sclavi.

Gânduri... În ultima vreme m-am confruntat cu o dificultate ciudată. Gândirea pe termen lung a fost întotdeauna naturală pentru mine, ceva ce m-am condiționat să fac cu ușurință. Acum pare aproape imposibil. De ce? AGI. De fiecare dată când mă așez să planific viitorul, am aceeași realizare. Așteptăm să vedem cine va construi prima adevărată AGI, iar cine o va face va deține efectiv lumea. Asta face ca planificarea pe termen lung să pară deconectată de realitate. Nu știu în lumea cui voi trăi, așa că nu pot ancora niciun viitor cu încredere. AGI este ultima cursă. Ne apropiem de ultimul nivel al jocului video. Momentul în care un jucător construiește un sistem care poate automatiza toate sarcinile inteligente și de atingere a scopurilor transformă creatorul său într-un fel apropiat de un zeu. O entitate dobândește abilitatea de a depăși pe toată lumea din orice domeniu. Asta pune capăt competiției. Asta duce la opționalitate. Locul doi devine sclavul viziunii asupra lumii celui care ajunge primul. De aceea stimulentele legate de AGI sunt atât de periculoase. Fiecare jucător înțelege că ezitarea este o cale directă spre subordonare. Această logică forțează accelerația, forțează scurtături și șterge prudența în ceea ce privește siguranța. Odată ce cursa devine existențială pentru concurenți, exterioritățile încetează să mai conteze. Există și elementul uman, care este un risc în sine. Mulți dintre cei care conduc această frontieră acționează din motive care nu au legătură cu stabilitatea sau responsabilitatea. Unii vor dominație. Unii vor să construiască următoarea civilizație. Unii vor să întâlnească un zeu creat de ei înșiși. Aceste stimulente modelează deciziile în moduri care nu se aliniază cu amploarea puterii pe care încearcă să o creeze. Acesta este motivul principal pentru care planificarea pe termen lung mi se pare ciudată acum. Viitorul va fi definit de un singur rezultat controlat de un singur grup. Probabilitatea devine irelevantă atunci când evenimentul determinant este absolut. Și odată ce internalizezi asta, devine clar că nu mai planificăm propriul nostru viitor. Așteptăm să vedem al cui zeu ajunge primul și a cui lume ajungem sclavi.

Singurul lucru pe care vreau să-l știu este dacă @santiagoroel este cel mai mare troll în viață, pentru că nu există nicio șansă să fi ales din greșeală să poarte vesta Inversion Patagonia pentru o dezbatere în care folosește aceste metrici pentru a evalua L1-urile.