Gânduri... În ultima vreme m-am confruntat cu o dificultate ciudată. Gândirea pe termen lung a fost întotdeauna naturală pentru mine, ceva ce m-am condiționat să fac cu ușurință. Acum pare aproape imposibil. De ce? AGI. De fiecare dată când mă așez să planific viitorul, am aceeași realizare. Așteptăm să vedem cine va construi prima adevărată AGI, iar cine o va face va deține efectiv lumea. Asta face ca planificarea pe termen lung să pară deconectată de realitate. Nu știu în lumea cui voi trăi, așa că nu pot ancora niciun viitor cu încredere. AGI este ultima cursă. Ne apropiem de ultimul nivel al jocului video. Momentul în care un jucător construiește un sistem care poate automatiza toate sarcinile inteligente și de atingere a scopurilor transformă creatorul său într-un fel apropiat de un zeu. O entitate dobândește abilitatea de a depăși pe toată lumea din orice domeniu. Asta pune capăt competiției. Asta duce la opționalitate. Locul doi devine sclavul viziunii asupra lumii celui care ajunge primul. De aceea stimulentele legate de AGI sunt atât de periculoase. Fiecare jucător înțelege că ezitarea este o cale directă spre subordonare. Această logică forțează accelerația, forțează scurtături și șterge prudența în ceea ce privește siguranța. Odată ce cursa devine existențială pentru concurenți, exterioritățile încetează să mai conteze. ...