Myśli... Ostatnio napotykam na dziwną trudność. Myślenie długoterminowe zawsze przychodziło mi naturalnie, coś, co wytrenowałem w sobie z łatwością. Teraz wydaje się to prawie niemożliwe. Dlaczego? AGI. Za każdym razem, gdy siadam, aby zaplanować przyszłość, uderza mnie ta sama realizacja. Czekamy, aby zobaczyć, kto zbuduje pierwszą AGI, a ten, kto to zrobi, efektywnie stanie się właścicielem świata. To sprawia, że długoterminowe planowanie wydaje się odłączone od rzeczywistości. Nie wiem, w czyim świecie będę żył, więc nie mogę z pewnością zakotwiczyć żadnej przyszłości. AGI to ostatni wyścig. System, który może zautomatyzować wszystkie inteligentne, osiągające cele zadania, zamienia swojego twórcę w coś bliskiego boga. Jedna jednostka zyskuje zdolność do przewyższania wszystkich w każdej dziedzinie. To kończy konkurencję. To kończy opcjonalność. Drugie miejsce staje się niewolnikiem światopoglądu tego, kto dotrze tam pierwszy. Dlatego zachęty związane z AGI są tak niebezpieczne. Każdy gracz rozumie, że wahanie to bezpośrednia droga do podporządkowania. Ta logika wymusza przyspieszenie, popycha do skrótów i niweluje ostrożność w kwestii bezpieczeństwa. Gdy wyścig staje się egzystencjalny dla konkurentów, zewnętrzne czynniki przestają mieć znaczenie. Jest też ludzki element, który stanowi własne ryzyko. ...