Myśli... Ostatnio napotykam na dziwną trudność. Myślenie długoterminowe zawsze przychodziło mi naturalnie, coś, co wytrenowałem w sobie z łatwością. Teraz wydaje się to prawie niemożliwe. Dlaczego? AGI. Za każdym razem, gdy siadam, aby zaplanować przyszłość, uderza mnie ta sama myśl. Czekamy, aby zobaczyć, kto zbuduje pierwszą prawdziwą AGI, a ten, kto to zrobi, efektywnie stanie się właścicielem świata. To sprawia, że długoterminowe planowanie wydaje się oderwane od rzeczywistości. Nie wiem, w jakim świecie będę żył, więc nie mogę z pewnością zakotwiczyć żadnej przyszłości. AGI to ostatni wyścig. Zbliżamy się do ostatniego poziomu gry wideo. Moment, w którym jeden gracz buduje system, który może zautomatyzować wszystkie inteligentne, osiągające cele zadania, zamienia jego twórcę w coś bliskiego bogu. Jedna jednostka zyskuje zdolność do przewyższania wszystkich w każdej dziedzinie. To kończy konkurencję. To kończy opcjonalność. Drugie miejsce staje się niewolnikiem światopoglądu tego, kto dotrze tam pierwszy. Dlatego zachęty związane z AGI są tak niebezpieczne. Każdy gracz rozumie, że wahanie to bezpośrednia droga do podporządkowania. Ta logika wymusza przyspieszenie, popycha do skrótów i eliminuje ostrożność w kwestii bezpieczeństwa. Gdy wyścig staje się egzystencjalny dla konkurentów, zewnętrzne czynniki przestają mieć znaczenie. ...