Myśli... Ostatnio napotykam na dziwną trudność. Myślenie długoterminowe zawsze przychodziło mi naturalnie, coś, co wytrenowałem w sobie z łatwością. Teraz wydaje się to prawie niemożliwe. Dlaczego? AGI. Za każdym razem, gdy siadam, aby zaplanować przyszłość, uderza mnie ta sama realizacja. Czekamy, aby zobaczyć, kto zbuduje pierwszą AGI, a ten, kto to zrobi, efektywnie stanie się właścicielem świata. To sprawia, że długoterminowe planowanie wydaje się odłączone od rzeczywistości. Nie wiem, w czyim świecie będę żył, więc nie mogę z pewnością zakotwiczyć żadnej przyszłości. AGI to ostatni wyścig. System, który może zautomatyzować wszystkie inteligentne, osiągające cele zadania, zamienia swojego twórcę w coś bliskiego boga. Jedna jednostka zyskuje zdolność do przewyższania wszystkich w każdej dziedzinie. To kończy konkurencję. To kończy opcjonalność. Drugie miejsce staje się niewolnikiem światopoglądu tego, kto dotrze tam pierwszy. Dlatego zachęty związane z AGI są tak niebezpieczne. Każdy gracz rozumie, że wahanie to bezpośrednia droga do podporządkowania. Ta logika wymusza przyspieszenie, popycha do skrótów i niweluje ostrożność w kwestii bezpieczeństwa. Gdy wyścig staje się egzystencjalny dla konkurentów, zewnętrzne czynniki przestają mieć znaczenie. Jest też ludzki element, który stanowi własne ryzyko. Wielu ludzi napędzających tę granicę działa z motywów, które nie mają nic wspólnego ze stabilnością czy odpowiedzialnością. Niektórzy pragną dominacji. Niektórzy chcą zaprojektować następną cywilizację. Niektórzy chcą spotkać boga, którego sami stworzyli. Te zachęty kształtują decyzje w sposób, który nie jest zgodny z wielkością mocy, którą próbują stworzyć. To jest główny powód, dla którego długoterminowe planowanie wydaje mi się teraz dziwne. Przyszłość będzie definiowana przez jeden wynik kontrolowany przez jedną grupę. Prawdopodobne staje się nieistotne, gdy decydujące wydarzenie jest absolutne. A gdy to zinternalizujesz, staje się jasne, że już nie planujemy naszej własnej przyszłości. Czekamy, aby zobaczyć, kto wygra wyścig i czyj świat stanie się naszym niewolnictwem.

Myśli... Ostatnio napotykam na dziwną trudność. Myślenie długoterminowe zawsze przychodziło mi naturalnie, coś, co wytrenowałem w sobie z łatwością. Teraz wydaje się to prawie niemożliwe. Dlaczego? AGI. Za każdym razem, gdy siadam, aby zaplanować przyszłość, uderza mnie ta sama myśl. Czekamy, aby zobaczyć, kto zbuduje pierwszą prawdziwą AGI, a ten, kto to zrobi, efektywnie stanie się właścicielem świata. To sprawia, że długoterminowe planowanie wydaje się oderwane od rzeczywistości. Nie wiem, w jakim świecie będę żył, więc nie mogę z pewnością zakotwiczyć żadnej przyszłości. AGI to ostatni wyścig. Zbliżamy się do ostatniego poziomu gry wideo. Moment, w którym jeden gracz buduje system, który może zautomatyzować wszystkie inteligentne, osiągające cele zadania, zamienia jego twórcę w coś bliskiego bogu. Jedna jednostka zyskuje zdolność do przewyższania wszystkich w każdej dziedzinie. To kończy konkurencję. To kończy opcjonalność. Drugie miejsce staje się niewolnikiem światopoglądu tego, kto dotrze tam pierwszy. Dlatego zachęty związane z AGI są tak niebezpieczne. Każdy gracz rozumie, że wahanie to bezpośrednia droga do podporządkowania. Ta logika wymusza przyspieszenie, popycha do skrótów i eliminuje ostrożność w kwestii bezpieczeństwa. Gdy wyścig staje się egzystencjalny dla konkurentów, zewnętrzne czynniki przestają mieć znaczenie. Jest też ludzki element, który stanowi własne ryzyko. Wielu ludzi napędzających tę granicę działa z motywów, które nie mają nic wspólnego ze stabilnością czy odpowiedzialnością. Niektórzy pragną dominacji. Niektórzy chcą zaprojektować następną cywilizację. Niektórzy chcą spotkać boga, którego sami stworzyli. Te zachęty kształtują decyzje w sposób, który nie jest zgodny z wielkością mocy, którą próbują stworzyć. To jest główny powód, dla którego długoterminowe planowanie wydaje mi się teraz dziwne. Przyszłość będzie definiowana przez jeden wynik kontrolowany przez jedną grupę. Prawdopodobne staje się nieistotne, gdy decydujące wydarzenie jest absolutne. A gdy to zinternalizujesz, staje się jasne, że już nie planujemy naszej własnej przyszłości. Czekamy, aby zobaczyć, czyj bóg przybędzie pierwszy i czyj świat stanie się naszym niewolnictwem.

Jedyną rzeczą, którą chcę wiedzieć, jest to, czy @santiagoroel jest największym trollem na świecie, ponieważ nie ma mowy, żeby przypadkowo wybrał noszenie swojej kamizelki Inversion Patagonia na debatę, w której używa tych metryk do wyceny L1.