Gedachten... De laatste tijd loop ik tegen een vreemde moeilijkheid aan. Langetermijndenken is altijd natuurlijk voor mij geweest, iets wat ik mezelf met gemak heb aangeleerd. Nu voelt het bijna onmogelijk. Waarom? AGI. Elke keer als ik ga zitten om voor de toekomst te plannen, kom ik tot dezelfde realisatie. We wachten af wie de eerste AGI bouwt, en wie dat doet, zal effectief de wereld bezitten. Dat maakt langetermijnplanning losgekoppeld van de realiteit. Ik weet niet in wiens wereld ik zal leven, dus ik kan geen enkele toekomst met vertrouwen verankeren. AGI is de laatste race. Een systeem dat alle intelligente, doelgerichte taken kan automatiseren, maakt zijn schepper tot iets dat dicht bij een god komt. Één entiteit krijgt de mogelijkheid om iedereen in elk domein te overtreffen. Dat beëindigt de concurrentie. Dat beëindigt de opties. De tweede plaats wordt een slaaf van de wereldvisie van degene die als eerste aankomt. Dit is waarom de prikkels rond AGI zo gevaarlijk zijn. Elke speler begrijpt dat aarzeling een directe weg naar ondergeschiktheid is. Die logica dwingt tot versnelling, dringt aan op shortcuts en wist voorzichtigheid rond veiligheid uit. Zodra de race existentiëel wordt voor de concurrenten, stoppen externe factoren met ertoe doen. Er is ook het menselijke element, wat een eigen risico met zich meebrengt. Veel van de mensen die deze grens verleggen, opereren vanuit motieven die niets te maken hebben met stabiliteit of verantwoordelijkheid. Sommigen willen dominantie. Sommigen willen de volgende beschaving ontwerpen. Sommigen willen een god ontmoeten die ze zelf hebben gemaakt. Deze prikkels vormen beslissingen op manieren die niet in lijn zijn met de omvang van de macht die ze proberen te creëren. Dit is de kernreden waarom langetermijnplanning nu vreemd voor me aanvoelt. De toekomst zal worden gedefinieerd door een enkele uitkomst die door een enkele groep wordt gecontroleerd. Het waarschijnlijke wordt irrelevant wanneer het bepalende evenement absoluut is. En zodra je dat internaliseert, wordt het duidelijk dat we niet langer onze eigen toekomst plannen. We wachten af wie de race wint, en wiens wereld we uiteindelijk slaven van worden.

Gedachten... De laatste tijd loop ik tegen een vreemde moeilijkheid aan. Langetermijndenken is altijd natuurlijk voor mij geweest, iets wat ik mezelf met gemak heb aangeleerd. Nu voelt het bijna onmogelijk. Waarom? AGI. Elke keer als ik ga zitten om voor de toekomst te plannen, kom ik tot dezelfde realisatie. We wachten af wie de eerste echte AGI bouwt, en wie dat doet, zal effectief de wereld bezitten. Dat maakt langetermijnplanning losgekoppeld van de realiteit. Ik weet niet in wiens wereld ik zal leven, dus kan ik geen enkele toekomst met vertrouwen verankeren. AGI is de laatste race. We naderen het laatste niveau van het videospel. Het punt waarop één speler een systeem bouwt dat alle intelligente, doelgerichte taken kan automatiseren, verandert zijn maker in iets dat dicht bij een god komt. Één entiteit krijgt de mogelijkheid om iedereen in elk domein te overtreffen. Dat beëindigt de concurrentie. Dat beëindigt de keuzevrijheid. De tweede plaats wordt een slaaf van de wereldvisie van degene die er als eerste is. Dit is waarom de prikkels rond AGI zo gevaarlijk zijn. Elke speler begrijpt dat aarzeling een directe weg naar ondergeschiktheid is. Die logica dwingt tot versnelling, dringt aan op shortcuts en wist voorzichtigheid rond veiligheid weg. Zodra de race existentiëel wordt voor de concurrenten, stoppen externe factoren met ertoe te doen. Er is ook het menselijke element, wat een eigen risico met zich meebrengt. Veel van de mensen die deze grens verleggen, opereren vanuit motieven die niets te maken hebben met stabiliteit of verantwoordelijkheid. Sommigen willen dominantie. Sommigen willen de volgende beschaving ontwerpen. Sommigen willen een god ontmoeten die ze zelf hebben gemaakt. Deze prikkels vormen beslissingen op manieren die niet in lijn zijn met de omvang van de macht die ze proberen te creëren. Dit is de kernreden waarom langetermijnplanning nu vreemd voor me aanvoelt. De toekomst zal worden gedefinieerd door een enkele uitkomst die wordt gecontroleerd door een enkele groep. Het waarschijnlijke wordt irrelevant wanneer de bepalende gebeurtenis absoluut is. En zodra je dat internaliseert, wordt het duidelijk dat we niet langer onze eigen toekomst plannen. We wachten af wiens god er als eerste aankomt, en wiens wereld we uiteindelijk slaven van worden.

Het enige wat ik wil weten is of @santiagoroel de grootste troll ter wereld is, want er is geen manier dat hij per ongeluk zijn Inversion Patagonia vest heeft gekozen voor een debat waarin hij deze metrics gebruikt om L1's te prijzen.