Réflexions... Dernièrement, j'ai rencontré une difficulté étrange. La pensée à long terme a toujours été naturelle pour moi, quelque chose que je me suis conditionné à faire avec aisance. Maintenant, cela semble presque impossible. Pourquoi ? AGI. Chaque fois que je m'assois pour planifier l'avenir, je fais la même réalisation. Nous attendons de voir qui construira le premier AGI, et celui qui le fera possédera effectivement le monde. Cela rend la planification à long terme déconnectée de la réalité. Je ne sais pas dans quel monde je vais vivre, donc je ne peux pas ancrer un avenir avec confiance. L'AGI est la dernière course. Un système capable d'automatiser toutes les tâches intelligentes et orientées vers un but transforme son créateur en quelque chose de proche d'un dieu. Une entité acquiert la capacité de surpasser tout le monde dans tous les domaines. Cela met fin à la concurrence. Cela met fin à l'optionnalité. La deuxième place devient un esclave de la vision du monde de celui qui arrive le premier. C'est pourquoi les incitations autour de l'AGI sont si dangereuses. Chaque acteur comprend que l'hésitation est un chemin direct vers la subordination. Cette logique force l'accélération, pousse à des raccourcis et efface la prudence autour de la sécurité. Une fois que la course devient existentielle pour les concurrents, les externalités cessent d'avoir de l'importance. Il y a aussi l'élément humain, qui est un risque en soi. Beaucoup de personnes qui poussent cette frontière agissent avec des motivations qui n'ont rien à voir avec la stabilité ou la responsabilité. Certains veulent la domination. D'autres veulent architecturer la prochaine civilisation. Certains veulent rencontrer un dieu de leur propre création. Ces incitations façonnent les décisions de manière à ne pas s'aligner avec l'ampleur du pouvoir qu'ils essaient de créer. C'est la raison principale pour laquelle la planification à long terme me semble étrange maintenant. L'avenir sera défini par un seul résultat contrôlé par un seul groupe. Le probable devient irrélevant lorsque l'événement déterminant est absolu. Et une fois que vous intégrez cela, il devient clair que nous ne planifions plus notre propre avenir. Nous attendons de voir qui gagne la course, et à quel monde nous finissons par être esclaves.

Réflexions... Dernièrement, j'ai rencontré une difficulté étrange. La pensée à long terme a toujours été naturelle pour moi, quelque chose que je me suis conditionné à faire avec aisance. Maintenant, cela semble presque impossible. Pourquoi ? AGI. Chaque fois que je m'assois pour planifier l'avenir, je fais la même réalisation. Nous attendons de voir qui construira le premier véritable AGI, et celui qui le fera possédera effectivement le monde. Cela rend la planification à long terme déconnectée de la réalité. Je ne sais pas dans quel monde je vais vivre, donc je ne peux pas ancrer un avenir avec confiance. L'AGI est la dernière course. Nous approchons du niveau final du jeu vidéo. Le point où un joueur construit un système capable d'automatiser toutes les tâches intelligentes et orientées vers un but transforme son créateur en quelque chose de proche d'un dieu. Une entité acquiert la capacité de surpasser tout le monde dans tous les domaines. Cela met fin à la compétition. Cela met fin à l'optionnalité. La deuxième place devient esclave de la vision du monde de celui qui arrive le premier. C'est pourquoi les incitations autour de l'AGI sont si dangereuses. Chaque joueur comprend que l'hésitation est un chemin direct vers la subordination. Cette logique force l'accélération, pousse à des raccourcis et efface la prudence autour de la sécurité. Une fois que la course devient existentielle pour les concurrents, les externalités cessent d'avoir de l'importance. Il y a aussi l'élément humain, qui est un risque en soi. Beaucoup de personnes qui poussent cette frontière agissent avec des motivations qui n'ont rien à voir avec la stabilité ou la responsabilité. Certains veulent la domination. D'autres veulent architecturer la prochaine civilisation. Certains veulent rencontrer un dieu de leur propre création. Ces incitations façonnent les décisions de manière à ne pas s'aligner avec l'ampleur du pouvoir qu'ils essaient de créer. C'est la raison principale pour laquelle la planification à long terme me semble étrange maintenant. L'avenir sera défini par un seul résultat contrôlé par un seul groupe. Le probable devient irrélevant lorsque l'événement déterminant est absolu. Et une fois que vous intégrez cela, il devient clair que nous ne planifions plus notre propre avenir. Nous attendons de voir quel dieu arrive en premier, et à quel monde nous finissons par être esclaves.

La seule chose que je veux savoir, c'est si @santiagoroel est le plus grand troll vivant, car il n'y a pas moyen qu'il ait choisi par accident de porter son gilet Inversion Patagonia pour un débat où il utilise ces métriques pour évaluer les L1.