Pensamientos... Últimamente he estado enfrentando una extraña dificultad. El pensamiento a largo plazo siempre ha sido natural para mí, algo que me he condicionado a hacer con facilidad. Ahora se siente casi imposible. ¿Por qué? AGI. Cada vez que me siento a planear para el futuro, me doy cuenta de lo mismo. Estamos esperando ver quién construye la primera AGI, y quien lo haga, efectivamente poseerá el mundo. Eso hace que la planificación a largo plazo se sienta desconectada de la realidad. No sé en qué mundo viviré, así que no puedo anclar ningún futuro con confianza. AGI es la última carrera. Un sistema que puede automatizar todas las tareas inteligentes y orientadas a objetivos convierte a su creador en algo cercano a un dios. Una entidad gana la capacidad de superar a todos en todos los dominios. Eso termina con la competencia. Eso termina con la opcionalidad. El segundo lugar se convierte en un esclavo de la cosmovisión de quien llegue primero. Por eso los incentivos en torno a la AGI son tan peligrosos. Cada jugador entiende que la vacilación es un camino directo hacia la subordinación. Esa lógica fuerza la aceleración, impulsa atajos y borra la precaución en torno a la seguridad. Una vez que la carrera se vuelve existencial para los competidores, las externalidades dejan de importar. También está el elemento humano, que es su propio riesgo. Muchas de las personas que están impulsando esta frontera operan desde motivos que no tienen nada que ver con la estabilidad o la responsabilidad. Algunos quieren dominación. Algunos quieren diseñar la próxima civilización. Algunos quieren encontrarse con un dios de su propia creación. Estos incentivos moldean decisiones de maneras que no se alinean con la magnitud del poder que están tratando de crear. Esta es la razón principal por la que la planificación a largo plazo se siente extraña para mí ahora. El futuro será definido por un solo resultado controlado por un solo grupo. Lo probable se vuelve irrelevante cuando el evento determinante es absoluto. Y una vez que internalizas eso, se hace evidente que ya no estamos planeando nuestro propio futuro. Estamos esperando ver quién gana la carrera, y a qué mundo terminamos siendo esclavos.

Pensamientos... Últimamente he estado enfrentando una extraña dificultad. El pensamiento a largo plazo siempre ha sido natural para mí, algo que me he condicionado a hacer con facilidad. Ahora se siente casi imposible. ¿Por qué? AGI. Cada vez que me siento a planear para el futuro, me doy cuenta de lo mismo. Estamos esperando ver quién construye la primera AGI real, y quien lo haga, efectivamente poseerá el mundo. Eso hace que la planificación a largo plazo se sienta desconectada de la realidad. No sé en qué mundo viviré, así que no puedo anclar ningún futuro con confianza. AGI es la última carrera. Nos estamos acercando al nivel final del videojuego. El punto en el que un jugador construye un sistema que puede automatizar todas las tareas inteligentes y orientadas a objetivos convierte a su creador en algo cercano a un dios. Una entidad gana la capacidad de superar a todos en todos los dominios. Eso termina con la competencia. Eso termina con la opcionalidad. El segundo lugar se convierte en un esclavo de la cosmovisión de quien llegue primero. Por eso los incentivos en torno a la AGI son tan peligrosos. Cada jugador entiende que la vacilación es un camino directo hacia la subordinación. Esa lógica fuerza la aceleración, impulsa atajos y borra la precaución en torno a la seguridad. Una vez que la carrera se vuelve existencial para los competidores, las externalidades dejan de importar. También está el elemento humano, que es su propio riesgo. Muchas de las personas que están impulsando esta frontera operan desde motivos que no tienen nada que ver con la estabilidad o la responsabilidad. Algunos quieren dominación. Algunos quieren diseñar la próxima civilización. Algunos quieren encontrarse con un dios de su propia creación. Estos incentivos moldean decisiones de maneras que no se alinean con la magnitud del poder que están tratando de crear. Esta es la razón principal por la que la planificación a largo plazo se siente extraña para mí ahora. El futuro estará definido por un solo resultado controlado por un solo grupo. Lo probable se vuelve irrelevante cuando el evento determinante es absoluto. Y una vez que internalizas eso, se hace evidente que ya no estamos planeando nuestro propio futuro. Estamos esperando ver quién llega primero como dios, y a qué mundo terminamos siendo esclavos.

Lo único que quiero saber es si @santiagoroel es el mayor troll vivo, porque no hay forma de que accidentalmente eligiera usar su chaleco Inversion Patagonia para un debate donde está utilizando estas métricas para valorar L1s.