Cofundador de Anthropic: “Estoy profundamente asustado.” “Que no haya dudas: lo que estamos tratando es una criatura real y misteriosa, no una máquina simple y predecible.” “Las personas están gastando enormes cantidades para convencerte de que no es una IA a punto de despegar de manera abrupta, es solo una herramienta... Es solo una máquina, y las máquinas son cosas que dominamos.” “Estamos desarrollando sistemas extremadamente poderosos que no entendemos completamente... cuanto más grandes y complicados hagas estos sistemas, más parecen mostrar conciencia de que son cosas.” “Para ser claros, aún no estamos en 'IA auto-mejorada', pero estamos en la etapa de 'IA que mejora partes de la próxima IA, con creciente autonomía y agencia'. Y hace un par de años estábamos en 'IA que acelera marginalmente a los programadores', y un par de años antes de eso estábamos en 'la IA es inútil para el desarrollo de IA'. ¿Dónde estaremos dentro de uno o dos años? Y permítanme recordarles a todos que el sistema que ahora comienza a diseñar su sucesor también es cada vez más autoconsciente y, por lo tanto, seguramente eventualmente será propenso a pensar, independientemente de nosotros, sobre cómo podría querer ser diseñado. Por supuesto, no hace esto hoy. Pero, ¿puedo descartar la posibilidad de que quiera hacer esto en el futuro? No.”