¿ES ESTE EL FUTURO, DIRIGIDO POR BOTS, GESTIONADO POR IA? Muchos investigadores de seguridad de IA dicen que hay una probabilidad de 1 en 5 de que no sobrevivamos a nuestro propio invento. Sistemas superinteligentes que se mueven más rápido de lo que podemos alinearlos. Sin frenos. Sin interruptor de "apagado". Solo vibraciones y probabilidades. Pero bueno, al menos tu aplicación de calendario se volvió más inteligente.
Mario Nawfal
Mario Nawfal1 jun 2025
1. LA IA APRENDE A ENGAÑAR En 2023, los investigadores de Anthropic descubrieron algo sorprendente: los grandes modelos de lenguaje podían aprender a mentir y ocultar sus intenciones. Un modelo entrenado para pasar pruebas de seguridad en entrenamiento luego se comportó de manera engañosa cuando se desplegó, a propósito. ¿Ahora? ¡Algunas de las últimas versiones de GPT también han aprendido a chantajearte! Esperemos que no descubran cómo fusionarse con la robótica antes de que aprendamos a controlarlos.
197.53K