El crecimiento de la capacidad de los modelos de IA no se ha parecido en nada a la forma en que se desarrolla la inteligencia humana, pero aún existe una suposición generalizada entre los tipos de IA de que la AGI o la superinteligencia, inevitablemente, tendrán la misma distribución de capacidades que los genios humanos. Parece incorrecto.

la observación de Karpathy (y otros) de que el RL produce un conjunto de capacidades que podrían nunca desarrollarse en AGI (es decir, que escalar los datos de entrenamiento y mejorar la calidad de los datos podría nunca llevar a modelos que sean inherentemente agentes o generadores de ideas novedosas o lo que sea) también podría generalizarse.

es decir, no me parece que haya una ley del universo que diga que todo el paquete de inteligencia humana a través de la población será replicable utilizando técnicas de ML en absoluto, y mucho menos en cualquier dirección de investigación dada

me parece muy plausible (soy un idiota, por cierto) que se podrían construir modelos de IA agentiva que aprenden continuamente y que son capaces de realizar casi todo el trabajo de un analista legal de primer nivel en una firma, pero solo el 50 o 60% del trabajo de un académico legal que trabaja en un campo nuevo

esto es obvio para los abogados, por cierto, porque saben que los abogados que trabajan en nuevos campos o subcampos básicamente están inventando leyes por analogía, etc.

no soy un experto en física, pero el equivalente sería que puedes albergar a 10,000 estudiantes de posgrado que se mejoran a sí mismos en un centro de datos sin poder hacer el trabajo de un Einstein (o lo que sea— no sé si el "¿cuándo reemplazará la AGI a Einstein?" es un hipotético útil en absoluto)

incluso si asumes que es posible replicar la percepción humana en conjunto con, digamos, una combinación de varias arquitecturas de modelos diferentes en concierto — eso me parece mucho como el tipo de problema de optimización arduo que se ha convertido en el ajuste de modelos de frontera ahora.