O crescimento da capacidade dos modelos de IA não se assemelha de forma alguma à maneira como a inteligência humana se desenvolve, mas ainda há uma suposição generalizada entre os tipos de IA de que a AGI ou a superinteligência terá, inevitavelmente, a mesma distribuição de capacidades que os gênios humanos. Parece errado.

a observação de Karpathy (e de outros também) de que o RL produz um conjunto de capacidades que pode nunca se desenvolver em AGI (ou seja, que aumentar os dados de treinamento e melhorar a qualidade dos dados pode nunca levar a modelos que sejam default agentic ou que gerem novas percepções ou o que quer que seja) pode também se generalizar

ou seja, não me parece que exista uma lei do universo que diga que todo o pacote de inteligência humana na população será replicável usando técnicas de ML, muito menos qualquer direção de pesquisa específica.

parece-me muito plausível (sou um idiota, a propósito) que se possam construir modelos de IA agentes que aprendem continuamente e que são capazes de realizar quase todo o trabalho de um analista jurídico de topo numa firma, mas apenas 50 ou 60% do trabalho de um académico jurídico a trabalhar numa nova área.

isto é óbvio para os advogados, aliás, porque eles sabem que os advogados que trabalham em novos campos ou subcampos estão basicamente a criar a lei por analogia, etc.

não sou um cara da física, mas o equivalente seria que você pode hospedar 10.000 estudantes de pós-graduação que se autoaperfeiçoam em um data center sem conseguir fazer o trabalho de um einstein (ou seja— não sei se o "quando a AGI substituirá einstein" é um hipotético útil de qualquer forma)

mesmo que você assuma que é possível replicar a percepção humana em conjunto com, digamos, uma combinação de várias arquiteturas de modelo diferentes em conjunto — isso me parece muito com o tipo de problema de otimização trabalhoso que o ajuste de modelos de fronteira se tornou agora.