O crescimento da capacidade do modelo de IA não se parece em nada com a maneira como a inteligência humana se desenvolve, mas ainda há uma suposição generalizada entre os tipos de IA de que a AGI ou a superinteligência terão, inevitavelmente, a mesma distribuição de capacidades que os gênios humanos. parece errado

a observação de karpathy (outros também) de que RL produz um conjunto de recursos que podem nunca se transformar em AGI (ou seja, que dimensionar dados de treinamento e melhorar a qualidade dos dados pode nunca levar a modelos que são agenciais padrão ou novos geradores de insights ou w / e) também pode generalizar

ou seja, não me parece haver uma lei do universo que diga que todo o pacote de inteligência humana em toda a população será replicável usando técnicas de ML, muito menos qualquer direção de pesquisa

parece muito plausível para mim (um, aliás) que você possa construir modelos de IA agenciais de aprendizado contínuo que sejam capazes de fazer quase todo o trabalho de um analista jurídico de primeira linha em uma empresa, mas apenas 50 ou 60% do trabalho de um estudioso jurídico trabalhando em um novo campo

A propósito, isso é óbvio para os advogados, porque eles sabem que os advogados que trabalham em novos campos ou subcampos estão basicamente inventando leis por analogia, etc.

não é um cara da física, mas o equivalente seria que você pode hospedar 10.000 alunos de pós-graduação em um data center sem ser capaz de fazer o trabalho de um einstein (ou o que quer que seja - idk se o "quando a AGI substituirá einstein" é uma hipótese útil em tudo)

Mesmo se você assumir que é possível replicar a visão humana em conjunto com, digamos, uma combinação de várias arquiteturas de modelos diferentes em conjunto - isso me parece muito com o tipo de problema de otimização que o ajuste de modelos de fronteira se tornou agora.