Wzrost możliwości modeli AI nie wyglądał wcale tak, jak rozwija się inteligencja ludzka, ale wśród typów AI wciąż panuje powszechne przekonanie, że AGI lub superinteligencja, nieuchronnie, będą miały tę samą dystrybucję możliwości, co ludzcy geniusze. wydaje się to błędne

obserwacja Karpathy'ego (i innych), że RL produkuje zestaw możliwości, które mogą nigdy nie rozwinąć się w AGI (tj. że skalowanie danych treningowych i poprawa jakości danych mogą nigdy nie prowadzić do modeli, które są domyślnie agentowe lub generujące nowatorskie spostrzeżenia lub cokolwiek innego) może również się uogólniać.

to znaczy, nie wydaje mi się, aby istniał jakiś uniwersalny przepis, który mówi, że cały pakiet ludzkiej inteligencji w populacji będzie możliwy do odtworzenia przy użyciu technik ML, nie mówiąc już o jakimkolwiek konkretnym kierunku badań.

wydaje mi się to bardzo prawdopodobne (jestem idiotą, btw), że można stworzyć ciągle uczące się agentowe modele AI, które są w stanie wykonać prawie całą pracę analityka prawnego w firmie z najwyższej półki, ale tylko 50 lub 60% pracy naukowca prawnego pracującego w nowej dziedzinie.

to jest oczywiste dla prawników, ponieważ wiedzą, że prawnicy pracujący w nowych dziedzinach lub poddziedzinach w zasadzie po prostu tworzą prawo na podstawie analogii itd.

nie jestem specjalistą od fizyki, ale odpowiednikiem byłoby to, że możesz gościć 10 000 samodoskonalących się studentów w centrum danych, nie będąc w stanie wykonać pracy jednego Einsteina (czy cokolwiek— nie wiem, czy "kiedy AGI zastąpi Einsteina" to w ogóle użyteczna hipoteza)

nawet jeśli zakładasz, że możliwe jest odtworzenie ludzkiej intuicji w agregacie, powiedzmy, w połączeniu kilku różnych architektur modeli w synergii — to wygląda dla mnie jak rodzaj żmudnego problemu optymalizacji, którym stało się dostrajanie modeli granicznych.