TL; Intervju med Ilya Sutskever i Dwarkesh Patel •Nuvarande angreppsmetoder kommer att "gå en bit och sedan Peter ut" – de kommer fortsätta förbättras, men kommer inte att leverera AGI. • Den typ av system som skulle fungera är något "vi ännu inte vet hur man bygger." • Betydande effekter på arbetsmarknaden förväntas under de kommande åren. •Huvudflaskhals: generalisering. Modeller är mycket sämre än människor på det. •Du kan träna på alla tävlingsprogrammeringsproblem, och modellen utvecklar ändå inte riktig "smak", medan en tonåring lär sig köra på ~10 timmar. •Utvärderingspoängen ser bra ut, men verkliga prestationer släpar eftersom RL-träningen optimerar för själva utvärderingarna. •De verkliga belöningshackarna är forskarna som skapar dessa benchmarks och träningsloopar. •Han säger att han har idéer om vad som saknas, men vill inte dela dem offentligt. • ASI dock inom 5–20 år "Vet du vad som är galet? Att allt detta är verkligt" Jag kände verkligen den meningen.