die Zusammenfassung des Interviews von Dwarkesh Patel mit Ilya Sutskever • Aktuelle Ansätze werden "ein Stück weit kommen und dann abflauen"; sie werden weiterhin verbessert, aber werden keine AGI liefern. • Die Art von System, die funktionieren würde, ist etwas, "das wir noch nicht wissen, wie man es baut." • Bedeutende Auswirkungen auf den Arbeitsmarkt werden in den kommenden Jahren erwartet. • Hauptengpass: Generalisierung. Modelle sind darin weit schlechter als Menschen. • Man kann auf jedes Wettbewerbsprogrammierproblem trainieren, und das Modell wird trotzdem keinen echten "Geschmack" entwickeln, während ein Teenager in etwa 10 Stunden das Fahren lernt. • Die Bewertungswerte sehen großartig aus, aber die Leistung in der realen Welt hinkt hinterher, weil das RL-Training letztendlich für die Bewertungen selbst optimiert. • Die echten Belohnungshacker sind die Forscher, die diese Benchmarks und Trainingsschleifen erstellen. • Er sagt, er hat Ideen, was fehlt, aber wird sie nicht öffentlich teilen. • ASI jedoch innerhalb von 5-20 Jahren "Weißt du, was verrückt ist? Dass all das real ist" Ich habe diesen Satz wirklich gefühlt.