dia mencantumkan 6 pergeseran terpenting dari acara penelitian AI terbesar tahun ini, NeurIPS 2025. ini memberi tahu kita banyak tentang ke mana arah AI pada tahun 2026: 1. Mekanisme perhatian mendapatkan peningkatan yang cukup. Ini menjadi lebih selektif menggunakan teknik seperti gating, jarang, dan penanganan konteks panjang yang lebih baik. Mungkin dalam 6 bulan Anda akan melihat model yang lebih murah, lebih cerdas, dan lebih efisien. 2. Model perbatasan menyatu. Kami sudah mengetahui hal ini tetapi sekali lagi, model teratas terdengar lebih sama. Pilihan model Frontier Anda kurang penting dari sebelumnya, tetapi juga bias atau titik buta apa pun diperkuat di mana-mana sekaligus. 3. RL akhirnya menskalakan untuk robotika. itu telah terhenti selama bertahun-tahun. pendekatan "terus skalakan" yang berhasil untuk LLM sekarang bekerja untuk agen. 2026 akan menjadi tahun kemajuan besar dalam sistem agen. 4. Model difusi tidak hanya menghafal data pelatihan. Sebuah makalah teori utama menunjukkan bahwa pelatihan difusi sebenarnya memiliki dua fase: fase awal di mana model belajar menghasilkan sampel berkualitas tinggi, dan fase selanjutnya di mana mereka mulai menghafal hal-hal tertentu. Lebih banyak data pelatihan mendorong fase menghafal dan memberi Anda jendela yang lebih besar sebelum overfitting. 5. sistem makalah akademik MATANG (serius). dengan 20000 pengajuan NeurIPS tenggelam dalam makalah. mereka bahkan bereksperimen dengan AI untuk meninjau makalah yang dihasilkan AI. Itu berarti, Anda tidak bisa lagi benar-benar mempercayai prestise konferensi dan publikasi. Anda harus mengandalkan siapa yang menulis makalah dan latar belakang mereka. 6. Laboratorium besar melakukan semua penalaran, efisiensi, dan integrasi. Perlombaan perbatasan bukan lagi hanya tentang ukuran model. Bug Labs sekarang sedang mengerjakan: (1) penalaran sebagai metrik yang terukur, pemikiran langkah demi langkah, panggilan alat, penggunaan pencarian (2) efisiensi, menjalankan model yang kuat pada ponsel dan perangkat edge dengan latensi rendah (3) integrasi alur kerja, memasukkan model ke alat dan protokol seperti MCP. Saya sangat menyarankan Anda menonton rincian 10 menit ini jika penelitian AI mengkhawatirkan Anda.