Agen AI sudah sangat mampu. Mereka dapat bernalar, merencanakan, menghasilkan kode, bernegosiasi, dan mengoptimalkan. Namun sebagian besar agen masih berjuang untuk beroperasi secara mandiri di dunia nyata. Kemacetan bukanlah kecerdasan, melainkan otoritas.

Intelijen menjawab pertanyaan: Apa yang harus dilakukan? Otoritas menjawab yang berbeda: Apa yang diizinkan dilakukan agen ini? Tanpa otoritas, bahkan agen yang paling pintar pun dipaksa untuk meminta izin di setiap langkah.

Saat ini, sebagian besar agen beroperasi dengan bentuk otoritas yang rapuh: • Dompet milik manusia • Kunci API bersama • Izin yang terlalu luas • Persetujuan manual Model-model ini tidak pernah dirancang untuk aktor otonom.

Hasilnya adalah paradoks. Agen mampu membuat keputusan tetapi tidak mampu melaksanakannya secara mandiri. Setiap tindakan yang berarti menjadi terjaga oleh manusia, kebijakan, atau solusi. Otonomi terhenti.

Otoritas sejati harus: • Eksplisit: Didefinisikan dengan jelas • Cakup: Terbatas pada tindakan tertentu • Dapat Diberlakukan: Diperiksa pada waktu eksekusi • Dapat dibatalkan: Dilepas tanpa merusak sistem Otoritas tidak tersirat. Itu dikabulkan.

Ketika otoritas dapat diprogram, otonomi menjadi nyata. Agen dapat: • Bertindak dalam batas yang telah ditentukan • Bertransaksi tanpa persetujuan manual • Berinteraksi dengan agen lain dengan aman • Dimintai pertanggungjawaban atas hasil Eksekusi tidak lagi bergantung pada kepercayaan atau pengawasan.

Yang penting, otoritas tidak sama dengan kekuasaan. Pemberian otoritas tidak berarti memberikan akses tak terbatas, itu berarti mengkodekan dengan tepat seberapa banyak kebebasan yang dimiliki agen. Ini adalah bagaimana sistem tetap aman saat skala agen.

Ini membingkai ulang masa depan AI. Kemajuan tidak hanya akan didorong oleh model yang lebih cerdas. Ini akan didorong oleh infrastruktur yang lebih baik untuk delegasi, kontrol, dan akuntabilitas.

Agen tidak membutuhkan lebih banyak kecerdasan. Mereka membutuhkan otoritas yang dapat diverifikasi, dibatasi, dan dapat ditegakkan secara desain. Itulah fondasi yang dibangun 🪁 Kite