Saya sedang membangun API pasar saham untuk agen. Pikirkan: backend yang menggerakkan Perplexity Finance. Tahun lalu itu adalah 1 titik akhir untuk satu pengguna awal. Setelah banyak pagi dan larut malam, itu tumbuh dengan cepat. Saat ini @findatasets memiliki 25 titik akhir dan melayani jutaan permintaan sehari. Sistem tersulit yang pernah saya bangun. Paling bermanfaat juga. Tidak sabar untuk menunjukkan kepada Anda semua apa yang akan terjadi selanjutnya.

Saya meningkatkan perencanaan tugas Dexter setiap hari. Sistem kami saat ini menangani kueri keuangan yang kompleks dengan baik, dan kami baru saja memulai. Cara kerja perencanaan hari ini: 1 • Analisis kueri 2 • Menghasilkan tugas 3 • Buat sub tugas 4 • Pilih alat terbaik Selanjutnya: tambahkan langkah refleksi sehingga Dexter dapat memverifikasi rencana, menemukan kegagalan, dan merencanakan ulang saat diperlukan. Semua kode bersifat publik. Jika Anda memiliki ide, kirim permintaan pull.

Dexter sekarang 73% lebih cepat. Apa yang berubah: • Perencanaan tugas yang lebih sederhana • keluaran alat yang di-cache • ringkasan yang lebih pendek Panggilan LLM turun lebih dari setengahnya. Biaya juga turun. Berikutnya: pemilihan model yang lebih cerdas sehingga setiap tugas menggunakan LLM yang tepat.