95% rekayasa AI hanyalah rekayasa Konteks. Semua orang terobsesi dengan model yang lebih baik sementara konteks tetap menjadi hambatan yang sebenarnya. Bahkan model terbaik di dunia akan memberi Anda sampah jika Anda memberikan informasi yang salah. Inilah yang dilewatkan kebanyakan orang: Rekayasa konteks bukan hanya tentang RAG atau memori atau agen. Ini adalah seni dan ilmu untuk menyampaikan informasi yang tepat, dalam format yang tepat, pada waktu yang tepat, ke LLM Anda. Pikirkan tentang apa yang sebenarnya Anda butuhkan: ↳ Pengambilan untuk mengambil dokumen yang relevan ↳ Memori jangka pendek untuk melacak percakapan ↳ Memori jangka panjang untuk mengingat preferensi pengguna ↳ Agen untuk mengatur semuanya ↳ Alat untuk memperluas kemampuan Itu adalah 5 sistem berbeda yang harus Anda bangun, hubungkan, dan pelihara. Saya telah membangun dengan Pixeltable baru-baru ini, dan ini adalah pendekatan yang menarik untuk masalah ini. Ini adalah sumber terbuka dan memperlakukan rekayasa konteks sebagai masalah data terpadu: Idenya sederhana: alih-alih menyatukan database vektor, database SQL, layanan penyematan, dan kerangka kerja agen, semuanya hidup dalam satu sistem. Dokumen, penyematan, riwayat percakapan, dan output agen Anda semuanya hanyalah tabel. Penyematan adalah kolom komputasi yang diperbarui secara otomatis. Pencarian vektor bekerja bersamaan dengan operasi data reguler Anda. Apa yang menurut saya berguna: ↳ Alur RAG tanpa mengelola database terpisah ↳ Memori jangka panjang melalui pencarian vektor melalui percakapan sejarah...