Andrej Karpathy mendukung pengenalan istilah baru yang terkait dengan "rekayasa konteks" dalam pengembangan Perangkat Lunak AI menggunakan LLM. Dan istilah ini sudah lama tampak sangat diperlukan. Setiap kali saya menjelaskan kepada orang-orang bagaimana kami mengembangkan Nethermind AuditAgent kami, salah satu aspek kunci, selain menggunakan keahlian domain (keamanan web3) dan menggunakan model AI terbaik yang tersedia (dari OpenAI, Anthropic dan Google), dan alat untuk LLM, justru "rekayasa konteks". Terkadang ada ungkapan "konteks adalah raja", dan itu benar. LLM, baik yang canggih besar atau LLM kecil yang dioptimalkan, adalah alat yang ampuh, tetapi seperti alat lainnya, jika berada di tangan yang salah, Anda akan mendapatkan hasil yang jauh lebih tidak menjanjikan daripada jika Anda bekerja dengannya dengan benar. Dan manajemen konteks (atau teknik) memang merupakan area yang kompleks dan tidak dijelaskan dengan baik yang terus berkembang, dan itu benar-benar muncul sebagai perpanjangan dari konsep rekayasa prompt, yang sudah memiliki beberapa konotasi negatif. Secara keseluruhan, Andrej mencantumkan aspek utama yang terkait dengan rekayasa konteks (pada tangkapan layar kedua), tetapi dalam setiap tugas tertentu, orang mencapai hasil yang sangat baik sebagian besar melalui coba-coba, setiap kali secara monoton mencoba memilih elemen konteks yang tepat yang benar-benar dibutuhkan pada tahap pemecahan masalah ini, mengumpulkan tolok ukur untuk setiap tahap, melihat metrik, membagi kumpulan data menjadi pengujian, validasi, dan seterusnya, dan seterusnya. Apa pendapat Anda tentang "rekayasa konteks"?