Andrej Karpathy støtter innføringen av et nytt begrep relatert til "kontekstteknikk" i AI-programvareutvikling ved hjelp av LLM-er. Og dette begrepet har lenge virket veldig nødvendig. Hver gang jeg forklarer folk hvordan vi utvikler vår Nethermind AuditAgent, er et av nøkkelaspektene, i tillegg til å bruke domeneekspertise (web3-sikkerhet) og bruke de beste tilgjengelige AI-modellene (fra OpenAI, Anthropic og Google), og verktøy for LLM, nettopp "kontekstteknikk". Noen ganger er det et uttrykk "kontekst er kongen", og det er virkelig sant. LLM-er, enten de er store avanserte eller optimaliserte små LLM-er, er et kraftig verktøy, men som ethvert verktøy, hvis det er i feil hender, vil du få mye mindre lovende resultater enn du kunne hvis du jobber med dem riktig. Og kontekststyring (eller engineering) er virkelig et komplekst og lite godt beskrevet område som er i stadig utvikling, og det dukket virkelig opp som en utvidelse av konseptet prompt engineering, som allerede har noen negative konnotasjoner. Samlet sett listet Andrej opp hovedaspektene knyttet til kontekstteknikk (på det andre skjermbildet), men i hver spesifikke oppgave oppnår folk utmerkede resultater i stor grad gjennom prøving og feiling, hver gang monotont prøver å velge de riktige kontekstelementene som virkelig trengs på dette stadiet av problemløsning, samle benchmarks for hvert trinn, se på beregninger, dele datasett inn i test, validering, og så videre, og så videre. Hva synes du om «kontekstteknikk»?