Kontekstisuunnittelu ei ole pelkästään enemmän datan heittämistä LLM:lle – vaan oikean kontekstin antamista oikeaan aikaan. Tässä @OReillyMedia:n puheessa Developer Relations Engineer @tuanacelik käy läpi, miten muistilohkot auttavat rakentamaan agentteja, jotka ylläpitävät rakenteellista kontekstia monimutkaisille tehtäville. Hän demonstroi artefaktimuistiblokkeja ravintolatilausten seurantabotin avulla – näyttää, miten koko keskustelut tiivistetään pelkästään olennaiseen jäsenneltyyn tietoon (pizzan tyyppi, täytteet, osoite) sen sijaan, että käsiteltäisiin koko chat-historiaa. Keskeiset käsitteet käsitelty: · Eri tyyppisiä muistilohkoja (staattinen, faktojen poimiminen, vektori, artefakti) · Kontekstisuhteen hallinta – keskusteluhistorian, järjestelmäkehotteiden ja muistin tasapainottaminen · Agenttityönkulkujen käyttäminen kontekstin rakentamiseen ja optimointiin vaihe vaiheelta Esimerkki osoittaa, miten artefaktimuistilohkot voivat muuttaa harhailevan keskustelun puhtaaksi, rakenteelliseksi järjestykseksi – juuri sitä, mitä tarvitset tuotantoagenteille, jotka hoitavat todellisia tehtäviä. Katso koko puhe: