Rubriques tendance
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Yohei
J'ai réfléchi à un concept que j'appellerais une "ontologie de contexte" - principalement parce que j'aimerais avoir un endroit unique où je pourrais voir d'où vient le contexte et dans quels prompts il est utilisé.
Un contexte utile pour qu'un LLM génère une réponse ou prenne une action pourrait inclure des éléments comme (1) objectif de haut niveau, (2) tâche actuelle / domaine de concentration, (3) informations résumées des tâches passées pertinentes, (4) apprentissages des tentatives précédentes, etc.
Alors que nous attendons plus de nos agents (tâches plus longues, projets plus compliqués, etc.), la mémoire brute devient rapidement lourde en tokens et bruyante, ce qui réduit la qualité de la sortie du LLM. La plupart des applications d'IA complexes ont une sorte de contexte résumé (je suppose), et plusieurs sources de contexte.
L'idée ici est de définir une ontologie pour ce que vous stockez*, comment le structurer, et ce que vous récupérez pour chaque prompt dans votre système.
*par stocker, je ne veux pas nécessairement dire dans la base de données de l'IA. Pour moi, il semble plus holistique de considérer les données stockées dans n'importe quelle application comme faisant partie de la mémoire de l'IA (par exemple, connexion API/MCP). Peut-être que cette ontologie devrait aussi le spécifier.
En allant un peu plus loin, vous pourriez en faire une ontologie dynamique que l'IA peut gérer et tester, puis l'intégrer dans un environnement RL pour que les agents améliorent eux-mêmes la gestion du contexte (hypothétiquement).
Je ne suis pas sûr que la stratégie de résumé devrait être incluse ici, mais cela a du sens à un niveau élevé. C'est plus délicat puisque la plupart des gens résument les informations lors de l'ingestion, donc vous devriez résumer à nouveau les ingestions précédentes chaque fois que vous les modifiez (pour tester les changements et l'amélioration personnelle) - mais je suppose que ce problème persiste de toute façon.
Je ne pense pas que quoi que ce soit ici soit particulièrement nouveau. Je réfléchis simplement à voix haute alors que j'essaie de créer un cadre interne pour cartographier diverses stratégies que j'ai vues.
11,53K
Meilleurs
Classement
Favoris