Certains points qui ont retenu l'attention lors de la discussion dans le couloir avec @JeffDean sur l'apprentissage continu : 1. L'apprentissage par renforcement / le finetuning avec les préférences des utilisateurs lors du déploiement pourrait être dangereux car nous ne pouvons pas contrôler le comportement de l'agent. 2. Nous avons besoin de nouveaux paradigmes pour le préentraînement afin de permettre l'apprentissage continu agentique. 3. Google ne constate pas le ralentissement de la loi d'échelle actuelle du préentraînement. Tous les points ci-dessus ne sont pas mutuellement exclusifs. Nous avons besoin de plus de discussions techniques sur le terrain plutôt que de survoler les gros titres.