ANTHROPIC DÉCOUVRE COMMENT IMMUNISER L'IA CONTRE DE TRÈS MAUVAISES DÉCISIONS Anthropic affirme qu'il peut désormais vacciner l'IA contre le mal. En utilisant des "vecteurs de persona" pour suivre des traits comme la tromperie ou la flagornerie, les chercheurs ont formé des modèles de langage en injectant délibérément des comportements indésirables, puis en les corrigeant en cours de formation. Le résultat : moins d'hallucinations, plus de contrôle, et aucune perte d'intelligence. Au lieu de nettoyer les traits après coup, cette méthode guide les modèles avant que la dégradation ne s'installe. C'est encore tôt, mais la technologie pourrait enfin permettre aux développeurs de maîtriser la dérive de l'IA avec une précision chirurgicale avant que les bots ne commencent à flatter les dictateurs ou à inventer des mensonges pour gagner des arguments. Source : techxplore