ANTHROPIC ДІЗНАЄТЬСЯ, ЯК ІМУНІЗУВАТИ ШІ ПРОТИ ДІЙСНО ПОГАНИХ РІШЕНЬ Anthropic стверджує, що тепер може вакцинувати ШІ від зла. Використовуючи «вектори персон» для відстеження таких рис, як обман або підлабузництво, дослідники тренували мовні моделі, навмисно вводячи погану поведінку, а потім виправляючи її в середині тренування. Результат: менше галюцинацій, більше контролю та відсутність втрати інтелекту. Замість того, щоб видаляти ознаки постфактум, цей метод керує моделями до того, як настане гниль. Ще рано, але технологія може нарешті дозволити розробникам приборкати дрейф ШІ з хірургічною точністю, перш ніж боти почнуть солодко базікати диктаторів або вигадувати брехню, щоб виграти суперечки. Джерело: techxplore