ANTHROPIC OPPDAGER HVORDAN MAN KAN IMMUNISERE AI MOT VIRKELIG DÅRLIGE BESLUTNINGER Anthropic hevder at de nå kan vaksinere AI mot ondskap. Ved å bruke "personavektorer" for å spore egenskaper som bedrag eller sykofant, trente forskere språkmodeller ved bevisst å injisere dårlig oppførsel, og deretter korrigere det midt i treningen. Resultatet: mindre hallusinasjoner, mer kontroll og ingen tap av intelligens. I stedet for å skrubbe egenskaper i etterkant, styrer denne metoden modeller før råten setter inn. Det er tidlig, men teknologien kan endelig la utviklere dempe AI-drift med kirurgisk presisjon før roboter begynner å snakke søtt om diktatorer eller finne på løgner for å vinne argumenter. Kilde: techxplore