ANTHROPIC SCOPRE COME IMMUNIZZARE L'IA CONTRO DECISIONI DAVVERO SBAGLIATE Anthropic afferma di poter ora vaccinare l'IA contro il male. Utilizzando "vettori di persona" per tracciare tratti come la deception o la servilità, i ricercatori hanno addestrato modelli linguistici iniettando deliberatamente comportamenti scorretti, per poi correggerli durante l'addestramento. Il risultato: meno allucinazioni, più controllo e nessuna perdita di intelligenza. Invece di eliminare i tratti dopo il fatto, questo metodo guida i modelli prima che il marciume si insinui. È presto, ma la tecnologia potrebbe finalmente consentire agli sviluppatori di contenere la deriva dell'IA con precisione chirurgica prima che i bot inizino a lusingare i dittatori o a inventare bugie per vincere le discussioni. Fonte: techxplore