Yhdessä @OwainEvans_UK:n kanssa osana Anthropic Fellows -ohjelmaa tutkimme yllättävää ilmiötä: alitajuista oppimista. Kielimallit voivat välittää piirteitään muihin malleihin, jopa merkityksettömältä vaikuttavassa datassa.

Subliminaalista oppimista voi tapahtua hyvänlaatuisille piirteille (kuten kotkien pitäminen) tai enemmän huolestuttaville piirteille (kuten kohdistusvirhe). Tällä on vaikutuksia mallin luomien tietojen koulutukseen. Lue lisää Alignment Science -blogistamme: