Anthropic Fellows Programı'nın bir parçası olarak @OwainEvans_UK ile ortak bir makalede, şaşırtıcı bir olguyu inceliyoruz: bilinçaltı öğrenme. Dil modelleri, anlamsız gibi görünen verilerde bile özelliklerini diğer modellere aktarabilir.

Subliminal öğrenme, iyi huylu özellikler (kartalları sevmek gibi) veya daha ilgili özellikler (yanlış hizalama gibi) için ortaya çıkabilir. Bunun, model tarafından oluşturulan veriler üzerinde eğitim için sonuçları vardır. Alignment Science blogumuzda daha fazla bilgi edinin: