Em um artigo conjunto com @OwainEvans_UK como parte do Programa de Bolsistas Antrópicos, estudamos um fenômeno surpreendente: o aprendizado subliminar. Os modelos de linguagem podem transmitir suas características para outros modelos, mesmo no que parece ser dados sem sentido.

O aprendizado subliminar pode ocorrer para características benignas (como gostar de águias) ou características mais preocupantes (como desalinhamento). Isso tem consequências para o treinamento em dados gerados por modelo. Leia mais em nosso blog Alignment Science: