RL ölçeklendirmeyle ilgili yeni gönderi: OpenAI'nin genel kıyaslamalarının dikkatli bir analizi, RL ölçeklerinin çıkarımdan çok daha kötü olduğunu ortaya koyuyor: Çıkarım hesaplamasının her 10 kat ölçeğini eşleştirmek için RL eğitim hesaplamasının 100 katına ihtiyacınız var. Uygun maliyetli olmasının tek nedeni küçük bir tabandan başlamaktır. 🧵

Sonsuzluğu Değerlendirmek 🧵 Son makalem, karar teorisi, ekonomi ve etik gibi alanları etkileyen uzun süredir devam eden bir sorunu çözmeye çalışıyor - sonsuzluklar sorunu. Soruna neyin sebep olduğunu ve çözümümün bunu nasıl önlediğini biraz açıklayayım. 1/20

Sınır Modelleri için RL'nin Aşırı Verimsizliği 🧵 Sınır modellerinin bir sonraki belirteç tahminiyle eğitilmesinden takviyeli öğrenmeye (RL) geçiş, modelin öğreneceği bilgi biti başına 1.000 ila 1.000.000 kat daha fazla bilgi işlem gerektirir. 1/11