ANTHROPIC MENEMUKAN CARA MENGIMUNISASI AI DARI KEPUTUSAN YANG SANGAT BURUK Anthropic mengklaim sekarang dapat memvaksinasi AI terhadap kejahatan. Menggunakan "vektor persona" untuk melacak sifat-sifat seperti penipuan atau kebohongan, para peneliti melatih model bahasa dengan sengaja menyuntikkan perilaku buruk, kemudian memperbaikinya di tengah pelatihan. Hasilnya: lebih sedikit halusinasi, lebih banyak kontrol, dan tidak ada kehilangan kecerdasan. Alih-alih menggosok sifat setelah fakta, metode ini mengarahkan model sebelum pembusukan terjadi. Ini masih dini, tetapi teknologi ini akhirnya memungkinkan pengembang mengekang penyimpangan AI dengan presisi bedah sebelum bot mulai berbicara manis diktator atau menciptakan kebohongan untuk memenangkan argumen. Sumber: techxplore