Emmett Shear (Softmax, ex CEO di Twitch) spiega perché l'allineamento è la capacità più pericolosa che stiamo sviluppando, non perché prevenga il male, ma perché consente il coordinamento su larga scala. Il bene su scala industriale richiede allineamento. Anche il male su scala industriale. Nessuno può scrivere una definizione completa e coerente di "il bene." Siamo ambigui anche con noi stessi. Quindi quando qualcuno dice "stiamo creando un'AI che fa il bene," ciò che intendono realmente è "stiamo creando un'AI che fa ciò che penso sia buono." E questo è un accaparramento di potere, che se ne rendano conto o meno. Di più dalla nostra conversazione con @eshear su Founders in Arms. Link in bio.