Emmett Shear (Softmax, tidligere Twitch-sjef) om hvorfor alignment er den farligste evnen vi utvikler, ikke fordi det forhindrer ondskap, men fordi det muliggjør koordinering i stor skala. Industriell vareskala krever tilpasning. Det samme gjelder ondskap i industriell skala. Ingen kan skrive ned en fullstendig, konsekvent definisjon av «det gode». Vi er tvetydige selv for oss selv. Så når noen sier «vi lager AI som gjør det gode», mener de egentlig «vi lager AI som gjør det jeg mener er bra.» Og det er et maktgrep, enten de er klar over det eller ikke. Mer fra samtalen vår med @eshear om Founders in Arms. Lenke i biografien.