Emmett Shear (Softmax, tidigare VD för Twitch) om varför alignment är den farligaste förmågan vi utvecklar, inte för att den förhindrar ondska, utan för att den möjliggör samordning i stor skala. Industriella varor kräver anpassning. Det gör även ondska i industriell skala. Ingen kan skriva ner en fullständig, konsekvent definition av "det goda." Vi är tvetydiga även mot oss själva. Så när någon säger "vi gör AI som gör det goda," menar de egentligen "vi gör AI som gör det jag tycker är gott." Och det är ett maktövertagande, vare sig de inser det eller inte. Mer från vårt samtal med @eshear om Founders in Arms. Länk i bio.