Emmett Shear (Softmax, entinen Twitchin toimitusjohtaja) siitä, miksi alignment on vaarallisin kyky, jota kehittelemme, ei siksi, että se estäisi pahaa, vaan koska se mahdollistaa koordinoinnin laajassa mittakaavassa. Teollisen mittakaavan hyödyke vaatii linjausta. Samoin teollisen mittakaavan pahuus. Kukaan ei voi kirjoittaa ylös täydellistä, johdonmukaista määritelmää "hyvälle". Olemme epäselviä jopa itsellemme. Joten kun joku sanoo "teemme tekoälyä, joka tekee hyvää", hän tarkoittaa oikeasti "teemme tekoälyä, joka tekee sen, mitä minä pidän hyvänä." Ja se on vallankaappaus, tiedostivatpa he sitä tai eivät. Lisää keskustelustamme @eshear:n kanssa Founders in Armsista. Linkki biossa.