1/ Haluan todeta suoraan: kaikilla toimialoilla, erityisesti tekoälyssä, on tärkeää tukea hyviä tyyppejä. Anthropic on yksi hyvistä tyypeistä. Lisää ajatuksia siitä, miksi meidän on ruokittava innovaatioita ja puhuttava turvallisuudesta samanaikaisesti:

Yritän yleensä välttää kommentoimasta suoraan hyperskaalaajia (johdin OpenAI:n ensimmäistä kierrosta, ja Greylock on sijoittaja Anthropicissa). Olen kuitenkin hyvin vahvasti sitä mieltä, että on tärkeää kommentoida tähän. Sanoisin alla olevan yhtä vahvasti, vaikka sijoitusta ei olisikaan.

Anthropic, yhdessä joidenkin muiden kanssa (mukaan lukien Microsoft, Google ja OpenAI) yrittävät ottaa tekoälyn käyttöön oikealla tavalla, harkiten, turvallisesti ja yhteiskunnalle valtavan hyödyllisesti. Siksi kannustan intensiivisesti heidän menestystään.

Jotkut muut laboratoriot tekevät päätöksiä, jotka selvästi jättävät huomiotta turvallisuuden ja yhteiskunnalliset vaikutukset (esim. botit, jotka joskus menevät täysin fasistisiksi), ja se on valinta. Samoin päätös olla tukematta heitä.

Äärimmäisiä argumentteja asian kummallakin puolella käytetään usein lakaisemaan pois todellisia, harkittuja ja loogisia argumentteja. Sen tekeminen on älyllisesti epärehellistä tai idioottimaista.

Tekoälyteknologian vastuullisesta käytöstä käytävän yhteiskunnallisen keskustelun pelkistäminen latteudeksi tai hälytyskelloiksi ei auta miljardeja ihmisiä, joiden elämä tekoälyn avulla muuttuu (joista suurin osa ei koskaan lue tätä twiittiä).

Monissa paikoissa, mukaan lukien tämän vuoden kirjassani SuperAgency, olen kannattanut voimakkaasti kevyttä sääntelyympäristöä, joka asettaa innovaatiot etusijalle ja antaa uusille toimijoille mahdollisuuden kilpailla tasapuolisilla toimintaedellytyksillä.

Tekoälyn turvallisuuden puolesta oleminen ei ole kielimyönteistä poliisia: esimerkiksi bioturvallisuudessa ja kyberturvallisuudessa on kriittisiä tekoälyn turvallisuusaiheita, joista on keskusteltava.

Elämme teollisen vallankumouksen etuja, mutta historia on myös osoittanut meille ne suuret virheet, joita ihmiskunta teki siirtymävaiheessa. Oppikaamme ja innovoidaan, jotta voimme navigoida siirtymässä tällä kertaa paljon paremmin.

Pohjimmiltaan varmin tapa estää huono tulevaisuus on ohjata kohti parempaa tulevaisuutta, joka olemassaolollaan vaikeuttaa huomattavasti huonompien tulosten saavuttamista. Toisin sanoen, työskentele paremman tulevaisuuden puolesta – älä yritä vain pysäyttää tiettyä kuviteltua huonoa tulevaisuutta.

Tekoälyn doomer- ja bloomer-tulokset ovat joukko todennäköisyyksiä, eivät varmuuksia. Toimintamme kallistaa jatkuvasti todennäköisyyksiä kohti parempia tai huonompia tuloksia

Meillä kaikilla laaksossa on vastuu "ohjata" tulevaisuutta vuoropuhelun avulla ja löytää tie eteenpäin, joka tasapainottaa turvallisuuden, innovaation ja humanismin.

Tämä ei ole millään tavalla "radikaali" ote. Historia kertoo meille, että tie parempaan maailmaan kulkee vuoropuhelun, teknologian ja iteratiivisen käyttöönoton kautta. Anthropic, OpenAI ja monet muut elävät tätä joka päivä.