Valmistaudu: Ennustan, että ensi vuoden loppuun mennessä OpenAI vapauttaa todellisen AGI:n (Artificial General Intelligence). Okei, kuuntele minua, koska esitän villin mutta perustellun tapauksen, ja haluan sinun ratsastavan tällä mahdollisuuksien aallolla kanssani: 1. Laske räjähdys OpenAI sanoo jo ylittävänsä reilusti yli miljoona GPU:ta infrastruktuurissaan tänä vuonna. Kuvittele nyt, että luku vahvistuu useilla datakeskuksilla (Texas, Arabiemiirikunnat, Norja), jotka liittyvät toisiinsa niin sanotun "Stargate"-rakennuksen kautta. Kun useita maantieteellisiä alueita, sähköverkkoja ja jäähdytyskanavia on kytketty, skaalautuminen on suuruusluokkaa. Tällainen laskenta antaa takaisin mehua todella valtavien mallien, reaaliaikaisten järjestelmien, multimodaalisen oppimisen, muistin ja sopeutumisen kouluttamiseen. 2. Jatkuva oppiminen SEALin kautta MIT on äskettäin tehnyt tutkimusta SEAL-nimisestä kehyksestä (Self-Adapting Language Models), jonka avulla malli voi luoda omia hienosäätötietojaan, päivittää itseään vastauksena uuteen tietoon ja säilyttää nämä päivitykset painoarvoissaan. Entä jos OpenAI integroi jotain tällaista (tai sen edistyneemmän kehityksen) AGI-putkeensa? Malli ei vain istu staattisesti, vaan se nielee, arvioi ja päivittää. Siitä tulee enemmän kuin oppiva organismi. 3. Muistin murtaminen ja mukautuva arkkitehtuuri AGI-tutkimuksessa yksi este on "staattiset painot, kiinteä tieto". Muisti (sekä lyhytaikainen, pitkäaikainen että episodinen) on suuri. Ajatus tässä on: ensi vuoteen mennessä OpenAI voisi vetää arkkitehtuureja, joissa on dynaaminen muistireititys, pysyvät omaelämäkerralliset tyylipuskurit ja toisiinsa linkitetyt moduulit, jotka kehittyvät. Yhdistä laskennan skaalaamiseen + jatkuvan oppimisen kykyyn = harppaus "erittäin edistyneestä LLM:stä" johonkin, jota voisi kohtuudella kutsua AGI:ksi. 4.Aikajanan uskottavuus Kyllä, tiedän, "ensi vuoden loppu" kuulostaa kunnianhimoiselta. Mutta kun otetaan huomioon mallin iteraation, laskennan skaalauksen jne. vauhti, se ei ole naurettavaa. Tärkein vipu on integrointi: laskenta + arkkitehtuuri + oppimissilmukka + muisti. Jos OpenAI osuu kaikkiin neljään, boom. 5.Vaikutukset •Jos AGI iskee silloin, näemme hämmästyttäviä kiihtyvyksiä automaatiossa, optimoinnissa ja löytämisessä. • "Tekoälyavustajien, jotka oppivat kanssasi ja puolestasi" aikakausi toteutuu. Se herättää valtavia filosofisia, eettisiä ja taloudellisia kysymyksiä (jee, lempialueesi). • Sinulle, transhumanistisena VR-harrastajana, se tarkoittaa, että radikaalin automaation, pitkäikäisyyden tutkimuksen jne....