Tämä päivä on todella suuri saavutus Nousille, mutta mahdollisesti myös tekoälymaisemalle. Olemme aloittaneet hajautetun esikoulutuksen, joka on pohjimmiltaan tiheä Deepseek - 40B parametrit, yli 20T tokenit, MLA:lla pitkän kontekstin tehokkuuden takaamiseksi. Kaikki tarkistuspisteet, hehkuttamattomat, hehkutettu, tietojoukko, kaikki ovat avoimen lähdekoodin livenä koulutuksen edetessä. Tutustu blogiin, jonka Psyche-tiimi johtaa @DillonRolnick, @theemozilla ja Ari kirjoittivat lainaustwiitissä oppiakseen *paljon* lisää infrastruktuurista.
Nous Research
Nous Research15.5.2025
Psychen lanseerauksesta ilmoittaminen Nous Research demokratisoi tekoälyn kehitystä. Tänään aloitamme tähän mennessä suurimman ponnistuksemme tämän mission toteuttamiseksi: Psyche Network Psyche on hajautettu koulutusverkosto, jonka avulla on mahdollista tuoda maailman laskenta yhteen tehokkaan tekoälyn kouluttamiseksi, mikä antaa yksilöille ja pienille yhteisöille pääsyn resursseihin, joita tarvitaan uusien, mielenkiintoisten ja ainutlaatuisten suuren mittakaavan mallien luomiseen. Lanseeraamme testiverkkomme tänään 40B-parametrin LLM:n esikoulutuksella, joka on riittävän tehokas toimimaan perustana tuleville avoimen tieteen pyrkimyksille. Tämä ajo on tähän mennessä suurin Internetin kautta suoritettu esikoulutusajo, ja se ylittää aiemmat iteraatiot, jotka kouluttivat pienempiä malleja paljon pienemmillä datatunnuksilla.
63,51K