Microsoft. Google. AWS. Alla försöker lösa samma problem för AI-agenter: Hur bygger man kunskapsgrafer som är tillräckligt snabba för realtidsapplikationer inom LLM? FalkorDB är en öppen källkodsdatabas för grafer som löser detta genom att omdefiniera hur grafer fungerar. Den använder glesa matriser och linjär algebra istället för traditionell traversering! Låt oss förstå vad som gör dem så snabba: Traditionella grafdatabaser lagrar relationer som länkade noder och går igenom dem ett hopp i taget. Men det finns ett problem: När du söker efter anslutningar går databasen genom noder och kanter som om den följer en karta. För massiva kunskapsgrafer som driver AI-agenter skapar detta en allvarlig flaskhals. Men tänk om du kunde representera hela grafen som en matematisk struktur? Det är här glesa matriser kommer in. En gles matris lagrar endast de kopplingar som finns. Ingen slöseri med utrymme, ingen onödig data. Bara de relationer som betyder något. Och här är genombrottet: När din graf är en gles matris kan du fråga den med linjär algebra istället för traversering. Dina frågor blir matematiska operationer, inte steg-för-steg-genomgångar genom noder. Matematik går snabbare än att ta sig fram. Mycket snabbare. Dessutom gör glesa matriser lagring otroligt effektiv. Du lagrar bara det som finns, vilket betyder att du kan få plats med enorma kunskapsgrafer i minnet utan att förbruka resurser. Så varför inte bara hålla sig till vektorsökning? Vektorsökning är snabb, men fångar bara naiva likheter. De hittar mönster, men missar strukturen. Grafer fångar de nyanserade relationerna mellan enheter. Detta säkerställer att den kontext som hämtas för din agent är mycket korrekt och relevant, inte bara "liknande." Och här är vad du får med FalkorDB: ↳ Ultrasnabb, flerhyrande grafdatabas ↳ Effektiv lagring med hjälp av gles matrisrepresentation ↳ Kompatibel med OpenCypher (samma frågespråk som Neo4j) ↳ Byggd specifikt för LLM-applikationer och agentminne ↳ Körs på Redis för enkel distribution Att komma igång kräver ett Docker-kommando. Jag testade det med deras Python-klient, och prestandaskillnaden är omedelbart märkbar. Om du bygger AI-agenter som behöver realtidsåtkomst till ansluten information är detta värt att utforska. Det bästa är att det är 100 % öppen källkod! Jag har delat länken till deras GitHub-repo i nästa tweet!

Du är på en ML-ingenjörsintervju på Google. Intervjuare: Vi behöver träna en LLM över 1 000 GPU:er. Hur skulle du se till att alla GPU:er delar med sig av det de lär sig? Du: Använd en central parameterserver för att aggregera och omfördela vikterna. Intervjun är över. Här är vad du missade:

Google släppte precis "Attention is all you need (V2)" Denna artikel kan lösa AI:s största problem: Katastrofal glömska. När AI-modeller lär sig något nytt tenderar de att glömma det de redan lärt sig. Människor fungerar inte på det här sättet, och nu har Google Research en lösning. Nästlad inlärning. Detta är ett nytt maskininlärningsparadigm som behandlar modeller som ett system av sammanlänkade optimeringsproblem som körs i olika hastigheter – precis som hur vår hjärna bearbetar information. Här är varför detta är viktigt: LLM lär sig inte av erfarenheter; De är fortfarande begränsade till vad de lärde sig under utbildningen. De kan inte lära sig eller förbättras över tid utan att förlora tidigare kunskaper. Nästlad inlärning ändrar detta genom att se modellens arkitektur och träningsalgoritm som samma sak – bara olika "nivåer" av optimering. Artikeln introducerar Hope, en proof-of-concept-arkitektur som demonstrerar detta tillvägagångssätt: ↳ Hope överträffar moderna återkommande modeller på språkmodelleringsuppgifter ↳ Den hanterar långkontextminne bättre än toppmoderna modeller ↳ Detta uppnås genom "kontinuerliga minnessystem" som uppdateras vid olika frekvenser Detta liknar hur vår hjärna hanterar korttids- och långtidsminne samtidigt. Vi kanske äntligen håller på att minska gapet mellan AI och den mänskliga hjärnans förmåga att ständigt lära sig. Jag har delat länken till artikeln i nästa tweet!