En ny innebyggingsmodell reduserer vektor-DB-kostnadene med ~200x. Den overgår også OpenAI- og Cohere-modeller. Her er en fullstendig oversikt (med visuelle elementer):

Generative vs. diskriminerende modeller i ML: (et populært ML-intervjuspørsmål)

Jeg har nettopp satt sammen alle AI Agents-innleggene mine i en enkelt PDF. Den dekker: - Grunnleggende om agenter - LLM vs RAG vs agenter - Agentiske designmønstre - Byggesteiner for agenter - Bygge tilpassede verktøy via MCP - 12 praktiske prosjekter for AI-ingeniører Last ned lenke i neste tweet.

La oss finjustere OpenAI gpt-oss (100 % lokalt):

Bygg menneskelignende minne for agentene dine (åpen kildekode)! Hvert agent- og RAG-system sliter med kunnskapsoppdateringer i sanntid og rask datainnhenting. Zep løser disse problemene med sin kontinuerlig utviklende og tidsbevisste Knowledge Graph. Som mennesker organiserer Zep en agents minner i episoder, trekker ut enheter og deres relasjoner fra disse episodene, og lagrer dem i en kunnskapsgraf: (se bildet nedenfor mens du leser) 1) Episodeundergraf: Fanger opp rådata med tidsstempler, og beholder alle detaljer for enkelt historisk oppslag. 2) Undergraf for semantisk entitet: Trekker ut enheter (f.eks. «Alice», «Google») og fakta («Alice jobber i Google»). Alt er versjonert, så utdatert informasjon blir erstattet. 3) Fellesskapsgraf: Grupperer relaterte enheter i klynger, med sammendrag for raskere gjenfinning. Zep leverer opptil 18,5 % høyere nøyaktighet med 90 % lavere ventetid sammenlignet med verktøy som MemGPT. Det er fullstendig åpen kildekode!

Bedrifter bygger RAG over 100-vis av datakilder, ikke én! - Microsoft leverer den i M365-produkter. - Google sender den i sitt Vertex AI Search. - AWS sender den i sin Amazon Q Business. La oss bygge en MCP-drevet RAG over 200+ kilder (100 % lokale):

12 jukseark for MCP-, RAG- og agenter for AI-ingeniører (med visuelle elementer):

Evaluer samtale-LLM-apper som ChatGPT i 3 trinn (åpen kildekode). I motsetning til enkeltsvingsoppgaver, utspiller samtaler seg over flere meldinger. Dette betyr at LLMs oppførsel må være konsistent, kompatibelt og kontekstbevisst på tvers av svinger, ikke bare nøyaktig i one-shot-utgang. I DeepEval kan du gjøre det med bare 3 trinn: 1) Definer testcasen med flere svinger som en ConversationalTestCase. 2) Definer en beregning med ConversationalGEval på vanlig engelsk. 3) Kjør evalueringen. Gjort! Dette vil gi en detaljert oversikt over hvilke samtaler som ble bestått og hvilke som mislyktes, sammen med en poengfordeling. Dessuten får du også et fullstendig brukergrensesnitt for å inspisere individuelle svinger. Det er to gode ting med dette: - Hele rørledningen er ekstremt enkel å sette opp og krever bare noen få linjer med kode. - DeepEval er 100% åpen kildekode med ~10k stjerner, og du kan enkelt være vert for den selv slik at dataene dine forblir der du vil. Finn repoen i kommentarfeltet!

Jeg bygde et RAG-system som spør 36M+ vektorer på <0,03 sekunder. Teknikken som brukes gjør RAG 32x minne effektivt! Sjekk den detaljerte oversikten med kode nedenfor:

- Google Maps bruker graf ML for å forutsi forventet ankomsttid - Netflix bruker graf ML (GNN) i anbefaling - Spotify bruker graf ML (HGNN) i anbefaling - Pinterest bruker graf ML (PingSage) i anbefaling Her er 6 må-vite måter for graffunksjonsteknikk (med kode):