Kuulin sinun pitävän GGUF:ista ja MLX:stä. Äskettäin julkaistu listakohtainen reranker, jina-reranker-v3, on nyt saatavilla dynaamisena kvantisoituna GGUF:nä ja MLX:nä. Tutustu kokoelmaamme🤗 paino- ja arxiv-raporttia varten:

Viimeisenä mutta ei myöhässä: jina-reranker-v3 on täällä! Uusi 0,6 miljardin parametrin listakohtainen reranker, joka sijoittaa kyselyn ja kaikki ehdokasasiakirjat yhteen kontekstiikkunaan ja SOTA BEIRiin. Kutsumme tätä uutta kyselyn ja asiakirjan vuorovaikutusta "viimeiseksi, mutta ei myöhään" - Se on "viimeinen", koska <|doc_emb|> sijoitetaan kunkin asiakirjan lopulliseksi tunnukseksi upotuspoimintaa varten. Se ei ole myöhäistä, koska toisin kuin myöhäisen vuorovaikutuksen mallit, kuten ColBERT, jotka koodaavat dokumentteja erikseen ennen monivektorivastaavuutta, mahdollistamme kyselyn, asiakirjan ja asiakirjan vuorovaikutuksen varhaisessa vaiheessa.