Slyšel jsem, že máte rádi GGUF a MLX. Náš nově vydaný listwise reranker, jina-reranker-v3, je nyní k dispozici v dynamických kvantizovaných GGUFech a MLX. Podívejte se na naši🤗 sbírku vah a arxiv report:
Poslední, ale ne pozdě: jina-reranker-v3 je tady! Nový reranker s parametrem 0,6 B, který umístí dotaz a všechny kandidátské dokumenty do jednoho kontextového okna a SOTA na BEIR. Tuto novou interakci mezi dotazem a dokumentem nazýváme "poslední, ale ne pozdě" – je to "poslední", protože <|doc_emb|> je umístěn jako konečný token každého dokumentu pro extrakci vložení. Není to "pozdě", protože na rozdíl od modelů pozdních interakcí, tj. ColBERT, které samostatně kódují dokumenty před vícevektorovým porovnáváním, umožňujeme interakce dotaz-dokument-dokument v rané fázi dopředného průchodu.