GGUFとMLXが好きだと聞きました。新しくリリースされたリストワイズリランカーであるjina-reranker-v3は、動的量子化されたGGUFとMLXで利用できるようになりました。重みとarxivレポートのコレクションをご覧ください🤗。

最後ですが遅くはありませんが、jina-reranker-v3 が登場しました!クエリとすべての候補ドキュメントを 1 つのコンテキスト ウィンドウに配置し、SOTA を BEIR に配置する新しい 0.6B パラメーターのリストワイズ リランカー。この新しいクエリとドキュメントの相互作用を「最後だが遅くない」と呼びます - 抽出を埋め込むための各ドキュメントの最終トークンとして<|doc_emb|>が配置されるため、「最後」です。これは、マルチベクトルマッチングの前にドキュメントを個別にエンコードする遅延相互作用モデル、つまりColBERTとは異なり、フォワードパスの早い段階でクエリ-ドキュメント-ドキュメント相互作用を有効にするため、「遅れていない」のです。