Ouvi dizer que você gosta de GGUFs e MLX. Nosso recém-lançado reclassificador listwise, jina-reranker-v3, agora está disponível em GGUFs quantizados dinâmicos e MLX. Confira nossa🤗 coleção para os pesos e relatório arxiv:

Por último, mas não atrasado: jina-reranker-v3 está aqui! Um novo reclassificador de 0,6 B parâmetro que coloca a consulta e todos os documentos candidatos em uma janela de contexto e SOTA no BEIR. Chamamos essa nova interação consulta-documento de "última, mas não atrasada" – é "última" porque <|doc_emb|> é colocado como o token final de cada documento para inserir extração. "Não é tarde" porque, ao contrário dos modelos de interação tardia, ou seja, ColBERT que codificam documentos separadamente antes da correspondência multivetorial, habilitamos interações consulta-documento-documento no início da passagem para frente.