Слышал, ты любишь GGUF и MLX. Наш новый список переупорядочиватель, jina-reranker-v3, теперь доступен в динамически квантованных GGUF и MLX. Ознакомься с нашей🤗 коллекцией для получения весов и отчета arxiv:
Последнее, но не менее важное: jina-reranker-v3 здесь! Новый 0.6B-параметрический списковый реранкер, который помещает запрос и все кандидатные документы в одно контекстное окно и демонстрирует SOTA на BEIR. Мы называем это новое взаимодействие запрос-документ "последнее, но не менее важное" - это "последнее", потому что <|doc_emb|> размещается в качестве последнего токена каждого документа для извлечения встраивания. Это "не менее важное", потому что, в отличие от моделей позднего взаимодействия, т.е. ColBERT, которые отдельно кодируют документы перед многовекторным сопоставлением, мы обеспечиваем взаимодействие запрос-документ-документ на ранних этапах прямого прохода.