Kuulin sinun pitävän GGUF:ista ja MLX:stä. Äskettäin julkaistu listakohtainen reranker, jina-reranker-v3, on nyt saatavilla dynaamisena kvantisoituna GGUF:nä ja MLX:nä. Tutustu kokoelmaamme🤗 paino- ja arxiv-raporttia varten: