Aparentemente, a ferramenta de busca de código Claude usa um SLM para resumo de sites e não colocar todo o site em contexto. Fascinante. Atualmente, não existe uma API comercial para isso. 100 curtidas e eu faço uma.

Graças ao ressurgimento do RL, os LLMs finalmente são capazes de coordenar ferramentas e raciocínio de forma confiável para fazer uma recuperação de alta precisão. Empresas como Happenstance, Clado e Mintlify já mudaram para a pesquisa agêntica, e é apenas uma questão de tempo até que algo menos pareça quebrado para os usuários.

No meu último emprego, nossa documentação era terrível, então decidimos reformulá-la. Este foi um processo que exigiu dezenas de pessoas, incluindo vários PMs, inúmeras reuniões, mais de mil horas de tempo de engenharia / design e, se eu tivesse que estimar, dez mil pessoas-hora. Implorei a todos os envolvidos que usassem @mintlify durante todo o processo, que incluiu semanas para identificar um fornecedor adequado. Ninguém me ouviu. Depois que toda essa reformulação foi concluída, os documentos foram: >esteticamente desagradável >difícil de manter, > teve uma busca terrível >e sem bate-papo com IA >Marca inconsistente > sem llms.txt > flashes estranhos ao navegar nas páginas >completamente não otimizado para SEO >além de difícil de indexar por LLMs E o pior de tudo: qualquer grande mudança ainda requer várias partes interessadas e semanas para ser implementada. Para ser justo, esta empresa tinha uma das documentações mais técnicas e extensas do mundo, abrangendo dezenas de produtos. Mas mudar para o Mintlify provavelmente teria fornecido dezenas de milhões em valor ao longo de vários anos para um produto voltado para esse desenvolvedor. É por isso que estou tão otimista com o Mintlify. Claro, eles tornam mais fácil para as empresas criarem documentação. Fantástico. Mas o valor real é que, à medida que essas empresas crescem e sua documentação invariavelmente se torna mais sofisticada, elas precisam de uma base sólida para construir. E não há base mais sólida para seus documentos do que o Mintlify. (Este não é um post patrocinado. Eu apenas os uso. Eles facilitam minha vida como alguém que passa muito tempo em documentos, então eles merecem um destaque. Tudo aqui é verdade e não exagerado.)