Isto representa a evolução dos LLMs de consumo para serem mais semelhantes a sistemas de recomendação ou feeds de notícias. A plataforma está a otimizar o modelo e o prompt para alcançar a satisfação do utilizador com uma penalização de custo. É provável que haja testes A/B a impulsionar muitas destas decisões de roteamento.