Актуальные темы
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Большой момент для создателей агентов!
Существует шаблон, который постоянно повторяется в программном обеспечении.
Сначала все сосредотачиваются на проблеме "создания".
Появляются фреймворки, они развиваются и становятся действительно хорошими. Затем внезапно ограничение переключается на развертывание.
Мы видели это с нейронными сетями.
PyTorch, TensorFlow и Caffe были отличными для создания моделей. Но их развертывание означало необходимость работы с различными форматами и средами выполнения.
ONNX позволил разработчикам создавать в любом фреймворке, экспортировать в стандартный формат и развертывать в любом месте.
Мы наблюдаем тот же шаблон, разворачивающийся с агентами прямо сейчас.
Фреймворки, такие как LangGraph, CrewAI, Agno и Strands, достаточно зрелы, чтобы создание агента больше не было самой сложной частью.
Вместо этого, это то, что происходит после этого: развертывание, потоковая передача, управление памятью, наблюдаемость и автоматическое масштабирование.
Это не проблемы агентов, а скорее проблемы инфраструктуры. И прямо сейчас каждая команда ИИ, с которой я говорил, решает их с нуля.
xpander использует подход ONNX к этой проблеме, и я думаю, что это правильная ментальная модель.
Основная идея проста: возьмите своего агента (созданного в любом фреймворке), разверните его через xpander и получите всю производственную инфраструктуру.
Это включает в себя:
- Развертывание без сервера за ~2 минуты
- SSE потоковая передача для UX в реальном времени...
Топ
Рейтинг
Избранное
