Мы вернулись с новым выпуском Kite AInsights. На этот раз наш исследователь Кевин Росс исследует одну из самых сложных проблем агентного интернета - доверие. Поскольку агенты получают автономию и принимают решения с высокими ставками, доверие становится новым узким местом для принятия. Вопрос не в том, "Могут ли агенты действовать?" А в том, "Можем ли мы им доверять?" Последние исследования представляют TrustAgent Framework, который разбивает доверие на две части: ☑️ Внутренняя надежность - рассуждение, память и использование инструментов ☑️ Внешняя надежность - агент-агент, агент-пользователь и агент-среда Каждый уровень выявляет новые риски - от отравления памяти и злонамеренного использования инструментов до сговора агентов. Если многоагентные системы должны безопасно масштабироваться, доверие должно быть встроено, а не добавлено позже.