Kite AInsights の新版が戻ってきました。 今回は、研究者のケビン・ロスが、エージェントインターネットにおける最も難しい問題の1つである信頼を探ります。 エージェントが自律性を獲得し、よりリスクの高い意思決定を処理するにつれて、信頼が導入の新たなボトルネックになります。 問題は「エージェントは行動できるか」ではありません。 それは「彼らを信頼できるか?」です。 最新の研究では、信頼を 2 つの部分に分類する TrustAgent フレームワークが導入されています。 ☑️ 本質的な信頼性 - 推論、記憶、ツールの使用 ☑️ 外部信頼性 - エージェント間、エージェント間、エージェント間、エージェント間 各層は、メモリ中毒や悪意のあるツールの使用からエージェントの共謀に至るまで、新たなリスクを明らかにします。 マルチエージェントシステムを安全に拡張するには、後で追加するのではなく、信頼を組み込む必要があります。