今月初め、私はThriveで構築しているテクノロジーのいくつかと、その背後にある哲学について講演しました。 私たちが注力しているのは、チャットとバックグラウンドでアンビエントで実行される社内調査システムである Puck など、チームの作業を強化する社内ツールです。

昨年、データスタック、LLMインフラ、独自のワークフローを緊密に統合することで、Puckの機能をチーム全体のいくつかの表面に有意義な規模で導入することができました。10月には、1000以上のタスクにわたって約10Bトークンを推論しました。

「普通のソフトウェア」から良いデザインのアイデアを取り入れ、AIシステムに適用することは価値があると感じました。この講演では、プロンプトとタスクの整理方法、内部フレームワークとログ ツールなど、Puck のアーキテクチャを推進するこれらの原則のいくつかについて説明します。