ホーム / 順位 #1
コンテキスト・データレイヤーの改善(エージェントメモリ)Mitosis Labs
AIコスト超過の最大の原因はモデルの価格ではありません。エージェントやコパイロットが、実行のたびに同じコンテキストを読み直し、取得し直し、導出し直していることです。「この会社は何をしている会社か」の再確認、ドキュメントの再クロール、スレッドの再要約 — そのすべてに、毎回トークン料金を払い続けています。
AIに永続的なメモリレイヤー — メール、ドキュメント、チャット、ツールを取り込んだナレッジグラフを、エージェントが再取り込みせずにクエリできる仕組み — を与えれば、支出をその発生源から断てます。Mitosis Labs(Cortex)は、タスクあたり約1/10のコストとハルシネーション98%削減を報告しています。モデルが生データの山ではなく、索引済みの正確な事実だけを読むようになるためです。
以下の手法と異なり、この手法は複利で効きます。エージェントが動けば動くほど既知の情報の再利用が進み、タスクごとのコストは下がり続けます。
実践手順
- エージェントが同じコンテキストを繰り返し再取得している箇所(受信トレイのスキャン、ドキュメントの再読み込み、CRMの参照など)を洗い出します。
- それらのソースをメモリ/RAGレイヤーに一度だけ接続します。たとえばMitosis Cortexはメール・ドキュメント・チャットを同期し、クエリAPIを提供します。
- エージェントのプロンプトを「全部渡すから読み解いて」から、メモリへのピンポイントなクエリに切り替えます。
- 導入前後で「タスク完了あたりのトークン数」を計測します — この数値が約10分の1に下がるはずです。
よくある質問
通常のRAGと何が違うのですか?
通常のRAGは静的なドキュメント群から検索するだけです。コンテキスト/メモリレイヤーは、ライブなソース(メール、チャット、ドキュメント、CRM)を継続的に取り込み、重複を排除してグラフ化し、すべてのエージェントが同じ「脳」を共有できるようにします。つまり、同じ情報に二度支払うことがなくなります。
実際にどれくらい削減できますか?
Mitosis Labsはエージェントワークロードでタスクあたり約1/10のコストを公表しています。エージェント支出の大半は重複したコンテキスト取り込みだからです。削減幅はワークロードの反復性次第で、エージェントが同じデータに触れる頻度が高いほど効果は大きくなります。
この手法に使えるツール
Mitosis Cortex
The cut-spend-at-the-source option: a persistent memory graph over your email, docs, chats, and tools that agents query instead of…
次の手法: #2 プロンプトキャッシュ