エントリー済み
AIエージェントはどこで動かすべきか 〜構成要素ごとの配置設計と技術選定〜
中級者
Architecture Design
「ローカル？マネージド？自前構築？SaaS内蔵エージェント？」
AIエージェントの実行環境を悩んでいませんか。
本セッションでは、エージェントを推論・制御ループ・ツール実行・メモリ・サンドボックス・アイデンティティの6要素に分解し、要素ごとに配置先を決める設計法を提案します。鍵は「最も強い重力はデータ重力ではなく、ツール・認証情報重力である」というものです。行動するエージェントはクレデンシャルのある境界内で動かし、推論だけを外部APIに出します。制御面はTemporal等の耐久実行基盤に、実行面はFirecracker等の使い捨てmicroVMに、ツール呼び出しはMCPゲートウェイで統制する三面モデルを示します。
さらに、LLM API利用時の性能プロファイル、プロンプトキャッシュが配置とフェイルオーバーを縛る理由、ステップ単位で分離レベルを切り替える判定式、モデル更新に耐える変更管理と記録・テストまで、インフラ視点で技術選定の判断軸を解説します。
Speaker
Yusuke Shibui
Snowflake
Senior AI/ML Architect, Applied Field Engineering/Field CTO
AI、MLOps、データ、インフラ、バックエンド、リサーチエンジニア、テックセールス、ネコ2匹の飼い主。本業では機械学習やAIエージェントの実用化を中心に活動しています。著書『機械学習システムデザインパターン』、『機械学習システム構築実践ガイド』、『LLM・AIエージェントシステムベストプラクティス』、共著『事例でわかるMLOps』。
登壇内容は私個人の意見であり、所属団体を代表するものでもございません。
