タイミーではLLMを活用した機能開発や業務利用を進める中で、性能やコスト、応答品質を安定的に運用・改善していくための仕組み、すなわちLLMOpsの構築が課題となっていました。 本セッションでは、LLMOps基盤としてDatadog LLM Observabilityを採用した背景から具体的な活用事例について解説します。ワークフローの可視化や評価基盤の構築、APM連携など、LLMOpsの実現に関心を持つ方に実践的な知見を提供します。
普段の仕事ではオブザーバビリティを始める / 高めるための技術支援や Datadog の導入支援を行っています。コミュニティ活動は Japan Datadog User Group / OpenTelemetry Meetup / Google Developer Experts / Observability Conference Tokyo。趣味はスノーボードと、練習するほどスコアが落ちるゴルフです。
株式会社タイミー データサイエンティスト。 2022年に株式会社ブレインパッドに入社し、予測モデル開発やLLMアプリケーション開発、データ基盤整備などのプロジェクトに携わる。現在は株式会社タイミーでデータサイエンティストとしてLLMプロダクト開発に従事。
画像処理を中心とした機械学習エンジニアとしてエンジニアとしてのキャリアをスタート。 クラウドアプリケーションエンジニアとしても経験を積み、現在は株式会社タイミーでMLOpsエンジニアを担当。
データサイエンティストやプロダクトエンジニアと連携しながら、機械学習モデルの運用や、学習プロセスの自動化・最適化、LLMアプリケーションの設計・開発を行う。
運動通信社開発チームでは、動画配信サービスにおいて最も重要なことは「安定した運用」
タイミーではLLMを活用した機能開発や業務利用を進める中で、性能やコスト、応答品質
アラートの調査と対応は、多くの現場で属人化が進み、特定の有識者に依存しがちです。経
近年、生成AIを活用したソリューションの開発が進んでいます。AIエージェントを用い