タイミーではLLMを活用した機能開発や業務利用を進める中で、性能やコスト、応答品質を安定的に運用・改善していくための仕組み、すなわちLLMOpsの構築が課題となっていました。 本セッションでは、LLMOps基盤としてDatadog LLM Observabilityを採用した背景から具体的な活用事例について解説します。ワークフローの可視化や評価基盤の構築、APM連携など、LLMOpsの実現に関心を持つ方に実践的な知見を提供します。
普段の仕事ではオブザーバビリティを始める / 高めるための技術支援や Datadog の導入支援を行っています。コミュニティ活動は Japan Datadog User Group / OpenTelemetry Meetup / Google Developer Experts / Observability Conference Tokyo。趣味はスノーボードと、練習するほどスコアが落ちるゴルフです。
株式会社タイミー データサイエンティスト。 2022年に株式会社ブレインパッドに入社し、予測モデル開発やLLMアプリケーション開発、データ基盤整備などのプロジェクトに携わる。現在は株式会社タイミーでデータサイエンティストとしてLLMプロダクト開発に従事。
画像処理を中心とした機械学習エンジニアとしてエンジニアとしてのキャリアをスタート。 クラウドアプリケーションエンジニアとしても経験を積み、現在は株式会社タイミーでMLOpsエンジニアを担当。
データサイエンティストやプロダクトエンジニアと連携しながら、機械学習モデルの運用や、学習プロセスの自動化・最適化、LLMアプリケーションの設計・開発を行う。
昨今、宇宙産業が注目され、人工衛星の開発や運用がますます活況になる時代。衛星の運用
「LT三種盛り」は、技術コミュニティLT/若手初学者向けLT/オフライン限定5分L
「オブザーバビリティ(Observability)」という言葉は今やバズワードで
本セッションでは私がメンテナーを務めるKubernetes SIGsのプロジェクト