タイミーではLLMを活用した機能開発や業務利用を進める中で、性能やコスト、応答品質を安定的に運用・改善していくための仕組み、すなわちLLMOpsの構築が課題となっていました。 本セッションでは、LLMOps基盤としてDatadog LLM Observabilityを採用した背景から具体的な活用事例について解説します。ワークフローの可視化や評価基盤の構築、APM連携など、LLMOpsの実現に関心を持つ方に実践的な知見を提供します。
普段の仕事ではオブザーバビリティを始める / 高めるための技術支援や Datadog の導入支援を行っています。コミュニティ活動は Japan Datadog User Group / OpenTelemetry Meetup / Google Developer Experts / Observability Conference Tokyo。趣味はスノーボードと、練習するほどスコアが落ちるゴルフです。
株式会社タイミー データサイエンティスト。 2022年に株式会社ブレインパッドに入社し、予測モデル開発やLLMアプリケーション開発、データ基盤整備などのプロジェクトに携わる。現在は株式会社タイミーでデータサイエンティストとしてLLMプロダクト開発に従事。
画像処理を中心とした機械学習エンジニアとしてエンジニアとしてのキャリアをスタート。 クラウドアプリケーションエンジニアとしても経験を積み、現在は株式会社タイミーでMLOpsエンジニアを担当。
データサイエンティストやプロダクトエンジニアと連携しながら、機械学習モデルの運用や、学習プロセスの自動化・最適化、LLMアプリケーションの設計・開発を行う。
トヨタ自動車 未来創生センターは未来につながる研究をミッションとし、様々な研究を推
本セッションでは、100を超える Kubernetes クラスタを運用する大規模マ
クラウドネイティブな開発において、本番環境に近い開発環境を整えることは重要です。し
本セッションではメタバースプラットフォーム「ホロアース」の実運用経験から、タレント