生成AIのDevOps活用とLLMアプリの効率的な監視、改善、保護

Track A 2024/11/28 11:20-11:40

中級者   Keynote   アーカイブ視聴不可   スポンサーセッション

生成AI・LLMをDevOpsに活かすことと生成AIを監視して提供品質やセキュリティを担保することが大きな課題です。
本セッションではオブザーバビリティとセキュリティの統合基盤であるDatadogを用いたAIOpsと生成AIの監視についてご紹介します。ハルシネーション防止やユーザー感情の観測などでLLMアプリケーションを効率的に監視、改善、保護する方法を学びましょう。

Taiji Hagino
Datadog Japan合同会社
シニアデベロッパーアドボケイト

元美容師で元音楽家。ソフトウェアエンジニアへ転身後、有限会社アキュレートシステムを起業。その後DevRelの道へシフトし、IBMやOutSystemsなどの外資系企業にてDeveloper Advocateとして活躍。筑波大学/名城大学非常勤講師。複数の一般社団法人で理事やフェローに就任。Microsoft MVP。「Practical Node-RED Programming」を始め著書多数。