生成AI・LLMをDevOpsに活かすことと生成AIを監視して提供品質やセキュリティを担保することが大きな課題です。 本セッションではオブザーバビリティとセキュリティの統合基盤であるDatadogを用いたAIOpsと生成AIの監視についてご紹介します。ハルシネーション防止やユーザー感情の観測などでLLMアプリケーションを効率的に監視、改善、保護する方法を学びましょう。
元美容師で元音楽家。ソフトウェアエンジニアへ転身後、有限会社アキュレートシステムを起業。その後DevRelの道へシフトし、IBMやOutSystemsなどの外資系企業にてDeveloper Advocateとして活躍。筑波大学/名城大学非常勤講師。複数の一般社団法人で理事やフェローに就任。Microsoft MVP。「Practical Node-RED Programming」を始め著書多数。
クラウドネイティブ環境でのアプリケーション開発が進む中、マイクロサービスアーキテク
Kong Konnectは、マイクロサービスを効率的に管理するための強力なプラット
OpenAI社のChatGPTを代表とし、LLM(大規模言語モデル)を利用したユー
仮想マシンで動く既存アプリケーションを、どのようにクラウドネイティブ化するか迷って