エントリー済み
AIは賢いのに任せられないの正体 〜AIに定常運用を委ねるための実践記〜
初級者
Operation / Monitoring / Logging
完了条件が曖昧なまま正常データを削除する。ハルシネーションが後続APIに伝播する。多段階処理の途中で目的を忘却し迷走する。AIに本番オペレーションを任せて観測した事象です。
AIによるSREタスク置き換えは障害対応に偏っていますが、実務の大半は環境構築、設定変更、監視設定、定常運用です。この地味な本番オペレーションをAIに委ねるため、Markdown手順書をそのまま実行可能にするLC4RI（Literate Computing for Reproducible Infrastructure）の実践記です。
まず観測した失敗を3類型10パターンに整理します。原因はAIの精度ではなく、正解の手順を持たないまま試行錯誤でコマンドを実行させていることです。次に、実績のある手順と結果のセットがAIの参照点となり、試行錯誤の余地を奪って暴走を止めるレールになる仕組みを実践記をふまえて共有します。
Speaker
Yasutaka Kato
株式会社スリーシェイク
PM
SIer→事業会社→ITコンサルタントとして四半世紀業界を渡り歩いてきました。SRE/CCoE/CSIRT経験があり、インフラ・セキュリティ周りの業務をメインに行ってきました。その一方でOSSコミッターとして個人プロダクトを作ってはリリースしています。現職ではPMとしてプロダクト横断でこれまで培った知見を生かしたマネジメントを実践し、また、心理的安全性を高めるモダンエルダーとしてチームの働きやすさに日々貢献しています
