ローカルLLMに閉じずに機密データを扱う — Confidential Computing 入門と導入

「機密だからフロンティアモデルには入れられない」。その代替として選ばれるローカルLLMが守っているのは、実はネットワーク境界だけです。クラウドでは運用者は信頼できる存在として扱われてきましたが、Confidential Computingはこの前提を外し、運用する側からも内容を参照できないアプリケーション実行環境を実現します。

前半はAMD SEV-SNPやNVIDIA Confidential Computingを題材に、ハードウェアが保証する範囲と、起動イメージの正当性や鍵の受け取りなどソフトウェアが補う部分を整理します。後半は、機密データを扱うAIプロダクトへ実際に載せる際に採用した構成と、そこで直面した難しさを紹介します。ハードウェアの制約、更新や運用の手順、開発とテストのやり方まで、載せてみて初めて分かることを扱います。

機密データを扱う基盤の設計者や、Confidential Computingが自分の設計にどう関わるか見極めたい方が対象です。予備知識は不要で、保護の粒度の選び方と、導入前に確認すべき制約を持ち帰れます。