Cloud Nativeじゃない大規模AI計算基盤の話

ソフトバンクは日本最大規模のAI計算基盤（GPUクラスタ）を運用してLLMの開発を行っています。AI/MLとクラウドネイティブといえばKubeflowとかKFPとかを思い浮かべるかもしれませんが、我々がやっていることはそれらとは程遠い世界になっています。我々のAI計算基盤の中でどのようなことが行われているのかをご紹介するとともに、Kubernetesを活用しているGPUクラウドの動向などもご紹介したいと思います。