📘『Kubernetesで動かす生成AI 大規模言語モデルの本番運用』（ISBN: 9784814401895）
『Kubernetesで動かす生成AI』は、Kubernetes上で大規模言語モデルを本番運用するための実践ガイドとして、オライリー・ジャパンから2026年12月10日に発売予定です。紹介文によると、LLMのデプロイからGPUスケジューリング、RAGとファインチューニングの選び方、性能指標の監視、セキュリティ、さらにエージェント型アプリの実行までをハンズオンで扱うとのこと。PoCでは動いたLLMを、いざ社内基盤に載せようとするとGPUの割り当てやスケーリングで悩む――そんな場面にまさに効きそうな内容で、クラウドネイティブとAIの両方に関わるインフラエンジニアやSREとしては発売が待ち遠しい一冊です。約400ページのボリュームにも期待が高まります。
冬支度
ポッド増やして
暖をとる
コメント