ローカルGPUの生成AI環境

つくったもの

研究室の共有サーバー（RTX 4000 Ada、VRAM 20GB）に、Qwen3.8-27BのLLM、Qwen-Imageの画像生成、MiniMax H3とWan2.2の動画生成、Irodori-TTSの音声合成など、約10種類のモデルを載せました。制作画面はTailscale越しに、スマホからも開けます。

なぜ手元のGPUか

クラウドの動画生成は高く、作れる本数が限られます。研究室のGPUは自由に使わせてもらえるので、20GB 1枚という制約の中でこれを使い切ることを課題にしました。

20GBに収めるため、動画生成には予備のメモリを残し、メモリが足りない処理は解像度を下げて回します。二つの動画モデルは切り替えて使えます。

取り合いを防ぐキュー

1枚のGPUを、LLM、動画生成、前処理、ほかのメンバーの生成が取り合います。そこで生成はすべてキューに入れ、GPUの使用率が5%以下で、空きメモリが18GiB以上あるときだけ、1件ずつ投入します。

ほかのメンバーのプロセスは止めず、ファイルも読みません。失敗は自動でやり直さず、「要確認」で止めます。