ComfyUI はリアルタイム処理に向いていない

まず前提として、ComfyUI は リアルタイム処理に向いていません
すべての処理がひとつの workflow として実行され、1 回の処理が終わるまで次の動作に進めないためです。

ただし、処理が終わった直後に次の処理を自動的に流し込むことで、
“リアルタイム風に見せる” ことはできます。


Run(Instant) / Run(Change)

ComfyUI の入力ノードには、次の 2 つの実行モードがあります。

Run (Instant)

  • いったん実行が始まると、処理が終わるたびに同じ workflow が自動で再実行されます
  • 止めたい場合は、他のモードに切り替えてください(そのままでは止まりません)

Run (On Change)

  • スライダーなどの値が変わったときだけ実行
  • マウスを動かすたびに自動で処理がキューに入る

リアルタイム image2image / video2video について

理論上、フレームごとに image2image / video2video をかけていけば「リアルタイム動画加工」に近い体験を作ることはできます。
しかし、生成 AI の推論にはどうしても時間がかかるため、実際の意味でのリアルタイム処理は非常に困難です。

最新の研究でその実現の日は近づいてきていますが、まだしばらくは地道な最適化が必要になります。

  • 解像度を下げる
  • 軽量モデルに切り替える
  • 動画専用の高速化技術 を使う(別ページで解説)

「リアルタイム image2image」は、高速化技術ありきの特殊なワークフロー になります。