Stable Diffusion Web UIで Scaled Dot Product Attention (SDPA) を有効にする手順を紹介します。

概要

Scaled Dot Product Attention (SDPA) を有効にすると、画像の生成速度が速くなり、使用VRAM量も減らせます。
メリットが大きい機能ですが、アプリケーションのPyTorch 2.0以降であり、GPUが対応している必要があります。
対応しているGPUはRTX 30シリーズ(Ampere)以降になります。

設定方法

--opt-sdp-attentionオプションをつけて、Stable Diffusion Web UIを起動します。
通常は webui-user.batファイルのCOMMANDLINE_ARGS変数の値に --opt-sdp-attentionを設定します。

設定手順

@echo off

set GIT_PYTHON_REFRESH=quiet

set PYTHON=
set GIT=
set VENV_DIR=
set COMMANDLINE_ARGS=

call webui.bat

COMMANDLINE_ARGS=--xformersを追加します。

@echo off

set GIT_PYTHON_REFRESH=quiet

set PYTHON=
set GIT=
set VENV_DIR=
set COMMANDLINE_ARGS=--opt-sdp-attention

call webui.bat

設定後、webui-user.batを実行して、Stable Diffusion Web UIを起動します。