sd-scripts 実行時に 「RuntimeError: Error(s) in loading state_dict for CLIPTextModel: Unexpected key(s) in state_dict: "(キー名)". 」エラーが発生する

さんフラわん

質問: sd-scriptsでのエラー

sd-scriptsを実行したら「RuntimeError: Error(s) in loading state_dict for CLIPTextModel: Unexpected key(s) in state_dict: "…"」エラーになってしまい、 実行できませんでした。対処法はありますか?

エラーについて

sd-scripts実行時に次のエラーが発生します。

良くあるエラーは次のものです。

CLIPTextModel が期待するのは以下のキーです。

text_model.embeddings.token_embedding.weight

しかし、現在利用しているチェックポイントには以下のキーが設定されており、期待した値と違っている状況です。

text_model.embeddings.token_embedding.wrapped.weight

対処法

ほかのモデル(checkpoint)を利用する

ラップされた値が設定されているため、学習のベースモデルをほかのモデルに変更します。
pretrained_model_name_or_path で指定しているcheckpointを別のモデルのcheckpointに変更します。

無理やり読み込む

無理やり読み込む方法がありますが、予期せぬ結果になる可能性があるため、この記事では検証はしないです。

load_state_dictメソッドで、strict パラメーターをFalseにすると、無視して読み込めます。

model.load_state_dict(state_dict, strict=False)

著者

ジョニー

iPentecのプログラマー、最近はAIの積極的な活用にも取り組み中。
とっても恥ずかしがり。