HuggingFaceなどからダウンロードしたモデルをOllamaで使いたいです。どのように設定すればよいでしょうか。
モデルファイルをダウンロードします。
ダウンロードしたモデルファイルと同じ位置に、
以下のテキストファイルを作成します。"mymodel" とします。
FROM .\(モデルのファイル名).gguf
コマンドプロンプトで次のコマンドを実行します。
ollama.exe create (モデルの名称) -f (モデルファイル名)
今回の場合は以下になります。
ollama.exe create MyModel8B -f mymodel
"Gemma-4-E4B-Uncensored-HauhauCS-Aggressive"をインストールする例です。
HuggingFaceの"Gemma-4-E4B-Uncensored-HauhauCS-Aggressive"のHub(https://huggingface.co/HauhauCS/Gemma-4-E4B-Uncensored-HauhauCS-Aggressive)からダウンロードします。
今回はGemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q8_K_P.ggufをダウンロードしました。
以下のファイルを作成します。
FROM .\Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q8_K_P.gguf
.コマンドプロンプトで次のコマンドを実行します。
ollama.exe create Gemma-4-E4B-Uncensored -f Gemma-4-E4B-Uncensored-ModelFile
