Ollamaでmodelfileを使ってGGUFモデルを動かす
ollama modelfile
AI コーディング用です 日本語で答えてくれるようにしています
FROM ./modelfiles/model/qwen2.5-coder-14b-instruct-q4_k_m.ggufSYST ...GLM-OCRをOllamaで動かす
バッチファイルset OLLAMA_GPU_LAYER=cuda set OLLAMA_MODELS=E:\ollama\modelsset INPUT_FOLDER=C:\data\set OUTPUT_FOLDER=Y:\output_ ...
Windows でollama GPU を使ってモデルパスを変更する
ダウンロード
ollama-windows-amd64.zip
バッチファイルset OLLAMA_GPU_LAYER=cuda set OLLAMA_MODELS=E:\ollama\modelsE:\ollama\ollama ...