Ollama セットアップ手順書:WindowsでローカルLLMをコマンドラインから使う

ec4 30 final AIツール

Ollama セットアップ手順書:WindowsでローカルLLMをコマンドラインから使う

Ollamaは、ローカルPC上でLLM(大規模言語モデル)を実行するためのツールです。LM Studioと同様に、オープンなモデルをダウンロードして実行できますが、操作体系が異なります。

LM StudioがGUIで視覚的に操作するアプリケーションであるのに対して、Ollamaはコマンドラインでの操作が基本です。その分、Ollamaは軽量でメモリ消費が少なく、スクリプトや他のアプリケーションとの連携が容易です。APIサーバ機能も標準で備えており、LM Studioと同じOpenAI互換のエンドポイントを提供します。

すでにLM Studioを使っている方であれば、Ollamaを追加することでコマンドラインから素早くモデルを呼び出せるようになり、状況に応じて使い分けができるようになります。

この手順書では、Ollamaの概要、Windowsへのインストール手順、基本的なコマンド操作を説明します。

Ollamaの概要

Ollamaは以下のような特徴を持つローカルLLM実行環境です。

  • コマンドラインからモデルのダウンロード、実行、管理が行える。
  • 起動が軽量で、メモリ消費が少ない。
  • OpenAI互換のAPIサーバを内蔵しており、`http://localhost:11434` で利用可能。
  • Dockerイメージも提供されており、Docker環境でも利用できる。
  • モデルファイル(Modelfile)をカスタマイズして、独自のモデル設定を作成できる。
  • Windows、macOS、Linuxに対応。

LM Studioとの比較

項目 Ollama LM Studio
操作体系 コマンドライン(CLI)が基本 GUI(グラフィカル)が基本
メモリ消費 比較的少ない GUI分やや多め
APIサーバ 標準搭載(自動起動可能) Developerタブから手動起動
モデルの種類 GGUF形式のオープンモデル GGUF形式のオープンモデル
外部連携 スクリプトやDockerとの連携が容易 初心者には操作しやすい
インストーラ インストーラ or コマンド インストーラ

使えるモデルは基本的に同じです。Qwen2.5、Llama 3、DeepSeek、Gemmaなど、主要なオープンモデルは両方で動作します。

インストール方法

動作環境

  • OS : Windows 10 / 11(64bit)
  • メモリ : 8GB以上(推奨16GB以上)
  • ディスク空き容量 : モデルによるが、最低5GB以上推奨

ダウンロードとインストール

1. ブラウザで https://ollama.com/download/windows にアクセスする。

2. 「Download for Windows」ボタンをクリックする。

3. インストーラ(OllamaSetup.exe)がダウンロードされる。

4. ダウンロードした .exe ファイルをダブルクリックして起動する。

5. インストーラの指示に従って進める(設定画面は特にないため、そのまま完了する)。

6. インストールが完了すると、Ollamaが自動的に起動し、タスクトレイに常駐する。

インストールの確認

PowerShellまたはコマンドプロンプトを開き、以下のコマンドを実行します。

ollama --version

バージョン情報が表示されればインストール成功です。

モデルのダウンロードと実行

モデルのダウンロード

Ollamaでは ollama pull コマンドでモデルをダウンロードします。以下のコマンドを実行してください。

ollama pull qwen2.5:7b

ダウンロードの進行状況が表示され、完了するとモデルが利用可能になります。

他のおすすめモデル:

モデル名 コマンド 特徴
Qwen2.5 7B `ollama pull qwen2.5:7b` 日本語対応、高品質
Llama 3.2 3B `ollama pull llama3.2:3b` 軽量、英語向け
DeepSeek-R1 7B `ollama pull deepseek-r1:7b` 推論能力に優れる
Gemma 2 9B `ollama pull gemma2:9b` Google製、高精度

モデルの実行

ダウンロードしたモデルを使って対話するには、以下のコマンドを実行します。

ollama run qwen2.5:7b

プロンプトが表示されるので、メッセージを入力するとモデルが応答を返します。終了するには /bye と入力します。

インストール済みモデルの一覧

ダウンロードしたモデルの一覧を表示します。

ollama list

APIサーバの利用

Ollamaはインストールした時点でAPIサーバが自動的に起動しています。LM Studioと同様に、OpenAI互換のAPIを http://localhost:11434 で利用できます。

動作確認

ブラウザで http://localhost:11434 にアクセスしてください。「Ollama is running」と表示されれば正常です。

利用可能なモデル一覧を確認するには以下のURLにアクセスします。

http://localhost:11434/api/tags

curlでの呼び出し例

curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5:7b",
    "messages": [{"role": "user", "content": "こんにちは"}]
  }'

主なコマンド一覧

コマンド 用途
`ollama pull モデル名` モデルをダウンロード
`ollama run モデル名` モデルを実行して対話
`ollama list` ダウンロード済みモデルを一覧表示
`ollama rm モデル名` モデルを削除
`ollama serve` APIサーバを起動(通常は自動起動)
`ollama --version` バージョン確認

LM StudioとOllamaの使い分け

  • GUIでモデルを試したり、設定を細かく調整したい場合は **LM Studio**。
  • コマンドラインで素早くモデルを切り替えたい場合や、スクリプトや他のツールと連携したい場合は **Ollama**。
  • 両方とも同じモデル(Qwen2.5、Llama 3、DeepSeekなど)を使えるため、LM Studioで使い慣れたモデルをそのままOllamaでも利用できます。

実際に使ってみた感想

筆者もOllamaをWindows 11で使ってみました。まずアイコンがラマなのは、LLMの「ラマ(Llama)」に由来しているんですね。CLIを前提としたツールで、Windowsには一応デスクトップアプリもありますが、LM Studioと比べるとUIから設定できる項目は少ない印象です。モデルのダウンロードや実行は基本的にコマンドラインで行うことになります。

しかしその分、サーバー上でLLMを動かしてAPIエンドポイントを介して使い回す用途には、Ollamaの方が適しています。LM StudioはGUI操作がメインでサーバー用途にはやや不向きですが、Ollamaはインストールした時点でAPIサーバが自動起動し、Dockerイメージも公式提供されているので、本番に近い環境での検証や常時稼働のサーバー用途に最適です。用途によってLM StudioとOllamaを使い分けるのが現実的だと思います。

出典

  • Ollama公式サイト: https://ollama.com/
  • Ollama Windowsダウンロード: https://ollama.com/download/windows
  • Ollama GitHub: https://github.com/ollama/ollama
  • Ollamaモデル一覧: https://ollama.com/models
  • LM Studio公式サイト: https://lmstudio.ai/

コメント

タイトルとURLをコピーしました