Ollamaのtool callingをWindowsで使う方法｜/api/chat・Python・JavaScript

先に結論：tool callingはモデルの要求とアプリの実行を分ける

Ollama公式docsのtool callingは、モデルが利用可能な関数を選び、tool callを返し、アプリが関数を実行して結果を次のmessagesへ戻し、最終回答を生成する流れです。モデルがWindowsのファイルやコマンドを直接操作する機能ではありません。

JSON出力は返答の形を整える仕組み、MCPはツールやデータソースをつなぐプロトコル、tool callingはモデルからの関数呼び出し要求と実行結果の往復です。名前が似ていても同じ機能として混ぜません。

• Ollama OpenAI互換API - OpenAI形式のendpoint、model、tools対応を確認する
• MCPとは - MCP、API、JSON、RAGの役割と権限の違いを見る
• ローカルAIでJSON出力 - Structured Outputと出力検証の考え方へ進む

Windowsではモデル単体とlocalhostを先に確認する

tool callingを試す前に、Ollama本体、モデル名、通常の短いchatを分けて確認します。公式docsのサンプルモデル名は説明用の例であり、手元の環境でtool callingが成功する保証ではありません。まず公開情報や計算だけを返す読み取り用toolから始め、実ファイルや秘密情報を対象にしないでください。

1. OllamaをWindowsで起動し、新しいPowerShellでollama lsとollama psを実行する。
2. 利用するモデルがなければ、公式モデル名、タグ、空き容量、ライセンスを確認してollama pull MODELを実行する。
3. ollama run MODELで短い通常chatを1回行い、モデル名とlocalhostの応答を記録する。
4. 次に固定のtoolsを1個だけ定義し、stream=falseのnative /api/chatでtool_callsを確認する。
5. tool_callsが返ったときだけ、allowlistにある読み取り用関数を実行し、その結果をtool messageとして戻す。

ollama ls
ollama ps
ollama run MODEL
GET http://localhost:11434/api/tags

端末chatが成功してもtool calling、OpenAI互換API、MCP、agent loopまで動くとは限りません。モデルのtool能力、API path、SDK、引数検証を別々に確認します。

• WindowsでOllamaをインストール - 導入、server、API、導入直後の確認へ戻る
• Ollamaモデル管理 - ls、show、ps、削除、再取得を確認する
• Ollamaが起動しないとき - localhostとserverの切り分けへ進む

native /api/chatで1つのtoolを呼び、結果を返す

Ollamaの公式例では、POST /api/chatへtoolsを渡すと、モデルの応答にassistantのtool_callsが含まれる場合があります。tool callが返ったら、アプリ側でfunction名とargumentsを確認し、実行後にassistant messageとtool roleの結果を含めて再度 /api/chatへ送ります。

curl.exe -s http://localhost:11434/api/chat -H "Content-Type: application/json" -d "{"model":"MODEL","messages":[{"role":"user","content":"東京の気温を確認して"}],"stream":false,"tools":[{"type":"function","function":{"name":"get_temperature","description":"指定都市のテスト用気温を返す","parameters":{"type":"object","required":["city"],"properties":{"city":{"type":"string"}}}}}]}"

JSONのargumentsはモデルが作った入力なので、JSONとして読めても安全な入力とは限りません。tool名を固定し、引数を型・列挙値・対象範囲で検証し、失敗時は実行せず理由を記録します。

• Ollama Tool calling公式docs - single toolとtool resultの公式payloadを見る
• Ollama Chat API公式docs - messages、tools、stream、responseを確認する
• ローカルAI API入門 - API、localhost、providerの基本を確認する

Python・JavaScript SDKではdispatchをallowlistで書く

Ollama公式のPython・JavaScript例では、SDKのchatへtoolsを渡し、response.message.tool_callsを確認してから関数を呼び出します。Python SDKは関数からtool schemaを作る例もありますが、採用する関数と引数を自分のコード側で固定し、モデルに任意の関数を選ばせる設計にしません。

from ollama import chat

def get_temperature(city: str) -> str:
    values = {"東京": "18°C", "大阪": "20°C"}
    return values.get(city, "Unknown")

functions = {"get_temperature": get_temperature}
messages = [{"role": "user", "content": "東京の気温を確認して"}]
response = chat(model="MODEL", messages=messages, tools=[get_temperature], think=True)
messages.append(response.message)

for call in response.message.tool_calls or []:
    fn = functions.get(call.function.name)
    if fn is None or not isinstance(call.function.arguments.get("city"), str):
        continue
    result = fn(**call.function.arguments)
    messages.append({"role": "tool", "tool_name": call.function.name, "content": result})

if response.message.tool_calls:
    final_response = chat(model="MODEL", messages=messages, tools=[get_temperature], think=True)
    print(final_response.message.content)

JavaScriptでも、toolsのschema、availableFunctionsのallowlist、tool_callsのarguments、tool結果を追加する順番は同じです。SDKの導入コマンドは読者のアプリ側で実行するもので、このサイトの依存関係やpackage-lockを変更する手順ではありません。

• Ollama Tool calling公式docs - Python関数、JavaScript schema、tool結果の例を見る
• VS CodeとOllama - アプリ連携とモデルproviderの境界を確認する
• WindowsローカルAIコーディング - コードを実行させる前のcheckpointと権限を見る

parallel tool callingとagent loopは別々に小さく試す

Ollama公式docsには、1回の応答で複数tool callを返すparallel tool callingと、tool結果を受けて次のtoolを選ぶmulti-turn agent loopの例があります。parallelは同じターンの複数結果を集めてから返し、agent loopは最大反復回数や終了条件をコード側で持たせます。

1. single-shotでtool_callsの形式とarguments検証を確認する。
2. 独立した2つの読み取り用toolだけを定義し、parallelの結果をすべて集める。
3. agent loopへ進む場合は最大反復回数、実行時間、1回あたりのtool数を設定する。
4. 同じtoolを繰り返す、未知のtoolを選ぶ、引数が壊れる場合の終了分岐を作る。
5. 削除、上書き、送信、購入などの副作用は自動loopに入れず、人間の確認を要求する。

agent loopが長くなるほど、tool結果、thinking、履歴がcontextへ戻り、PC負荷と誤操作の範囲が増えます。tool callingが動いたことを、agentとして安全に運用できることと同じにしません。

• ローカルAIエージェントのPC負荷 - tool loop、context、embedding、SSD負荷を分ける
• ローカルLLMの安全性 - 外部送信、履歴、provider、権限を確認する
• Ollamaのcontextとモデル管理 - モデル状態と実行中状態を確認する

streamingではtool callの断片を完成させてから実行する

stream=trueでは、assistantのthinking、content、tool_callsが複数chunkに分かれて届く場合があります。Ollama公式docsは、断片を集めてassistant messageへ戻し、tool結果を追加して次のchatを行う流れを示しています。途中のtool名やargumentsだけで関数を実行しないことが重要です。

1. まずstream=falseで、完成したtool_callsのJSONと通常のtool resultの流れを確認する。
2. stream=trueへ変更し、thinking・content・tool_callsをそれぞれ蓄積する。
3. 受信終了後にassistant messageを履歴へ追加し、tool_calls全体をJSON・型・allowlistで検証する。
4. 検証済みの結果だけをtool roleで追加して、次のchatを呼び出す。
5. 通信切断、空chunk、未知のtool、複数call、タイムアウトを終了分岐として扱う。

stream=falseで基準を作る
↓
stream=trueでchunkを蓄積
↓
assistant messageを確定
↓
tool_callsを検証・実行
↓
tool結果を返して再度chat

streamingは表示を早く始めるための仕組みで、tool callの引数検証を省略する機能ではありません。最初の実装では非streamでログを読みやすくし、安定後にstreamを追加するほうが原因を分けやすいです。

• Ollama streaming tool calling公式docs - chunkの蓄積とtool resultの戻し方を見る
• Ollama回答が途中で止まるとき - stream、done、context、メモリの診断へ進む
• Ollamaが遅いとき - TTFT、tokens/s、PC負荷をtool loopと分ける

OpenAI互換・MCP・tool callingを混ぜず、最後に安全確認する

Ollamaのtool calling公式例はnative /api/chatを中心に説明しています。OpenAI互換の /v1/chat/completions でもtoolsを使える場合がありますが、対応フィールドやモデル能力は別に確認します。MCPはtoolを公開・接続する別レイヤーなので、native tool callingを試すだけでMCPサーバーが動くわけではありません。

• tool名をallowlistにし、未知のfunctionを実行しない。
• argumentsをschemaだけでなく、型、値、対象フォルダ、URL、送信先、認証情報の有無で検証する。
• 最初は読み取り専用・公開データ・localhostに限定し、削除、書き込み、コード実行、外部送信は人間の確認を必須にする。
• local model、cloud model、embedding、web search、MCP、ログを別々の通信・保存経路として確認する。
• tool callの成功、関数の成功、最終回答の正しさを同じ判定にしない。結果と根拠を記録する。

• Ollama OpenAI互換API - base URL、v1 endpoint、model、tools対応を確認する
• MCPの安全性 - MCP server、権限、外部送信の境界を見る
• Ollamaのlocal/cloud - モデル名だけで推論場所を決めないための確認へ進む