OllamaのResponses APIをWindowsで使う方法｜/v1/responses・Python・PowerShell

先に結論：Windowsでは/v1/responsesを非streamで疎通してから広げる

Ollama公式docsでは、OpenAI APIの一部との互換性を提供し、POST /v1/responsesのPython・JavaScript・curl例を掲載しています。既存のOpenAI互換API概説がpathの全体像を扱うのに対し、この記事ではWindowsでのmodel確認、raw HTTP、SDK、stream、非stateful境界を実装単位で分けます。

最初の確認では、短いinput、stream=false、実際にollama lsへ表示されたmodelだけを使います。SDKの初期化が成功しても、Ollamaが起動していること、modelが取得済みであること、Responses APIのversionが対応していることまでは保証されません。

• Ollama OpenAI互換APIの全体像 - Chat Completions・Responses・native APIのpathを比較する
• LM StudioのResponses API - 同じOpenAI系clientをWindowsで使う別実装と比較する
• ローカルAIをAPIで使う基礎 - client・server・modelの役割へ戻る

WindowsでOllama・model ID・server状態を確認する

Ollama公式Windows docsでは、Windows版Ollamaはバックグラウンドで動作し、APIをhttp://localhost:11434で提供すると説明されています。Responsesを試す前に、本体の起動、保存済みmodel、APIから見えるmodel ID、現在ロード中のmodelを別々に確認します。

1. PowerShellでollama lsを実行し、使うmodel名とtagをそのまま記録する。
2. GET http://localhost:11434/v1/modelsで、OpenAI互換APIから見えるmodel IDを確認する。
3. ollama psまたはGET http://localhost:11434/api/psで、現在ロード中のmodelを確認する。
4. modelがない場合は、公式model情報、容量、license、PCの空き容量を確認してollama pull MODELを実行する。
5. 最初は公開可能な短いinputでResponsesをstream=falseで実行する。

ollama ls
ollama ps
ollama pull MODEL

$models = Invoke-RestMethod `
  -Uri "http://localhost:11434/v1/models"
$models.data | Select-Object id, owned_by

$running = Invoke-RestMethod `
  -Uri "http://localhost:11434/api/ps"
$running.models | Select-Object name, size_vram, context_length

モデル名は記事の例をそのまま固定せず、手元のollama lsとGET /v1/modelsの結果を正とします。modelの保存、ロード、cloud利用、OpenAI互換APIからの表示は別の状態なので、modelが一覧にあることだけでGPU使用や完全なlocal処理を断定しません。

• WindowsでOllamaを入れる - 本体、localhost、導入直後の確認へ進む
• Ollamaモデル管理 - ls、show、ps、容量整理を確認する
• Ollama公式Windows docs - WindowsのAPIと保存場所の前提を見る

PowerShellから/v1/responsesを1回呼ぶ

WindowsのPowerShellではInvoke-RestMethodでJSONをPOSTできます。最初はinput、instructions、model、stream=falseだけを指定し、HTTP応答全体を保存してから表示形式を決めます。Responsesのraw JSONをChat Completionsのchoices[0].message.contentとして読む実装へ直接流用しないでください。

$payload = @{
  model = "qwen3:8b"
  instructions = "日本語で簡潔に答えてください。"
  input = "WindowsのローカルAIでResponses APIを試す最初の確認方法は？"
  stream = $false
} | ConvertTo-Json -Depth 8

$response = Invoke-RestMethod `
  -Uri "http://localhost:11434/v1/responses" `
  -Method Post `
  -ContentType "application/json" `
  -Body $payload

$response | ConvertTo-Json -Depth 12

• qwen3:8bは公式のResponses例に登場するmodel名の例です。手元のollama lsとGET /v1/modelsへ表示されるmodel IDへ置き換える。
• まずHTTP statusとJSON本文を確認し、response objectのoutputを記録する。
• OpenAI SDKのoutput_textはSDK側の読み出し用プロパティとして扱い、raw PowerShellでは応答全体を見てparserを決める。
• inputへ個人情報、秘密鍵、社内文書を入れず、公開可能な短文で疎通を確認する。

Invoke-RestMethodはJSONをPowerShellのobjectへ変換します。実際のOllama versionやclientの変換結果を確認するまで、output itemの順序や内部fieldを固定仕様としてコードへ埋め込まないことが安全です。

• Ollama公式Responses例 - curl・Python・JavaScriptの現行例を見る
• OllamaのAPIエラー - 400・404・stream中のerrorを確認する
• PowerShellでOllama APIを使う - OpenAI互換APIのbase URLとlocal確認を復習する

Python・JavaScriptのOpenAI clientでresponses.createを使う

Ollama公式のOpenAI compatibility docsには、PythonのOpenAI clientとJavaScriptのOpenAI clientでresponses.createを呼ぶ例があります。base URLはhttp://localhost:11434/v1/、api_keyはlocal例でclientの要求を満たすためのollamaです。外部hostやcloudへ向ける場合は、このlocal例の値や認証条件を流用しません。

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:11434/v1/",
    api_key="ollama",
)

responses_result = client.responses.create(
    model="qwen3:8b",
    input="青色について短い詩を書いてください。",
)
print(responses_result.output_text)

import OpenAI from "openai";

const openai = new OpenAI({
  baseURL: "http://localhost:11434/v1/",
  apiKey: "ollama",
});

const responsesResult = await openai.responses.create({
  model: "qwen3:8b",
  input: "青色について短い詩を書いてください。",
});

console.log(responsesResult.output_text);

このサイトのpackageへOpenAI SDKを追加する記事ではありません。利用者側でSDK version、依存関係、model ID、timeout、stream指定を固定し、まず公式の最小例が動くことを確認してから既存アプリへ組み込みます。

• Ollama OpenAI compatibility公式docs - 公式のResponses Python・JavaScript例を見る
• ローカルAI API入門 - OpenAI互換clientとlocal serverの役割を整理する
• ローカルLLMの安全性 - api key、ログ、外部送信の確認へ進む

stream=trueを使う前にresponse形式とparserを分ける

Ollama公式のOpenAI compatibility docsではResponsesにstreamingが対応featureとして掲載されています。ただし、Ollama native APIのstreaming docsが説明するapplication/x-ndjsonと、OpenAI互換Responsesのclientイベント処理を同じwire formatだと決めつけないでください。まずstream=falseで応答を固定し、stream=trueは実際のレスポンスを観察して専用parserを作ります。

$payload = @{
  model = "qwen3:8b"
  input = "短い説明を3文で書いてください。"
  stream = $true
} | ConvertTo-Json -Depth 8

# curl.exe -Nで到着したデータを観察する
curl.exe -N `
  -X POST "http://localhost:11434/v1/responses" `
  -H "Content-Type: application/json" `
  -d $payload

PowerShellのInvoke-RestMethodは、逐次表示の最初の観察には向かない場合があります。curl.exe -NやHttpClientなどで到着データを確認し、途中でerror fieldが来た場合も処理できるようにします。streamを採用することと、低遅延・高品質が保証されることは別です。

• Ollama公式Streaming - native endpointのstreamと非stream化を見る
• Ollama公式Errors - stream中のエラーがstatusと別に来る場合を確認する
• Ollama native Chat API - messages・think・keep_aliveのnative形式を見る

tools・reasoning・contextをResponsesへ追加する順番

Ollama公式のResponses対応表には、tools(function calling)、thinking modelのreasoning summaries、input、instructions、tools、stream、temperature、top_p、max_output_tokens、truncationなどが掲載されています。ただし、fieldが受け付けられることと、modelが期待どおりに推論し、アプリがtoolを実行することは別の確認です。

1. stream=falseのinputとinstructionsで、完成responseとmodel IDを保存する。
2. max_output_tokens、temperature、top_pを一つずつ追加し、短縮や品質変化を確認する。
3. tool callingを使う場合は、tool callの受信、アプリ側の実行、結果を次のrequestへ渡す流れを別テストする。
4. 会話継続が必要ならprevious_response_idやconversationを送らず、アプリ側の履歴・要約・token量を管理する。
5. context sizeを変えたい場合は、OpenAI互換requestへ未確認fieldを足さず、公式のModelfile・num_ctx・ollama createの案内を確認する。

既存のOllama tool calling記事はtool schemaとnative/OpenAI互換の考え方を扱います。Responses専用のこの記事では、fieldの対応表と非statefulの境界に限定し、toolの自動実行や会話状態の保持を保証しません。

• Ollamaのtool calling - tool schema・実行・応答の流れを確認する
• OllamaのStructured Outputs - JSON schemaとresponse形式の設計を見る
• Ollama OpenAI互換公式docs - Responsesの対応fieldとcontext設定を見る

404・model not found・認証をWindowsで切り分ける

Responses APIの失敗は、Ollamaの起動、endpoint、version、model ID、request field、stream parser、認証・cloud境界を分けて確認します。Ollama公式Errors docsでは400、404、429、500、502などをstatusで分類し、本文のerror propertyとstream中のerrorを確認するよう案内しています。

• localのhttp://localhost:11434へ接続する公式説明と、cloud modelやollama.com APIの認証条件を分ける。
• local例のapi_key=ollamaを秘密情報として保存したり、外部APIの認証キーへ置き換えたりしない。
• 実文書、個人情報、API keyを疎通テストへ入れず、ログやstreamの保存先も確認する。
• エラーstatus、本文のerror、model ID、Ollamaのversion、requestのfieldを最小再現記録へ残す。

• Ollama公式Authentication - local・cloud・ollama.com APIの認証境界を見る
• Ollamaのlocal/cloud - 推論場所と送信経路を分けて確認する
• OllamaのWindowsトラブル - localhost、GPU、model、APIの共通診断へ進む