Jevに続いて、OpenAIからも「判断するAPI」が登場
OpenAIから、Decisions APIが登場しました。以前紹介したJevのように、文章を作る代わりに、AIの判断をプログラムが使いやすい形で返すAPIです。
たとえば、毎日届く大量の問い合わせ。「これは請求の相談?」「急いで対応すべき?」「人に確認してもらう?」と、一件ずつ振り分ける場面を考えてみてください。これまでは、そんな小さな判断にも汎用LLMを呼び出していたかもしれません。
Decisions APIなら、こうした分類や判定を切り出せます。判断の部分を安く処理できれば、場合によってはAIシステム全体のコストを大きく下げられるかもしれません。OpenAIが紹介する導入事例にも、従来方式より1回あたりのコストが下がった例があります。R1
もちろん、JevとDecisions APIは別の製品で、仕様や料金、得意な入力はそれぞれ異なります。また、安い判断を増やしても、後段の処理や確認が増えれば全体で安くなるとは限りません。どんな判断を切り出せるのか、どこで人や高性能なモデルに引き継ぐべきかを見ていきます。
※公式仕様は2026年11月15日時点の確認に基づきます。設計例や費用削減の可能性は提案であり、筆者による実測結果ではありません。
そもそもDecisions APIは何を返すのか?
Decisions APIは、テキスト・画像・JSONを入力し、限定された質問への型付き回答を返します。POST /v1/decisions に gpt-6-luna、共有する input、判定内容を定義する questions を渡すのが基本形です。R1R2
| 質問型 | 返すもの | 向いている判断 |
|---|---|---|
predicate | 条件が真である推定確率(0〜1) | 情報不足か、画像に破損があるか |
choice | 定義済み選択肢のひとつ | 担当部署、検索方法、次の処理 |
score | 順序づけた段階の確率加重平均 | 緊急度、難易度、影響度 |
choice と score は選択肢ごとの確率と confidence も返します。ただし、これらは業務上の正解率や安全性を保証する数値ではありません。公式ガイドも、アプリのラベル付きデータで閾値を決め、誤検知と見逃しのコストに合わせて使うよう説明しています。R2
1回のリクエストには1〜400問を含められます。独立した質問なら同じ入力を共有してまとめられますが、前の回答に依存する判断は別リクエストに分けます。R3
料金と速度だけで導入を決めてよいのか?
API単体の数字は入口にすぎません。OpenAIは、Responses API経由で同じGPT-6 Lunaを使う場合と比べて最大10倍の速度を案内しています。Decisions APIの料金は、通常入力が100万トークンあたり0.10ドル、キャッシュ済み入力が0.01ドルで、出力トークンは課金されません。キャッシュ書き込み、地域処理、長いコンテキストには別の料金条件があるため、請求前に最新の料金表を確認します。R1R4
ただし「最大」はすべての入力・ネットワーク・後続処理で再現する値ではありません。実際に評価するなら、API呼び出し単体でなく、ルーティング後のモデル呼び出し、リトライ、レビュー、人の待ち時間まで含めた成功率・p95レイテンシ・総費用を比較します。判断を増やした結果、後段の処理や再試行が増えれば、全体では安くならない可能性があります。
どんな判断を切り出すと効果が出やすいのか?
固定条件ではなく、入力の意味を読む必要があり、答えの範囲を定義できる判断から始めるのが現実的です。たとえば次のような切り出し方があります。
predicate:問い合わせが曖昧か、強い不満を示すか、入力が実行に足りるかchoice:問い合わせを請求・技術・配送へ振り分けるか、RAGとWeb検索のどちらを使うかscore:質問の難易度、バグの影響度、レビューの優先度を段階づけるか
7つの組み込みパターンで考える
実装の入口は、次の7パターンに分けると整理しやすくなります。どれも「判定結果を何へ接続するか」まで決めて初めて使えるパターンです。
1. 入力ゲート:情報が足りるかを predicate で判定し、不足なら追加質問へ送る
2. カテゴリ振り分け:問い合わせや文書を choice で担当部署・カテゴリへ送る
3. モデル/検索ルーティング:質問の難易度や必要な根拠を score で見て、低コストモデル・高性能モデル・RAGを選ぶ
4. 品質ゲート:回答が脱線していないか、タイトルと本文が整合するかを判定し、再生成や編集確認へ回す
5. 優先度付け:緊急度、影響度、解約兆候などを段階評価し、処理順を変える
6. レビュー選定:コード変更の範囲や認証・権限への影響から、必要なレビュワーや人の承認を選ぶ
7. 次のアクション選択:検索、ツール実行、追加確認、中断のいずれへ進むかを選ぶ
画像の破損確認、文章の初学者向け判定、再試行要否、記事改善の優先度なども、この7パターンの具体例です。選択肢に収まらない入力には other や needs_review を用意し、未定義の行動へ直結させないことが重要です。
一方、金額が一定以上なら承認、権限が管理者だけなら実行、といった明確な条件は通常のコードやDB、バリデーションの領域です。AIに判定させることで柔軟になるとは限らず、再現性を下げるだけの場合もあります。
ワークフローでは、どう組み込むのか?
ワークフローでは、判断を処理の途中に置き、結果をアプリケーション側の分岐へ接続します。典型的には次の形です。
この構成の利点は、プロンプトの中に埋もれていた判断と、実際のアクションを分離できることです。質問定義、閾値、分岐、後続処理をそれぞれテストしやすくなります。
反面、分岐・例外・閾値が増えれば、設計と回帰テストの負担も増えます。other、unknown、needs_review のような逃げ道をあらかじめ用意し、API障害・タイムアウト・拒否も安全側へ送る設計が必要です。
エージェントでは、どこまで自由にさせるのか?
エージェントの計画全体をDecisions APIへ置き換えるのではなく、反復的で範囲を限定できる判断だけを囲むのが安全です。たとえば「情報が足りないか」「結果をレビューへ送るか」「次に定義済みのどの処理を選ぶか」といった箇所です。
エージェントは実行時に経路が変わります。そのため、ワークフローよりも判断の連鎖、状態の追跡、ループ、停止条件が難しくなります。最終的な送信・削除・支払い・権限変更の実行権限はアプリ側で制御し、最大ステップ数、実行予算、承認境界、トレーシングを設けます。
ワークフローとエージェントは二択ではありません。エージェントが計画し、各ツール操作を固定フローで実行し、その途中の分類だけDecisions APIに任せる混在構成も取れます。
confidenceが高ければ自動実行してよいのか?
いいえ。confidenceや確率はモデルの推定値であり、業務上の正しさを保証しません。特に「短文だが背後に複雑な問題がある」「複数カテゴリに該当する」「必要な文脈が入力にない」といったケースでは、数値だけで安全性を判断できません。
実運用では、正解ラベル付きデータを用意して閾値を検証します。重大な見逃しのコストが高い操作は、確信度にかかわらず人の承認を必須にする、または客観的なルールで先に止めるべきです。ここで挙げた難易度の見誤りや判断連鎖は、今回の調査で測定した弱点ではなく、導入時に検証したい仮説です。
導入前に何をテストすればよいのか?
まず小さな評価セットを作り、通常コード、Responses API、高性能モデル、人の判断など比較対象を置きます。最低限、次を記録します。
- 適合率・再現率、重大な見逃し、誤判定の具体例
- 平均とp95のレイテンシ、総LLM呼び出し数、リトライ数
- API単体でなく、後段を含む総費用と最終タスク成功率
- 入力、質問定義、選択肢、回答、確率、閾値、実際の分岐
検証例としては、曖昧な問い合わせの定性的IF、質問の難易度ルーティング、コード変更のレビュワー選定、固定フローと動的エージェントの比較があります。特に「難問を簡単と誤判定する例」「判断を分解したことで全体像を失う例」を集めると、導入判断に使いやすくなります。
Decisions APIを使うか迷ったら、何を確認すべきか?
次の順で確認すると、APIを使うこと自体が目的になりにくくなります。
1. 固定ルールでは扱いにくい定性的な条件か
2. 判断対象を一文で説明でき、選択肢が重複していないか
3. 判定結果を何のアクションに接続するか決まっているか
4. 低確率・拒否・失敗・未知の入力の行き先があるか
5. 正解ラベル、誤検知・見逃しのコスト、比較対象があるか
6. ログ、回帰テスト、停止条件、承認境界を運用できるか
まとめ:安い判断より、判断の置き場所を設計する
Decisions APIが変えるのは、AIの利用料金だけではありません。LLMの内部に混ざりやすかった分類・ルーティング・段階評価を、アプリケーションの制御構造として扱いやすくします。
ただし、AIに任せる範囲を広げればよいわけではありません。ルールで確定できるものはコードに残し、定性的な判断は型付きで切り出し、低い確信度や高リスクの経路は検証・停止・人への引き継ぎにつなげる。AIワークフローでもエージェントでも、最終的な品質はこの配置と評価で決まります。
まずは、実際の問い合わせやタスクから20〜50件程度の評価例を匿名化して集め、「人が正解と考える分類」と「誤ると困るケース」をラベル付けしてください。これは試行の出発点であり、本番品質やp95レイテンシを保証する件数ではありません。そのデータで、通常コードやResponses APIとの最終成功率・費用・p95レイテンシを比べるところから始められます。
参照した公式情報
- R1: OpenAI公式発表「Decisions API で応答性の高いアプリを構築」(2026年10月22日)
- R2: OpenAI開発者ガイド「Decisions」(質問型、入力、回答、閾値の考え方)
- R3: OpenAI開発者ガイド「Ask multiple questions」(1〜400問)
- R4: OpenAI開発者ガイド「Pricing and availability」(Decisionsの料金・キャッシュ・出力トークン)