OpenAIは9月29日のDevDayでgpt-6.1-solを発表した。コーディング、コンピューター操作、専門業務でGPT-6 Astraに近い性能をより低い価格で出すという説明だ。
この比較はOpenAI自身の評価であり、すべてのタスクで2つのモデルが同じという意味ではない。
発表時点の提供範囲はAPIと有料のChatGPT Work・Codexだった。通常のChatにはまだ入っていない。
キャッシュ書き込みとリクエスト全体への長文入力割増
10月3日に確認したモデル文書のStandard価格は、100万トークンあたり入力2ドル、キャッシュ読み取り0.10ドル、キャッシュ書き込み2.50ドル、出力10ドルだ。キャッシュ書き込み（cache write）は、プロンプトを初めてキャッシュに保存するときの料金だ。
入力が27万2千トークンを超えると、超過分ではなくリクエスト全体に入力・キャッシュ2倍、出力1.5倍の単価が適用される。リージョン処理は10%の割増で、検索などのツールには呼び出しごとの料金が別にある。
文書はツール呼び出しにResponses APIを使うよう案内している。Chat Completionsはツール呼び出しなしでのみ対応する。
これらの価格と条件は10月3日に確認した文書に基づき、今後変わる可能性がある。
単独のキャッシュ単価より完了タスクの費用
長い文書を繰り返し処理するなら、キャッシュ書き込み、想定再利用率、27万2千トークンの閾値を1つのコスト表に入れる必要がある。読み取り単価だけを見ると、長い実行の高い部分を見落とす。
エージェントを移すときはAPI経路も一緒に変える必要がある。Chat Completionsのままモデル名だけを変えると、ツール呼び出しが使えない。
Solの実際の費用は安いキャッシュ読み取り単価だけでは分からず、書き込み、長文入力の割増、ツール呼び出しのAPI経路まで合わせて判断する必要がある。