GPT-6.1 Sol:キャッシュ書き込み費用、27万2千入力トークン超の割増
OpenAIが9月29日に発表したGPT-6.1 Solのキャッシュ読み取りは100万トークン当たり0.10米ドルだが、書き込みは2.50米ドルだ。入力が27万2千トークンを超えると、超過分だけでなくリクエスト全体に高い単価が適用される。
devotd.
韓国時間(KST)の対象日ごとに記事を掲載しています。後日執筆の記事は対象日と実際の公開日時を分けて表示します。
OpenAIが9月29日に発表したGPT-6.1 Solのキャッシュ読み取りは100万トークン当たり0.10米ドルだが、書き込みは2.50米ドルだ。入力が27万2千トークンを超えると、超過分だけでなくリクエスト全体に高い単価が適用される。
RTX 3090を2枚使うBas Nijholtは、電気代と機材代を含めるとAPIのほうが安い場合があると計算した。ただし結論は稼働時間と比較するAPIモデルによって変わる。
LocalAI 4.11.0では、一つのモデル名の後ろにローカルとリモートのモデルを順に配置できる。ただし次のモデルへの切り替えは、応答開始前の一部の障害に限られる。