NVIDIA cuObject一般提供:データ本体はRDMA、制御はHTTPS/TCP
NVIDIAは9月30日、cuObjectのクライアント・サーバーライブラリの一般提供を発表した。オブジェクトのデータ本体はRDMAでGPUやシステムメモリに移るが、制御リクエストはHTTPS/TCPに残り、ストレージサーバー側もこのプロトコルに対応する必要がある。
devotd.
テーマごとの動きと判断に必要な背景をまとめる。
NVIDIAは9月30日、cuObjectのクライアント・サーバーライブラリの一般提供を発表した。オブジェクトのデータ本体はRDMAでGPUやシステムメモリに移るが、制御リクエストはHTTPS/TCPに残り、ストレージサーバー側もこのプロトコルに対応する必要がある。
Googleが9月30日に発表したGemini 4 Argonは、出力上限を従来の64,000トークンから100万トークンに引き上げた。最初の対象はFairwindプログラムの信頼されたサイバー防御組織で、一般公開日は示されていない。
OpenAIが9月29日に発表したGPT-6.1 Solのキャッシュ読み取りは100万トークン当たり0.10米ドルだが、書き込みは2.50米ドルだ。入力が27万2千トークンを超えると、超過分だけでなくリクエスト全体に高い単価が適用される。