Unslothのデスクトップアプリに、質問を決まったスケジュールで実行する予約機能と、新たな大規模モデルの端末内実行への対応が追加された。繰り返す質問を処理する開発者は、実行時点と使用するモデルを事前に決め、結果を毎回新しいチャットにまとめられる。

1. プロンプトをスケジュールに沿って新しいチャットに保存

サイドバーのMoreメニューからScheduledを開くと、プロンプトを1回、毎日、平日、毎週、または毎月実行するよう登録できる。結果は実行ごとに別の新しいチャットとして保存され、定期的に確認する作業を過去の会話と分けて見られる。

タスクごとに、現在読み込んでいるモデル、端末内のモデル、接続済みAPIプロバイダーのモデルから実行対象を選ぶ。指定モデルが読み込まれていなければ読み込み前に確認を求め、不在時に自動で切り替える設定にすると確認なしで読み込む。実行結果の通知も、毎回、失敗時のみ、通知なしから選べる。

2. MiniMax-M3.1-Flashを端末で実行

10月26日公開の今回のリリースでは、コーディング、ツール使用、エージェント作業を狙うMiniMax-M3.1-Flashがローカル実行の対象に加わった。エキスパート混合モデルという、一部のエキスパート経路を選んで計算する構造で、全4280億パラメータのうち実際の計算に参加するアクティブパラメータは230億だ。対応するコンテキスト、つまり一度に処理する文脈は最大100万トークンで、モデルファイルの保存形式であるGGUFのファイルも提供する。

一部のWindows PCでGGUFモデルを読み込めなかった問題も修正した。新モデルの追加とともに、既存の端末内モデルの実行で支障が出ていた部分を改善した。

直接実行するモデルの選択肢は広がったが、同社の発表によると、MiniMax-M3.1-Flashは数値を低い精度で表す1ビット量子化モデルでも、システムメモリとグラフィックスメモリを合わせて最低130GB必要だ。予約タスクはアプリの実行中のみ動作し、ツールやウェブ検索を使えないため、繰り返し入力は減る一方、アプリを起動し続ける運用上の負担が残る。

3. モデル別の設定とMacの性能変化

モデル別のRun設定に名前を付け、保存した設定を呼び出すプリセットとして保存し、名前変更・削除・切り替えができる。実行設定をまとめておき、選んで使う方式だ。最後に選んだプリセットは、そのモデルを次に読み込む際に適用され、API経由で読み込む場合にも引き継がれる。モデルを切り替えて戻した際も、実行設定をやり直す手間を減らせる。

チャットでは、応答のランダム性などを調整するサンプリング設定をモデル別に記憶したり、モデルの推奨値に戻したりできる。モデルごとに応答の仕方を変えて使う利用者向けの変更だ。

長いプロンプトを処理するGGUFチャットは、回答生成前の進捗と残り時間を表示する。回答が出る前にも、入力処理の進み具合を確認できる。

同社の発表によると、MacでMLXエンジンを使うチャットは、回答の下書きを作る補助モデルの使用時に応答が最大16%速くなった。こうした補助モデルを内蔵するモデルは、別途ダウンロードせずに自動で利用する。

4. APIで提供するモデルの状態も一か所で確認

APIページは、提供中のモデル別にコンテキスト使用量、速度、リクエスト数を表示する。モデル別の設定を保存する機能とともに、端末で実行するモデルを別のプログラムにつないで使う開発者が運用状況を把握するのに役立つ。

独自のリバースプロキシ、つまりアプリの手前でリクエストを転送する中間サーバーを置いて運用する場合は、接続元アドレスの信頼設定を有効にできる。転送されたアドレスを標準では信頼しない方式に変わったためだ。以下の設定を有効にすると、中間サーバーが転送したアドレスを使い、接続元ごとのログイン回数制限を適用できる。

UNSLOTH_STUDIO_TRUST_FORWARDED=1

今回の更新の要点は、繰り返す質問の実行時点とモデル別の設定をアプリに任せ、ローカルモデルを日常の作業の流れに組み込みやすくしたことにある。