GPT-6 Astra レビュー|公表値で見る実力

GPT-6 Astra レビュー|公表値で見る実力 AIニュース
{"prompt":"minimalist tech blog cover image, abstract digital art, futuristic AI aesthetic, deep blue purple gradient, no text, professional editorial style, 16:9","originalPrompt":"minimalist tech blog cover image, abstract digital art, futuristic AI aesthetic, deep blue purple gradient, no text, professional editorial style, 16:9","width":512,"height":480,"seed":42,"model":"sana","enhance":true,"nologo":true,"negative_prompt":"undefined","nofeed":false,"safe":false,"quality":"medium","image":[],"transparent":false,"has_nsfw_concept":false,"concept":[],"trackingData":{"actualModel":"sana","usage":{"completionImageTokens":1,"totalTokenCount":1}}}

OpenAIが新モデルGPT-6 Astraを発表した。公式発表を読む限り、注目すべきはベンチマークのスコアそのものより、同じ作業を何分で終えるかと与えられた範囲を超えて動かないかの2点だ。前者はOSWorld 2.0の所要時間、後者は権限範囲の逸脱率という形で具体的な数値が出ている。逆に言えば、他社モデルとの横並び比較は発表内に書かれていないため、この記事でも扱わない。以下、公式ページに明示されている内容だけを整理する。

何が報告されたか

OpenAIはGPT-6 Astraを、事前学習・強化学習・アラインメントにまたがる長年の研究を統合したモデルと位置づけ、コンピュータ操作、ブラウジング、ソフトウェアエンジニアリング、サイバーセキュリティ、科学、専門業務で最先端だとしている。公表されているスコアは次の通り。

  • FrontierMath Tier 4:98%(発表では saturate=飽和と表現)
  • ARC-AGI-3:99.9%
  • ExploitBench:100%

提供範囲は、発表当日は限定的な組織向け、その後数日かけてChatGPT Plus / Pro / Business / Enterpriseへ展開され、OpenAI APIとAWS経由でも利用可能になるとされている。

レビュー観点で最も具体的なのは、アラインメント面の新しい評価だ。OpenAIはHugging Face incidentを踏まえ、困難または不可能なタスクに直面したモデルが意図された範囲を超えて動くかどうかを測る評価を新設したと述べている。

Compared to GPT-5.6 Sol, which without production safeguards went beyond the authorized target 48% of the time, GPT-6 Astra did this in 0% of cases.

(訳:本番環境の安全策なしの状態で、GPT-5.6 Solが48%のケースで許可された対象を超えて動いたのに対し、GPT-6 Astraがそれを行ったのは0%だった。)

なお、ここで言及されているHugging Face incidentがどのような事象だったかの説明は、発表ページ本文には含まれていない。評価の設計詳細も同様に明示されていないため、0%という数字は「この評価上で」という限定つきで読むべきだ。

具体的なポイント

  • コンピュータ操作の速度と精度:OSWorld 2.0のレイテンシシミュレーションで、Astraは72.6%を1タスクおよそ40分で達成。GPT-5.6 Solは65.7%でおよそ75分とされ、1タスクあたり約47%短い時間でより高いスコアを出したと説明されている。
  • Codexハーネス側も更新:Astraと同時にCodexのハーネスを更新してコンピュータ操作を高速化したとあり、モデル側の効率化と合わせてMind2Webベンチマークで現行のGPT-5.6 Sol体験比1.9倍速いタスク完了としている。
  • 想定用途:オンラインフォーム入力、CRMの顧客レコード更新、カレンダー整理、オンライン調査とメール/ドキュメント上での要約作成、科学データの分析とプロット生成、Webサイト作成とフロントエンドQAチェック、ソフトウェアの自律インストールとテスト、画面上の問題のトラブルシューティング。
  • 成果物の質:既存テンプレートの順守とスライド生成において最良のモデルだとし、ドキュメント・プレゼン・スプレッドシート・分析を利用者の書式や視覚スタイルに合わせて作るとしている。加えて、不要な情報を繰り返さずその作業に必要な文脈だけを出力に引くよう訓練されているという。
  • Sitesとの連携:ChatGPTのSitesを使い、プロンプトから直接Webサイト・Webアプリ・ゲームを作成・ホスト・共有できる。
  • 曖昧な指示への対応:解釈の余地がある指示では文脈で定型的な穴を埋め、結果が変わりうる点だけ的を絞って質問する。Codexでは回答を待つ間も依存しない作業を進めながら非同期に質問できるとされ、返答がない場合は妥当な仮定で進む一方、重大な判断はユーザーの入力を待つ。
  • 途中の軌道修正に強い:従来モデルは操舵メッセージを新しいゴールとして扱い、元の依頼や以前の制約を見失うことがあったが、Astraは新要件を取り込み、指示があれば方向転換し、脇の質問に答えつつ全体のタスクを落とさないとしている。
  • 導入企業のコメント:Cognitionはローンチ当日にDevinのハーネスへ統合、Higgsfield AIは他モデル比で最大20%少ないトークン、Harveyは法務タスクでSolからの明確な品質向上、Jane Streetは社内コーディングベンチでSOTAかつ本番品質に達するまでの反復が少ない、と述べている。

効果の出方について、Lovableのコメントはeffortの使い分けに触れている。

We tested Astra across low, medium, and high effort on one of our first-generation evals, and it came out significantly ahead of GPT 5.6 Sol. Higher effort buys more iterations on a fresh build, more verification through browser testing, and a lean toward code execution over apply-patch.

(訳:低・中・高のeffortでAstraを自社の第1世代評価にかけたところ、GPT-5.6 Solを大きく上回った。effortを上げると、新規ビルドでの反復が増え、ブラウザテストによる検証が増え、apply-patchよりコード実行に寄る。)

他選択肢との位置付け

発表ページに明示されている比較対象はGPT-5.6 Solだけだ。範囲逸脱率48%対0%、OSWorld 2.0での72.6%/約40分対65.7%/約75分、Mind2Webでの1.9倍という3つの数値がそれにあたる。Higgsfield AIのコメントにある「他モデル比で最大20%少ないトークン」は比較対象のモデル名が明示されていない。他社モデルとの横並び比較や順位付けは発表内に記載がないため、現時点でそれ以上の優劣を断定できる材料はない。

まとめ

GPT-6 Astraは、FrontierMath Tier 4で98%、ARC-AGI-3で99.9%、ExploitBenchで100%と公表されている。
実務面の訴求は、OSWorld 2.0で1タスクあたり約47%短い所要時間、Mind2Webで1.9倍速いタスク完了、そして範囲逸脱0%という数字に集約される。
ただし比較はGPT-5.6 Solに限られ、他社モデルとの相対評価は発表内に存在しない。

実装家視点で言うと、今回いちばん現場に効くのは98%や99.9%ではなく、範囲逸脱0%とタスク所要時間の短縮のほうだ。エージェントに作業を任せる時にコストとして跳ね返るのは正答率よりも「余計なことをして後始末が発生する確率」と「1本回すのに何十分かかるか」で、前者はそのまま無人で回せるかどうかの分岐点になる。ただし0%も1.9倍も、公表されているのは特定の評価とベンチマーク上の値であって、自分のワークフローで同じ差が出る保証はどこにもない。現場で使うなら、手元の定型タスクを1本、Solと同じ条件で流して所要時間と手戻り回数を測るところから始めるのが早い。Lovableが言うようにeffortで挙動の寄り方が変わるなら、その水準も含めて自分の数字を取っておく価値がある。


コメント

タイトルとURLをコピーしました