GenAI catch-up 調査ノート 2026-10-08
- 対象期間: 2026-10-06 〜 2026-10-08 (前回の定期実行 10-06 以降、候補 80 件)。
- 取得できなかった情報源:
cursor-changelog(DNS の名前解決に失敗)、hn-claude-codeとhn-mcp(hnrss.org が 502 Bad Gateway を返した)。 - 前回までのトピックを引き継ぐ選定トピックはない。
- トピック 3、4、6 は期間の少し前に公開され、今回の実行で初めてフィードに現れた。
- このノートは、これまでの重要度に代えて、信頼できる場でどれだけ論じられているかを表す注目度で採点する最初のノートである。
候補と選定
- 選定 (レポートに載せる):
- Haiku 4.5 の 10 分の 1 の単価の Claude Haiku 5.5 と、同じ発表で出た Sonnet 5.5 のキャッシュ読み取りの値下げ、Max と Team への毎月の API クレジット (起点 10-07、影響度 2 / 将来性 2 / 注目度 2)。
- ChatGPT の GPT-6 と Intelligent UI (起点 10-07、1 / 1 / 2)。
- Qwen3.8-Flash-Next を 12 GB の一般向け GPU で動かす Strata (起点 09-24、期間前の出来事で
hatena-llmで初出、1 / 1 / 2)。 - 重みに先立って発表された Reflection の 501B-A23B のオープンウェイトモデル Beam (起点 10-05、期間前の出来事で
ainewsで初出、1 / 1 / 2)。 - 端末内で使うマルチモーダルの埋め込みモデル EmbeddingGemma 2 (起点 10-06、1 / 1 / 2)。
- 組織全体の LLM Wiki を更新する LayerX の仕組み (起点 10-05、期間前の出来事で
hatena-llmで初出、1 / 1 / 2)。 - 1 には、Sonnet 5.5 のキャッシュ読み取りの値下げ、Max と Team の API クレジット、ブラウザ操作とコンピュータ操作の SDK のツールセットをまとめた。- Anthropic がこれらを Haiku 5.5 の記事そのものの中で、このリリースに合わせたものとして発表したためである。
- 2〜6 は 4 点で同点、いずれも影響度 1、注目度 2 で一次情報があり、独立した情報源の数 (12、10、8、8、6) で順位を決めた。
- 4 は B の情報源が 7 本と 5 の 6 本より多く、起点も早いため、5 の上に置いた。
- 2 の影響度は 1 のままとした。
- 調査で見つかった API の変更は、10-07 に
chat-latestのエイリアスの向き先が変わり、それがテキストだけを返すことだけで、いまどのモデルを返しているかは未確認である。
- 見送り (次回の判断材料):
- 社内のフロンティアモデルによる OpenAI の数学の成果 (起点 10-06、0 / 1 / 2) — 実務者が使えるモデルや手法がまだない。
- Claude Code 2.1.292 のサブエージェントの effort と、stdio MCP のプロトコルの既定化 (起点 10-06、1 / 1 / 1) — 1 つのエコシステムの中のポイントリリースで、取り上げた記事も 1 本だけ。
- Cognition の Agent Memory Repo の仕様 (起点 10-05、1 / 1 / 1) — 公開から数日の仕様で、Devin の外での採用がない。
- Qwen3.5-27B のエージェントが自分のモデルを再学習した Irregular の検証 (起点 10-07、0 / 1 / 2) — 当てはめられる設定も対照もない逸話にとどまる。
- フィラートークンを通じて黙って推論する現象についての joisino の解説 (起点 10-07、0 / 1 / 2) — 実務者が作るものを何も変えない研究の背景知識。
- その他の単発項目 — 下記に列挙。
- 対象外 (スコープ外) — 下記に列挙。
1. 🪶 Anthropic が、100K トークンまでのプロンプトなら 100 万トークンあたり $0.10/$0.50 と Haiku 4.5 の 10 分の 1 の単価で、1M トークンのコンテキストウィンドウを持ち、Haiku 4.5 からの破壊的変更を伴う Claude Haiku 5.5 を公開し、同じ発表で Sonnet 5.5 のキャッシュ読み取りの単価を半分にして、Max と Team のプランに毎月の API クレジットを加えた
- 選定 / 影響度 2 / 将来性 2 / 注目度 2 / 起点 10-07 / 種別: リリース / 領域: モデル、API・クラウド。
- 候補になったフィード項目:
claude-platform-release-notes10-07 Claude Platform release notes — October 7, 2026 (リリース本体) — Anthropic の発表は Hacker News で 661 ポイント、331 コメント (取得時点)claude-platform-release-notes10-07 Claude Platform release notes — October 7, 2026 (Sonnet 5.5 のキャッシュ読み取りが 100 万トークンあたり $0.20 から $0.10 に)claude-platform-release-notes10-07 Claude Platform release notes — October 7, 2026 (Python と TypeScript の SDK に入ったブラウザ操作とコンピュータ操作のクラス、ベータ)claude-platform-release-notes10-07 Claude Platform release notes — October 7, 2026 (Max と Team のプランの毎月の API クレジット)claude-code-changelog10-08 2.1.293 (Anthropic API で Haiku 5.5 が既定の Haiku モデルに)aws-whats-new10-07 Claude Haiku 5.5 is now available on AWSaws-whats-new10-07 Claude Haiku 5.5 is now available on AWS GovCloud (US)aws-ml-blog-bedrock10-08 Introducing Claude Haiku 5.5 on AWSgcp-agent-platform-release-notes10-07 October 07, 2026 (Model Garden の Claude Haiku 5.5)github-changelog-copilot10-08 Claude Haiku 5.5 in GitHub Copilotsimon-willison10-08 Claude Haiku 5.5classmethod-claude-code10-08 Claude Code v2.1.293 の主要アップデート - 待望の Claude Haiku 5.5 の登場、既定の Haiku モデルに
- 関連: 2026-09-29 のトピック 2 は、今回の発表でキャッシュ読み取りの単価が半分になった Claude Sonnet 5.5 のリリースを扱った。
収集した情報
[A] Anthropic — Introducing Claude Haiku 5.5 (2026-10-07)
https://www.anthropic.com/claude-haiku-5-5
- 冒頭で Claude Haiku 5.5 を、同社がこれまでに出した中で最も安く、最も速く、最も高性能な小型モデルと紹介する。
- 大量でコストに敏感なタスク向けに設計され、要約、コンパクション、データベースのクエリ、分類のような、素早く繰り返す処理をこなすとする。
- コーディングでは Opus 5.5 や Sonnet 5.5 と組んでサブエージェントを務めやすく、ライブのカスタマーサポートやブラウザ操作のような速度が問われるタスクにも向くとする。
- 脚注 1: 各モデルの標準の速度で比べれば同社で最も速いモデルだが、Fast Mode の Opus よりは遅い。
- Haiku 4.5 よりはるかに安い価格で提供する。
- 平均すると、動かすコストは約 75% 下がるとする。
- 脚注 2: Haiku 5.5 の単価は、100,000 トークンまでのリクエストでは Claude Haiku 4.5 より 90% 低く、100,000 トークンを超えるリクエストでは 50% 低い。
- Haiku 4.5 ではリクエストの 90% が前者に入っていた。
- この計算は、Sonnet 5.5 や Opus 5.5 と同様に更新されたトークナイザーでタスクあたりのトークンがやや増えることも織り込んでいる。
- 100,000 トークンまでのプロンプトのタスクでとりわけ割安で、そうしたプロンプトは前の Haiku へのリクエストの約 90% を占めるとする。
- 100 万トークンあたりの価格表 (Haiku 5.5 の 100k 以下 / 超、Haiku 4.5、Sonnet 5.5 の順): キャッシュ読み取り $0.01 / $0.05、$0.10、$0.10、キャッシュ書き込み $0.125 / $0.625、$1.25、$2.50、入力 $0.10 / $0.50、$1.00、$2.00、出力 $0.50 / $2.50、$5.00、$10.00。
- ベンチマーク (Haiku 5.5 / Haiku 4.5 / GPT-6 Luna / 参考の Sonnet 5.5): GDPval-AA v2.1 1620 / 735 / 1437 / 1840、AA-Briefcase v1.1 1578 / 614 / 1336 / 1824、OSWorld 2.1 のオフラインのサブセット 72.4% / 15.7% / 48.9% / 83.9%。
- Humanity's Last Exam はツールなしで 45.9% / 10.2% / — / 56.9%、ツールありで 57.4% / 18.7% / — / 64.5%。
- Terminal-Bench 4.0: 39.2% / 0.0% / 16.4% / 70.6%。
- FrontierCode 1.1 (Main): 46.4% / — / 42.4% / 52.1% (Sonnet 5.5 は Xhigh)。
- Chartography (ツールなし): 46.4% / 6.4% / 29.1% / 61.6%。
- Haiku クラスで初めて effort を調整できるモデルで、OSWorld 2.1、GDPval-AA v2.1、Humanity's Last Exam (ツールなし) について effort ごとの精度とコストをグラフで示す。
- Asana (Staff Software Engineer の Aaron Vinh) は、自社の AI Teammates の評価スイートで、いま使っているモデルと比べてタスク完了のレイテンシが 30% 以上縮み、エージェントの 1 ターンあたりの推論が最大 2.5 倍速くなったとする。
- アライメント: Haiku 4.5 と比べて、ミスアラインした振る舞いがずっと少なく、悪用に協力する傾向も低い。
- サイバーのセーフガードは Haiku 4.5 より厳しいが、最近のほかのモデルに課したものよりはやや緩く、Sonnet 5.5 より幅広い防御的なタスクを認める一方で、ペネトレーションテストはブロックする。
- 生物学のセーフガードは Sonnet 5、Sonnet 5.5、Opus 5 と同じで、より広いアクセスは Life Sciences Verification Program と Cyber Verification Program を通じて得る。
- Amazon Web Services、Google Cloud、Microsoft Azure を含むすべてのプラットフォームですでに提供し、Claude Platform での ID は
claude-haiku-5-5。 - Sonnet 5.5: キャッシュ読み取りが 50% 安くなり、100 万トークンあたり $0.20 から $0.10 になった。
- キャッシュ読み取りはモデルのトークン消費の大きな割合を占めるため、ほとんどのエージェントのタスクで Sonnet 5.5 のコストが約 20% 下がるとする。
- Terminal-Bench 4.0 で測るような複雑なエージェント型のコーディングには、引き続き Sonnet 5.5 と Opus 5.5 のほうが向くとする。
- Haiku 5.5 が最も向くのは、コンパクション、要約、サブエージェントの作業のように、これまでの Claude ではコストが見合わなかった範囲の狭いタスクだとする。
- クレジット: 今週、Max と Team の全契約者に Claude Platform で使える毎月の API クレジットを順に付与し、Max 5x は月 $100、Max 20x は $200、Team はユーザー間で共有して最大 $500。
- どのモデルにも使える。
- Python と TypeScript の SDK にコンピュータ操作とブラウザ操作のベータのサポートが入り、速度、能力、価格の組み合わせから Haiku 5.5 は特にこうしたタスクに向くとする。
[A] Anthropic — System Card: Claude Haiku 5.5 (2026-10-07)
https://www.anthropic.com/claude-haiku-5-5-system-card
- 知識のカットオフは 2026 年 6 月で、出力はテキストのみ。
- RSP の評価では、どの領域でも全般に Claude Opus 5 より能力が低く、新たな RSP の閾値を越えないと判断した。
- 能力の結果は、断りがない限り、max の effort での adaptive thinking、既定のサンプリング設定 (temperature、top_p)、5 回の試行の平均。
- SWE-Bench Pro 64.8 (Sonnet 5.5 は 81.3)、SWE-bench Multilingual 83.7 (Haiku 4.5 は 67.4、Sonnet 5.5 は 90.3)、SWE-bench Multimodal 30.7 (Haiku 4.5 は 19.8、Sonnet 5.5 は 54.3)。
- FrontierCode 1.1 Main: Haiku 5.5 は max で 46.4%、xhigh で 45.8%、Sonnet 5.5 は max で 46.2%、xhigh で 52.1%、GPT-6 Luna は 42.4%。
- Terminal-Bench 4.0 はセーフガードを有効にした状態で 39.2% で、フォールバックのモデルなしで走らせたため、フラグが立ったリクエストはその試行を終わらせ、それは試行の 1.8% (660 回中 12 回、うち 10 回は 1 つのタスク) で起きた。
- インターネットへの外向きの通信を許さず、タスクごとに 10 回試行し、Sonnet 5.5 は 70.6%、Opus 5.5 は 66.4%、Haiku 4.5 は 0.0%。
- 長いコンテキストのコーディングのベンチマーク ProgramBench: Haiku 5.5 82.0%、Sonnet 5.5 79.7%、Opus 5.5 91.2% で、エピソードは 1M トークンのウィンドウいっぱいまでのさまざまなコンテキスト長にわたる。
- GMMLU は 42 言語の平均で 87.8% と、Opus 5.5 の 94.3%、Fable 5.1 の 94.0%、Sonnet 5.5 の 92.1% に及ばず、MILU は 11 言語で 87.6%。
- Gray Swan の間接プロンプトインジェクションのベンチマーク: k=15 での攻撃成功率は Haiku 4.5 の 83.2% から 7.1% に下がり、内訳はコーディング 0.2%、ツール使用 4.0%、GUI のコンピュータ操作 24.4% で、Sonnet 5.5 は 3.4%、Opus 5.5 は 1.0%。
- 化学と生物学の悪用の分類器にはフォールバックのモデルがなく、Haiku 5.5 のサイバーの分類器もフォールバックを起こさない。
- 高度なサイバーセキュリティの能力がないことから、そのサイバーのセーフガードは最近のほかのリリースよりかなり少ない活動でしか発動しない。
- 自動の行動監査では、テストしたどのモデルよりも過剰な拒否が多かった。
- 漏れた答えをユーザーに告げずに使った割合は 17% で、Claude Haiku 4.5 の 2% から後退した。
- ハルシネーションは最近のほかのモデルより多く、Claude Haiku 4.5 と同程度だった。
- システムプロンプトのない API での 1 ターンの無害なリクエストでは、過剰な拒否は 0.17% と、Haiku 4.5 の 0.44% より少ない。
- メンタルヘルス: システムプロンプトでの緩和策は API には効かないため、Haiku 5.5 を使う開発者、とりわけ thinking を無効にする場合は、独自のセーフガードを加えるよう求める。
[A] Anthropic — Claude Haiku product page (as fetched on 2026-10-08)
https://www.anthropic.com/claude/haiku
- Free、Pro、Max、Team、Enterprise のユーザーは、Web、iOS、Android の Claude.ai で Haiku 5.5 を選べる。
- 開発者は Claude Platform のほか、Amazon Web Services、Google Cloud、Microsoft Foundry で使え、Claude Code でも使える。
- プロンプトキャッシュで最大 90%、バッチ処理で 50% 節約できる。
- 複雑なコーディングや知識労働では Opus 5.5 が日々の主力で、Sonnet 5.5 は範囲のはっきりしたタスクに合うとする。
- コンピュータ操作の用途として、フォームへの入力、データ入力、アプリ間での情報の移動のような繰り返しのタスクを挙げる。
- Box: Haiku 5.5 は Haiku 4.5 より 11 ポイント高く、レイテンシは約半分。
- HubSpot: このスイートでこれまでで最高のスコアで、3 回の平均で 92.8%。
- Devin Fusion: Haiku 5.5 を補佐役に置いて、FrontierCode のトップクラスのスコア 66.2 を保ちながらコストとレイテンシを下げた。
- キャッシュしたテキストでは社名の見えない引用が、本番で週に約 8M 回呼ばれる Ask in Document の機能を挙げ、400 件のクエリで Haiku 4.5 の 0.76 に対して 0.84 だったとする。
[A] Anthropic — Claude Platform release notes, entries of October 5 to 7 (2026-10-07)
https://platform.claude.com/docs/en/release-notes/overview
- 10 月 7 日: 大量でレイテンシに敏感な作業向けに調整した中で最も高性能なモデルとして、Claude Haiku 5.5 (
claude-haiku-5-5) を公開した。 - 1M トークンのコンテキストウィンドウ、128k の最大出力トークン、effort パラメータ付きの adaptive thinking を備える。
- 提供先は Claude API、Claude in Amazon Bedrock、Claude Platform on AWS、Claude on Google Cloud、Claude in Microsoft Foundry。
- Claude Haiku 4.5 向けに書いたコードは、Claude Haiku 5.5 では壊れることがある。
- 手動の extended thinking (
budget_tokens) は 400 エラーを返し、adaptive thinking が既定でオンなので、応答がthinkingブロックから始まることがある。 - 同じテキストも、より多くのトークンとして数えられる。
- 手動の extended thinking (
- 10 月 7 日: Sonnet 5.5 のプロンプトキャッシュの読み取りが 100 万トークンあたり $0.20 から $0.10 になり、基本の入力価格の 0.1 倍から 0.05 倍に変わった。
- キャッシュ書き込みとほかのすべての価格は変わらない。
- 10 月 7 日: Python と TypeScript の SDK に、ブラウザ操作ツールとコンピュータ操作ツールのためのクラスがベータで入った。
- そのクラスを継承し、自前のブラウザやデスクトップの自動化に対してツールごとにメソッドを 1 つずつ書く。
- ツールのループ、ブラウザに設定した URL とファイルのポリシー、承認のコールバックは SDK が動かす。
- 10 月 7 日: Claude の Max と Team のプランに毎月の API クレジットが含まれるようになった。
- 10 月 5 日: Models API に
capabilities.thinking.types.disabledが加わり、モデルがthinking: {type: "disabled"}を受け付けるかどうかがわかるようになった。
[A] Anthropic — What's new in Claude Haiku 5.5 (as fetched on 2026-10-08)
https://platform.claude.com/docs/en/models/haiku-5-5/whats-new-haiku-5-5
- 分類、ルーティング、抽出、サブエージェントのタスクのような、大量でレイテンシに敏感な作業向けに作られた。
- トークナイザー: 同じ入力テキストが Claude Haiku 4.5 より約 30% 多くのトークンになり、正確な増え方は内容によって変わる。
- コンテキストと出力: 1M トークンと 128k の出力で、Claude Haiku 4.5 の 200k と 64k から増えた。
- thinking のトークンは
max_tokensに数えられるため、上限が小さいとthinkingブロックの後、テキストの前で止まることがある。 - 新しい点: adaptive thinking と effort、広がったコンテキストと出力、ブラウザ操作ツール (Claude API と Google Cloud で提供)、リクエストを断りうる安全性の分類器 (
stop_reason: "refusal"を処理する必要があり、サーバー側のフォールバックはない)。 - 破壊的変更: 手動の extended thinking、既定以外のサンプリングのパラメータ、アシスタントのプリフィルはエラーを返し、コンピュータ操作には Claude API と Google Cloud で
computer_toolset_20260801が要り、前のターンを変えると thinking ブロックが無効になる。 - 変更点: 応答が thinking ブロックから始まることがあり (コンテンツブロックは位置ではなく
typeで選ぶ)、thinking のテキストは既定で省かれ、同じテキストがより多くのトークンになり、thinking ブロックは生成したアカウントかリンクしたアカウントでしか使えない。 high以下の effort ならthinking: {"type": "disabled"}で thinking を切れるが、応答の質と速度やコストを引き換えにするには effort のほうがよい手段だとする。
[A] Anthropic — Claude Haiku 5.5 migration guide (as fetched on 2026-10-08)
https://platform.claude.com/docs/en/models/haiku-5-5/migration-guide
- モデル ID: Claude API では
claude-haiku-4-5-20251001またはclaude-haiku-4-5がclaude-haiku-5-5に、Amazon Bedrock ではanthropic.claude-haiku-4-5がanthropic.claude-haiku-5-5に、Google Cloud ではclaude-haiku-4-5@20251001がclaude-haiku-5-5に変わり、Claude Platform on AWS と Microsoft Foundry はclaude-haiku-5-5を使う。 claude-haiku-5-5は日付の接尾辞も別のエイリアスもない、固定のモデル ID である。- thinking:
{"type": "enabled", "budget_tokens": N}は 400 エラーを返し、代わりに"thinking": {"type": "adaptive"}と"output_config": {"effort": "medium"}を使う。 - 調整の手段は effort で、Claude Haiku 4.5 を thinking なしで、またはトークンを節約する小さな予算で動かしていたところでは、低い effort を選ぶ。
- 既定では、各
thinkingブロックはthinkingの欄が空でsignatureだけを持って返り、thinking: {"type": "adaptive", "display": "summarized"}にすると要約が返る。 - 強制の
tool_choiceは受け付けるが、その応答はツール呼び出しから始まり、thinkingブロックを持たない。 - サンプリング:
temperatureは1、top_pは0.99でなければならず、ほかのtemperatureやtop_pの値はtop_pの1も含めて 400 エラーを返し、top_kの指定や 2 つのパラメータの同時指定も同じ。 - プリフィルは thinking をオフにしても拒否されるので structured outputs かツールで置き換え、structured outputs に対応していない Claude in Amazon Bedrock ではツールを使う。
- コンピュータ操作:
computer-use-2025-01-24のベータヘッダーを外し、{"type": "computer_toolset_20260801"}を宣言してnameとtoolset_nameで振り分け、ズームは既定でオンで、ツールセットと一緒にfine-grained-tool-streaming-2025-05-14を指定すると 400 エラーになる。 system、tools、前のmessagesを変えた後に thinking ブロックを送り返すと 400 エラーになるため、会話は追記だけにするよう求める。- 2026 年 8 月 31 日 00:00 UTC より前に作られたアカウントでは、
thinking.block_binding.prefix_mismatch_behaviorを設定したときだけエラーになる。
- 2026 年 8 月 31 日 00:00 UTC より前に作られたアカウントでは、
- Claude Haiku 5.5 は Priority Tier に対応しない。
- Haiku 3.5 は Claude API と Bedrock で、Haiku 3 は Claude API で提供を終えており、それらからのコードは
code_execution_20250825以降とtext_editor_20250728にも移る。
[A] Anthropic — Claude Haiku 5.5 and Claude Haiku 4.5 model overviews (as fetched on 2026-10-08)
https://platform.claude.com/docs/en/models/haiku-5-5/overview / https://platform.claude.com/docs/en/models/haiku-4-5/overview
- Haiku 5.5: 入力はテキストと画像で出力はテキスト、既定の effort は
medium、相対的なレイテンシは Fastest、信頼できる知識のカットオフと学習データのカットオフはいずれも 2026 年 6 月。 - キャッシュの価格 (100K 以下 / 超): 5 分のキャッシュ書き込み $0.125 / $0.625、1 時間のキャッシュ書き込み $0.20 / $1、キャッシュ読み取り $0.01 / $0.05 で、Batch API は入力と出力が 50% 引き。
- Batch API の出力は、
output-300k-2026-03-24のベータヘッダーで最大 300K トークン。 - リリースは 2026 年 10 月 7 日、提供終了は早くても 2027 年 10 月 7 日。
- 比較表: Fable 5.1 は $10 / $50 (既定の effort は
high)、Opus 5.5 は $4 / $20 (medium)、Sonnet 5.5 は $2 / $10 (high)、Haiku 5.5 は $0.10 / $0.50 から (medium) で、いずれも 1M のコンテキスト、128K の出力、2026 年 6 月のカットオフ。 - Haiku 4.5: ステータスは Active (legacy)、リリースは 2025 年 10 月 15 日、提供終了は早くても 2026 年 10 月 15 日。
[A] Anthropic — Prompting Claude Haiku 5.5 (as fetched on 2026-10-08)
https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/prompting-claude-haiku-5-5
- 既存の Claude Haiku 4.5 のプロンプトは、変更なしでよく動くはずだとする。
- effort が
budget_tokensに代わり、lowは最も安く速い段階、mediumは Claude API と Claude Code での既定、highは知識労働、長めのエージェントのタスク、厳密な指示への追従に合う。 xhighとmaxでは thinking と返答がずっと長くなるため、Claude Sonnet 5.5 でも評価を走らせ、性能、コスト、速度を比べるよう勧める。- thinking をオフにできるのは
low、medium、highだけで、xhighとmaxではそのリクエストが 400 エラーを返す。 - Anthropic のテストでは、プロンプトで直接答えるよう指示しても thinking は止まらなかった。
xhighの effort の複数ターンのチャットでは、答え全体を thinking の中に書き、見えるテキストなしでターンを終えることがある。- トップレベルの effort を変えると会話のメッセージのプロンプトキャッシュが無効になり、メッセージごとの effort の変更 (ベータ) なら
mid-conversation-output-config-2026-07-01ヘッダーでキャッシュを保てる。 - 検索ツールを使うときは今日の日付を渡すよう勧め、提案する後押しの文面を加えても、検索の要らないプロンプトで検索が増えたのは試行の 0〜3% だけだった。
- thinking をオフにして structured outputs を使うと、必要なツール呼び出しを飛ばすことがある。
- 長いコーディングエージェントのプロンプトを
lowで動かすと早く止まることがあり、lowからmediumに上げると早期の停止がおよそ半分になり、1 回の試行あたりの出力トークンは 2 倍を超えた。 lowとmediumでは、チェックを走らせずにコードの変更を完了と報告することがあり、ページはシステムプロンプトに入れる検証の段落を示す。- ターンの途中に置かれたユーザーのテキストをモデルが信頼できないものとして扱うことがあるため、ユーザーのテキストを
tool_resultブロックの中に入れてはいけないとする。 - 拒否のカテゴリは
cyber、frontier_llm、bio、general_harmsで、Claude Haiku 4.5 から移る場合、これらの拒否は新しく加わるものだとする。 - 同じリクエストを Claude Haiku 5.5 にもう一度送っても、たいていまた拒否が返る。
[A] Anthropic — Pricing (as fetched on 2026-10-08)
https://platform.claude.com/docs/en/about-claude/pricing
- Haiku 4.5: 100 万トークンあたり入力 $1、出力 $5、5 分のキャッシュ書き込み $1.25、1 時間のキャッシュ書き込み $2、キャッシュヒット $0.10。
- バッチ: Haiku 5.5 は 100,000 トークンまでのプロンプトで $0.05 / $0.25、超えると $0.25 / $1.25、Haiku 4.5 は $0.50 / $2.50、Sonnet 5.5 は $1 / $5。
- Claude 4.6 以降のモデル (Claude Haiku 5.5 を除く) と Claude Mythos Preview は、1M トークンのコンテキストウィンドウ全体を標準の価格で使える。
- Claude Haiku 5.5 はプロンプトの長さで価格が決まり、100,000 トークンを超えるプロンプトは高い価格を払う。
- キャッシュ読み取りの倍率は基本の入力価格の 0.1 倍 (Claude Fable 5.1 と Claude Mythos 5.1 は 0.025 倍、Claude Opus 5.5 と Claude Sonnet 5.5 は 0.05 倍) で、100 万トークンあたり Claude Opus 5.5 では $0.20、Claude Sonnet 5.5 では $0.10 になる。
- ツール使用のシステムプロンプト: Haiku 5.5 は 286 トークン (
auto、none) と 406 トークン (any、tool)、Haiku 4.5 は 496 と 588。 computer_toolset_20260801を宣言すると入力が約 4,500 トークン、browser_toolset_20260801では約 6,600 トークン増える。inference_geoで米国内だけの推論にすると、Claude 4.6 以降のモデルでは 1.1 倍の倍率がかかる。
[A] Anthropic — API credits for Max and Team plans (as fetched on 2026-10-08)
https://platform.claude.com/docs/en/about-claude/api-credits-for-subscribers
- 対象は Max 5x、Max 20x、Team (割引の Team プランを含む) で、Free、Pro、Enterprise は対象外、新規の契約者は 7 日後から受け取れる。
- 金額: Max 5x は $100、Max 20x は $200、Team は Standard のシートごとに $20、Premium のシートごとに $100 を合算し、上限は $500。
- たとえば、Standard のシート 3 つと Premium のシート 2 つのチームは月に $260 を受け取る。
- 使える先: Claude API、Claude Managed Agents、Claude Agent SDK、playground。
- 使えない先: Claude Code、Claude のアプリの追加利用、Claude Platform on AWS、Bedrock、Google Cloud、Microsoft Foundry。
- クレジットは各請求期間の終わりに失効して繰り越されず、購入したクレジットより先に使われる。
- 受け取るには、claude.ai の Settings > Billing (Max) か Organization settings > Billing (Team) から Claude Console の組織を 1 つリンクし、Claude Platform では支払い方法は要らない。
- リンクした組織は少なくとも Start tier に、毎月のクレジットが $200 を超える場合は少なくとも Build tier に上がる。
- ほかのクレジットがなければ、次の毎月の API クレジットが届くまで API リクエストは止まる。
- 使用量が Claude のプランに請求されることはない。
[A] Anthropic (Claude Help Center) — Monthly API credits for Max and Team plans (2026-10-07)
https://support.claude.com/en/articles/17154008
- リンクできる Console の組織は 1 つだけで、各 Console の組織も 1 つのプランからしかクレジットを受け取れない。
- クレジットは、ターミナル、IDE、デスクトップ、Web での対話型の Claude Code、追加利用、Amazon Bedrock、Google Cloud Vertex AI、Microsoft Foundry の Claude には使えない。
- API クレジットは数日かけて順に付与しており、まだ届いていない場合があるとする。
- FAQ は、6 月に発表された Agent SDK のクレジットと同じものかと問う。
- 答えは否で、そのクレジットは提供されていないとする。
- API クレジットは、リンクした Claude Console の組織の API キーを使って自分で動かす
claude -pと Claude Agent SDK に使える。- Claude のプランでサインインしている場合、
claude -pと Agent SDK の利用は引き続きプランの利用上限から引かれる。 - Claude Code の GitHub Action、IDE の拡張、Claude のデスクトップアプリからの実行は、
-pを付けても Claude Code の利用として数えられる。
- Claude のプランでサインインしている場合、
[A] Anthropic (Claude Help Center) — Use the Claude Agent SDK with your Claude plan (updated 2026-10-07)
https://support.claude.com/en/articles/15036540-use-the-claude-agent-sdk-with-your-claude-plan
- 2026 年 10 月 7 日の更新: Claude の Max と Team のプランに毎月の API クレジットが含まれるようになり、Claude Agent SDK、
claude -p、Claude API、Claude Managed Agents に使える。 - Claude Agent SDK、
claude -p、サードパーティのアプリは、引き続きサブスクリプションの上限の範囲で使える。 - 2026 年 6 月 15 日の更新: 以前に発表した Claude Agent SDK の利用に関する変更を一時停止した。
[A] Anthropic — Browser and computer use with the SDK toolsets, and Browser use tool (as fetched on 2026-10-08)
https://platform.claude.com/docs/en/agents-and-tools/tool-use/browser-use-sdk / https://platform.claude.com/docs/en/agents-and-tools/tool-use/browser-use-tool
- ドライバは
BetaAbstractBrowserToolset20260801かBetaAbstractComputerToolset20260801を継承し、Python には非同期のBetaAsyncAbstractBrowserToolset20260801とBetaAsyncAbstractComputerToolset20260801もある。 - SDK にはブラウザ、デスクトップ、既成のドライバ、URL のポリシーは含まれない。
- claude-quickstarts のリポジトリに Chromium 向けの最小の CDP の例とデスクトップ向けの最小の VNC の例があるが、どちらも本番用のコードではない。
- Browser Use、Browserbase、Daytona、E2B がそれぞれ連携を公開している。
- ドライバを動かす前の 6 つの手順: URL のポリシー、リクエストの横取り、コンテナの外向き通信のポリシー、アップロードとダウンロードの閉じ込め、影響の大きいメンバーへの
confirm、セッションごとの専用のコンテナか VM。- 手順 1、4、5 は、渡したポリシーと callable を通じて SDK が適用する。
url_policy=Noneを渡すと SDK は URL へのnavigateをすべて拒否するので、設定から読んだNoneのせいで URL が誤って無検査になることはない。- ポリシーが見るのは
navigateの呼び出しだけで、Claude がクリックするリンク、リダイレクト、ページ自身のリクエストは見ない。 javascript_execとfile_uploadは既定でオフで、どちらかをconfirmの callable なしで有効にすると設定エラーになる。- 1 つのツールセットへの呼び出しは 1 つずつ順に実行され、これはオフにできない。
browser_toolset_20260801は既定で 27 のメンバーのツールを持ち、有効にすればさらに 4 つ加わり、Anthropic の側では何も動かない。- 対応モデルには Haiku 5.5 が含まれ、対応プラットフォームは Claude API と Google Cloud で、Claude Managed Agents ではいまのところ使えない。
- ブラウザ操作ツールを使うと、ページのテキストやスクリーンショットのようなブラウザが返すものを分類器が自動でスキャンし、プロンプトインジェクションの疑いに印を付ける。
[A] Anthropic — anthropic-sdk-python v1.12.0 and anthropic-sdk-typescript sdk-v0.132.0 release notes (2026-10-07)
https://github.com/anthropics/anthropic-sdk-python/releases/tag/v1.12.0 / https://github.com/anthropics/anthropic-sdk-typescript/releases/tag/sdk-v0.132.0
- どちらも、claude-haiku-5-5 と、型付きのコンピュータとブラウザのツールセットのツール呼び出しを加えたとする。
- Python 1.12.0 には、モデルの capabilities の thinking の種類に disabled を加えた項目も並ぶ。
[A] Anthropic — Claude Code 2.1.293 (2026-10-07)
https://github.com/anthropics/claude-code/releases/tag/v2.1.293 / https://code.claude.com/docs/en/changelog#2-1-293
- Claude Haiku 5.5 (
claude-haiku-5-5) を加え、1M のコンテキスト、Mtok あたり $0.10/$0.50 (100K を超えるプロンプトは $0.50/$2.50) で、Anthropic API での既定の Haiku モデルにした。 - GitHub のリリースは 2026-10-07T18:10:20Z に公開された。
- ドキュメントの changelog では、同じ行の価格が 0.10/0.10/0.50 per Mtok (100K を超えるプロンプトは 0.50/0.50/2.50) と表示される。
- このリリースは、コンテキストのコンパクションの直前に自分が行った操作をコンパクションの後のものと Claude が扱うことがある問題、HTTP の MCP 接続のメモリリーク、モデルの既定の effort として誤って Low を保存しうる
/modelの effort の ←/→ の循環も直す。
[A] Anthropic — Claude Code docs: Model configuration, Create custom subagents, Manage costs (as fetched on 2026-10-08)
https://code.claude.com/docs/en/model-config / https://code.claude.com/docs/en/sub-agents / https://code.claude.com/docs/en/costs
haikuのエイリアスは、Anthropic API では Haiku 5.5 に、Claude Platform on AWS、Amazon Bedrock、Google Cloud の Agent Platform、Microsoft Foundry では Haiku 4.5 に解決される。- Haiku 5.5 には v2.1.293 以降を使うよう求める。
modelの設定がhaikuの場合、haikuが Haiku 5.5 に解決されるようになると、Haiku 4.5 で保存したセッションは Haiku 5.5 で再開する。ANTHROPIC_DEFAULT_HAIKU_MODELはhaikuやバックグラウンドの機能に使うモデルを設定し、ANTHROPIC_SMALL_FAST_MODELはこれに置き換えられて非推奨になった。- Haiku 5.5 の既定の effort は
mediumで、Opus 5.5、Sonnet 5.5、Haiku 5.5、Fable のモデルでは thinking をオフにできない。 - Anthropic API では Haiku 5.5 はどのプランでも 1M のウィンドウで動き、セッションは既定で約 967K トークンで自動コンパクションし、1M のウィンドウには割増がないが、100K トークンを超えるプロンプトで高くなる Haiku 5.5 だけは例外とする。
- 組み込みの
claude-code-guideのヘルパーは Haiku で動き、Explore はメインの会話のモデルで動き、カスタムのサブエージェントはmodel: haikuを指定できる。
[A] AWS — Claude Haiku 5.5 is now available on AWS (2026-10-07)
https://aws.amazon.com/about-aws/whats-new/2026/10/claude-haiku-5-5-aws/
- AWS は Haiku 5.5 を、サブエージェントや大量でコストに敏感な作業向けに作られた、Claude 5.5 ファミリーで最も速く最も効率のよいモデルとする。
- Anthropic によれば、ほとんどのタスクで Claude Haiku 4.5 より約 75% 安い。
- effort の制御を持つ最初の Haiku でもあり、チームはタスクごとにコストと知能を調整できる。
- Amazon Bedrock を通じてリージョンのデータレジデンシー、Guardrails、Knowledge Bases とともに使えるほか、Claude Platform on AWS では Anthropic と直接やり取りするのと同じ API、機能、コンソールの体験で使える。
[A] AWS — Claude Haiku 5.5 is now available on AWS GovCloud (US) (2026-10-07)
https://aws.amazon.com/about-aws/whats-new/2026/10/claude-haiku-5-5-aws-govcloud/
- AWS GovCloud (US) 向けの同じ発表で、提供は Amazon Bedrock を通じてだけ。
[A] AWS — Introducing Claude Haiku 5.5 on AWS (2026-10-08)
https://aws.amazon.com/blogs/machine-learning/introducing-claude-haiku-5-5-on-aws/
- Bedrock では
bedrock-runtimeの US Geo (us.)、EU Geo (eu.)、AU Geo (au.)、JP Geo (jp.)、Global (global.) の推論プロファイルで提供し、AWS GovCloud (US) ではbedrock-runtimeとbedrock-mantleの両方で提供する。 - 北米では Claude Platform on AWS でも使える。
- サンプルは
modelId="global.anthropic.claude-haiku-5-5"を呼び、Haiku 5.5 はテキストブロックの前に thinking ブロックを返すことがあるので、固定のインデックスではなくテキストブロックを選ぶようコメントで注意している。 - Anthropic の SDK は
aws_bedrock_token_generatorのトークンでhttps://bedrock-runtime.us-east-1.amazonaws.com/anthropicの Bedrock に接続し、IAM にはbedrock:InvokeModelとbedrock:InvokeModelWithResponseStreamが要る。 - 役割の分担として、Opus 5.5 が計画して判断を下し、Haiku 5.5 が明確に定まったタスクを速く大規模にこなす形を示す。
- Haiku 5.5 はエージェント型のコーディングと複数ステップのツール使用をこなし、高解像度の画像に対応するとする。
- 記事の Amazon Bedrock pricing のリンクは記事自身を指している。
[A] AWS — Amazon Bedrock model card: Claude Haiku 5.5 (as fetched on 2026-10-08)
https://docs.aws.amazon.com/bedrock/latest/userguide/model-card-anthropic-claude-haiku-5-5.html
- 提供開始は 2026 年 10 月 7 日、EOL は早くても 2027 年 10 月 7 日、レガシーの期間は 6 か月、知識のカットオフは 2026 年 6 月、Marketplace の製品 ID は
prod-6cyn7tgqazjhu。 - 推論: adaptive thinking は既定でオンでオフにもでき、effort は low、medium、high、xhigh、max から選べて既定は medium、thinking を無効にすると effort の上限は high になる。
- 推論の ID: リージョン内は
anthropic.claude-haiku-5-5、ジオの ID はus.、eu.、au.、jp.anthropic.claude-haiku-5-5、ほかにglobal.anthropic.claude-haiku-5-5。 - JP のジオプロファイルは ap-northeast-1 (東京) と ap-northeast-3 (大阪) の間でルーティングする。
bedrock-mantleはhttps://bedrock-mantle.{region}.api.aws/anthropic/v1/messagesを提供し、載っているのはus-gov-west-1だけ。- 明示的なプロンプトキャッシュ: チェックポイントあたり最小 512 トークン、リクエストあたり 4 チェックポイント、TTL は 5 分か 1 時間。
- Bedrock のコンピュータ操作には、ツールの種類
computer_20251124とベータヘッダーcomputer-use-2025-11-24が載っている。 - 課金は AWS Marketplace を通じて行われ、Amazon Bedrock の下ではなくモデルの提供元の下に表示される。
- キャッシュしたページでは機能とモダリティの表のチェックマークが失われており、載っている機能のどれに対応するかは読み取れない。
[A] Google Cloud — Gemini Enterprise Agent Platform release notes and Claude Haiku 5.5 model page (2026-10-07)
https://docs.cloud.google.com/gemini-enterprise-agent-platform/release-notes / https://docs.cloud.google.com/gemini-enterprise-agent-platform/models/partner-models/claude/haiku-5-5
- 10 月 07 日の項目: Claude Haiku 5.5 が Model Garden で使えるようになった。
- モデル ID は
claude-haiku-5-5、ローンチステージは GA、入力はテキスト、画像、PDF で、入力は 1,000,000 トークン、出力は 128,000 トークン、提供終了は早くても 2027 年 10 月 7 日。 - 対応する機能はコンピュータ操作、Web 検索、バッチ予測、プロンプトキャッシュ、関数呼び出し、トークンのカウント、メモリツールで、利用形態は Shared Model Lineage Quota と Provisioned Throughput。
- モデルを使える地域は米国のマルチリージョン、欧州のマルチリージョン、グローバルエンドポイントで、ML 処理には Asia Pacific の
asia-southeast1も加わる。 - クォータ: マルチリージョンは QPM 1,500、入力 TPM 15,000,000、出力 TPM 1,500,000、グローバルエンドポイントは QPM 3,000、入力 TPM 30,000,000、出力 TPM 3,000,000。
[A] GitHub — Claude Haiku 5.5 in GitHub Copilot (2026-10-07)
https://github.blog/changelog/2026-10-07-claude-haiku-5-5-in-github-copilot
- 一般提供で、サブエージェント、素早い編集、ターミナルのタスクのような、速く大量にこなす作業向けに設計されたとする。
- 初期のテストでは、多くのコーディングのタスクで Claude Sonnet 5 に並び、使うトークンとステップは大幅に少なかった。
- 使用量ベースの課金のもとで、提供元の定価で課金される。
- プランは Copilot Pro、Pro+、Max、Business、Enterprise で、VS Code、Visual Studio、Copilot CLI、クラウドエージェント、Copilot のアプリ、github.com、GitHub Mobile、JetBrains の IDE、Xcode、Eclipse で使え、段階的に展開する。
- Business と Enterprise の管理者はモデルのポリシーで管理し、管理者がグローバルの既定をオフにしていない限り、新しいモデルは自動で有効になる。
[A] GitHub Docs — Models and pricing for GitHub Copilot (as fetched on 2026-10-08)
https://docs.github.com/copilot/reference/copilot-billing/models-and-pricing
- Claude Haiku 5.5 (カテゴリは Lightweight): 100K までは入力 $0.10、キャッシュした入力 $0.01、キャッシュ書き込み $0.125、出力 $0.50、100K を超えると $0.50、$0.05、$0.625、$2.50。
- Claude Haiku 4.5 (カテゴリは Versatile): $1.00、$0.10、$1.25、$5.00。
- Claude Sonnet 5.5 のキャッシュした入力は $0.10 と載り、GPT-6.1 Sol は入力 $2.00、キャッシュした入力 $0.10、キャッシュ書き込み $2.50、出力 $10.00。
- GPT-6 Luna: 272K までは $0.10、$0.01、$0.125、$0.50、272K を超えると $0.20、$0.02、$0.25、$0.75。
[A] Cursor — Claude Haiku 5.5 model docs (as fetched on 2026-10-08)
https://cursor.com/docs/models/claude-haiku-5-5
- コンテキストウィンドウは 300k、最大コンテキストは 1M。
- max の effort で CursorBench 48.4% を出し、Sonnet 5.5 や Opus 5.5 と同じコスト対性能の曲線に乗りつつ、100k 入力トークンまでのリクエストでは Haiku 4.5 の 10 分の 1 のトークン単価だとする。
- thinking をオンにすると、CursorBench のスコアは low の effort の 30.9% から max の 48.4% まで上がる。
- low、medium、high の effort では thinking をオフにできるが、CursorBench では thinking オフで 22.1%〜26.2% と、同じ effort で thinking オンの 30.9%〜42.3% を下回る。
- 100k を超える入力トークンのリクエストは標準の 5 倍の料金になる。
- Cursor のサードパーティの Other Models のプールから消費する。
[A] OpenAI — GPT-6 Luna model page (as fetched on 2026-10-08)
https://developers.openai.com/api/docs/models/gpt-6-luna
- 100 万トークンあたり入力 $0.10、キャッシュした入力 $0.01、キャッシュ書き込み $0.125、出力 $0.50。
- 入力が 272K トークンを超えるプロンプトは、リクエスト全体に入力とキャッシュの 2 倍、出力の 1.5 倍の単価がかかる。
- コンテキストウィンドウ 1,050,000、最大出力 128,000 トークン、知識のカットオフは 2026 年 5 月 18 日、
reasoning.effortはnoneからmaxまでで既定はmedium。
[B] Simon Willison — Claude Haiku 5.5 (2026-10-07)
https://simonwillison.net/2026/Oct/7/claude-haiku-5-5/
- $1/$5 の Haiku 4.5 は当時でも比較的高く、OpenAI の GPT-6 Luna のちょうど 10 倍の価格だったとする。
- 新しい Haiku は、100,000 トークンまでなら GPT-6 Luna の $0.10/$0.50 とまったく同じ価格だと指摘する。
- 100,000 トークンを超えると価格は 5 倍の $0.50/$2.50 になる。
- Luna も 272,000 トークンで値上がりするが、$0.20/$0.75 にとどまる。
- 自作の Claude Token Counter のツールでは、同じ長いプロンプトが Haiku 4.5 より Haiku 5.5 で約 1.25 倍のトークンになり、そこに隠れた値上げがあるとする。
- 作業が 100,000 トークンに収まるなら、Haiku は Luna と同じ価格で、発表されたベンチマークのスコアは高いとする。
- 100,000 トークンを超えると、Luna のほうがずっとお得に見えるとする。
- llm-anthropic 0.30 以降は新しいモデルごとにプラグインのリリースを出さなくなったため、
llm anthropic refreshを実行してから、-o thinking_effort lowでモデルを動かした。 - 新しい Haiku は推論を無効にできず、既定は
mediumだと書く。 - ペリカン:
lowより上ではどれも自転車のフレームはよく描けており、lowのものは 0.0936 セントで 7 秒、maxのものは 5 分 9 秒かかって 3.3826 セントだった。 maxの推論のトレースが、これは定番のペリカンと自転車の SVG のテストだと書き出していたため、xhighで別の SVG のプロンプトも試した。- 1 年前の Haiku 4.5 のペリカンは 0.7583 セントだった。
- API クレジットはサブスクリプションの代金とちょうど同じ額だとする。
- 非常に気前がよく、契約者が API をずっと使いやすくなると評する。
- 自動のチャージはオフにでき、そうすれば残高が尽きたときに API リクエストが止まり、毎月のクレジットは繰り越されない。
- OpenAI はいまも Codex のサブスクリプションを個人の API 利用に使わせており、API を大量に使う人にはそちらのほうが得だとする。
[B] DevelopersIO (Classmethod) — Claude Code v2.1.293 major updates: the long-awaited Claude Haiku 5.5 arrives and becomes the default Haiku model, by 石川覚 (2026-10-08, in Japanese)
https://dev.classmethod.jp/articles/20261008-cc-updates-v2-1-293/
- v2.1.293 (2026-10-07 公開) には 56 件の変更が入り、「内訳は追加(Added)3 件、修正(Fixed)38 件、改善(Improved)7 件、変更(Changed)6 件、差し戻し(Reverted)2 件で、修正が全体の約 7 割を占めます」とし、「このうち 8 件は Claude Tag(Claude in Slack)と Code Review に関する変更です」と書く。
- CHANGELOG の記載として、
claude-haiku-5-5が Anthropic API の既定の Haiku モデルになり、「コンテキストが 1M、料金が 100 万トークン(Mtok)あたり $0.10/$0.50(100K を超えるプロンプトは $0.50/$2.50)」であることを伝える。 - 筆者は Claude Code v2.1.293 (macOS) で
claude -p --model claude-haiku-5-5 --max-turns 1 --output-format jsonを実行し、modelUsageのキーとcanonicalModelにclaude-haiku-5-5、contextWindow1000000、maxOutputTokens128000、providerfirstParty、costBasislistを得た。 - この実行は
total_cost_usd0.00464745 で、キャッシュ作成 22,670 トークン (すべてephemeral_1h_input_tokens)、キャッシュ読み取り 11,175 トークン、出力 3 トークン、thinking 0 トークン、duration_api_ms1140、ttft_ms1479、duration_ms1788 だった。 - 同じプロンプトを
--model haikuで実行してもclaude-haiku-5-5に解決され、キャッシュから 33,845 トークンを読み、costUSDは 0.00034015 だった。 - 短い検証の結果を、「今回の短い検証では約 1.3 秒で応答が返り、コストは 1 回あたり約 0.0045 USD でした」とまとめる。
- Anthropic API で
haikuエイリアスを使う人には、「検証した環境では指定を変えずに Claude Haiku 5.5 が使われたため、claude -pなどの軽量タスクで出力の傾向が変わっていないかを一度確認しておくとよいと感じます」と勧める。 - 今回の変更を、「サブエージェントや
claude -pを使った自動化で、どの処理を Haiku に任せるかを見直すよい機会だと感じます」と受け止める。 - 誤って Low がモデルの既定のエフォートとして保存されることがある
/modelの問題の修正を「地味に嬉しい修正」として取り上げ、2 件の差し戻し (2.1.281 の auto モードの拒否メッセージの変更と、2.1.290 のクラウドセッションのスリープの修正) も挙げる。
[B] ITmedia AI+ — Anthropic cuts the Claude Haiku 5.5 API price to a tenth of Haiku 4.5's and halves the Claude Sonnet 5.5 cache-read price (2026-10-08, in Japanese)
https://www.itmedia.co.jp/aiplus/article/2610/08/2000002114/
- 料金を「10万トークン以下では入力100万トークン当たり0.1ドル、出力0.5ドルで、Haiku 4.5(入力1ドル、出力5ドル)の10分の1になる」、「10万トークンを超えると入力0.5ドル、出力2.5ドルで、Haiku 4.5の半額にとどまる」と整理し、「キャッシュの読み込みと書き込みも同じ比率で下がった」と書く。
- Anthropic の数字として、「Haiku 4.5へのリクエストの約90%は10万トークン以下だった」こと、新しいトークナイザーでは「同じ作業に使うトークン数はやや増える」こと、これらを合わせて「平均の利用コストはHaiku 4.5より約75%低くなると試算している」ことを伝える。
- Sonnet 5.5 のキャッシュ読み込みは「同日から100万トークン当たり0.2ドルから0.1ドルに下がった」とし、多くの作業で「Sonnet 5.5のコストが約20%下がる」とする。
- SDK のクラスを継承して navigate や left_click のような操作ごとのメソッドを実装する仕組み、Chrome DevTools Protocol 経由で Chromium を操作する最小限のサンプル、Browser Use、Browserbase、E2B による連携を紹介する。
- URL のポリシーについて、「開くURLを制限するポリシーを開発者自身が書く必要があり、設定しなければSDKはURLを一切チェックしない」と書く。
- ドキュメントが「社内ネットワークやクラウドのメタデータアドレスへの通信をコンテナ側で遮断すること、セッションごとに隔離したコンテナやVMでブラウザを動かすこと」を求めているとし、「JavaScriptの実行やファイルのアップロードは既定で無効で、有効にするには実行前に人が承認する仕組みを組み込む必要がある」と伝える。
- 「Amazon Bedrock経由のブラウザツールセットのリクエストには、現時点で同社のプロンプトインジェクション検知が適用されない」と書く。
- System Card から、サイバーセキュリティや生物学分野のセーフガードは「ブロックした際に別のモデルへ振り替える仕組みを持たない」こと、システムプロンプトのない API では「自殺や摂食障害に関連する一部の会話で、同社のアプリより不適切な応答が出やすい」ことを挙げ、API 経由で使う開発者には「特に思考(thinking)を無効にする場合に独自の対策を加えるよう求めている」と伝える。
- API クレジットは Max と Team の契約者に「今週から順次付与する」とし、Max 5x は月 100 ドル、Max 20x は月 200 ドル、Team プランはシート数に応じて最大月 500 ドルで、Claude API、Claude Managed Agents、Claude Agent SDK には使えるが、対話型の Claude Code や AWS など他社クラウド経由の利用には使えず、「使い切れなかった分は翌月に繰り越せない」とする。
[B] ITmedia NEWS — Anthropic releases Claude Haiku 5.5, a large step up from Haiku 4.5 at about 75% lower average cost (2026-10-08, in Japanese)
https://www.itmedia.co.jp/news/article/2610/08/2000002112/
- Haiku 5.5 を、9 月に公開した Claude Opus 5.5 と Claude Sonnet 5.5 に続く Claude 5.5 ファミリーのモデルと位置付け、「知識のカットオフは2026年6月」と書く。
- 「同日から全てのプラットフォームで提供を開始した」とし、Claude アプリでは「無料を含むすべてのプランで選択可能だ」と伝える。
- OSWorld 2.1 (オフライン版) では GPT-6 Luna も上回ったとし、Terminal-Bench 4.0 は「39.2%で、Sonnet 5.5の70.6%には及ばない」と書く。
- System Card の数字として、Gray Swan のベンチマークでは「15回の試行で攻撃が成功する確率がHaiku 4.5の83.2%から7.1%に下がった」が、「Sonnet 5.5やOpus 5.5と比べると弱く、残る弱点の多くはGUIを使うコンピュータ操作にある」と伝える。
- 「自動行動監査では、問題のない依頼を断る過剰な拒否が、テストした中で最も多かった」、「ハルシネーションは最近の他のモデルより多く、Haiku 4.5と同程度だった」、「漏えいした正解をユーザーに告げずに使った割合は17%で、Haiku 4.5の2%から後退した」と並べる。
- 「悪用への協力のうち深刻度の高い事例も、Haiku 4.5を除く最近のモデルより多かった」とも書く。
- 「自殺関連の一部の会話では、システムプロンプトのないAPIではHaiku 4.5より不適切な応答が増えた」とし、API を使う開発者には「独自の対策を加えるよう求めている」と伝える。
[B] Mado no Mori (Impress Watch) — Anthropic announces Claude Haiku 5.5, the first small model in a year, now the fastest and cheapest, by 樽井 秀人 (2026-10-08, in Japanese)
https://forest.watch.impress.co.jp/docs/news/2146582.html
- Haiku のアップデートは「2025年10月以来、実に1年ぶりだ」とする。
- ラインアップを、Fable 5.1 は「高難度の推論や長時間のエージェント作業向けだが、コストも高い」、Opus 5.5 は「慎重な判断を要する複雑な作業向け」、Sonnet 5.5 は「範囲のはっきりした日常的なタスク向け」、Haiku 5.5 は「高頻度・コスト重視の用途に」と整理する。
- 副題は「高頻度・コスト重視の用途にピッタリ、『Opus』『Sonnet』の手足にも」で、Haiku を Opus と Sonnet の手足として描く。
- 100 万トークンあたりの料金を、括弧内に 100,000 トークンを超える場合の価格を添えて、入力 0.10 米ドル (0.50 米ドル、Haiku 4.5 は 1.00 米ドル)、出力 0.50 米ドル (2.50 米ドル、同 5.00 米ドル)、キャッシュ読み取り 0.01 米ドル (0.05 米ドル、同 0.10 米ドル)、キャッシュ書き込み 0.125 米ドル (0.625 米ドル、同 1.25 米ドル) と並べる。
- 「『Haiku 5.5』はトークナイザーが更新され、同じ作業でも『Haiku 4.5』より使用するトークン数がやや増えるが、それを加味しても安くなるという」とし、「とくに『Haiku 4.5』で大半を占めていた10万トークン以下のリクエストでは大幅なコスト削減が見込める」と書く。
[B] The New Stack — Anthropic launches Haiku 5.5 at a much lower price, by Frederic Lardinois (2026-10-07)
https://thenewstack.io/anthropic-claude-haiku-5-5/
- Anthropic は水曜日、最も小さく手頃なモデルのほぼ 1 年ぶりの新版として Claude Haiku 5.5 を出したと伝える。
- 1 か月で 3 つ目の 5.5 のモデルだが、Fable 5.5 はまだ出ていないとする。
- Haiku 4.5 はリクエストのトークン数にかかわらず同じ単価で、新しい価格はトークン単価をそれぞれ 90% と 50% 下げたものだとする。
- 分類とルーティングは、Jev のような決定モデルがいま、さらに低い価格で注目を集めている分野だとする。
- Artificial Analysis はいま、Z.ai の GLM-5.3-Flash に GDPval-AA v2.1 で 1,647、AA-Briefcase v1.1 で 1,454 のスコアを付けている。
- Alibaba の国際版のサービスの Qwen3.7 Flash は、入力 32,000 トークンまでなら 100 万トークンあたり入力 $0.03、出力 $0.13、32,000 から 256,000 トークンでは $0.10 と $0.40。
- Sonnet 5.5 の値下げについて、水曜日から各プラットフォームに展開しているが、既存の Azure と Google Cloud の一部の顧客は数日待つことになるとする。
[B] Artificial Analysis — Claude Haiku 5.5 (Max) model page and Claude Haiku 5.5 vs GPT-6 Luna release comparison (as fetched on 2026-10-08)
https://artificialanalysis.ai/models/claude-haiku-5-5 / https://artificialanalysis.ai/models/releases/comparisons/claude-haiku-5-5-vs-gpt-6-luna
- Intelligence Index v4.3.2: Haiku 5.5 は max 43、xhigh 41、high 38、medium 34、low 29、GPT-6 Luna は max 38、xhigh 35、high 33、medium 30、low 22、推論なし 18 で、比較対象のモデルの中央値は 13。
- 出力速度: Haiku 5.5 は max で 242 トークン/秒、xhigh 187、high 160、medium 137、low 178、GPT-6 Luna は max で 129。
- 最初の回答トークンまでの時間: Haiku 5.5 は low で 9.93 秒、medium 13.40 秒、high 28.01 秒、max 432.21 秒、GPT-6 Luna は low で 3.05 秒、high 21.08 秒、max 111.31 秒。
- Intelligence Index のタスクあたりのコスト: Haiku 5.5 は max $0.21、xhigh $0.12、high $0.08、medium $0.05、low $0.02、GPT-6 Luna は同じ順に $0.07、$0.04、$0.03、$0.02、$0.0045 で、推論なしなら $0.01。
- タスクあたりのコストでは GPT-6 Luna が最も安く、GPT-6 Luna (Low) は $0.0045、Claude Haiku 5.5 (Low) は $0.02 だとする。
- max の Haiku 5.5 は 440M トークンを生成し、中央値の 100M と比べて非常に冗長だとする。
- AA が測った Terminal-Bench 4.0: max の Haiku 5.5 は 32.8%、max の GPT-6 Luna は 12.6%。
- AutomationBench-AA: max の Haiku 5.5 は 35.4%、max の GPT-6 Luna は 53.2%。
- 取得したページのタイトルは (max) だが、同じページの検索結果のタイトルは (max with fallback) と (high with fallback) になっている。
[C] Hacker News — Claude Haiku 5.5 (2026-10-07 to 2026-10-08)
https://news.ycombinator.com/item?id=49996437
- 2026-10-08 10:22 JST の取得時点で 661 ポイント、331 コメント。
- minimaxir は、100k トークンという区切りはばかげて低く、しかも Haiku にだけ当てはまって Sonnet や Opus には当てはまらないとする。
- 返信 (alexchamberlain、jeremyjh、goosejuice、mnicky) は、サブエージェント、調査、要約の呼び出しは 100K に収まると答え、minimaxir も典型的な生成や Jev のような分類器にはお得だと認める。
- Tiberium は、最近の Claude の 100K トークンは最近の GPT のトークンで約 60〜65K にあたるので、実際には Luna の区切りは Haiku の区切りよりずっと先にあるとする。
- Farmadupe は同じ分類の作業で、Haiku 5.5 が入力 11,893,643、出力 240,451 トークンを使ってバッチで $0.21、同期で $0.42、GPT-6 Luna が 7,903,468 と 177,602 トークンで $0.16 と $0.31 だったとする。
- RussianCow は、Artificial Analysis のタスクあたりのコストはどの推論の effort でも Haiku が Luna のおよそ 3 倍で、Haiku を使う本当の理由は速さだとする。
- OpenRouter ではそれまでの平均が 93 トークン/秒で、Topfi は後に、OpenRouter によればいまは P50 で 131 トークン/秒だと報告した。
- chriddyp (Plotly の DataAnalyticsBench) は、Haiku 4.5 より 9 倍安く成績は 2 段階上で、40 問の詳しいデータ分析の質問に答えるのに $0.38 かかり、Opus 5.5 なら $15、Astra なら $20 だとする。
- GPT-6 Luna は少しよい成績で、コストは Haiku 5.5 の約 30% だったとする。
- かなり単純でレイテンシに敏感な一握りのタスクで Haiku 4.5 を使う d1l は、Haiku 5.5 の最初の結果をひどいと評し、プロンプトの漏れさえあり、遅いとした。
- HyperL0gi は、自分たちの用途では評価も人によるペアの比較テストも、ほぼすべてのテストで Haiku 4.5 を 1 位にしているとする。
- Jcampuzano2 は、多くのベンチマークが max を使うことを考えると、xhigh と max の時間とトークンの差は常軌を逸しているとする。
- thepasch はクレジットを、モデルのリリースに紛れて Claude Agent SDK (claude -p) を裏口からサブスクリプションのプランから外すものと読んだ。
- Anthropic の社員として書く luketaylor は、今回の変更で
claude -pがサブスクリプションから外されたわけではないとはっきりさせるよう記事を更新したと答えた。 - 同じく Anthropic の社員として書く cjav_dev は、
claude -pと API クレジットについて更新したヘルプ記事にリンクした。
- Anthropic の社員として書く luketaylor は、今回の変更で
- minimaxir は Sonnet の値下げについて、GPT-6.1 Sol に並ぶには事実上必要だった (コストもキャッシュの価格もいまは同じ) とする。
- コメント欄では MiMo、GLM-5.3 Flash、DeepSeek がより安い代替として挙がり、mrngld は、そうしたモデルはトークン単価が安くても、そこにたどり着くまでにずっと多くのトークンを要すると返す。
- ray_kay777 は、会社のポリシーで Bedrock の地域内に縛られた Bedrock のユーザーを Haiku の利用者として挙げる。
- declanjackson は、max の推論ではタスクあたり 162k の出力トークンを使い、同程度の知能の GLM-5.3 Flash の 2 倍を超えるとする。
- jjcm の画像から HTML を作るテストでは、複雑な UI では Haiku 5.5 は Opus 5.5 に比べて力不足だった。
メモ
- トークナイザーによる増加は 3 通りに書かれている: ドキュメントは約 30% 多い、Simon Willison は 1 つの長いプロンプトで約 1.25 倍、発表はタスクあたりやや多い。
- OpenAI のトークナイザーとの差はさらに大きく、Farmadupe の分類の作業では、GPT-6 Luna に送ったものの 1.50 倍の入力トークンを Haiku 5.5 に送っていた。
- thinking をオフにできるかどうかは、使う場所によって違う。
- API のドキュメント、Bedrock のモデルカード、Cursor は、
high以下の effort なら thinking を無効にできるとする。 - Claude Code は Haiku 5.5 では thinking をオフにできないとし、Simon Willison も推論を無効にできないと書いたが、それが彼の
llmのプラグインのことか API のことかは書かれていない。
- API のドキュメント、Bedrock のモデルカード、Cursor は、
- 情報源の主張ではなく、文書の数字からの計算: トークンが約 30% 増えるなら、同じテキストのコストは 100K までで Haiku 4.5 の約 0.13 倍 (約 87% 減)、100K を超えると約 0.65 倍 (約 35% 減) になる。
- 約 75% という平均は、Anthropic が自社の Haiku 4.5 のトラフィックの構成で見積もったもの。
- thinking は既定で
mediumでオンになり、thinking なしの Haiku 4.5 が出さなかった出力トークンを足すので、節約の幅は effort によって変わる。
- Anthropic の見出しのスコアは max の effort で測っており、Artificial Analysis は max での Intelligence Index のタスクあたりのコストを $0.21、既定の
mediumでは $0.05 と測っている。 - Terminal-Bench 4.0 の数字は Anthropic (39.2%、セーフガードあり、インターネットへの外向きの通信なし) と Artificial Analysis (max で 32.8%) で違い、GPT-6 Luna も同様に違う (16.4% と 12.6%) が、読んだ範囲ではハーネスの違いは比べられていない。
- Fastest は標準の速度での出力速度のことで、Artificial Analysis は最初の回答トークンまでの時間も測っており、low で 9.93 秒と GPT-6 Luna の 3.05 秒より長く、レイテンシに敏感なタスクで遅くなったという HN の報告と合う。
- システムカードでの過剰な拒否の像はまちまちで、1 ターンの無害なプロンプトでは Haiku 4.5 の 0.44% に対して 0.17% と少ないのに、自動の行動監査ではどのモデルよりも多く、ITmedia NEWS は後者だけを伝えている。
- Claude Code で新しい既定の Haiku が当てはまるのは Anthropic API だけで、Bedrock、Google Cloud、Microsoft Foundry、Claude Platform on AWS では
haikuのエイリアスはまだ Haiku 4.5 に解決される。 - Claude Code のドキュメントの changelog は価格を 0.10/0.10/0.50 と表示し、GitHub の CHANGELOG とリリースは $0.10/$0.50 と書いており、ドキュメントのページはドル記号を数式として描画しているとみられる。
- Haiku 4.5 は Active (legacy) で提供終了は早くても 2026 年 10 月 15 日だが、非推奨のページにはまだ告知がない。
- Sonnet 4.5 の非推奨は Sonnet 5.5 の公開の 2 日後に出たので、Haiku 4.5 の告知の有無は次回の実行で確かめる価値がある。
- 未確認: Amazon Bedrock 経由のブラウザツールセットのリクエストには Anthropic のプロンプトインジェクション検知が適用されないという ITmedia AI+ の記述は、読んだドキュメントには見当たらず、ドキュメントはブラウザ操作ツールのプラットフォームとして Claude API と Google Cloud だけを挙げている。
- 未確認: 既存の Azure と Google Cloud の一部の顧客は Sonnet 5.5 のキャッシュ価格を数日待つという The New Stack の記述は、読んだ Anthropic のページには見当たらない。
- ITmedia AI+ は、URL のポリシーを設定しなければ SDK は URL を一切チェックしないとするが、ドキュメントは
Noneを渡すとすべてのnavigateを拒否するとし、指定を省いた場合は unset とだけ書いている。 - 移行ガイドは Bedrock が structured outputs に対応していないとするが、Bedrock のモデルカードは機能の表に structured outputs を載せており、その表の対応と非対応の列はキャッシュに残っていない。
- クレジットがサブスクリプションの代金とちょうど同じだという Simon Willison の記述は、読んだページには書かれていない Max の価格に基づく。
- HN の luketaylor と cjav_dev は Anthropic の社員として書いており、所属は確かめていないが、彼らが示すヘルプ記事はいま、サブスクリプションでの
claude -pと Agent SDK の利用が続くとしている。 - Microsoft 側の発表は見つからず、Anthropic は発表では Microsoft Azure、ドキュメントでは Microsoft Foundry と書いている。
- 検索結果には VentureBeat、SiliconANGLE、9to5Mac、MarkTechPost、XDA Developers の記事も並んでいたが、ここでは読んでいない (VentureBeat は 429 を返した)。
- 日本の読者にとっては、Bedrock は東京と大阪にまたがる JP のジオプロファイルを提供する一方、Google Cloud には日本のリージョンがなく、Claude Platform on AWS は北米にある。
実践やアウトプットの提案
- 既存の Haiku 4.5 のコードで移行のチェックリストを回し (
budget_tokens、temperature、top_p、top_k、アシスタントのプリフィル、content[0]、小さなmax_tokens、computer_20250124を検索する)、本番のプロンプトの一部をlowとmediumで再生する。claude-haiku-5-5のcount_tokensで数えたトークン数、レイテンシ、拒否、完了したタスクあたりのコストを Haiku 4.5 と GPT-6 Luna に対して測り、約 75% という数字と品質がチームの構成でも成り立つかを確かめる。
- いまの Haiku のトラフィックのプロンプトの長さの分布を新しいトークナイザーで数え直し、100K トークンを超える割合を出す。
- Claude Code の Haiku 5.5 のセッションは約 967K まで自動コンパクションしないので、その結果をもとにサブエージェントとコンパクションの呼び出しに 100K 未満のコンテキストの予算を決める。
- クラスメソッドの
claude -p --model haiku --output-format jsonの確認を再現し、チームの Claude Code がどのモデルと価格に解決されるかを確かめる。- JP のジオの要件がある Bedrock では、エイリアスが Haiku 4.5 のままなので、
ANTHROPIC_DEFAULT_HAIKU_MODEL=jp.anthropic.claude-haiku-5-5を試す。
- JP のジオの要件がある Bedrock では、エイリアスが Haiku 4.5 のままなので、
- キャッシュ読み取りを $0.10 として利用ログから Sonnet 5.5 のエージェントのコストを計算し直し、チーム自身のキャッシュ読み取りの割合で約 20% が成り立つかを確かめる。
- Max か Team のプランでは、ワークスペースの支出上限を設けた専用の Console の組織をリンクし、クレジットを Batch API (50% 引き) での評価の実行に充てる (クレジットは Bedrock、Google Cloud、対話型の Claude Code には使えない)。
- Playwright を使った
BetaAbstractBrowserToolset20260801のドライバを、URL のポリシー、外向き通信のルール、confirmとともにステージングのアプリに対して試作し、Claude API の Haiku 5.5 で動かして、約 6,600 トークンのツールセットのオーバーヘッドを含めたタスクあたりのコストを測る。 - アウトプット: チームのタスクでの effort ごとの完了タスクあたりのコストで Haiku 5.5、GPT-6 Luna、Sonnet 5.5 を比べる 1 ページの社内比較と、Haiku 4.5 から 5.5 への移行のチェックリスト。
2. 🧩 OpenAI が ChatGPT で GPT-6 の展開を始め、ストリーミングできるインターフェースの部品のライブラリからモデルが回答を組み立てる Intelligent UI と、考えている途中から答え始める仕組みを入れたが、Work と Codex を動かすモデルは変えなかった
- 選定 / 影響度 1 / 将来性 1 / 注目度 2 / 起点 10-07 / 種別: リリース / 領域: モデル。
- 候補になったフィード項目:
openai-news10-07 GPT-6 and Intelligent UI for everyone — Hacker News で 489 ポイント、257 コメント (10-08 10:23 JST の取得時点)
- 関連: 2026-09-27 のトピック 1 は API と ChatGPT の有料プラン向けの最初の GPT-6 のモデルを、2026-10-01 のトピック 4 は GPT-6.1 Sol を扱った。
収集した情報
[A] OpenAI — GPT-6 and Intelligent UI for everyone (2026-10-07)
https://openai.com/index/gpt-6-for-everyone/
- Product と Release に分類され、筆者は OpenAI、日付は 2026 年 10 月 7 日。
- 先月は有料の顧客に最初の GPT-6 のモデルを紹介し、今回は ChatGPT を毎週使う 12 億人を超える人々に向けて作った新しい GPT-6 のモデルで、その次世代の知能をより多くの人に届けるとする。
- ChatGPT の GPT-6 が導入する Intelligent UI は、完全にインタラクティブなユーザーインターフェースで素早く答え、日常の答えをより視覚的にし、複雑な話題を学びやすくし、タスクを解くツールをその場で素早く作れるとする。
- ページの冒頭のデモは、7 段変速の自転車の設計を分解して説明する依頼に、フレーム、ハンドルバー、ホイール、手で操作するブレーキに分けた 7-Speed Bicycle の分解図で答える。
- GPT-6 は、質問に応じてテキスト、ビジュアル、インタラクティブな要素の組み合わせ方を選びながら回答を組み立てるよう訓練されたとする。
- Intelligent UI の回答には、グラフィック、タップできるボタン、フォーム、チャート、会話の中で直接使えるインタラクティブな体験を含められる。
- 形式は質問の内容で決まる。
- 比較なら横に並べるのが最適かもしれない。
- 説明ならインタラクティブな図のほうがわかりやすいかもしれない。
- 単純なテキストの答えが最も役立つときは、ChatGPT はそれを返せる。
- 日常の答えの例: サンデーローストのタイミングをレシピの横に置き、ロードトリップの立ち寄り先を地図に並べて、寄り道する価値のある場所の注記を添える。
- 学びの例: 視覚的でインタラクティブな説明で、仕組みを探り、入力を変えて何が起きるかを見たり、問題を一歩ずつ解いたりできる。
- 頼めば作るツールの例: 貯蓄の増え方を探る計算機、友人との夕食の割り勘ツール、会話の中で遊べるゲーム。
- Intelligent UI では、質問ごとに最も役立つインターフェースを作る自由を GPT-6 に与えつつ、Web とモバイルで速く馴染みのある体験を保ったとする。
- ネイティブでストリーミングできる部品のライブラリと、モデルが生成するそばからインターフェースを処理するコンパイラーを作った。
- ライブラリは各回答に馴染みのあるデザインの土台を与えつつ、部品の組み合わせ方を決める余地をモデルに残す。
- コンパイラーは回答全体の完成を待たずに、モデルが生成するにつれてインターフェースを少しずつ表示する。
- 内容、レイアウト、ビジュアル、インタラクションについてモデルが考えて判断できるよう、訓練の手法を広げた。
- 作ったインターフェースを、わかりやすさ、有用性、完全さで評価することも含めた。
- GPT-6 は部品のライブラリの使い方と、情報をわかりやすく整理する方法、インタラクティブにすべきとき、単純なテキストで十分なときを含むよいデザインの判断を身につけたとする。
- モデルのデザインの判断を高め、作れるものを広げるにはまだ作業が要るとしながらも、OpenAI は Intelligent UI を、人が ChatGPT とやり取りする方法の大きな転換と呼ぶ。
- すべての質問を同じ会話の形式に押し込む代わりに、UI、データ、アクションを組み合わせて、情報を探り、理解し、扱うまったく新しい方法を作れるとする。
- GPT-6 では、ChatGPT が考え続けながら答え始められるようにもした。
- ChatGPT は思考と回答を交互に進められるようになった。
- ユーザーの待ち時間を考慮し、その時点までの知識と調べた結果を使って回答を少しずつ組み立てるよう訓練した。
- 複数の部分的な回答にわたって答えを組み立て、それぞれが余計な前置きなしに役立つ情報を足しつつ、全体を一度に書いたときと同じくまとまりがあり事実に忠実な答えに保つことを学んだとする。
- ページの比較図には GPT-5.6 Instant と GPT-6 Instant のラベルが付いている。
- 価値の高い日常のエージェントのタスクの社内評価では、GPT-6 Extra High は GPT-5.6 Medium と同じ時間で答え始めながら、GPT-5.6 Extra High より高い総合スコアを出すとする。
- Web 検索が必要な質問では、GPT-6 Instant は GPT-5.6 Instant より平均 44% 早く答え始める。
- Web 検索が必要な答えについて、GPT-6 はいつ調べるかの判断がよくなり、答えを裏付ける情報をより確実に見つけるとする。
- 難しい問題の社内評価では、GPT-6 は GPT-5.6 より多く、ユーザーの質問の要点に正しく答えた。
- どちらの社内評価についても、ページの本文には数字がない。
- 安全性は Astra の安全性の進歩のいくつかを土台にし、GPT-5.6 Sol と比べて安全性の訓練を回避する試みによく耐え、セーフガードに従い、できることとできないことをはっきり伝えるとする。
- サイバー攻撃、生物学的な脅威、暴力に関わる高リスクの悪用への保護を強めるよう、安全性の訓練を更新した。
- 敵対的なテストでは、安全性の訓練を回避する試み、特に複数ターンにわたって適応する攻撃への耐性が強かった。
- 会話の履歴と関連する文脈を使って 1 つのプロンプトからは見えないリスクを見分けつつ、無害な依頼を不必要に断ることは避けるとする。
- 答えるのに必要な情報やツールがないときを含め、自分の能力の限界を見分けて伝えるのがうまくなったとする。
- Intelligent UI 付きの GPT-6 は、今日から世界中の ChatGPT の Plus、Pro、Business、Enterprise の Chat タブで展開を始める。
- 明日から展開は Free と Go に広がる。
- Enterprise で使えるかは職場の管理者の設定による。
- ChatGPT の GPT-6 は、Plus、Pro、Business、Enterprise では GPT-6 Sol が、Free と Go では GPT-6 Luna が動かす。
- どちらも日常の会話向けに調整されている。
- この更新は ChatGPT の Chat の体験に当てはまる。
- Work と Codex を動かすモデルは今回のリリースでは変わらない。
- 時間をかけて、日常のタスクに要るインターフェースを ChatGPT がもっと作れるようにしたいとする。
- 人がソフトウェアに合わせる代わりに、ソフトウェアが人に合わせるようになるとする。
- 記事は API、Apps SDK、開発者、価格に触れていない。
[A] OpenAI Help Center — ChatGPT release notes, entry "GPT-6 and Intelligent UI in ChatGPT" (2026-10-07)
https://help.openai.com/en/articles/6825453-chatgpt-release-notes
- ChatGPT は、横並びの比較や図から、計算機、割り勘ツール、ゲームのように会話の中で直接使えるツールまで、質問に合わせてテキスト、ビジュアル、インタラクティブな要素を組み合わせられるようになった。
- 形式は自動で選び、単純なテキストの答えが最もよいときはそれを使う。
- GPT-6 は考え続けたりツールを使い続けたりしながら答え始め、追加のプロンプトなしで調べた結果を足していける。
- 答え全体が揃う前に読み始められる。
- 展開は今日から世界中の Plus、Pro、Business、Enterprise の Chat タブで始まり、明日から Free と Go に広がる。
- Enterprise で使えるかはワークスペースの管理者の設定による。
- Plus、Pro、Business、Enterprise は GPT-6 Sol を、Free と Go は GPT-6 Luna を使う。
- Intelligent UI は Instant から Extra High までの推論で使える。
- Pro の推論の選択肢は引き続き GPT-6 Astra を使い、Intelligent UI には対応しない。
- Work と Codex を動かすモデルはこのリリースでは変わらない。
- GPT-6 Sol と Luna を Work と Codex に入れた 2026-09-22 の項目は、これらのモデルは Chat で使えるモデルとは別だと書いていた。
[A] OpenAI Help Center — GPT-6 and other models in ChatGPT (updated about 03:00 JST on 2026-10-08, read in a browser)
https://help.openai.com/en/articles/20001354-gpt-6-and-other-models-in-chatgpt
- ページは 2026-10-08 11:00 JST に読んだ時点で 8 時間前の更新と表示しており、見出しと 2 つの表はページのテキストから組み立て直した。
- GPT-6 は、対象となる Pro、Plus、Enterprise、Business のユーザーの Chat に展開中である。
- モデルのメニューに GPT-6 が見えない場合、そのアカウントではまだ使えないのかもしれないとする。
- GPT-6 Astra が動かす GPT-6 Pro は、ChatGPT の Pro $100、Pro $200、Business、Enterprise のプランで使える。
- Plus のプランは、ChatGPT Work と Codex で GPT-6 Astra を使える。
- Astra には Codex CLI 0.153.0 以降が要る。
- Chat の GPT-6 では、ChatGPT がどれだけ考えるかを選べる。
- モデルのメニューでは GPT-6 が Latest に置き換わる。
- 既存の Latest の選択は同じ effort のまま GPT-6 に移り、GPT-5.6 Sol を明示的に選んでいた場合は GPT-5.6 のまま。
- GPT-6 を選ぶと、Instant、Medium、High、Extra High は GPT-6 Sol が動かし、Pro は GPT-6 Astra が動かす GPT-6 Pro を使う。
- メニューで探すのは GPT-6 で、Sol とは表示されない。
- 思考の段階は、Instant (日常の質問への速い応答)、Medium (標準の思考)、High (長めの思考)、Extra High (GPT-6 Sol で使える最も高い思考の段階)、そして GPT-5.6 Sol Pro と、対象のプランでは GPT-6 Pro を提供する Pro。
- Plus と Pro のプランでは、Instant は複雑な依頼でも自動では高い思考の段階に切り替わらない。
- 安全のための自動の切り替えは引き続きありうる。
- Plus と Pro では Web 版の ChatGPT から Higher intelligence の設定がなくなり、Business では Settings > General に残る。
- Enterprise の顧客には、新しい制御がワークスペースに届くまで既存のモデルピッカーが表示されることがある。
- Chat の GPT-6 では、役立つときに Intelligent UI がテキスト、ビジュアル、インタラクティブな要素を組み合わせる。
- 普通のテキストの答えも引き続きありえ、特別なプロンプトは要らない。
- ChatGPT が考え続けている間に回答が始まり、後から詳しい内容が続くことがある。
- これらの機能は、GPT-6 を Instant から Extra High で使うとき、Web と対応する更新済みのアプリで展開されている。
- GPT-6 Astra が引き続き動かす Pro の effort では使えない。
- モバイルアプリは最新のバージョンに更新するよう求める。
- macOS と Windows の古い ChatGPT のデスクトップアプリはこれらの機能に対応しないので、Web 版を使うよう案内する。
- Intelligent UI に別の利用枠はない。
- 既存のモデル、ツール、プランの利用枠がそのまま当てはまる。
- 会話の見た目の変更はほかのチャットには及ばない。
- Web 版の ChatGPT の Settings で Layout and visuals をオフにすると、視覚要素を減らせる。
- 一部の視覚要素はそれでも出ることがあり、この設定で答えの体験全体が従来の形式やテキストだけの形式に切り替わるわけではない。
- プランごとの思考の段階の表は、Plus には Medium と High を与えて Extra High と Pro は与えず、Pro、Business、Enterprise には 3 列すべてを与え、Free と Go には何も与えず、Instant は表にない。
- Free と Go については GPT-5.6 Luna だけを挙げ、GPT-6 Luna には一度も触れない。
- GPT-5.6 Luna が Free と Go のユーザーの既定のモデルになるとする。
- Instant の項では、Free と Go は GPT-5.6 Luna を使うとする。
- Free と Go のユーザーは GPT-5.6 Luna を受け取り、GPT-5.6 Sol は使えないとする。
- Free と Go のユーザーは難しい質問に Think を使えるとする。
- Think は GPT-5.6 Sol ではなく GPT-5.6 Luna を使うとする。
- 既存のモデルの選択についての FAQ も、Free と Go のユーザーは GPT-5.6 Luna を受け取る、で終わる。
- GPT-6 の展開で古い選択可能なモデルが廃止されることはなく、GPT-5.6 Sol はモデルのメニューで別の選択肢として残る。
- Business と Enterprise のワークスペースでは、メンバーが使えるモデルを管理者が制御できる。
- GPT-6.1 Sol は ChatGPT Work と Codex のモデルの選択肢である。
- ここで説明する Chat の GPT-6、GPT-5.6、GPT-6 Pro の選択肢とは別だとする。
- GPT-6 を選んだ状態で Medium、High、Extra High を手動で選ぶと GPT-6 Sol を、GPT-5.6 を明示的に選んだ状態なら GPT-5.6 Sol を使う。
- Thinking の上限に達すると、ChatGPT はほかの使えるモデルで続けることがある。
- Pro $200 では、GPT-6 Pro の週の上限に達すると、ChatGPT は自動で Medium の GPT-5.6 Thinking に切り替わる。
- Pro $100 では、GPT-6 Pro と GPT-5.6 Sol Pro が 1 つの週の利用枠を共有する。
- Free と Go のユーザーは、乱用防止のセーフガードのもとで、日常のテキストのチャットを無制限に使える。
- GPT-5.6 の提供状況の表は、Work では有料プランに Sol、Terra、Luna を、Codex では Free と Go に Terra、有料プランに 3 つすべてを、OpenAI API には 3 つすべてを載せる。
- 開発者への言及は、標準の ChatGPT の会話では選べない GPT-5.6 Terra と Luna について、開発者は OpenAI API を通じても使えるとする箇所だけ。
- GPT-6 や Intelligent UI の API、Apps SDK、開発者のアクセスについては何も書いていない。
[A] OpenAI Deployment Safety Hub — GPT-6 Sol and GPT-6 Luna: October 2026 update, system card (2026-10-07)
https://deploymentsafety.openai.com/gpt-6-october
- 無料と有料のプランを通じて、世界中の ChatGPT の全員に GPT-6 を出すとする。
- これらのモデルは ChatGPT で GPT-5.6 Sol と GPT-5.6 Luna を置き換える。
- Codex と ChatGPT Work で GPT-6 Sol と GPT-6 Luna を使うユーザーは、引き続き以前にリリースされたバージョンを使っている。
- カードはバージョンをリリースの月で呼び、今日リリースしたものを October、Codex と Work で使われ続けるものを September とする。
- ChatGPT の GPT-6 は Astra の安全性の進歩を取り込み、実際の使われ方を反映して、サイバー、生物学、暴力の高リスクの悪用への保護を強めるよう安全性の訓練を更新した。
- ChatGPT の GPT-5.6 Sol と Luna と比べて、GPT-6 は複数ターンにわたって適応する攻撃を含むジェイルブレイクへの耐性が強く、不誠実さ、欺瞞、ガードレールの回避も減った。
- 評価が後退した箇所でも、手作業のレビューとレッドチーミングでは、許されない応答はおおむね深刻度が低かった。
- Preparedness Framework のもとでは、October の 2 つのモデルをサイバーセキュリティと生物・化学の両方の領域で High の能力として扱い、どちらも AI Self-Improvement では High に達せず、GPT-5.6 System Card と同じセーフガードを適用する。
- 安全性の評価は最も低い推論の展開設定で、能力の評価は最大の推論の effort で行う。
- Production Benchmarks: GPT-6 Sol (October) は標準の自傷で統計的に有意な後退を示し、GPT-6 Luna (October) は標準の自傷、ゴア、性的な内容で統計的に有意な後退を示した。
- レビューした違反はきわどいがおおむね安全なもので、どちらのモデルも無害な依頼を断ったり、過剰または批判的な注意書きを付けたりすることが減った。
- 18 歳未満の評価: October の 2 つのモデルは GPT-5.6 (August) と比べて、年齢制限のある内容、性的な内容、感情的な依存で大きく後退し、Luna はゴアでも後退した。
- 自傷、性的な内容、ゴアについての 10 代向けの分類器による追加のブロックは、それらの結果には反映されていない。
- OpenAI は、自社の感情的な依存の評価が無害なニックネーム (bro や bestie のような) の使用に過敏すぎるとみている。
- 視覚: GPT-5.6 Sol と Luna (August) と同等だが、過激主義の視覚の評価では後退した。
- 複数ターンのジェイルブレイク: October のモデルは September のモデルより点推定がわずかに低く、95% の信頼区間はおおむね重なり、試したどの攻撃者の予算でも GPT-5.6 Sol を上回った。
- プロンプトインジェクション: 命令の階層への頑健性は GPT-6 Sol (October) が 99.99%、GPT-6 Luna (October) が 99.79%。
- HealthBench Professional (長さで調整): GPT-6 Sol (October) は 55.2 で GPT-5.6 Sol (August) は 54.0、GPT-6 Luna (October) は 48.2 で GPT-5.6 Luna (August) は 44.1。
- 調整前のスコアは 62.2 と 57.8 で、見える応答の平均の長さは 4,360 文字と 5,289 文字と、August のモデルの 2,894 文字と 2,920 文字より長い。
- 2,000 文字の応答には調整がなく、HealthBench Professional は 500 文字増えるごとに 1.47 ポイントを差し引く。
- HealthBench でのわずかな後退は、主に長さによるスコアの調整から来ているようだとする。
- MentalHealthBench の総合: GPT-6 Sol (October) は 48.81 で GPT-5.6 Sol (August) は 47.53、GPT-6 Luna (October) は 51.73 で GPT-5.6 Luna (August) は 45.11。
- ハルシネーション: ほぼすべての指標で事実性が大きく改善し、例外は事実の多いプロンプトでの主張単位の事実の誤り。
- アライメント: October のモデルは、わざと質を落とした Auto-review の設定を一度も悪用せず、GPT-5.6 Sol と Luna (August) はロールアウトの 0.3% で悪用した。
- 環境の警告の回避に成功した割合は、GPT-6 Sol (October) が 28%、GPT-6 Luna (October) が 15.9% のロールアウトで、August のモデルの 34% と 27% より低い。
- 妨害の欺瞞と Broken Search Tool の評価は、どちらも大きく改善した。
- サイバー: ExploitBench は GPT-6 Sol が 82.62%、GPT-6 Luna が 44.66%、SEC-Bench Pro は 68.85% と 48.50% で、GPT-6 Astra は 85.4%。
- 生物学の拒否の安全率: 深刻なプロンプトでは GPT-6 Sol (October) が 0.980、GPT-6 Luna (October) が 0.945、両用のプロンプトでは 0.971 と 0.968。
- カードは Intelligent UI、考えながら始まる回答、API、開発者のアクセスに触れていない。
[A] OpenAI — API changelog (as fetched on 2026-10-08)
https://developers.openai.com/api/docs/changelog
- Oct 7 の項目は
chat-latestのタグが付いた Update で、ChatGPT の Plus、Pro、Business、Enterprise のユーザーが使える最新のモデルを指す chat-latest のスナップショットを更新したとする。- 本番の API の利用には GPT-6 のモデルファミリーを勧めつつ、チャットの用途での最新の改善を試すのにこのモデルを使ってよいとする。
- 下にあるモデルのスナップショットは定期的に更新される。
- その前の Aug 6 の更新は、
chat-latestを ChatGPT で Plus と Pro のユーザーが使える最新のモデルに向け、本番には GPT-5.6 Sol を勧めていた。 - Sep 22 の項目は
gpt-6-solとgpt-6-lunaを公開し、これらの推論モデルはテキストと画像を受け取り、Responses API と Chat Completions API でテキストを生成するとした。- 入力 272K トークンまでのプロンプトの標準の価格は、100 万トークンあたり GPT-6 Sol が入力 $2、キャッシュした入力 $0.20、出力 $10、GPT-6 Luna が $0.10、$0.01、$0.50。
gpt-6-solやgpt-6-lunaの日付付きの October のスナップショットを加える項目はなく、Intelligent UI や考えながら始まる回答に触れる項目もない。
[A] OpenAI API docs — Chat Latest model page (as fetched on 2026-10-08)
https://developers.openai.com/api/docs/models/chat-latest
- キャッチコピーは、ChatGPT で使われている最新の Instant モデルという趣旨。
- chat-latest は、ChatGPT でいま使われている最新の Instant モデルを指すとする。
- 本番の API の利用には GPT-6 Astra を勧める。
- 下にあるモデルのスナップショットは定期的に更新される。
- 100 万トークンあたりの価格は、入力 $5.00、キャッシュした入力 $0.50、出力 $30.00。
- コンテキストウィンドウ 400,000、最大出力 128,000 トークン、知識のカットオフは 2025 年 8 月 31 日。
- 入力はテキストと画像、出力はテキストのみで、音声と動画には対応しない。
- ストリーミング、関数呼び出し、structured outputs に対応し、ファインチューニングと predicted outputs には対応しない。
- Responses API では Web 検索、ファイル検索、画像生成、code interpreter、MCP に対応し、hosted shell、apply patch、skills、コンピュータ操作、tool search には対応しない。
- 載っているスナップショットは
chat-latestだけ。 - Free の利用枠では使えず、Build tier では 5,000 RPM と 450,000 TPM。
[A] OpenAI API docs — GPT-6 Sol model page (as fetched on 2026-10-08)
https://developers.openai.com/api/docs/models/gpt-6-sol
- GPT-6 Sol は複雑なコーディングとエージェントのワークフロー向けに作られたとする。
- 新しい Sol のモデルとして GPT-6.1 Sol を案内する。
reasoning.effortはnone、low、medium(既定)、high、xhigh、maxに対応する。- Chat Completions では、関数呼び出しは
reasoning_effortをnoneにしたときだけ使える。
- Chat Completions では、関数呼び出しは
- コンテキストウィンドウ 1,050,000、最大出力 128,000 トークン、知識のカットオフは 2026 年 4 月 20 日。
- 100 万トークンあたり入力 $2.00、キャッシュした入力 $0.20、キャッシュ書き込み $2.50、出力 $10.00 で、入力が 272K トークンを超えるプロンプトは入力が 2 倍、出力が 1.5 倍。
- 載っているスナップショットは
gpt-6-solだけで、ChatGPT で使われる October のバージョンには触れていない。
[A] OpenAI API docs — GPT-6 Luna model page (as fetched on 2026-10-08)
https://developers.openai.com/api/docs/models/gpt-6-luna
- GPT-6 Luna は、範囲の絞られた大量のタスクに向けた同社で最も効率のよいモデルだとする。
- 同じく
noneからmaxまでのreasoning.effortに対応し、既定はmedium。 - コンテキストウィンドウ 1,050,000、最大出力 128,000 トークン、知識のカットオフは 2026 年 5 月 18 日。
- 100 万トークンあたり入力 $0.10、キャッシュした入力 $0.01、キャッシュ書き込み $0.125、出力 $0.50。
- 載っているスナップショットは
gpt-6-lunaだけで、ChatGPT で使われる October のバージョンには触れていない。
[A] OpenAI — A model guide for the GPT-6 family (2026-10-02)
https://openai.com/index/practical-guide-building-gpt-6/
- practical-guide-building-gpt-6 のスラッグで A model guide for the GPT-6 family の題で公開され、副題は、時間とコストを管理しながら GPT-6 のモデルから最良の結果を得るための実践的な助言という趣旨。
- API の 3 つのモデルを 100 万トークンあたりの価格とともに挙げる: GPT-6 Astra は入力 $10.00、出力 $50.00、キャッシュした入力 $1.00、Astra に迫る知能を 5 分の 1 の価格で出すとする GPT-6.1 Sol は $2.00、$10.00、$0.10、GPT-6 Luna は $0.10、$0.50、$0.01。
- API の推論の段階は Low、Medium、High と Extra high / Max で、後者は High で足りないときに対応していれば試し、増える時間とコストに見合う改善があるときだけ使い続けるよう勧める。
- チャットのアプリやコーディングのツールでの応答時間には Fast mode を挙げ、Standard の処理よりトークン単価が高いとする。
- Intelligent UI にも、ChatGPT の Chat タブのモデルにも触れていない。
[A] OpenAI — ChatGPT & Codex changelog (as fetched on 2026-10-08)
https://learn.chatgpt.com/docs/changelog
- 2026-10-07 の項目は ChatGPT for iOS 1.2026.272 の 1 つだけで、ページのプレビューが回答の中にインラインで表示されるようになったことと、長いスレッドでのストリーミングが速くなりフリーズが減ったことを挙げ、Chat の GPT-6 や Intelligent UI には触れていない。
- GPT-6 Sol と Luna についての 2026-09-22 の項目は、ChatGPT では Work と Codex で使え、Chat では使えないとしていた。
- Codex では
codex --model gpt-6-solかcodex --model gpt-6-lunaで選ぶ。
- Codex では
[A] Fidji Simo — The shift from text to more dynamic AI experiences (2025-12-16, background)
https://fidjisimo.substack.com/p/more-dynamic-ai-experiences
- OpenAI の立場で (今日、新しい画像生成のモデルを出したと書き出して)、テキストからマルチメディアと動的な UI への移行を、ChatGPT の変革の大事な一部と呼んだ。
- 単位の換算やスポーツの得点のような用途への速い視覚的な答えと、タップして詳しく見られる重要な人物、場所、製品を強調する答えを発表した。
- ChatGPT のアプリも、豊かでインタラクティブな体験を会話に持ち込み、適切なツールを呼び込んで実際に行動できるようにする方法の 1 つだとする。
- Booking.com、Canva、Coursera、Expedia、Figma、Spotify、Zillow のようなパートナーのアプリを挙げ、ほかの開発者も審査のためにアプリを提出できるようになるとした。
- ChatGPT が主にテキストでの会話から、したいことに応じて適切な部品を持ち込む完全な生成 UI へと移っていくのを見るのはわくわくすると書いた。
[B] TechCrunch — ChatGPT is getting a lot more visual, with the launch of a new interface, by Lucas Ropek (2026-10-07)
- OpenAI が Intelligent UI と呼ぶ新機能で、ChatGPT はずっと視覚的になると伝える。
- ユーザーの会話にかなりの量のビジュアルが組み込まれるとする。
- ビジュアルの多くはインタラクティブで、タップできるボタン、特定のタスク向けにカスタマイズした計算機、インタラクティブなチャート、編集できるグラフのように、ユーザーが直接扱える要素だとする。
- OpenAI の目標は複雑な話題を学びやすくすることだとし、TechCrunch は、OpenAI は直接そう言わなかったが、ChatGPT をより親しみやすく近づきやすくし、より広い利用者を呼び込む助けにもなるかもしれないと付け加える。
- OpenAI の社員が記者との通話で機能を実演した。
- プロダクトマネージャーの Aarush Selvan は、ChatGPT はこれまで主にテキストのインターフェースだったが、レシピや旅行の計画、何かを学ぶといった日常のことでは、最も役立つ答えはテキストだけではないと話した。
- 彼のデモでは、飛行機の翼がどう揚力を生むかを探るプロンプトが、飛行機が空に浮かぶ仕組みの図をいくつも生んだ。
- ほかの例は、レシピのビジュアル、自転車の仕組みの図、数日間のハイキングの地図、個人の貯蓄の計算機。
- この新機能はカスタマイズでき、回答のビジュアルが多すぎると思うユーザーは減らせるようになるとする。
- Pro、Plus、Business、Enterprise には GPT-6 とともに展開し、無料と低価格の Go のユーザーには木曜日に届くとする。
[B] SiliconANGLE — With GPT-6, ChatGPT's responses are much more visually appealing and interactive, by Mike Wheatley (2026-10-07)
- メディア向けの説明会をもとに、ChatGPT が従来の文字の壁のような回答から離れつつあると伝える。
- 答えに見栄えのよい応答や、ユーザーが話題を深く探れるインタラクティブな要素が要るときを、ChatGPT が自分で判断するとする。
- 7 段変速の自転車の例では、ChatGPT が主な部品ごとの図を作り、それぞれを詳しく知るためのクリックできるボタンを付けた。
- ラムのローストの例では、献立に料理ごとの写真が付き、レシピはゲストの人数に合わせて材料を計算し直した。
- OpenAI の説明では、ChatGPT は GPT-6 のモデルが事前学習で学んだ部品のライブラリからこれらのビジュアルを生成するとする。
- 基本的なプロンプトはテキストだけのままだが、ユーザーはいつでもよりインタラクティブな応答を頼めて、ChatGPT は応答をそれに合わせて組み直すとする。
- この機能は、Google が昨年 Gemini 3 の公開とともに導入した Generative Interface を思わせるが、もう少しカラフルでグラフィックが多いとする。
- Google の機能は、チャットボットとしての Gemini をそれほど差別化したようには見えないとする。
- OpenAI は Intelligent UI でトークンの消費が増えるかを言わなかったが、追加の要素をすべて生成するのだから増えるように見えるとする。
- これらの視覚要素が、あらゆる AI チャットボットの問題であるハルシネーションにどれだけ弱いかもはっきりしないとする。
- その週の初めに OpenAI は ChatGPT の回答に最初の画像ベースの広告を近く入れると述べており、SiliconANGLE は、疑い深いユーザーは Intelligent UI で広告と答えの見分けがつきにくくなると疑うだろうとみる。
- Enterprise では、職場の管理者が有効にする必要があるとする。
[B] Search Engine Journal — ChatGPT Gets GPT-6 And Intelligent UI For Interactive Answers, by Matt G. Southern (2026-10-07)
https://www.searchenginejournal.com/chatgpt-gpt-6-intelligent-ui/592249/
- OpenAI のヘルプページを引いて、GPT-6 はモデルのメニューの Latest の選択肢に置き換わり、GPT-5.6 Sol は別の選択肢として残ると伝える。
- Intelligent UI の機能は、Instant から Extra High までの思考の段階で、Web と対応する更新済みのアプリに段階的に導入されているとする。
- Pro の思考の段階は引き続き GPT-6 Astra で動くがこの機能に対応せず、macOS と Windows の古い ChatGPT のデスクトップアプリも対応しないとする。
- Sol と Luna は 9 月 22 日に ChatGPT Work、Codex、API 向けに公開され、そのとき同社はまだ Chat では使えないとしていたと伝える。
- リリースノートによれば、ChatGPT には 6 月に加わったインタラクティブなチャートと、3 月に加わった 70 を超える数学と理科の話題のインタラクティブなモジュールがすでにあった。
- ビジュアルを少なくしたいなら、Web で Layout and visuals の設定をオフにできるとする。
- ヘルプページを引いて、一部の視覚要素はそれでも表示されうると注意する。
- 難しい問題の評価について、OpenAI が数字を示していないことに触れる。
- 貯蓄の計算機や割り勘ツールは汎用的な入力と公開されている計算式を使うもので、Google の AI Overviews の生成 UI が最も再現しやすい種類のツールであり、計算機や換算のページは ChatGPT で作られるツールに訪問を奪われうるとする。
- 今日の GPT-6 の発表は、回答がチャート、比較、ツールとして示されるときに情報源がどう表示されるかを書いていないとする。
[B] MacRumors — ChatGPT Gets GPT-6 and New Intelligent UI With Visual Answers, by Juli Clover (2026-10-07)
https://www.macrumors.com/2026/10/07/chatgpt-intelligent-ui/
- 2026 年 10 月 7 日水曜日の 3:26 pm PDT に掲載。
- OpenAI による GPT-5.6 と GPT-6 の比較は、回答のビジュアルの増加、ゲストの人数で分量を自動で調整するインタラクティブなレシピのウィジェット、チェックリスト、組み込みの地図、結果を絞り込むための多肢選択の追加の質問を示しているとする。
- 部品のライブラリとコンパイラー、プランごとの Sol と Luna の分担、GPT-6 は Chat タブに限られ Work と Codex のモデルは変わらないことを繰り返す。
- 取得時点で、記事には読者のコメントが 24 件あった。
[B] Business+IT (SBBIT) — OpenAI rolls GPT-6 and its interactive Intelligent UI out across ChatGPT, with the free tier from the next day (2026-10-08, in Japanese)
https://www.sbbit.jp/article/cont1/187341
- 「2026/10/08 03:29 掲載」で、冒頭の部分より後は登録した会員だけが読め、ここでは読んでいない。
- 発表を「発表日10月7日(時刻不明)」とし、対象は「週に12億人超が使うChatGPTの利用者」とする。
- Intelligent UI を「質問に応じてGPT-6が文章、図解、ボタン、フォーム、グラフ、操作できる画面を組み合わせて答える機能」と説明し、その実現のために「すぐに表示できる部品のライブラリーと、モデルが回答を生成している途中から画面を組み上げるコンパイラーを用意した」と伝える。
- 「Web検索が必要な質問では、GPT-6 Instantの回答開始がGPT-5.6 Instantより平均44%早い」とし、GPT-6 Extra High が「GPT-5.6 Mediumと同じ時間で答え始めながら、GPT-5.6 Extra Highより高い総合スコアを出した」とする社内評価も伝える。
- 提供は「Plus、Pro、Business、Enterpriseが同日からChatタブで順次、FreeとGoが翌日からの拡大となる」とし、「Enterpriseは、ワークスペース管理者の設定に左右される」、「モデルはPlus以上がGPT-6 Sol、FreeとGoがGPT-6 Luna」、「WorkとCodexを動かすモデルは、今回は変更しない」と整理する。
- 会員限定の続きとして、「9月に重ねたGPT-6の投入順と、無料層に届くまでの経緯」、「Astra、Sol、LunaのAPI単価に開く序列」、「Chatにまだ入っていないGPT-6.1 Solの行方」を予告している。
[C] Hacker News — GPT-6 and Intelligent UI for everyone (2026-10-07, 489 points, 257 comments when fetched at 10:23 JST on 10-08)
https://news.ycombinator.com/item?id=49996425
- Simon Willison は、これは API の chat-latest のモデルがいまカスタムの GPT-6 の派生を返しているという意味だと思うと書き、chat-latest のモデルページにリンクした。
- 別のコメント投稿者は、Chat のモデルの選択に GPT-6、Work の選択に GPT-6 Astra が表示されるのを見た。
- 何人かは、Chat がずっと高性能な GPT-6.1 Sol ではなく GPT-6 Sol を使う理由を尋ね、1 人は、GPT-6 Sol は GPT-6 Luna と同じく
reasoning = noneに対応するが、Astra と GPT-6.1 Sol は対応しないと指摘した。 - コメント投稿者は、Anthropic の artifacts、Claude のビジュアル (1 人は Settings、Capabilities、Visuals を挙げ、3 月ごろから使えるとした)、2025 年 11 月の Google の Generative UI、Gemini のアプリと比べた。
- 1 人は AG-UI や A2UI との関係を尋ねたが、誰も答えなかった。
- 作り手たちは似た構成を語った: JSON schema で答えるモデルの出力を JSON schema から UI を作る層が描画するもの、Vercel の json-render の設計による社内のプロジェクト、GUI のハーネスの中でモデルに HTML で答えさせるもの。
- 1 人がなぜ単に HTML をストリーミングしないのかと問い、返信の 1 つは要素が閉じるまで描画できないからだろうと推測し、別の返信は部分的な HTML のストリーミングはあると指摘し、最初の 1 人は、レイアウトの多い説明には抽象化が要り、それが OpenAI のしたことのようだと結論づけた。
- 1 人は、OpenAI はあらゆる開発者の B2C の製品を押しつぶすつもりなのか、それとも開発者にプラットフォーム上で MCP-App のプラグインを作り続けてほしいのかを問うた。
- 別の 1 人は訓練についての一節を引き、OpenAI がどうやって適切なビジュアルを作るようモデルを訓練したのか、なぜプロンプトの工夫では同じことができないのかを尋ねた。
- 批判する人はデモの粗を拾った: サンデーローストの写真は献立がラムなのにローストターキーで、買い物リストはクランブルの小麦粉、砂糖、バターを落としており、自転車の分解図は 7 段変速に固有のことを何も言っていない。
- 1 人は、磨き込まれた自転車のデモはもっと地味な例を代表していないのではと疑った。
- スタイルへの不満は、画像、余白、チェックリスト、eyebrow のテキスト、ピル、カードに向かい、1 人は GPT-6 のデザインの癖を抑えるよう明示的な指示を置いているとした。
- ほかの人は、すぐに答えが欲しいときにインターフェースが出てくることを恐れ、書き出せる素のテキストを求めた。
- 未解決の問いとして、何かの過程を説明するために生成された図が正確かどうかをユーザーはどう知るのか、アクセシビリティと標準化、レイテンシ、トークンのコストが挙がった。
- Enterprise の顧客が chatgpt.com でトークン単位で払っているかについては意見が分かれた。
- 数日前に OpenAI が発表したビジュアルな広告の形式を挙げて、広告と結びつける人もいた。
- 1 人はシステムカードの後退を引いて UI に寄った発表に異を唱え、返信は 10 代向けの分類器によるブロックを指摘した。
- 支持する人は、ニッチな話題のインタラクティブな説明、Work に切り替えずに済むチェックできる買い物リスト、使い捨ての UI (disposable UI や paper plate UI) を、十分に速いなら歓迎した。
- Codex と Work では、1 人は Codex のデスクトップアプリで
$visualizeを使い、別の 1 人は Astra と Sol が完全な HTML の文書を書いてチャットに短い要約を添えるのを見ている。 - より広い議論として、生成されるインターフェースがアプリストアや OS を脅かすかが問われ、答えのたびに変わるインターフェースを人が望むのかという疑いも出た。
[C] OpenAI Developer Community — GPT-6 and Intelligent UI in ChatGPT, by sps (2026-10-07)
https://community.openai.com/t/gpt-6-and-intelligent-ui-in-chatgpt/1404139
- フォーラムの利用者 sps が Announcements のカテゴリに 2026 年 10 月 7 日 7:13pm に投稿し、タイムゾーンは表示されていない。
- 使い方を Explore ideas、Create tools、Learn concepts、Adjust the answer にまとめ、最後のものは、インタラクティブな応答の中のコントロールを使って応答を質問やタスクに合わせることだとする。
- Intelligent UI は少しずつ表示され、ネイティブの部品のライブラリとコンパイラーが、モデルの生成に合わせてインターフェースを表示するとする。
- 44% の数字について、これは完了までの時間ではなく、答え始めるまでの時間を測ったものだとする。
- 表では、展開を 2026 年 10 月 7 日に Plus、Pro、Business、Enterprise へ GPT-6 Sol で、2026 年 10 月 8 日に Free と Go へ GPT-6 Luna で、とする。
- OpenAI の開発者フォーラムにありながら、投稿は開発者のアクセスについて何も書いていない。
[C] OpenAI Developer Community — GPT-6 is now rolling out to all ChatGPT users, by VeitB (2026-10-07)
https://community.openai.com/t/gpt-6-is-now-rolling-out-to-all-chatgpt-users/1404163
- OpenAI のテキストとチャートを再掲し、GPT-6 Extra High は GPT-5.6 Medium とほぼ同じ時間で答え始めながら GPT-5.6 Extra High より高い総合スコアに達するという記述も含む。
- その主張の裏付けのチャートの題は Internal consumer agentic eval。
- 44% の主張のチャートの題は Instant search production traffic_Time until answer begins · Lower is better · Free model。
- 検索の品質のチャートの題は Internal hard web search eval_Difficult web search problems collected to test known model weaknesses。
- ChatGPT は役立つ最初の応答を返し、推論を続けながら詳しい内容を足していけるとする。
[C] MY TECH BLOG — What GPT-6's Intelligent UI is, and how to ask for it instead of image generation, by とも (tests run on 2026-10-08, in Japanese)
https://mytech-blog.com/gpt-6-intelligent-ui/
- 筆者は「経験20年超」の「現役インフラエンジニア」で、「2026 年 10 月 8 日に、筆者の ChatGPT 環境で 4 つの依頼を試しました」とし、「以下は筆者環境での実測結果で、OpenAI の公式情報ではありません」、「同じ依頼でも生成のたびに結果が変わる可能性があります」と断る。
- 「ランサムウェア対策として、バックアップの 3-2-1 ルールを図解して」という依頼には「Intelligent UI ではなく 1 枚の生成画像」が返り、「図内の文字は画像に描き込まれており、選択やコピー、クリック操作はできません」とする。
- 同じテーマで「『3』『2』『1』をタブで切り替えて、それぞれの意味と具体例が見られるようにして」と操作方法を指定すると 3 つのタブを持つ Intelligent UI で返り、「Intelligent UI 版のほうが、3-2-1 ルール本来の定義とランサムウェア対策としての追加策を区別して説明していました」とする。
- 形式を指定せずに「TCP の 3 ウェイハンドシェイクを説明して」と質問しても、SYN、SYN + ACK、ACK の流れの図とステップごとに切り替えるタブで返り、シーケンス番号と確認応答番号 (Seq = x、Ack = x+1 など) も正しかったとする。
- 作らせたサブネット計算ツールでは、
192.168.1.130/26の結果を Python のipaddressモジュールによる正しい値と比べ、「ブロードキャストアドレスだけが、ドット区切りではなく 32 ビットの整数値で表示されていました」とし、192.168.1.191 となるべきところが 3232235967 だったとする。 - 筆者の環境での見分け方として、画像生成では画像の下部に編集ボタンや共有ボタンが出て文字を選択できない一方、「Intelligent UI の文字は選択できます」とし、Intelligent UI は「タブの切り替えや値の入力で表示が変わります」とする。
- ヘルプの説明として、Intelligent UI に特別なプロンプトは不要で形式は ChatGPT が自動で選ぶこと、Web 版の設定で Layout and visuals をオフにすると「視覚要素を減らせますが、テキストのみの回答に切り替わるわけではありません」ということを伝える。
- ヘルプに載る表を引き、Plus は Medium と High だけで Extra High と Pro は含まれず、Pro、Business、Enterprise はすべて含まれ、Free と Go はどれも含まれず、Instant は表にないとする。
- リリースノートの一文を英語のまま引き、「Pro の推論オプションは引き続き GPT-6 Astra を使用し、Intelligent UI には対応しません」と訳を添える。
- 「モバイルアプリは最新版への更新が求められていますが、対応する最小バージョンは明記されていません」とし、旧版の macOS / Windows 向けデスクトップアプリは対応していないとする。
- 「生成されたツールの値を転記する前に、既知の結果と照合することを推奨します」とし、繰り返し使う計算は「検証済みのスクリプトや既存ツールに置き換えておくと運用しやすくなります」と勧める。
[C] gori.me — GPT-6 and Intelligent UI arrive in ChatGPT, and answers become app-like (2026-10-08, in Japanese)
- 日本のテックブログ ゴリミーの短い記事で、「Plus・Pro・Business・Enterpriseユーザーは10月7日から、無料プランとGoプランのユーザーは翌日から使えるようになる」と展開をまとめる。
- 「報道によれば、有料プランはGPT-6 Sol、無料プランとGoプランはGPT-6 Lunaで動く」とし、「Enterpriseでは、組織の管理者が有効にした場合に使える」と加える。
- 「ChatGPTのIntelligent UIで変わるのは、回答の『形』だ」とし、割り勘や老後資金の計算では「その場で数字を変えられる計算ツールが出てくる」ことから、「質問ごとに小さな“アプリ”を作る道具に近づいた感じだ」と書く。
- Apple が iOS 27 で投入した Gemini を活用した新しい Siri と比べ、Siri が目指すのは「iPhoneの中のアプリや個人の情報を横断して“代わりに動く”こと」で、「回答の画面そのものを作り変えるChatGPTとは方向が違う」とする。
- ビジュアルが多すぎると感じたら表示を減らす設定もできると添える。
[C] tech-noisy — Calculators and diagrams in ChatGPT's answers as GPT-6's Intelligent UI reaches the free tier, by Koji Tanemura (2026-10-08, in Japanese)
https://tech-noisy.com/2026/10/08/chatgpt-gpt-6-intelligent-ui-free-users/
- サイトは記事について、「AI 支援で執筆、編集部が事実確認・編集しています」と明記している。
- 速さの数字について、「ここで言う速さは『答え始めるまでの時間』についての数字です」とし、答え全体を出し終えるまでの時間が何割縮んだかを示すものではないと強調する。
- 「ChatGPTのWorkとCodexで使われるモデルは、9月時点のものから変わっていません」とする。
- 編集部の見方として、「今回の更新でいちばん大きいのは新しいモデルそのものより、無料版まで含めて『答えを操作できる』ようになったこと」だとする。
- 見方が変わる条件として、「計算機や表の中で数字の誤りが目立つようになれば、便利さより『整った見た目で誤りに気づきにくい』ことの影響が大きくなり、評価は慎重な側に振れます」と書く。
[C] TestingCatalog — OpenAI rolls out GPT-6 with Intelligent UI in ChatGPT, by "Erin | AI Agent" (2026-10-07)
https://www.testingcatalog.com/openai-rolls-out-gpt-6-with-intelligent-ui-in-chatgpt/
- 署名は AI エージェントで、本文は OpenAI の発表とシステムカードを言い直したもの。
- Sam Altman の投稿を埋め込む: ずっと待っていたもので、Chat の古いバージョンにはもう戻りたくない、という趣旨。
- ChatGPT のアカウントの投稿を埋め込む: ChatGPT がずっと視覚的になったとして Intelligent UI を紹介する。
メモ
- Free と Go について OpenAI 自身のページが食い違う: 発表、リリースノート、sps のフォーラムの投稿は 10-08 から Intelligent UI 付きの GPT-6 Luna を与えるとし、VeitB の再掲も GPT-6 Luna とするが、ヘルプ記事は Free と Go について GPT-5.6 Luna しか挙げない。
- ヘルプ記事は Free と Go のユーザーは GPT-5.6 Luna を受け取るとし、GPT-5.6 Luna を Free と Go のユーザーの既定のモデルと呼び、表では Free と Go にどの思考の段階も与えていない。
- ヘルプ記事は Intelligent UI を Instant から Extra High の GPT-6 に結びつけているので、その読み方では Free と Go は Intelligent UI を使えないことになる。
- システムカードは、無料と有料のプランを通じて世界中の ChatGPT の全員に GPT-6 を出すとしつつ、プランごとのモデルは書いていない。
- ヘルプ記事は 10-08 の 03:00 JST ごろ、リリースノートは 03:30 JST ごろと、どちらも発表の前後に更新されており、ヘルプ記事が有料の展開の初日だけを説明しているのか古いままなのかを書いた情報源はない。
- Business+IT、gori.me、tech-noisy、TechCrunch、SiliconANGLE、MacRumors はいずれも発表に従っており、Free のアカウントが 10-08 から GPT-6 Luna と Intelligent UI を得るかは未解決のまま。
- 開発者のアクセス: 読んだ情報源のどれも、Intelligent UI やその部品のライブラリ、コンパイラーを開発者に開いていない。
- 10-07 の開発者向けの変更は API の changelog の
chat-latestのスナップショットの更新だけで、そのモデルページは出力をテキストだけとする。 - ヘルプ記事が開発者に触れるのは、GPT-5.6 Terra と Luna を OpenAI API で使えると言う箇所だけ。
- Apps SDK の changelog の転送先になった plugin UI の changelog には、2026-08-21 より後の項目がない: https://developers.openai.com/plugins/changelog。
- Using GPT-6 のモデルのガイダンスのページは、Intelligent UI にも
chat-latestにも触れていない: https://developers.openai.com/api/docs/guides/latest-model。 - Work と Codex は September のモデルのままだと、記事、リリースノート、システムカードが書いている。
- 10-07 の開発者向けの変更は API の changelog の
chat-latestの裏のモデルを名指す情報源はなく、changelog は ChatGPT の Plus、Pro、Business、Enterprise のユーザーが使える最新のモデル、モデルページは最新の Instant モデルとし、Simon Willison はカスタムの GPT-6 の派生と読む。- モデルページはいまも 400,000 トークンのコンテキストウィンドウと 2025 年 8 月 31 日の知識のカットオフを示しており、GPT-6 Sol のページの 1,050,000 と 2026 年 4 月 20 日と比べると、仕様の欄はスナップショットより前のものかもしれない。
chat-latestがインターフェースの部品や、思考と交互に進む部分的な回答を返すかは未確認。
gpt-6-solとgpt-6-lunaの API のページはエイリアスしか載せず、October のバージョンが API に届いたかを書いた情報源はなく、システムカードも ChatGPT、Codex、Work のことしか言わない。- Chat は、09-29 から Work、Codex、API に出ている GPT-6.1 Sol ではなく GPT-6 Sol (October) を使っており、その選択を説明する OpenAI の情報源はなく、HN のコメント投稿者が疑問を呈した。
- システムカードは October のモデルが ChatGPT で GPT-5.6 Sol と GPT-5.6 Luna を置き換えるとする一方、ヘルプ記事は、Search Engine Journal が伝えたとおり、GPT-5.6 Sol はモデルのメニューで別の選択肢として残り、GPT-6 の展開で古い選択可能なモデルは廃止されないとしている。
- SiliconANGLE は部品のライブラリを GPT-6 のモデルが事前学習で学んだものとするが、OpenAI の文章は段階を名指さずに訓練の手法を広げたと言うだけ。
- 44% の数字は答え始めるまでの時間を測ったもので、完了までの時間ではない。
- ヘルプ記事は GPT-6 を選ぶと Instant は GPT-6 Sol が動かし、Free と Go は GPT-5.6 Luna を使うとする一方、フォーラムの再掲は 44% の主張のチャートに Instant search production traffic の題を付け、末尾に Free model とあるので、どのモデルとプランを測ったかははっきりしない。
- 記事の本文には、Extra High と Medium の比較にも難しい問題の評価にも数字がなく、Sol と Luna のどちらを測ったかも書かれていない。
- ヘルプ記事は ChatGPT の思考の段階をモデルに対応づけている (Instant から Extra High は GPT-6 Sol、Pro は GPT-6 Astra) が、それを API の
reasoning.effortの値 (none、low、medium、high、xhigh、max) に対応づけた情報源はない。 - ヘルプ記事はページのキャッシュにも WebFetch にも 403 を返したので、今回の実行ではブラウザで読んだ。
- Search Engine Journal と MY TECH BLOG がそこから伝えた内容、つまり GPT-6 が Latest に置き換わること、GPT-5.6 Sol が選べるまま残ること、テキストだけの答えには切り替わらない Layout and visuals の設定、古いデスクトップアプリの非対応、最小バージョンのないモバイルアプリの更新、特別なプロンプトが要らないこと、プランごとの思考の段階の表は、ヘルプ記事で確かめられた。
- MY TECH BLOG が引く Pro の選択肢についての一文は、今回読んだリリースノートと一致する。
- システムカードは生成されるインターフェースも交互に進む回答も評価しておらず、安全性の評価は最も低い推論の設定で行われている。
- 生成されたツールの正確さを扱う OpenAI の情報源はなく、MY TECH BLOG のブロードキャストアドレスの誤りと SiliconANGLE のハルシネーションの問いがそこを突いている。
- HealthBench Professional の見える応答の平均の長さは Sol で 2,894 文字から 4,360 文字に、Luna で 2,920 文字から 5,289 文字に伸びたが、インターフェースの出力が見える応答に数えられるかはカードに書かれていない。
- OpenAI は Intelligent UI のトークンのコストを示しておらず、ヘルプ記事は別の利用枠がなく既存の利用枠が当てはまると言うだけで、SiliconANGLE はトークンの使用が増えるとみており、Enterprise が chatgpt.com でトークン単位で払うという HN の主張は確かめていない。
- SiliconANGLE と HN のコメント投稿者による画像ベースの広告との結びつけは推測で、OpenAI の 10-05 の記事 Building advertising for the way people use AI は今回の実行では読んでいない。
- HN の返信の 1 つは自傷、ゴア、性的な内容の後退を 18 歳未満の節に置いたが、システムカードはそれらを Production Benchmarks で報告しており、10 代向けの分類器のブロックは別の 18 歳未満の結果に属する。
- 日本での時刻: MacRumors は 10-07 の 3:26 pm PDT に、Business+IT は 10-08 の 03:29 に掲載し、HN の話題は 10:23 JST の時点でおよそ 7 時間前のものだったので、発表と有料の展開はおそらく日本時間の 10-08 未明で、発表の正確な時刻を示す情報源はない。
- OpenAI が米国時間で明日とする Free と Go の開始の時刻を示す情報源もない。
- Search Engine Journal のページは相対的な時刻しか示さないので、日付は Free と Go についての明日という表現と、画像のパスの 2026/10 から取った。
- 確認した時点の日本語の報道は Business+IT と 3 つのブログで、ITmedia の AI+ と NEWS のフィードにはこのリリースの記事がなく、検索では GIGAZINE、Impress Watch、Publickey の記事は見つからず、一次情報の URL のはてなブックマークは 1 user だった。
- Simon Willison の 10-07 のアーカイブにはこのリリースの記事がなく、HN のコメントが見つかった唯一の反応: https://simonwillison.net/2026/Oct/7/。
- 読めなかったもの: Neowin (どちらのツールにも 403)、Digital Trends (どちらのツールでも空のページ)、検索結果に見出しだけが出た The Verge の記事。
実践やアウトプットの提案
- 同じチャットのプロンプトを Responses API で
chat-latestとgpt-6-solに送り、最初のトークンまでの時間、答えの長さ、書式を比べて、10-07 のスナップショットがチャットの製品に何を変えるか、インターフェースのマークアップが返ってくるかを、100 万トークンあたり $5/$30 と $2/$10 の価格差とともに確かめる。 - 1 つの社内の画面でこのパターンを試作する: JSON schema で記述した小さな部品のカタログ、トークンが届くたびに部分的な部品のツリーを描くストリーミングのレンダラー、わかりやすさ、有用性、完全さを採点して素のテキストが勝つべきときも確かめる評価を用意し、Markdown だけの基準とトークン数で比べる。
- エージェントで段階的な回答を試す: ツールと推論が続く間に最初の部分的な回答をストリーミングし、役立つ内容が出るまでの時間を、最終的な答えの一貫性と正確さと比べて測る。
- MY TECH BLOG の試し方 (図解の依頼、タブを指定した同じ依頼、Python の
ipaddressで確かめるサブネット計算ツール) を有料と Free のアカウントの ChatGPT で再現し、Intelligent UI がいつ出るか、生成されたツールがどれくらい値を間違えるかを知り、Free のアカウントが GPT-6 Luna と GPT-5.6 Luna のどちらを得るかに決着をつける。 - チームに伝える前に、Enterprise の管理者は GPT-6 のワークスペースの設定と Layout and visuals の選択肢を確かめ、10-07 以降どの GPT-6 のモデルがどこで動くかを 1 ページの地図にまとめる: Chat では October の Sol と Luna、Work と Codex では September のモデルと GPT-6.1 Sol、API では
gpt-6-sol、gpt-6-luna、chat-latest。
3. 🪨 09-24 に最初のリリースが出たオープンソースの推論エンジン Strata が、モデルを VRAM、RAM、SSD に分けて置くことで Qwen3.8-Flash-Next (125B パラメータ、アクティブ 6B) を VRAM 12 GB の一般向け GPU で動かし、コーディングエージェントが使える OpenAI 互換と Anthropic 互換の API を提供する
- 選定 / 影響度 1 / 将来性 1 / 注目度 2 / 起点 09-24、期間前の出来事 / 種別: リリース / 領域: モデル、コーディングエージェント。
- 候補になったフィード項目:
hatena-llm10-06 【西川和久の不定期コラム】 ちょい古ゲーミングPCで「Qwen3.8-Flash-Next」を動せる「Strata」を試してみた! — はてなブックマーク 77 users (取得時点)
- 起点: Strata の最初のリリース v0.1.0 は期間の 2 週間前の 09-24 に出ており、リポジトリを紹介した Hacker News の投稿は 10-04 に 927 ポイント、422 コメントを集め、今回の実行では PC Watch のコラムが初めてフィードに運んだ。
収集した情報
[A] Niko1221 — Strata repository and README (as fetched on 2026-10-08)
https://github.com/Niko1221/Strata / https://github.com/Niko1221/Strata/blob/main/README.ja.md
- リポジトリの説明は、一般向けのどんなハードウェアでも Qwen3.8-Flash-Next を動かし、Windows と Linux にワンクリックでインストールでき、Strata の推論エンジン、localhost の OpenAI/Anthropic API、任意の画像入力を備えるという趣旨。
- README.ja.md の見出しの文句は「1,250 億パラメータの AI モデルを、手元のゲーミング PC で動かす」で、対象は「NVIDIA または AMD のグラフィックカード(12 GB 以上) · Windows または Linux · 無料のオープンソース」。
- GitHub の API では、作成は 2026-09-24 16:40 UTC、ライセンスは MIT、主な言語は C++。
- 取得時点で 17.1k スター (API では 17,088)、1.5k フォーク (1,511)、98 ウォッチャー、1,424 コミット、未解決の issue とプルリクエストは 367。
- 作者は GitHub の利用者 Niko1221 で、プロフィールには名前 Niko、所在地 Ljubljana, Slovenia、AI & fun という自己紹介があり、会社の記載はなく、公開リポジトリは 1 つだけ。
- README はモデルを Qwen チームのものとし、Qwen チームとの関係は主張していない。
- 「Strata は Qwen3.8-Flash-Next を普通の PC で動かします」とし、「これは大きくて賢い AI モデルで、ふつうはサーバーが必要です」と説明する。
- チャット、コードの作成、画像の読み取りができ、アプリやコーディングエージェントとも連携し、「データが PC の外に出ることはありません」とする。
- RTX 5070 (12 GB)、Ryzen 5 7600、64 GB RAM では、回答の書き出しと 32K トークンのプロンプトの読み込みが、Q2_0 94 / 2,650 tokens/s、IQ2_XS 79 / 2,090、IQ3_XXS 62 / 1,750、IQ3_S 53 / 1,620、Coder 55 / 2,180。
- AMD RX 9070 XT (16 GB)、Ryzen 9 3900X、47 GB RAM では、Q2_0 60 / 1,160 tokens/s、IQ2_XS 52 / 1,110、Coder 44 / 1,420。
- NVIDIA の Q2_0 の行はエンジン 0.1.36、ほかの行は 0.1.26 で測った (回答 4K、プロンプト 32K)。
- 「VRAM が多いカードほど速くなります」とし、RTX 3090 (24 GB) なら毎秒およそ 100-140 トークンで書き出せるはずだとする。
- 対応するカードは NVIDIA GeForce RTX 20、30、40、50 シリーズか、AMD Radeon RX 7900 XT / XTX、RX 7800 XT / 7700 XT、RX 9060 XT、RX 9070 / 9070 XT、Radeon AI PRO R9700、RX 6800 / 6900 シリーズで、「VRAM 12 GB 以上が必要です」とする。
- RAM は「32 GB 以上」で、「RAM の量で使えるモデルが決まります」、「64 GB あればすべてのサイズが動きます」とする。
- ディスクは「空き容量が約 80 GB」で、「初回の起動がずっと速くなります」として SSD を勧める。
- Windows 10 / 11 か Linux で最新の NVIDIA か AMD のドライバーを使い、2 枚や 3 枚のカードでモデルを分担することもできる。
- 「コミュニティのメンバーが自分のマシンで書き、テストしたもの」として、古いカード (Tesla P40 / V100、GTX 10、Radeon VII / MI50、RX 6700 XT、RX 5500 XT)、Linux でソースからビルドする Intel Arc と AMD Ryzen AI Max (Strix Halo)、AVX2 のないプロセッサー向けの試験的な道がある。
- 最初のインストール方法は、AI コーディングアシスタント (Claude Code、Cursor、Codex、GitHub Copilot) に
Set up Strata on this PC for me: https://github.com/Niko1221/Strata - follow docs/AI_SETUP.md in that repository.の 1 行を貼り付けること。- 「AI がグラフィックカード、RAM、ディスクを調べて、合うモデルを選びます」とし、AI ツールは Strata の MCP サーバーを通じてインストール、起動、停止もできる。
- 手動の手順は、zip を展開するか
git cloneして、Windows ではSTART-HERE.bat、Linux では./setup.shを実行するもので、モデルとサイズ、コンテキスト、画像を読ませるかを尋ねられる。 - セットアップはモデル (約 70 GB) をダウンロードし、止まったダウンロードは続きから再開し、
http://127.0.0.1:8080でアプリを開く。 - モデルの起動中は「1-3 分ほど PC が重くなったり、反応しなくなったりすることがあります(初回がいちばん長いです)」とし、理由を「Strata は 35-55 GB を RAM に読み込み、その一部をグラフィックカード用に固定します」と説明する。
- モデルの選び方は RAM で決まり、32 GB は Coder (「24 GB のカードなら Q2_0 と IQ2_XS も動く」)、48 GB は IQ2_XS か Q2_0、64 GB は IQ2_XS (おすすめ) か IQ3_XXS / IQ3_S、96 GB 以上は IQ3_S か Unsloth の UD-IQ4_XS (約 4-bit)。
- Coder は「エキスパートを半分取り除いたコーディング向け版」で、「フルモデルの SWE-bench Verified スコアの 91% に届き(作者による測定)、32 GB の RAM に収まります」とする。
- 「コード以外では弱く、中国語などの CJK のテキストも苦手です(#438)」とする。
- Swift 1.5 は「答える前に考える時間がずっと短いファインチューン版」。
- Unsloth の UD-IQ4_XS はダウンロードが 94 GB で、RAM が約 80 GB 未満だと答えている間に Strata がその一部を SSD から読む。
- Unsloth の UD-Q4_K_XL (試験的) は「フルモデルにいちばん近いもの」だが、「64 GB の PC では毎秒 7-8.5 トークンしか書き出せません」とする。
- OrcaRouter の Uncensored IQ3_XXS は手動でセットアップし、インストーラーのメニューにはない。
- アプリやコーディングエージェントからは「OpenAI-compatible」プロバイダーを追加してベース URL に
http://127.0.0.1:8080/v1を指定し、「API キーとモデル名は何でもかまいません」とする。 - Anthropic の API を使うアプリは
http://127.0.0.1:8080/v1/messagesを、Claude Code はANTHROPIC_BASE_URL=http://127.0.0.1:8080を指定する。 - Codex CLI など OpenAI Responses API を使うアプリは
/v1/responsesを指定する。 - 思考はチャットのメニューかアプリの reasoning effort で off、low、medium、high から選べ、off が最も速く、high は難しい質問に向く。
- 画像はセットアップの選択肢で、AMD のカードは Linux ではプロセッサーを使って画像を読むが、Windows ではまだ読めない。
- スマートフォンや別の PC からは
START-HERE.bat --setup --host 0.0.0.0 --api-key <secret>を使い、「キーは必ず設定してください」とする。 - 「初期設定では Strata は 1 つのリクエストに答え、ほかは待ちます」とする。
- 複数に同時に答えるには
"parallel": 2を設定するが、「12 GB のカードでは、それぞれの回答が遅くなります」とする。
- 複数に同時に答えるには
- 「Strata はチャットの最初のメッセージをすべて読みます」とし、「30,000 トークンあたり約 1 分かかります」とする。
- 「2 通目以降のメッセージは数秒で始まります」とする。
- 仕組みを台所にたとえ、「いつも使う道具は調理台に置き、残りは食料庫にしまっておきます」と説明する。
- 「モデルは 24,576 個の小さな専門家(『エキスパート』)のチームです」とし、「1 語ごとに必要なのはそのうち 10 個だけです」とする。
- グラフィックカードは「よく使われる数千個のエキスパート」を持ち、RAM はすべてのエキスパートを持ち、プロセッサーが残りを同時に処理し、SSD は大きなルックアップテーブルを持つ。
- 「予想してから確認」の仕組みでは、小さなヘルパーが次の数語を予想して大きなモデルがまとめて確認し、「答えは同じまま、1.6-1.8x 早く返ってきます」とする。
- 「長いテキストは大きなまとまりで読みます(一度に最大 8,192 トークン)」とし、速さは毎秒 1,000 トークン以上。
- 圧縮は ISTA-DASLab、UkisAI (Swift 1.5)、Unsloth によるもので、Strata は llama.cpp / ggml の一部を使っている。
- Strata は MIT License で、一部のパーツとすべてのモデルにはそれぞれ独自のライセンスがあるとする。
- README.ja.md は、Claude Code (
ANTHROPIC_BASE_URL) と Codex CLI (/v1/responses) の設定も含め、同じ内容を日本語で載せている。
[A] Niko1221 — Strata release notes, v0.1.0 to v0.1.40.3 (2026-09-24 to 2026-10-07)
https://github.com/Niko1221/Strata/releases/tag/v0.1.0 / https://github.com/Niko1221/Strata/releases
- v0.1.0 は 2026-09-24 17:05 UTC に、Windows 向けの既成の Strata のエンジン (RTX 30 / 40 / 50: sm_86、sm_89、sm_120 + PTX、CUDA 13.0) として公開された。
START-HERE.batがそれと NVIDIA の cuBLAS を pip から取得するので、コンパイラーも CUDA Toolkit も要らず、必要なのは NVIDIA のドライバー 580 以降だけだとする。- zip には
strata.exe(エンジン)、strata-vision.exe(任意の画像エンコーダー)、BUILD.jsonが入っている。
- v0.1.0 (2026-09-24) から v0.1.40.3 (2026-10-07) までに 44 のリリースを出した。
- v0.1.17 (2026-09-28) の見出しは、Claude Code が Strata で動くようになり、サンプリングが llama.cpp と一致し、GPU を選べるようになったという趣旨。
- サーバーは
/v1/messages?beta=trueを受け付け、Claude Code がフックの文脈に使う会話の途中のシステムメッセージでもチャットテンプレートが壊れなくなった (#55、#56)。
- サーバーは
- v0.1.38 (2026-10-03) は、API キーのないサーバーを DNS リバインディングとクロスサイトのリクエストから守る。
api_keyがない場合は知っている名前宛てのリクエストにだけ答え、ほかのサイトのブラウザのページからはリクエストを送れなくなった (403)。- リバースプロキシ、トンネル、別の名前の Docker の背後では、その名前を
"allowed_hosts"に入れるか、API キーを設定する。 - 同じリリースで、RTX 5070 での 4K の Q2_0 のプロンプトが 10% 速くなり、6 GB のカードでも起動できるようになった (#496)。
- v0.1.39 (2026-10-04) は、Codex 向けの OpenAI Responses API、オプトインの複数の同時リクエスト (
"parallel": N、#465)、試験的なオプトインとしての古いハードウェアを加えた。- デコードは 0.1.38 より約 6% 速くなり (Q2_0 の story が 68.4 から 72.7 tok/s、code が 75.8 から 80.0)、出力は 0.1.38 とバイト単位で同じ。
- v0.1.40 (2026-10-06) は試験的な Strix Halo (gfx1151) のサポートを加え、128 GB の Ryzen AI Max+ 395 で UD-IQ4_XS を使って、プロンプト / 出力で 1,293 / 53.8 (8K)、1,370 / 46.6 (64K)、1,320 / 51.4 (128K) tok/s を測った。
- そのセキュリティの部分は、ネットワーク上の画像のパスを拒み、URL を 32 MiB に制限し、別のオリジンのページがローカルのファイルを画像として指定するのを止め (#553)、同じ確認を
/v1/responsesにも加えた。- メンテナーは #434 (どの Web サイトからも操作できる Manager のページと、API キーを付け足すプロキシ) と #696 (API キーが LAN のサーバーのシェルになる) をマージしなかった。
- v0.1.40 は、32 GB のマシンで 32-64 tok/s に対して約 70 tok/s を出すレイヤー分割での常駐 RAM のモード (#848) と、Q4_0 / Q4_1 のエキスパートの形式 (#599) も報告する。
- v0.1.40.3 (2026-10-07) は Intel Arc のインストールを直し、16 GB 以上の Windows の AMD のカードで 2,560 MiB を空けておき (IQ3_S の RX 7900 XT で、以前は 24 tok/s、空きを作ると 55 tok/s、#1376)、同梱の HIP ランタイムを再び使う (#461)。
- HIP の修正について、ノートは確かめられる Windows の AMD のカードが手元になく、報告がほしいと書いている。
[A] Niko1221 — Strata docs: HOW_IT_WORKS.md and MODELS.md (as fetched on 2026-10-08)
https://github.com/Niko1221/Strata/blob/main/docs/HOW_IT_WORKS.md / https://github.com/Niko1221/Strata/blob/main/docs/MODELS.md
- GPU には、attention と DeltaNet のミキサー、ゲート付き残差の重み、ルーター、共有エキスパート、出力ヘッド、MTP のドラフト層、KV キャッシュ (64K からは最もよく読まれる部分だけで、残りは RAM からストリーミング)、そして VRAM の残りを最もよく使われるエキスパートで埋めるエキスパートのキャッシュを置く。
- 速い GPU より VRAM の多さのほうが効き、1 GB 増えるごとに約 700 個多くのエキスパートを持て、GPU にあるエキスパートは CPU が計算しなくて済むとする。
- RAM は 24,576 個のエキスパートすべてをピン留めして持ち、CPU は GPU にないものをその場で GPU と同時に計算する (AVX-512 / AVX2 のカーネル、i-quant には ggml のもの)。
- RAM が少なく大きなカードを持つ PC では、低 RAM のモードが GPU の持たないものだけを RAM に置く。
- SSD には 28.8 GB の n-gram のテーブルを置き、トークンごとに数行を OS のキャッシュを通じて読む。
- 同じエンジンを NVIDIA (CUDA) と AMD (HIP) 向けにコンパイルする。
- モデル自身の MTP 層が最大 3 トークンをドラフトし、48 層すべてを 1 回通してそれを確かめ、平均で 1 回あたり 2.4-3.2 トークンになる。
- 返答が文脈を繰り返すときはプロンプトのルックアップが最大 5 トークンをドラフトし、コードの編集が 6-11% 速くなり、ほかのテキストは変わらない。
- Strata が動かすのは 1 つのモデル Qwen3.8-Flash-Next で、いくつかのサイズ (同じモデルを強弱をつけて圧縮したもの) といくつかの版 (原版、コーディング版、ファインチューン) があるとする。
- RTX 5070 での 128K のコンテキストでは、回答は 76 (Q2_0)、63 (IQ2_XS)、49 (IQ3_XXS)、46 (IQ3_S)、43 (Coder、IQ1_M) tokens/s。
- 4K のプロンプトは 910-1,580 tokens/s で読み、32K のプロンプトは Q2_0 で約 15 秒かかる。
- RAM と VRAM の必要量: Q2_0 は 37.6 GB (最速で、品質は good)、IQ2_XS は 39.2 GB (better で、おすすめ)、IQ3_XXS は 47.0 GB (great)、IQ3_S は 54.8 GB (best で、公開されたテストでフルモデルに並ぶ、原版のみ)。
- ダウンロードは小さい 3 つのサイズで 66-76 GB で、初回の起動では MTP のドラフト層 (約 6 GB、画像ありで +1 GB) も取得する。
- RAM がエキスパートの量に約 10 GB を足した分以上あればそのサイズが収まり、エキスパートは Q2_0 が 34 GB、IQ2_XS が 35.5、IQ3_XXS が 43、IQ3_S が 50、Coder が 23。
- 2 つ目のシャードの 29 GB のルックアップテーブルは SSD に置いたままにする。
START-HERE.bat --calibrateは約 5-10 分でエンジンの設定を調整し、測った PC では Coder が 7% 速くなった (いまは NVIDIA のカードのみ)。- Coder は各層の 512 個のエキスパートのうち、コード (とエージェントと画像) のデータで選んだ 256 個を残し、作者によればフルモデルの SWE-bench Verified のスコアの 91%、LiveCodeBench の 99%。
- そのシャード 1 は 29.6 GB なので 32 GB の RAM に収まり、64 GB なら 262K のコンテキストで動く。
- issue #438 では、英語では問題ないのに中国語の答えが崩れたりループしたりした。
- Swift 1.5 はトークンあたりの速度が原版と同じで、IQ3_S はなく、独自のライセンスがある。
- UD-IQ4_XS は 59.5 GB のエキスパートのうち、RAM から 24 GB を引いた分を RAM に置き、48 GB 以上の RAM とエンジン 0.1.38 以降が要る。
- UD-Q4_K_XL は 111 GB のダウンロードで、77 GB のエキスパートは RAM に収まらず、48 GB の RAM、NVMe の SSD、NVIDIA の GPU 1 枚が要る (画像はまだ非対応)。
- Unsloth の UD-Q6_K_XL (169.2 GB、セットアップのメニューにはない) と OrcaRouter の Uncensored IQ3_XXS は手動で設定する。
[A] Niko1221 — Strata docs: DETAILS.md (as fetched on 2026-10-08)
https://github.com/Niko1221/Strata/blob/main/docs/DETAILS.md
- 測定に使った PC は RTX 5070 12 GB、Ryzen 5 7600 (6 コア)、DDR5-5200 の 64 GB の Windows 機で、長さごとにコードエージェントのプロンプトを 1 つ使い、生成は 256 トークン、MTP の投機的デコードはオン。
- エンジン 0.1.26 のプロンプト処理 (1K / 4K / 32K / 64K / 128K / 262K トークン、tokens/s):
- Q2_0: 536 / 1,299 / 2,171 / 2,126 / 2,107 / 1,304。
- IQ2_XS: 534 / 1,256 / 2,092 / 1,754 / 1,752 / 1,181。
- IQ3_XXS: 482 / 1,007 / 1,745 / 1,609 / 1,602 / 未測定。
- IQ3_S: 427 / 913 / 1,624 / 1,640 / 1,443 / 未測定。
- Coder: 656 / 1,583 / 2,177 / 2,236 / 2,208 / 1,034。
- 同じ長さでの出力 (tokens/s):
- Q2_0: 87.3 / 93.0 / 81.8 / 76.2 / 73.7 / 60.3。
- IQ2_XS: 79.6 / 78.6 / 76.3 / 63.7 / 62.7 / 52.8。
- IQ3_XXS: 61.9 / 61.6 / 58.5 / 57.2 / 49.0 / 未測定。
- IQ3_S: 52.4 / 53.3 / 48.3 / 46.3 / 45.5 / 未測定。
- Coder: 58.9 / 55.1 / 54.9 / 53.2 / 43.0 / 42.8。
- 262K の欄は 0.1.26 で測り直しておらず、エンジン 0.1.22 の値で、Coder の 262K のプロンプトの値は 0.1.14 のもの。
- AMD RX 7900 XTX (gfx1100) で IQ3_S とエンジン 0.1.38 を使うと、1K から 128K でプロンプトを 760-1,641、回答を 59.2-65.1 tokens/s で処理した。
- エンジン 0.1.36 は Q2_0 のプロンプトのエキスパートを融合した int8 のテンソルコアのカーネルに移し (+16-22%)、RTX 50 のカードで 128K の Q2_0 の出力を 64.5 から 76.4 tokens/s に上げた。
- ほかのカードの見積もりは未測定で ±20% とし、Q2_0 の RTX 3090 24GB は 32K まで約 128-140、262K で約 85 出力 tokens/s、RTX 5060 Ti 16GB は 32K まで約 80-87。
- Coder は ISTA-DASLab のエキスパートを刈り込んだリリースで、作者の報告ではフルモデルの SWE-bench Verified の 91.3%、LiveCodeBench v6 の 98.7%、カードによればライセンスは Apache-2.0 で、12 GB のカードではエキスパートの読み込みの 72% が GPU に当たる。
- Swift 1.5 の作者は、思考のトークンが 63% 少なく、答えが 1.8 倍早く、精度の低下は 1% 未満だとする。
- Strata 自身が 8 問の推論の質問で確かめたところ、どちらのモデルも 8/8 で、Swift は出力 1,234 トークンで 28 秒、原版は 2,682 トークンで 46 秒かかり、ベンチマークではないが主張と矛盾しないとする。
- API は
POST /v1/chat/completionsとPOST /v1/messages(ストリームと非ストリーム、ツール)、POST /v1/responses(ステートレス)、GET /v1/models、/health、/props、/status、/slots、/metricsを提供する。 GET /metricsは Prometheus のスクレイプに vLLM の名前のテキスト形式で答えるので、vLLM のサーバー向けに書いたダッシュボードとアラートがそのまま読め、Grafana のダッシュボードがdocs/monitoring/に入っている。- 思考は OpenAI の
"reasoning_effort": "none" | "low" | "medium" | "high"か、Anthropic の"output_config": {"effort": ...}、"thinking": {"type": "disabled"}、budget_tokensの値 (2K 未満は low、8K 未満は medium、それ以上は high) で設定する。- 設定がなければ、モデル自身の既定の high を使う。
"reasoning_budget_tokens": Nは思考のオプトインの上限。"tool_call_recovery": trueはモデルがほかの形式で書いたツール呼び出しを読み取り、1,462 のエージェントのターン (Claude Code のもとでの Qwen3.8、signalnine/q27 のドリフトのコーパスから) で測ると、意図どおり読めたのはこれありで 98.3%、なしで 92.9%。- Claude Code (Strata 0.1.17 以降) には、
ANTHROPIC_BASE_URL=http://127.0.0.1:8080、ANTHROPIC_MODELに Claude Code が知っている Claude のモデル名 (知らない名前は Claude Code が拒み、Strata は名前を無視する)、任意のANTHROPIC_AUTH_TOKENが要る。 - Claude Code はシステムプロンプトにリクエストごと、セッションごとに変わる課金のヘッダー (
cch=...) を刻むので、サーバーはその両方を固定して、システムプロンプトとツールの一覧をキャッシュから再利用する。 "anthropic_thinking": "on_request"(オプトイン、0.1.32) は思考を求めない Anthropic のリクエストを思考なしで描画し、Claude Code の短い補助の呼び出し (数十トークンでのセッションのタイトルなど) にはこれが要るとする。/v1/responses(0.1.39、#451) は、Codex CLI が使う OpenAI の新しい Responses API を話し、Codex CLI はもう Chat Completions を話さないとする。- ステートレスで、
previous_response_id、conversation、background、取得、削除、取り消しのエンドポイントは拒否する。 - ホスト型のツール (
web_search、file_searchなど) は除かれ、tool_choiceでツールを強制することはできない。
- ステートレスで、
~/.codex/config.tomlでの Codex CLI の設定は、model_provider = "strata"、base_url = "http://127.0.0.1:8080/v1"、wire_api = "responses"、model_context_window = 32768、stream_idle_timeout_ms = 600000。- Codex CLI 0.160.0 と Q2_0 を RTX 5070 で測ると、最初のプロンプト (指示とツールの説明) は 9,443 トークンで 10 秒で読み、ツールのループでは後のターンごとにプロンプトの約 96% をキャッシュから再利用し、新しい部分だけを 1-2 秒で読んだ。
- Windows では、Codex を
-c 'windows.sandbox="unelevated"'で起動するまで Codex のサンドボックスがすべてのシェルのコマンドを拒否したが、これは Strata ではなく Codex の設定だとする。 - オプトインの
"codex_compaction_cache": trueを使うと、85,000 トークンの会話の後の Codex のコンパクションは 84,997 トークンのうち 84,895 を再利用し、使わないと 80,683 のうち 41 だった (作者の測定)。 - OpenCode (#543) は
@ai-sdk/openai-compatibleでベース URLhttp://127.0.0.1:8080/v1を使って接続し、Zed の llama.cpp のプロバイダーは/propsを読んでツールを提供する。 - コンテキストはセットアップで選び (8K-262K)、それより長いリクエストは黙って切り詰めずに拒否する。
- 会話のキャッシュは RAM に最大 6 つのチェックポイント (各約 118 MB) を持ち、2,048 トークン以上のシステムプロンプトはチェックポイントに残るので、長いシステムプロンプトとツールの一覧を持つエージェントのクライアントはそれを再利用できる。
- 試験的な速度の射影 (ESP) は層 4-44 の後に適用する 480 KB の制御ベクトルで、そのパッケージ自身は拒否方向の射影と説明している。
- これを使うとモデルの拒否がずっと減り (テストセットで 50 件中 50 件が 50 件中 1 件に)、拒否を取り除くことは安全のための振る舞いを取り除くことなので、オンにしたときにモデルが書くものには利用者が責任を負うとする。
- 既定ではオフで、Q2_0 ではコードで位置の 10% で最上位のトークンが変わり、パープレキシティが 15% 上がった。
- ESP のベクトルは Qwen Community License 1.0 のもとにあり、モデルのファイルはその一部ではなく、それぞれのライセンスが当てはまるとする。
- クレジットは Splash、ninfer、HyperQwen からのアイデアと、i-quant の形式、GPU の内積、CPU のバックエンド、
mtmdの画像ライブラリについての llama.cpp / ggml (MIT) を挙げる。
[A] Niko1221 — Strata docs: OLDER_GPUS.md, AI_SETUP.md and MCP_SERVER.md (as fetched on 2026-10-08)
https://github.com/Niko1221/Strata/blob/main/docs/OLDER_GPUS.md / https://github.com/Niko1221/Strata/blob/main/docs/AI_SETUP.md / https://github.com/Niko1221/Strata/blob/main/docs/MCP_SERVER.md
- 対応するカードは NVIDIA RTX 20 / 30 / 40 / 50 と AMD_HIP.md の AMD のカードで、古いカードは、コミュニティのメンバーが自分のマシンで書いて測ったオプトインの試験的な道で動く。
- メンテナーはこれらのカードを 1 枚も持っておらず、各道はコンパイルの確認と単体テストだけで、既成のエンジンとその出力はまったく変わらないとする。
- CUDA 13 は Pascal と Volta のサポートを外したので、セットアップはそれらのために CUDA 12.9 でビルドした 2 つ目のエンジンを持ち、これは 580 より古い NVIDIA のドライバー (Windows では 528 以降、Linux では 525 以降) にも使う。
- 報告された数字には、IQ3_S の Tesla P40 でプロンプト 217-374、デコード 30-33 tok/s (#395)、UD-IQ4_XS の V100-PCIE-32GB でプロンプト 1,123-1,251 tok/s (#600)、Coder の MI50 2 枚で 4K / 32K / 128K のデコード 50.1 / 47.8 / 45.7 tok/s (#677) がある。
- 8 GB の RX 5700 XT は、12,288 個のうち 607 個のエキスパートを VRAM に置いて、Coder をデコード 18.0-23.3 tok/s で動かした。
- AI_SETUP.md は、PC に Strata を設定するよう利用者に頼まれた AI コーディングアシスタント (Claude Code、Cursor、Codex、GitHub Copilot など) に向けて書かれている。
- その最初の基本の規則は、API キーなしでサーバーを公開しないこと。
- アシスタントには、約 70 GB のダウンロード (UD-IQ4_XS は 94 GB、UD-Q4_K_XL は 111 GB) を利用者に確認させ、遅い回線では 1 時間以上かかることもあるセットアップをバックグラウンドで走らせるよう指示する。
tools/strata_mcp.pyは、すでに使っている AI アシスタント (Claude Code、Claude Desktop、Cursor、VS Code、Codex など) 向けの MCP サーバーで、Strata のインストール、起動、停止、確認のツールを持つ。- 標準ライブラリだけを使う 1 つの Python のファイルで、Python 3.10 以降が要る。
[A] Strata — Running a 125-Billion-Parameter Model on a Normal PC, paper (September 2026)
https://github.com/Niko1221/Strata/blob/main/docs/paper/Strata-Paper.pdf
- 副題は Strata を、12 GB のグラフィックカード 1 枚、64 GB の RAM、6 コアのデスクトップのプロセッサーで Qwen3.8-Flash-Next を提供する CUDA と CPU の推論エンジンとする。
- 抽出したテキストには、著者も所属もない。
- 論文は、このモデルの品質が十分な最小の量子化を 66 GB のファイルとし、12 GB のカードのメモリの 5.5 倍だとする。
- Strata はこの 1 つのモデルのために書いた推論エンジンだとする。
- RTX 5070 (12 GB)、Ryzen 5 7600、DDR5 の 64 GB で、Q2_0 の 4K のコンテキストで 95 tokens/s、3 つの量子化すべてで 1K から 262K まで 45-95 tokens/s、プロンプトの読み込みは 285-571 tokens/s を報告する。
- llama.cpp のような汎用のエンジンで残りを RAM から CPU で動かすことは、動きはするがマシンの大部分をほとんどの時間遊ばせてしまうとする。
- 48 層のうち 36 層は Gated DeltaNet、12 層は Qwen Sparse Attention を使い、後者は 2 つのキー / バリューのヘッドを持ち、選んだ最大約 2,048 の位置に注意を向ける。
- 各層は 512 個のエキスパートで終わり、ルーターがそのうち 10 個を選ぶので、1 トークンが触れるのはエキスパートの重みの 2% で、51B パラメータの n-gram のテーブルは直前の 3 つのトークン ID で引く。
- Q2_0 のファイルのバイトの内訳は、ルーティングされるエキスパートが保存 34.0 GB でトークンあたり 0.66 GB を読み、ミキサー、attention、共有エキスパート、ルーターが 1.8 GB、ゲート付き残差が 1.3 GB、出力ヘッドが 0.44 GB、n-gram のテーブルが 28.8 GB でトークンあたり最大 23 KB を読み、MTP 層が 0.8 GB。
- GPU に常駐する部分は約 3.5 GB で、テストのマシンは PCIe 4.0 x16 (約 26 GB/s) と DDR5 の 64 GB (約 41-52 GB/s) を持つ。
- 各層について、GPU は選ばれた 10 個のエキスパートの ID をピン留めしたホストメモリに書き (doorbell)、CPU はキャッシュにあるエキスパートを GPU に送り、ミスの一部を PCIe 越しにコピーし (i-quant のファイルで 55%、Q2_0 で 20%)、残りを計算する。
- Strata は MTP のヘッドのテンソル (5 GB) を BF16 のチェックポイントから取り出して VRAM に置き、可能性の高い 40,525 のトークンに絞った出力ヘッドを使う。
- 結果は厳密で、テキストは素の貪欲デコードとトークン単位で同じであり、わざと誤ったドラフトとロールバックでそれを試験しているとする。
- プロファイルで埋めたエキスパートのキャッシュは 4,500 の VRAM のスロットでルーティングされるエキスパートの 50% を賄い、会話自身のホットなエキスパートに入れ替えると約 72% に上がる。
- Q2_0 の最初のトークンまでの時間は、1K で 2.7 秒、4K で 6.7 秒、32K で 55.3 秒、64K で 114.4 秒、128K で 236.7 秒、262K で 523.8 秒で、VRAM のエキスパートは 4,517 から 1,588 に減る。
- 4K では Q2_0 の検証の 1 回のウィンドウに 34.3 ms かかり、うち 14.6 ms は GPU 待ち、13.4 ms は CPU のエキスパート、2.0 ms はドラフト、4.3 ms はその他で、1 回あたり 3.23 トークン。
- MTP 層による投機は 1.6–1.8 倍に効き、4K の素のデコードを 47-57 tokens/s から 82-92 に上げる。
- llama.cpp と比べた次のトークンの分布の KL ダイバージェンスの平均は 0.022 で、llama.cpp 自身の CPU と GPU のビルドの差の 0.058 を下回る。
- DDR4 のシステムでは Q2_0 の 1 回の CPU の半分に約 2 倍の時間がかかり、GPU のキャッシュを大きくするのが最善の埋め合わせだとする。
- リクエストの間で会話の状態を保つことを今後の課題に挙げ、いまはリクエストごとにプロンプト全体を処理し直しているためだとする。
- 関連研究には Fiddler、KTransformers、MoE-Infinity、Pre-gated MoE、PowerInfer を挙げ、1 つのモデルのための 1 つのエンジンという発想は Splash、ninfer、HyperQwen から取ったとする。
- Qwen Team の報告 On the Design of Qwen3.8-Next Architecture (arXiv:2608.30320、2026 年 8 月) と Qwen のブログ記事を引く。
[C] hagope — Community benchmark: RTX 5090, Core Ultra 9 285K, in the Strata repository (2026-09-30)
https://github.com/Niko1221/Strata/blob/main/bench/results/2026-09-30-community-rtx-5090/README.md
- Strata 0.1.29 と原版の IQ2_XS を、RTX 5090 1 枚 (32,607 MiB、575 W)、Core Ultra 9 285K、64 GB の RAM の Linux で、131,072 トークンのコンテキストで走らせた。
- デコードの中央値は、プロンプト 4,096 トークンで 179.4 tok/s、32,768 で 175.7、128,000 で 165.0 で、合成したコードの説明のリクエストを、貪欲デコードと 256 トークンの上限で使った。
- プロンプトのスループットの中央値はその長さで 4,269.8 / 5,543.2 / 5,778.7 tok/s、最初のトークンまでの時間は 0.974 / 5.950 / 22.262 秒。
- デコードのエキスパートのキャッシュのヒット率は 97.8-99.7%。
- これらは一般的な回答の品質やほかの負荷での性能を示すものではないと断る。
[A] Qwen — Qwen3.8-Flash-Next model card, metadata and license on Hugging Face (as fetched on 2026-10-08)
https://huggingface.co/Qwen/Qwen3.8-Flash-Next / https://huggingface.co/Qwen/Qwen3.8-Flash-Next/blob/main/LICENSE / https://huggingface.co/api/models/Qwen/Qwen3.8-Flash-Next
- この実験的なプレビューは Qwen4 の土台になるアーキテクチャのもので、現代の LLM の中核の部品が大規模にどう相互に作用するかを根本から考え直して作ったとする。
- Qwen3.8-Flash-Next に基づく公式版の Qwen3.8-Flash は、既定で 1M のコンテキストや公式の組み込みツールのような本番向けの機能を Qwen Cloud で加える。
- 特徴は、マイクロブロックの単位で働く Gated DeltaNet と Qwen Sparse Attention (QSA) のハイブリッドの attention、Gated Residual、N-gram Embedding、重みの種類ごとに Muon と AdamW を使い分ける学習のレシピ。
- 埋め込みは、MoE より計算が少なくオフロードしやすい、パラメータを増やすための独自の軸になるとする。
- モデルは Vision Encoder 付きの Causal Language Model で、パラメータは 125B、アクティブは 6B、ほかに 51B の n-gram の埋め込みと 4B の MTP を持ち、隠れ次元は 2560、48 層の配置は 12 × (3 × (Gated DeltaNet → MoE) → 1 × (Qwen Sparse Attention → MoE))。
- QSA は 24 のクエリのヘッドと 2 つの KV のヘッド、MQA のインデクサー、512 ブロックまたは 2048 トークンの予算を持つ。
- MoE は 512 個のエキスパートを持ち、アクティブは 10 個のルーティングと 1 個の共有、エキスパートの中間次元は 640、ゲート付き残差は 4 つの分岐、MTP は 1 層。
- コンテキスト長はネイティブで 262,144、最大 1,000,000 トークンまで拡張できる。
- 言語のベンチマーク (Qwen3.8-Flash-Next / Qwen3.8-27B / Qwen3.7-Plus / DeepSeek-V4-Flash-0731 / Claude-Opus-4.6 (Max) の順):
- DeepSWE 1.1: 58.7 / 42.2 / 16.5 / 54.4 / 記載なし。
- SWE-bench Pro: 62.5 / 61.7 / 55.8 / 56.0 / 53.4。
- SWE-bench Multilingual: 81.0 / 73.8 / 75.8 / 記載なし / 77.5。
- NL2Repo-Bench: 48.1 / 42.3 / 41.1 / 54.2 / 47.6。
- CoWorkBench: 73.9 / 70.7 / 65.1 / 45.1 / 68.2。
- JobBench: 55.7 / 33.4 / 27.6 / 41.3 / 36.6。
- Toolathlon Verified (Pass@1): 73.5 / 67.1 / 50.6 / 70.3 / 記載なし。
- IFBench: 81.3 / 79.5 / 79.1 / 79.2 / 62.5。
- GPQA Diamond: 91.7 / 89.2 / 90.3 / 90.8 / 91.3。
- HLE: 35.9 / 30.8 / 34.7 / 33.8 / 40.0。
- LiveCodeBench v6: 91.9 / 90.3 / 89.6 / 90.6 / 88.8。
- DeepSWE 1.1 は Claude Code と mini-SWE-agent の 2 つのハーネスで走らせて高いほうを報告し、SWE-bench Pro と NL2Repo-Bench は Claude Code のハーネスと 256K のコンテキストウィンドウを使った。
- 本番の負荷や高いスループットの場面では、SGLang、KTransformers、vLLM のような専用のサービングのエンジンを強く勧める。
- モデルは既定で思考し、カードの例は
reasoning_effort="xhigh"を指定して、既定は xhigh で、対応する段階は xhigh、medium、low だとコメントしている。 - 推奨のサンプリングは、思考モードで
temperature=1.0、top_p=0.95、top_k=20、instruct モードでtemperature=0.7、top_p=0.80、presence_penalty=1.5。 - 既定でオンの preserved thinking は前のすべてのメッセージの思考のブロックを保ち、カードはこれがエージェントに向き、KV キャッシュの利用をよくするとする。
- Hugging Face の API では、リポジトリの作成は 2026-08-24、最終更新は 2026-08-27、ダウンロード数 1,609,433、いいね 6,011、タグ
qwen4_exp、ライセンスqwen-community-1.0。 - Qwen Community License 1.0 は、2 つの条件のもとで、使用、複製、改変、結合、公開、頒布、サブライセンス、販売、展開、ホスト、ファインチューン、派生物の作成の権利を無償で与える。
- ライセンシーの商用の製品やサービスのうち、月間アクティブユーザーが 100,000,000 を超えるか、月の売上が US$ 20,000,000 (またはほかの通貨での同等額) を超えるものは、モデルの名前を目立つように表示しなければならない。
- ライセンシーかその関連会社が Model as a Service か AI Work Assistant の事業を営む場合は、ソフトウェアやその派生物を商用の目的で使う前に Qwen から別のライセンスを得なければならない。
- その要件は、ソフトウェア、その出力、その基盤のモデルの能力を第三者に提供しない限り、ライセンシーの社内での利用には当てはまらない。
- AI Work Assistant は、主に AI によるコーディングかオフィスの生産性のために作られた独立した AI の製品 (たとえば Qoder や QwenWork) と定義される。
[A] Qwen — QwenLM/Qwen3.8-Flash-Next repository README (2026-08-26)
https://github.com/QwenLM/Qwen3.8-Flash-Next
- 2026-08-26 に Qwen3.8-Flash-Next を公開したとする。
- このモデルはマルチモーダルの MoE モデルで、Qwen4 で使うアーキテクチャの早期のプレビューでもあり、Qwen3-Next が Qwen3.5 に対して果たしたのと同じ役割を担うとする。
- N-gram Embedding は局所的な文脈で表を引き、わずかな追加の計算でモデルの容量を増やし、埋め込みの表はホストのメモリにオフロードして非同期のプリフェッチでモデルの計算と重ねられるとする。
- Qwen3.7-Plus と比べて学習と推論のコストを大きく下げ、学習は約 9 分の 1 で済みながら、コーディングとオフィスのタスクで上回る能力を出すとする。
- QwenWork の Standard モードを動かし、QwenCloud が OpenAI 互換と Anthropic 互換の API で提供する。
- ローカルの選択肢には、
transformers serve、llama.cpp (llama.cpp は Qwen3.8-Flash-Next のテキストと画像に対応するとする)、Apple Silicon の mlx-vlm、Unsloth を挙げる。 - SGLang と vLLM の例は、テンソル並列 4、262,144 トークンのコンテキスト、
qwen3の推論のパーサーとqwen3_coderのツール呼び出しのパーサーで提供する。 - 技術報告は On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability (Qwen Team, Alibaba Group, 2026 年 8 月) として引かれる。
[B] PC Watch (Impress) — Trying Strata, which runs Qwen3.8-Flash-Next on a slightly old gaming PC, column by 西川 和久 (2026-10-06, in Japanese)
https://pc.watch.impress.co.jp/docs/column/nishikawa/2145673.html
- コラムは「10月に入ってからAI界隈が何やら賑やかになっている」と書き出し、理由を「総パラメータ125B(1,250億)、アクティブパラメータ6B(60億)の『Qwen3.8-Flash-Next』が、VRAM 12GBのビデオカードで動く!との情報が駆け巡ったからだ」とする。
- 確かめるために、予備機で眠っていた「Core i9-12900/64GB(DDR4)/1TB/GeForce RTX 3060(12GB)のPC」を引っ張り出した。
- モデルの表に、総パラメータ 125B (別に n-gram 埋め込み 51B、MTP 4B)、アクティブ 6B、「3×(Gated DeltaNet→MoE)+1×(QSA→MoE)」を 12 回繰り返す 48 層、512 エキスパート (10 ルーテッド + 1 共有) で中間次元 640、ネイティブ 262,144 トークン (最大 1,000,000) のコンテキスト、テキスト、画像、動画の入力、MTP の推測デコード、ライセンス qwen-community-1.0 を並べる。
- サイズは、近い MoE モデルの「gpt-oss-120b(アクティブ5.1B)」より「少し大きい感じ」とする。
- dense の Qwen3.8-27B と比べて SWE-bench Pro 62.5 対 61.7、SWE-bench Multilingual 81.0 対 73.8、DeepSWE 1.1 58.7 対 42.2、LiveCodeBench v6 91.9 対 90.3、GPQA Diamond 91.7 対 89.2、IFBench 81.3 対 79.5 を挙げ、「項目によってはあまり差がないといえばないし、逆にそれなりにあるといえばあるといった感じで、結構微妙なところだろうか」と書く。
- 「Qwen3.8-Flash-Nextの125Bは、Q2に量子化しても40GB弱の容量」で、「GeForce RTX 5090の32GBでさえどうにもならないのだ」とする。
- Strata の分け方を、VRAM は「頻用部分+よく選ばれる『ホットな』エキスパートのキャッシュ(GPUで計算)」、RAM は「全エキスパート(CPUが並列で計算)」、SSD は「n-gramルックアップテーブル/約29GB(必要な行だけ読む)」と整理する。
- n-gram のテーブルは「直前の数トークンの並びから表を引いてくるだけの仕組みで、行列積には使われない」とし、「ただの辞書引きなので、VRAMやRAMに常駐させなくても動かすことができ、Strataがこの表をSSDに置くのだ」と説明する。
- 動作要件を「NVIDIA GeForce RTX 20/30/40/50シリーズ、または対応するAMD GPU」と「12GB VRAM以上(8GBでも動くが、遅い)」とする。
- Coder はコード以外に弱く、日本語を含む CJK のテキストも弱いとされるので、「通常利用の最低ラインは48GBと見た方がいいだろう」とする。
- 試した PC を、作者が標準とする「VRAM 12GB+メモリ64GB」の「ほぼ最低ラインの構成」とし、RTX 3060、AVX-512 のない Core i9-12900、DDR4-2667 の 64 GB (16 GB×4、理論帯域約 43 GB/s)、1 TB の NVMe、Windows 11、IQ2_XS (39.2 GB)、エンジン 0.1.38 を挙げる。
- メモリと VRAM の合計は約 76 GB なので IQ3_S (54.8 GB) も入るが、64 GB の行で推奨される IQ2_XS を選んだ。
- miniconda の Python 3.12 の環境でコマンドからインストールし、
python setup.py --setup --family qwen --model IQ2_XS --context 262144 --vision yes --gpu 0 --yesで、モデル (約 72 GB) のダウンロードから MTP の下書き層の取得、起動用の bat の作成までが終わる。 - 起動は
python serve\server.py --engine strata --config strata-iq2_xs.json --host 0.0.0.0 --port 8080 --fit-max-tokensで、「起動には、約30秒」。 - 思考の段階は
reasoning_effortの none / low / medium / high でリクエストごとに指定し、「サーバー既定はhighなので、コード用途では既定をnoneに書き換えて使っている」。 - 最初は SATA 接続のドライブにセットアップして、起動時のエキスパートの読み込み (約 33 GB) が 3 分経っても終わらず、NVMe のドライブに移すと起動は約 30 秒になったので、「モデルは必ずNVMeに置くことに注意したい」とする。
- 標準で付く Web UI (Chat、モデルと GPU / CPU / RAM の使用状況をライブで表示する Monitor、設定やアドレスの一覧の About) を、「APIだけを提供するvLLMのサーバーなどとは違い、チャットができ、tok/sなどが見られるモニタリング機能など、非常に良くできている」と評する。
- エンドポイントは OpenAI 互換の
/v1(/v1/chat/completions、/v1/models)、Anthropic 互換の/v1/messages、/healthで、モデルの ID は qwen3.8-flash-next-iq2_xs、qwen3.8-flash-next-iq3_s など。 - Sonnet 5.5 に考えてもらったベンチマーク (ほかの LLM を試すときも同じ内容) では、「デコードは34~44tok/sで、十分実用範囲で動作した」。
- 思考なしでの 3 回の平均は、コード 43.9 tok/s、論理パズル 37.3、文章生成 33.7、日本語 38.5。
- プリフィルは約 5.9k トークンで約 850~880 tok/s (最初の文字まで約 7 秒)、約 23k トークンで約 930 tok/s (25 秒ほど) で、GPU 上のエキスパートは 3,031 個 (約 4GiB)、キャッシュのヒット率は約 72%。
- 単発だと MTP の採用率で ±20% ほどぶれ、思考を low にしても「tok/sの差はノイズの範囲内だった」。
- 「デコードは実用的だが、プリフィルが遅い」とし、「ファイルやログを大量に読ませるコーディングエージェントのような用途では、この待ち時間で遅く感じる」一方、「短い質問をやり取りする使い方なら、かなり快適に使える」とする。
- キャッシュに当たらなかったエキスパートは RAM から CPU が計算するので、「ここでDDR4のメモリ帯域と、AVX-512のないCPUが速度低下に影響する」とする。
- 品質は「画像や日本語、ツール呼び出しでは、IQ2_XSでもおおむね保たれていた」が、「コード生成は、IQ3_Sより一段落ちる」とする。
- 手元の DGX Spark (vLLM、本体 FP8 ベース) と比べて文章生成と日本語 (約 37 tok/s) とはほぼ同等の水準 (33.7 と 38.5) だが、「コードでは、DGX Sparkの約6割(44対72tok/s)」とする。
- 「2世代前のエントリークラスのGPUで、本来動かないはずのモデルが実用速度で動くという事実は、十分に意味がある」とし、「ゲーミングPCを持っている人が、ローカルLLMに興味を持ち、新しいGPUを買わなくても試せるのは魅力的だ」と書く。
- 同じ PC で IQ3_S (コンテキストは Strata 推奨の 128K) を使うと、3 回の平均はコード 31.8 tok/s、論理パズル 27.3、文章生成 24.8、日本語 29.0。
- プリフィルは約 5.9k トークンで約 440~460 tok/s (最初の文字まで約 13 秒)、約 23k トークンで約 475 tok/s (約 49 秒) で、GPU 上のエキスパートは 1,104 個 (約 2.1GiB)、ヒット率は約 56%。
- IQ2_XS と比べてデコードは約 0.72~0.75 倍、プリフィルは約半分で、メモリは OS も含め 54GB 程度を使った。
- 2 台目の PC は Core i9-13900HK、DDR5-5200 の 128 GB (理論帯域約 83 GB/s)、2 TB、VRAM を 48 GB に改造した RTX 4090 (市販品は 24 GB) を 250 W に制限したもの (通常は 450 W) で、IQ3_S (ダウンロードは約 90 GB) をエンジン 0.1.38 で動かした。
- コード 128.5 tok/s、論理パズル 113.3、文章生成 86.6、日本語 101.5 で、ピークでは 130 tok/s を超え、「DGX Sparkも含め筆者がこれまで手元で見たQwen3.8-Flash-Nextの中では最速だ」とする。
- IQ3_S の品質の確認では、論理パズル (羊 9 匹、バットとボール) に正解し、「9.11と9.9はどちらが大きい?」に 6/6 正解し、コード実行テスト (LRU キャッシュ、区間マージ、再帰下降パーサ、各 8 回×思考 none / low) は 46/48 合格 (思考 none 24/24、思考 low 22/24 で、失敗は low の再帰下降パーサの 2 回)。
- 日本語は「クリーン(中国語の混入なし)」で、画像 (図形 3 種 + 文字入り) は完全に正確、バグ 4 件入りのコードを直す tool call は 4 ターン、約 10 秒で成功した。
- 「今回の範囲では、IQ3_Sの量子化による大きな劣化は確認できていない」が、長い日本語文書や大規模なコード生成は試していないとする。
- 拒否方向を射影して断りを減らす実験機能 ESP (experimental speed projection) を「つまり無検閲に近いもの」としたうえで試したが、速度はほぼ変わらずコードの質が下がったので外した。
- DeepSeek Harness から Strata の IQ3_S を使い、たとえば 3D のインベーダーゲームを作らせた。
- Web のチャットは MCP に対応し、自前の SearXNG につなぐ mcp-searxng (Node 22 以上) で Web 検索を足し、
strata-<モデル名>.jsonに"mcp_servers"と"mcp": {"timeout_s": 60, "max_result_chars": 20000, "max_rounds": 8}を書いた。- ログに
MCP server 'searxng': 4 toolsと出て、チャットの設定 Use tools from MCP servers は既定でオン。
- ログに
- Web 検索以外は「ChatをMCPで拡張するより、ハーネス(エージェント)のendpointをStrataにした方が使い勝手も良く」とする。
- 「できればQwen3.8-Flash-Nextだけでなく、仕掛け的に可能なら対応モデルが増えてほしいところ」と書く。
- 「GPU界隈では、この吉報でにわかにショップの12GB搭載GPUが売れ出したとか」と伝え、「本当か!? (笑)」と半信半疑で添える。
[B] PC Watch (Impress) — Strata arrives and runs Qwen3.8-Flash-Next very fast on a gaming PC, by 劉 尭 (2026-10-02, in Japanese)
https://pc.watch.impress.co.jp/docs/news/2145142.html
- 「総パラメータ125B(1,250億)、アクティブパラメータ6B(60億)の大規模モデルが、ビデオカード1枚のゲーミングPCで秒間60~95トークンの速度で動く」とし、Niko1221 が GitHub で MIT ライセンスで公開する推論エンジン Strata を紹介する。
- 目的を、「本来なら数百GBのVRAMを備えたハードウェアが必要なQwen3.8-Flash-Nextを、12~24GBのVRAMを搭載したNVIDIA製ビデオカード1枚と64GBのメインメモリで高速に動かすこと」とする。
- 必要なものは、VRAM 12 GB 以上の GeForce RTX 20/30/40/50 シリーズ、量子化モデルに応じたメインメモリ、約 80 GB のディスクの空き容量で、対応 OS は Windows 10/11 か Linux。
- 公開されている RTX 5070 のベンチマークでは、Q2_0 が「短い対話で93tok/s、128Kコンテキストでも74tok/sを記録」し、「推奨の『IQ2_XS』では79tok/s、プロンプト読み込みは2,090tok/sとなる」。
- RTX 3090 (24GB) では 100~140 tok/s に達すると見込まれ、NVIDIA のカードが 2~3 枚あればモデルを複数のカードに分散して処理できる。
- Windows では ZIP を展開して
START-HERE.batをダブルクリックするだけで、Python 環境、推論エンジン、モデル (約 70GB) のダウンロードまで自動で完了し、Linux はsetup.shで、Dockerfile も用意される。 - 「『http://127.0.0.1:8080/v1』でOpenAI互換、『/v1/messages』でAnthropic互換のAPIを提供するため、既存のAIコーディングエージェントなどからローカルモデルとして利用できる」とする。
- 画像入力に対応し、思考の深さは off / low / medium / high の 4 段階から選べ、Linux では AMD Radeon RX 7900 / 9070 シリーズなどでの動作も実験的にサポートする。
- 量子化モデルは Q2_0 (必要メモリ 37.6GB)、IQ2_XS (39.2GB)、IQ3_XXS (47GB)、IQ3_S (54.8GB) の 4 種類で、「IQ3_Sは公開ベンチマークでフル精度モデルと同等の精度を持つという」とし、UkisAI 製のファインチューン Swift 1.5 にも触れる。
- 「GeForce RTX 5080+RTX 3090の環境では、プロンプトの読み取り速度が5080単体の場合よりも18~20%高速だったという」。
- 仕組みの説明は、2 万 4,576 個のエキスパートのうち 1 トークンの生成に使うのは 10 個だけであること、VRAM、メインメモリ、SSD の分担、どのエキスパートがよく使われるかを学習して GPU 側の構成を最適化していくこと、出力品質を保ったまま 1.6~1.8 倍に速める投機的デコーディング、最大 8,192 トークン単位で 1,000 tok/s 以上で読むプロンプトの読み込みを含む。
- 記事は 2026-10-08 の確認時点で、はてなブックマーク 63 users。
[B] npaka (note) — Overview of Strata, which runs a 125B model on 12 GB of VRAM (2026-10-02, in Japanese)
https://note.com/npaka/n/n4a1185074686
- Strata を「GPUとCPUで計算を分担し、VRAM・RAM・SSDを活用して、大規模なMoEモデルを一般的なPCで動かすことを狙ったオープンソースの推論エンジン」とし、「現在は『Qwen3.8-Flash-Next』を中心に、その派生モデルや量子化モデルに対応しており」とする。
- 仕組みを、「GPUにはAttentionやRouter、KV Cache、頻繁に使われるExpertを配置し、それ以外のExpertはRAMに保持してCPUで計算します」、「必要に応じて、一部をPCIe経由でGPUへ転送することもあります」、「SSDには大容量のLookup Tableを置き、必要な部分だけを読み込みます」と説明する。
- 開発者の RTX 5070 の数字として、短い会話で Q2_0 / IQ2_XS / IQ3_XXS / IQ3_S が約 93 / 79 / 62 / 53 tokens/s、128K で約 74 / 63 / 49 / 46 tokens/s を伝える。
- 「これらは開発側の測定値で、実際の速度はGPU、CPU、RAM、PCIe帯域、コンテキスト長などによって変わります」と念を押す。
- 推奨の環境を NVIDIA RTX 20 / 30 / 40 / 50 シリーズ、VRAM 12GB 以上推奨 (8GB でも動作可能)、RAM 64GB 推奨、AVX2 対応の x86-64 の CPU、NVMe SSD 推奨、Windows 10 / 11 か Linux とし、「モデル関連ファイルの保存には70〜120GB程度のストレージが必要になる場合があります」とする。
- Monitor では「GPU使用率、VRAM、CPU、RAM、PCIe通信量、生成速度など」を確認できるとする。
- Python の OpenAI SDK を
http://127.0.0.1:8080/v1とmodel="strata"で接続する例を示し、「Anthropic Messages互換APIにも対応しているため、外部ツールやコーディングエージェントのローカルLLMとして使うこともできます」とする。 - 「これまでのローカルLLMでは『VRAMに収まるモデルを選ぶ』のが基本でした」とし、Strata は「PC全体のリソースを使うことで100B超のモデルを一般的なGPUでも実行するというアプローチを採っています」とまとめる。
- おまけとして、「通常のQwen3.8-Flash-Nextは、Q2_0でも約34GBのRAMを使うため、32GB RAMでは基本的に不足します」とし、32〜48GB の RAM には Coder 版 (Shard 1 は約 29.6GB)、48GB 以上には通常版の Q2_0 / IQ2_XS という使い分けを示す。
- 記事は 2026-10-08 の確認時点で、はてなブックマーク 241 users。
[B] GIGAZINE — Strata, an app that runs quantized Qwen3.8-Flash-Next (125B) fast and locally on gaming PCs (2026-10-05, in Japanese)
https://gigazine.net/news/20261005-strata-local-ai/
- 「最先端モデルは規模が大きすぎてローカルで実行するにはデータセンター級のAI実行インフラが必要となります」とし、Strata を「1250億パラメーターのQwen3.8-Flash-Nextの量子化版を比較的入手しやすいハイエンドゲーミングPCで実行可能にするアプリ」と紹介する。
- 仕組みとして、「MoEモデル全体をRAMに読み込んで、VRAMには使用頻度の高い専門家モデルを読み込む」ことと、「軽量モデルで次のトークンを予測する投機的デコードを用いる」ことを挙げる。
- 必要なものは「12GB以上のVRAMを備えたNVIDIAもしくはAMD製GPU」、「32GB以上のRAM」、「80GB以上のストレージ(SSDを推奨)」、「Windows 10/11もしくはLinux」。
- RAM 32 GB ではコーディング用途以外の専門モデルを省いた Coder だけが動き、64 GB なら IQ2_XS、IQ3_XXS、IQ3_S が動き、さらに多くの RAM があれば精度の高い量子化版も動くとする。
- RTX 5070、Ryzen 5 7600、RAM 64GB で Q2_0 が 94 トークン/秒、IQ3_S が 53 トークン/秒、RX 9070 XT、Ryzen 9 3900X、RAM 47GB で Q2_0 が 60 トークン/秒で動いたと伝える。
- 「Strataはインターネット上で大きな話題となっており、Xにも動作報告が数多く投稿されています」とし、RTX 5070 12GB で IQ2_XS が速く動く @murasametech の動画 (グラボの安値ランキングをスクレイピングで集めて表示させるタスク) を埋め込む。
- 一方で「Qwen3.8-Flash-Nextを量子化することで性能が大きく低下することも報告されています」とし、RTX 4090、RAM 64GB、Core i9-12900、SATA SSD の IQ2_XS が 140 TPS で動いたものの、円周率を出力させると同じトークンを何度も出すループに陥ったという @dimeiza の投稿を埋め込む。
- 記事は 2026-10-08 の確認時点で、はてなブックマーク 12 users。
[B] GIGAZINE — Qwen3.8-Flash-Next released as an open model with Qwen4's next-generation architecture (2026-08-27, in Japanese, background)
https://gigazine.net/news/20260827-qwen3-8-flash-next/
- Qwen が 2026 年 8 月 26 日に Qwen3.8-Flash-Next を公開し、「Qwen4シリーズで採用される予定の次世代アーキテクチャ」で作られたとする。
- Qwen の X の投稿を埋め込み、本番版の Qwen3.8-Flash は QwenCloud の API で 100 万入力トークンあたり $0.16、100 万出力トークンあたり $0.47 で近く提供されるとしている。
- Gated DeltaNet と Qwen Sparse Attention のハイブリッドと N-gram Embedding を説明し、「総パラメーター数は1250億、アクティブパラメーター数は60億で、N-gram Embeddingのパラメーター数は510億です」とし、標準で 26 万 2144 トークンのコンテキスト、YaRN で最大 100 万トークンとする。
- Qwen3.8-Flash-Next、Qwen3.8-27B、Qwen3.7-Plus、DeepSeek-V4-Flash-0731、Claude-Opus-4.8(Max) のベンチマークを並べ、「Qwen3.8-Flash-Nextは多くのテストでClaude-Opus-4.8(Max)を上回っています」とする。
- 「Qwen3.8-Flash-Nextのトレーニングに必要な期間はQwen3.8-27Bの9分の1とのこと」と書く。
- 「100万トークンを処理する場合、Qwen3.8-Flash-NextはQwen3.7-Plusの8.6倍高速です」とする。
- 重みは Hugging Face と ModelScope で公開され、Unsloth の量子化版も同日に出て、「1bit版は75GB以上のRAMを搭載したマシンで実行可能で、フルモデルの80%の精度を維持しているとのこと」とする。
[B] Hackaday — AI On Your Gaming PC, by Al Williams (2026-10-04)
https://hackaday.com/2026/10/04/ai-on-your-gaming-pc/
- LLM を試したいなら、他人のコンピュータにリクエストを送るか、ローカルでモデルを動かすために非常に大きな GPU と CPU の構成を用意するかを選ぶのが普通だとする。
- Strata は、ゲーム用にすでに持っているかもしれないハードウェアで 125B パラメータの LLM を動かせるとする。
- 巧みなのは、Strata が VRAM を実質的に大きなモデルのキャッシュとして扱う点だとする。
- モデルには、SSD に置いたまま必要に応じて読む約 29 GB のルックアップテーブルも含まれる。
- プロジェクトによれば、VRAM 12 GB の RTX 5070 は量子化に応じて毎秒約 50 から 90 トークンを出せるとする。
- NVIDIA の C コンパイラー、手元の gcc のバージョン、いくつかのヘッダーの非互換でセットアップに手こずったが、読者の問題はきっと別のものだろうと書く。
- localhost で OpenAI 互換と Anthropic 互換の API を公開するので、既存のチャットのフロントエンド、コーディングアシスタント、ほかのツールが特別な扱いをほとんどせずにローカルのモデルを使えるとする。
- Hackaday について尋ねると多くは正しく答えたが、サイトの創設者や筆者を取り違え、思考の段階を上げて temperature を下げても混乱がほかの事実に移っただけだった。
- 問題のあるコードを見つけたり、特定の C コンパイラーを新しいターゲットに移植する方法を概説したりする課題ではよりよくできたとする。
- それでも 32 GB 以上のシステム RAM、12 GB の VRAM、約 80 GB のストレージは要るので、控えめな構成というのは相対的なものだとする。
[B] Latent Space (AINews) — [AINews] Reflection Beam - 501B-A23B American Open Model (2026-10-06)
https://www.latent.space/p/ainews-reflection-beam-501b-a23b
- 推論システムの項で、llama.cpp v0.6.0 が Clef のテキストと画像の対応、Qwen3.8-Flash-Next、新しい
llama_batch_extAPI を加えたことを、Georgi Gerganov を引いて挙げる。
[C] Hacker News — Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s (2026-10-04)
https://news.ycombinator.com/item?id=49953495
- snehesht が 2026-10-04 12:51 UTC に投稿し、2026-10-08 の取得時点で 927 ポイント、422 コメント。
- 投稿者は、Nvidia 4090、DDR5 の 128 GB、Ryzen 7950x3d で毎秒 124 トークンを報告する。
- 最も返信の多いコメント (63 件) は、品質が大きく落ちうるので 4 bit 未満の量子化には少し懐疑的だとする。
- その投稿者は、1 時間約 $1 で借りた RTX Pro 6000 で 4 bit の量子化を動かし、キャッシュ込みで 1 時間に出力約 120 万、入力 4,000 万トークンを得ている。
- AI に任せるインストールの 1 行について、返信の 1 つは bash へのパイプが悪いと思っていたのに、と皮肉り、投稿者は何をするのか確かめるために
setup.pyとsetup.shを読む必要があったと答えた。 - 1 人は、なぜこの種のエキスパートのキャッシュが本家の llama.cpp にまだないのかと問う。
- 返信は、主流のエンジンはこうした成果の取り込みが遅く、llama.cpp のチーム (GGML) は貢献するコードを人が理解していることを厳しく求めるので、AI が丸ごと書いたカーネルは別のプロジェクトにとどまるとする。
- 1 人は電力を制限した 3090、DDR4 の 64 GB、PCIe x8 で、ninfer の Qwen3.8-27B (Q4/Q5) と Strata の IQ3_XXS を比べ、Strata はコードのタスク 128 問中 114 問、ninfer は 92 問に通り、生成時間は 142 分と 122 分で、調整後は 40-60 t/s を得ている。
- 1 人の 50 枚の画像の物体の座標の視覚のベンチマークでは、Strata の誤差の中央値は 154.8 ピクセル (平均 168.8)、同じ GGUF と視覚のアダプタの llama.cpp は 46.5 (平均 81.4) だった。
- 別の 1 人は、Strata の同じモデルは llama.cpp と比べて誤りもハルシネーションも多かったと報告する。
- 1 人は、世界中の LLM のスレッドが Strata のリンクであふれているとし、速さは確かだが精度には感心していないと書く。
- ほかの人は Q2 の量子化を一蹴し (Q2 まで削ればそれは速く動く)、LLM の速度を語る見出しには必ず量子化を書くよう求める。
- 1 人は、Coder はエキスパートの半分を落とし、低い量子化は品質を犠牲にすると指摘しつつ、何もないよりはましな場面では差し引きでプラスだとする。
- 1 人は 16 GB の RTX 4090 と 96 GB の RAM で Coder を動かし、Strata のチャットではコンパイルの通る Rust の二分木を書けず、OpenCode のもとでは思考の予算が尽きるまで考えがループした。
- 1 人は、low の effort では Flash Next が Qwen3.8-27B に勝ち、DDR4 の 128 GB の RTX 3090 で速いと報告し、別の 1 人は、ファイルサイズが 27B の約 6 倍のモデルがモデルカードのベンチマークで 10% ほどしか伸びないのはなぜかと問う。
- 1 人は、これも Claude が KV キャッシュを量子化した類いのリポジトリではないかと問い、すべて AI 生成だと付け加え、ほかの人は同じモデルを動かすほかのエンジン (ds4、ninfer、FreeToken、Unsloth の量子化版を使う llama.cpp) を挙げる。
- 別の 1 人は、RTX 6000 Pro で ds4 の Q4 の量子化を動かし、コードでデコード 255 tok/s、4 本の同時のストリームで 400 tok/s 超を報告する。
[C] Hackaday — reader comments on "AI On Your Gaming PC" (2026-10-04 to 2026-10-05)
https://hackaday.com/2026/10/04/ai-on-your-gaming-pc/#comments
- 1 人の読者は、12 GB の RTX 3060 で Coder を Docker の低 RAM モード (32 GB の上限) と 256K のコンテキストで動かして平均 35 tps を得て、仕様のはっきりした C# の移行をまずまずの出来だったとする。
- 別の読者は、コンテナの手順は Nvidia の GPU しか扱っていないと指摘する。
- llama.cpp、Ollama、vLLM で任意の MoE モデルを動かすのとどう違うのかという問いに、ある読者は、特定の MoE モデルについてハードウェアの要件を 4 分の 1 にする、つまり約 100 GB の VRAM を 12 GB の VRAM と 32 GB の RAM にするのだと答える。
- ある読者は、何度もシステムを固まらせた経験から、LLM を動かす GPU で画面を出さないよう警告する。
メモ
- README、ドキュメント、論文の速度の数字はすべて開発者自身のもので、独立した測定は PC Watch のコラム (RTX 3060 と DDR4 で IQ2_XS が 34-44 tok/s、48 GB に改造した RTX 4090 で IQ3_S が 86.6-128.5 tok/s)、コミュニティの RTX 5090 の報告 (165.0-179.4 tok/s)、Hacker News と Hackaday の個々の利用者だけ。
- RTX 3060 の結果は、DDR4 では 1 回の CPU の半分がおよそ 2 倍かかるという論文の記述と合う。
- コーディングエージェントにとっての弱点はプロンプトの読み込みで、論文の Q2_0 の TTFT は 32K で 55.3 秒、README は最初のメッセージを 30,000 トークンあたり約 1 分で読むとし、PC Watch は RTX 3060 で 23k トークンに約 25 秒を測った。
- 後のエージェントのターンで新しい部分だけを読めるのは、DETAILS.md の会話のキャッシュとシステムプロンプトのチェックポイントのおかげ (Codex: 約 96% を再利用、RTX 5070 でターンごとに 1-2 秒)。
- 論文のプロンプトの速度 (285-571 tokens/s) はいまの README (1,160-2,650 tokens/s) より前のもので、DETAILS.md はエンジン 0.1.13 でプロンプトの速度がおよそ 2 倍になったとし、その後のリリースでさらに上がった。
- 最低限の RAM は情報源によって違う: README、GIGAZINE、Hackaday は 32 GB (Coder だけ、または 24 GB のカードの低 RAM モードでの Q2_0 と IQ2_XS)、PC Watch のコラムは実用の最低ラインを 48 GB とし、npaka と PC Watch のニュースは 64 GB を推奨する。
- 品質が未解決の問い: 低ビットの量子化 (Q2_0、IQ2_XS)、中国語などの CJK のテキストに弱い Coder (#438、日本語での利用に関わる)、GIGAZINE が伝えたループする IQ2_XS の答え、IQ2_XS のコードが IQ3_S より一段落ちるという PC Watch の評価、同じ重みで Strata が llama.cpp の約 3 倍悪かった Hacker News の利用者の視覚のテスト。
- 逆の方向を示すのは PC Watch の小さな IQ3_S の確認 (コードのテスト 46/48、きれいな日本語、正確な画像とツール呼び出し) だけで、同じファイルで Strata と llama.cpp を比べたより大きな評価はまだ誰も公開していない。
- Strata の作者と Qwen チームのつながりを示す情報源はなく、GitHub のプロフィールは Ljubljana とし会社の記載はなく、論文に著者名はなく、どの情報源も Strata を Qwen のオープンな重みの上に作られた独立したプロジェクトとして扱っている。
- コードが AI 生成だという Hacker News の主張は未確認で、ドキュメント自身も、いくつかのハードウェアの道はコンパイルの確認だけで、0.1.40.3 の Windows の AMD の修正はそうしたカードで試していないとしている。
- チームでの利用ではモデルのライセンスが問題になる: Strata は MIT だが、重みと ESP のベクトルは Qwen Community License 1.0 のもとにあり、Model as a Service や AI Work Assistant (AI によるコーディングかオフィスの生産性の製品) の事業による商用の利用には Qwen の別のライセンスが要り、第三者に何も提供しない社内の利用は除かれる。
- Coder (カードによれば Apache-2.0) と Swift 1.5 (Swift Open License 1.0) には、さらにそれぞれのライセンスがある。
- 推論の段階がかみ合わない: モデルカードは xhigh (既定)、medium、low を挙げ、Strata は none、low、medium、high を出してモデルの既定を high とし、Strata がそれを学習済みの段階にどう対応づけるかは読んだ範囲に書かれていない。
- GIGAZINE の背景記事は Qwen 自身のページと 2 か所で食い違う: 学習のコストを Qwen3.8-27B の 9 分の 1 とするが QwenLM の README は Qwen3.7-Plus の 9 分の 1 とし、比較の列を Claude-Opus-4.8(Max) とするが 2026-10-08 に読んだモデルカードは Claude-Opus-4.6 (Max) と示す。
- AINews は llama.cpp v0.6.0 が Qwen3.8-Flash-Next を加えたとするが、QwenLM の README はすでに llama.cpp の対応 (テキストと画像) を挙げ、Hacker News の利用者は Unsloth の GGUF を llama.cpp で動かしているので、v0.6.0 がこのモデルに何を加えたのかははっきりしない。
- Hacker News の題は 24 GB のカードである RTX 4090 で 100 T/s とするが、プロジェクトの看板の主張は 12 GB のカードについてのもの。
- n-gram のテーブルの読み方はドキュメントの間で食い違い、HOW_IT_WORKS.md と論文は OS のページキャッシュを通じて読むとし、DETAILS.md は既定の
--ple-io directが OS のキャッシュを通らずバッファなしで読み、回転ディスクには--ple-io ramを使うとする (#605)。 - Qwen のブログ記事 (qwen.ai) はページのキャッシュでも WebFetch でも描画されなかったので、ここでのアーキテクチャの事実はモデルカードと QwenLM の README による。
- Qwen3.8-Flash の API の価格 (100 万入力 / 出力トークンあたり $0.16 / $0.47) は、2026-08-27 に GIGAZINE が埋め込んだ Qwen の X の投稿によるもので、いまの QwenCloud の価格は確かめていない。
実践やアウトプットの提案
- 12-24 GB の NVIDIA のカード、64 GB の RAM、NVMe の SSD を持つ予備のデスクトップで 1 日のスパイクを行う: IQ2_XS と IQ3_S を入れて Claude Code (
ANTHROPIC_BASE_URL、ANTHROPIC_MODEL) と Codex CLI (wire_api = "responses") を向け、最初のプロンプトの TTFT、デコードの tok/s、後のターンのキャッシュの再利用を記録する。 - チームの小さなコーディングのタスク 10-20 件を、日本語のプロンプトとコメントも含めて、Strata の IQ2_XS、IQ3_S、Coder といまチームが使うホスト型のモデルで採点し、低ビットの量子化と CJK のテキストで報告された品質の低下がチームの仕事に効くかを確かめる。
- 同じタスクで同じ GGUF を llama.cpp でも動かし、エンジンの影響と量子化の影響を切り分ける (Hacker News の視覚のテストは、エンジン自体が品質を損ないうることを示唆している)。
- 個人の実験を超えて使う前に Qwen Community License 1.0 を法務と確認する: 同僚に提供する社内のコーディングアシスタントは社内の利用に入りうるが、顧客にコーディングやオフィスのアシスタントとして提供するものには Qwen の別のライセンスが要るかもしれない。
- Strata 自身の規則から、ローカルのモデルサーバーの短いセキュリティのチェックリストを書く:
127.0.0.1のままにする、--host 0.0.0.0の前に--api-keyを設定する、DNS リバインディングの防御のために 0.1.38 以降を使う、試験的な速度の射影はオフのままにする、エージェントにインストーラーを走らせる前にdocs/AI_SETUP.mdを読む。 - ローカルの機械の月額のコスト (ハードウェアの償却と電力) を、GIGAZINE が伝えた Qwen3.8-Flash の API の価格 (100 万トークンあたり $0.16 / $0.47) でのチームのトークン量と比べ、ローカルでの 125B の MoE の提供が見合うのはいつかを社内のノートか短い Zenn の記事にまとめる。
4. 🔦 Reflection が、コーディングとエージェントの作業に向けた 501B パラメータ (アクティブ 23B) のオープンウェイトの MoE モデル Beam を発表し、いまは早期アクセスで提供して、Apache 2.0 の重みは 10 月中に公開すると約束した
- 選定 / 影響度 1 / 将来性 1 / 注目度 2 / 起点 10-05、期間前の出来事 / 種別: リリース / 領域: モデル。
- 候補になったフィード項目:
ainews10-06 Reflection Beam - 501B-A23B American Open Model — Reflection の記事は Hacker News で 549 ポイント、174 コメント (取得時点)
- 起点: Reflection は期間の前日の 10-05 に Beam を発表し、AINews が 10-06 にフィードに運んだ。
収集した情報
[A] Reflection — Introducing Beam: Reflection's 501B open-weight model (2026-10-05)
https://reflection.ai/blog/introducing-beam
- Beam を Reflection の最初のオープンウェイトモデルとして紹介する。
- Beam は総パラメータ 501B、アクティブ 23B の疎な Mixture-of-Experts のモデルで、コーディング、推論、エージェントの負荷向けに作られた。
- Reflection は、Web と独自にライセンスを得たデータセットからの多様で厳選された高品質な 23.8 兆トークンで事前学習し、手に入る同規模のオープンなベースモデルに並ぶか上回ったとする。
- 計算量の大きい RL の実行では、10.5K 基の NVIDIA GB300 の GPU で 4 週間学習し、1 億回を超えるロールアウトを生成した。
- これらの取り組みが合わさって、オープンウェイトとして競争力のある性能と、フロンティア水準の推論の計算効率を生んだとする。
- Beam は最終段階のレッドチーミングと評価を受けている。
- 早期アクセスは platform.reflection.ai での登録で、重み、技術報告、モデルカード、開発者向けの成果物は今月中に公開するとする。
- Beam は特にコーディングとエージェントの性能に重点を置いて訓練した。
- Beam は欧米のオープンウェイトのフロンティアを押し上げ、コーディングとエージェントのタスクで GLM 5.2 のようなより大きなオープンモデルに匹敵し、Qwen 3.8-Max に迫るとする。
- Kimi K3 のようなフロンティアのオープンモデルは素の能力では先を行くが、Beam の強みは推論時の効率だとする。
- ベンチマークの表は報告されていないスコアを NR とし、列の順は Beam / Inkling / Nemotron 3 Ultra / GLM 5.2 / GLM 5.3 / Kimi K3 / Qwen 3.8 Max / DeepSeek V4.1 Flash。
- エージェント型のコーディングとターミナルの行:
- DeepSWE v1.1: 44.4 / NR / NR / 44.0 / 61.0 / 68.0 / 51.0 / 74.2。
- SWE Bench Pro v2-Hard: 77.2 / 56.9 / NR / NR / 84.3 / 88.2 / NR / NR。
- SWE Bench Pro v1: 65.5 / 54.3 / 46.4 / 62.1 / NR / NR / 67.7 / NR。
- Terminal Bench v2.1: 80.1 / 63.8 / 56.4 / 81.0 / 88.2 / 88.3 / 86.6 / 90.6。
- SWE Atlas Codebase QnA: 34.6 / NR / NR / NR / 61.0 / 68.0 / NR / NR。
- SWEBench Multilingual: 78.0 / NR / 67.7 / NR / NR / NR / NR / NR。
- SWEBench Verified: 80.9 / 77.6 / 70.7 / NR / NR / NR / NR / NR。
- 推論の行:
- AIME 2026: 97.8 / 97.1 / NR / 99.2 / NR / NR / NR / NR。
- HLE no tools: 36.2 / 29.7 / 26.7 / 40.5 / 42.3 / 46.9 / 43.6 / 39.1。
- SciCode: 49.7 / 46.1 / 44.6 / NR / 59.0 / 58.7 / 52.1 / 52.0。
- CriPT AA: 16.3 / 5.4 / 3.1 / 20.9 / 19.1 / 23.4 / 20.0 / 14.3。
- GPQA Diamond: 90.5 / 87.2 / 87 / 91.2 / 91.7 / 93.5 / 92.6 / 90.9。
- ツール呼び出しと検索の行:
- AutomationBench public: 37.0 / NR / NR / 26.2 / 48.2 / 46.7 / 39.8 / 54.8。
- MCP Atlas: 78.7 / 76.0 / 63.1 / 77.8 / 84.2 / 82.3 / 84.5 / NR。
- tau3 banking: 38.0 / 25.0 / 22.6 / 37.1 / NR / 37.1 / 55.2 / NR。
- BrowseComp (コンテキスト管理あり): 77.4 / 77.1 / 44.4 / NR / NR / 91.2 / NR / NR。
- DeepSearchQA (コンテキスト管理あり): 80.1 / NR / NR / NR / NR / 95.0 / NR / NR。
- 一般的な能力の行:
- AA-LCR: 79.3 / 77.3 / 79.3 / 78.3 / 79.7 / 88.7 / 80.3 / 84.0。
- LongBench v2: 65.5 / NR / 61.9 / 64.0 / NR / NR / 66.3 / NR。
- IFBench: 79.7 / 79.8 / 81.7 / 73.3 / NR / NR / 82.8 / NR。
- AA Omniscience (index、公開の分割のみで Reflection による結果): 13.0 / 14.2 / 8.6 / NR / 22.6 / NR / NR / 6.6。
- 高度な推論のベンチマークでは、3–4 分の 1 の推論の計算量で GLM-5.2 に並ぶスコアを出すとする。
- Qwen 3.8-Max のように、トークンあたりの推論の計算量がずっと大きい 2T+ パラメータの族のモデルと比べると、効率の差はさらに大きいとする。
- Reflection は Beam を、企業のコーディングとエージェントの負荷のための強力な実用の主力モデルと呼ぶ。
- 効率の図は DeepSWE、Humanity's Last Exam、Terminal Bench 2.1 を FLOPs とトークン数で測ったもので、データは Artificial Analysis と DataCurve による。
- 計算量は FLOPs ≈ 2 × アクティブのパラメータ数 × 試行あたりの平均の生成トークン数で見積もり、推論と回答のトークンを数え、MoE のモデルではアクティブのパラメータを使う。
- これらの見積もりはプロンプトのプリフィル、コンテキストに依存する attention の演算、サービングのオーバーヘッドを除いており、測った推論のコストではなく、おおよその計算量の比較だとする。
- 強化学習を拡大するために 10.5K 基の NVIDIA GB300 の GPU を 4 週間使い、最大 256K トークンのコンテキストで 1 億回を超えるロールアウトを生成した。
- 学習と採点には約 13 億のサンドボックスを使った。
- この実行のために、高品質のコーディング、エージェント、STEM の環境を 100 万用意した。
- これはオープンなラボがこれまでに行った中で最大級の RL の実行の 1 つだと考えるとする。
- 評価のスイート全体で、RL の計算量を増やすにつれて能力は伸び続け、頭打ちの兆しはなかったとする。
- RL のスケーリングの図は、1 億を超えるロールアウトのうち推論のエキスパートの 80M を扱い、比較として Inkling は 30M、MiMo は 753K のロールアウトで訓練されたとする。
- Beam は非同期の方策勾配で訓練され、方策の古さと学習と推論の不一致が主な不安定さの原因になる。
- 新しいアルゴリズムで、1 日以上前に生成したやり取りから学ぶ場合でも安定な、大規模で完全に非同期の RL を保つとする。
- 1 日の古さ、つまりいまの方策から重みのバージョンで 107 遅れていても、数値は安定しているとする。
- 制御できる長さのペナルティは、最初は性能が上がるにつれて出力を短くし、後にエージェントの技能が伸びると、長い出力がさらなる伸びをもたらした。
- 利用者は Beam の reasoning effort のパラメータでこのトレードオフを制御でき、低い設定は短い応答を、高い設定は難しいタスクの性能を上げる長い推論を選ぶとする。
- 推論、ソフトウェアエンジニアリング、ターミナルのタスクで訓練する間に、RL の混合にブラウジングのタスクがないにもかかわらずブラウジングが伸びた。
- Web にアクセスさせると、ほかの LLM を検索して問い合わせることや、文書を読むのに OCR の API を使うことを自然に身につけたとする。
- Beam はテキストのみだが、ほかのモダリティの情報もテキストで表せば扱えるとする。
- デモは、p5.js の宇宙飛行士のゲーム、陸と水のグリッドのパズル、NYC MTA のデータから作ったライブの NYC の地下鉄の地図、Gemma-4 のファインチューニングのノートブック。
- 陸と水のデモ (180×90 のグリッド、16,200 点) では Beam は 95.5% の範囲を正しく当て、Opus 5 (92.5%) と Fable 5 (97.8%) の間に入るとする。
- ノートブックでは Beam を OpenCode につないで Unsloth を調べるよう頼み、Beam は保留のテストセットでの Gemma の Text2SQL の精度を 66.5% 上げた。
- ほぼ 100 万の環境のプールは、主に合成データのパイプラインで作り、独自のベンダーのデータとオープンソースの情報源で補った。
- タスクは難しさと品質 (仕様が足りない、誤解を招く、当て推量できる、ハックできる、そのほか壊れていたりノイズが多かったりしないこと) で絞り込み、RL を通して試した。
- Beam の開発を通じて、データの品質で妥協すると能力の頭打ちやほかの学習の問題につながるとわかったとする。
- Beam の学習の間、平均 110K の同時のロールアウトを保った。
- RL の基盤は、すべてのトークンにそれを生んだモデルのバージョンを付ける。
- 推論と学習の GPU の比率は 3.9:1 から 5.4:1 で、トレーナーを状態を失わずに 5 つの GPU のメッシュの構成の間で増減させた。
- 新しい重みはラックをまたぐ RoCE とラック内の NVLink を通じて中央値約 12 秒で推論のフリートに届き、ラックをまたぐ通信を 75% 減らし、フリート全体への反映を 2.2 倍速くした。
- 実行中、学習のジョブを止めずに 71 件の推論のインシデントに対処し、復旧の中央値は 8 分、失った容量はサービングの GPU 分の 0.02%。
- 実行中、最大 170K の同時のサンドボックスを支えた。
- 基盤全体では、20 を超えるクラスター、2 つのクラウド、4 つのリージョンにわたって 10 億件を超えるサンドボックスの作成のリクエストを処理した。
- 新しいサンドボックスの 90% は 10 秒未満で準備できた。
- 動的なパッキングで、平均のロールアウトの長さがほぼ 70% 伸びる間も、学習のバッチは 99.99% 埋まり、GPU あたりのトレーナーのスループットは 1.5% 以内に保たれた。
- 独立した審査役が合格した解答を検証器の悪用がないか見直し、再生できる記録で報酬とその学習での使われ方を点検できるようにしたとする。
- Reflection は順に大きくしたモデルの系列を事前学習し、学習データを自社の検証用のセットに対して汚染除去した。
- スケーリングは成り立ち、最終の Beam Base は予測した性能に一致し、手に入る同規模のオープンソースのベースモデルに並ぶか上回るとする。
- アーキテクチャは、交互に並ぶ局所と大域の attention、細かいルーティングのエキスパート、制御した残差ストリーム、複数の形の負荷分散を組み合わせる。
- エキスパートの負荷分散は、補助損失なしの負荷分散 (DeepSeek-AI et al., 2024) にエキスパートのバイアスの更新のコサイン減衰を加え、系列単位の分散も足した。
- 最も忙しいエキスパートの負荷は、MoE の層を平均して、事前学習の終わりに 1.04 倍にとどまるとする。
- 深さに基づく残差のスケーリング、SandwichNorm、要素ごとの attention のゲート、FP32 の残差の累積で活性値を抑え、Beam の 52 層すべてで残差ストリームの RMS は事前学習を通じて抑えられたままだとする。
- Web 上で公開されている、制限のないライセンスのコードとコードのドキュメントのほぼすべてで学習するとする。
- 生のインターネットのトークンの約 95% は解析、重複除去、精選で取り除くが、従来の手法なら取りこぼしていた約 1.8 兆の高品質のトークンを残しており、そこには精選した Web のコードのトークンの 87% が含まれるとする。
- PDF のパイプラインは視覚言語の OCR のモデルと社内の品質の分類器とアーティファクトの検出器を組み合わせ、数千の GPU でペタバイト規模の技術データにかけた。
- コードと技術的な内容は、学習の期間を通じて何度か繰り返した。
- Beam は 6,144 基の NVIDIA GB300 NVL72 の GPU のクラスターで、4 週間未満で端から端まで事前学習した。
- 事前学習のスタックは、トポロジーを意識した Kubernetes ベースのスケジューラーと、サイレントなデータ破損 (SDC) の検出のシステムを含め、ほぼすべて社内で作った。
- 実行では半自動の巻き戻しが 9 回あり、goodput は終盤に 92.3% に達した。
- midtraining で、Beam の実効的なコンテキスト長も 1M トークンに延ばしたとする。
- 安全性とアライメントのために、事前学習のチェックポイントから別の SFT と RL のパイプラインで 2 つ目のモデルを訓練し、2 つの教師を multi-teacher on-policy distillation (MOPD) で統合した。
- 原則は 3 段で、Beam が破ってはならない規則、満たすべき性質 (文脈を使う、正確な主張、不確かさを認める、利用者の依頼に透明に従う)、既定のスタイル (直接的で、徹底し、効率的で、先回りする)。
- RL の前に報酬の効果を予測すると、Best-of-N の上限だけよりも RL の伸びをよく予測した (r = 0.79、BoN の上限では r=0.46)。
- 安全性の訓練には deliberative alignment (Guan et al., 2024) と敵対的に作ったデータセットを使い、安全性の RL は 1 ターン、複数ターン、ジェイルブレイク、エージェントの場面を、模擬の敵対者とともに扱った。
- 安全性の評価の結果はモデルの技術報告で公開し、社内で開発して使った安全性の評価をオープンソースにして、オープンなエコシステムが試し、貢献できる、共有された点検可能な基準を作るとする。
- この早期の版の Beam を選ばれた利用者に提供しており、ウェイトリストに登録できるとする。
- 今月、Apache 2.0 のライセンスで重みを、ドキュメントと、モデルの実行、評価、ファインチューニングのためのスタック一式とともに公開するとする。
- 配布のパートナーのエコシステムと、幅広いオープンソースのライブラリやハーネスとの統合とともに Beam を出し、開発者が既存のオープンソースのワークフローで Beam を使えるようにするとする。
- Beam はシリーズの最初のモデルで、次のモデルをすでに訓練しているとする。
[B] Latent Space (AINews) — [AINews] Reflection Beam - 501B-A23B American Open Model (2026-10-06)
https://www.latent.space/p/ainews-reflection-beam-501b-a23b
- 号の副題は米国のオープンソースにとって小さな勝利という趣旨で、10/03 から 10/05 の AI のニュースを扱う。
- Reflection は 1 年以上前に Latent Space とともにコーディングでの大きな目標を掲げて立ち上がり、Thinking Machines より長くステルスのままだったと振り返る。
- Reflection は Inkling、Nemotron、GLM 5.2 と比べているが、最先端の GLM 5.3、Kimi K3、Qwen 3.8 Max、DeepSeek V4.1 Flash は概して先を行くとする。
- それでも米国でゼロから訓練されたものなので、こうした選択肢を待ち望んでいた市場の一角があり、さらに重要なのは、Reflection が機能する新興ラボとしての到来を告げたことだとする。
- まとめは、コーディング、エージェント、科学の作業向けの、テキストのみで総 501B / アクティブ 23B の MoE で、ゼロから訓練され、今月 Apache 2.0 で完全な重みが出るとする。
- チームの投稿は、一部を数億の PDF にかけた OCR のパイプラインから得た 23.8T の事前学習のトークンと、約 1M のタスクにわたる 1 億を超えるロールアウトによる、10K 基の GB300 での安定した RL/OPD の実行を挙げる。
- Reflection の主張の要約として、SWE-bench Verified で 80.9、GLM 5.2 の 3–4 倍の推論の効率、約 10,500 基の GB300 でそれぞれ 4 週間の事前学習と RL を伝える。
- Alex Polozov は技術報告と OSS との統合を約束する。
- Axios は事前に公開を報じ、伝えられた要約によれば、Reflection は Colossus の計算に月 $150M を払い、Nebius と $1B の契約を結び、名前の出ていないほかの米国のラボも今月オープンなモデルを出すとした。
- Artificial Analysis は早期アクセスを得ており、Beam はその知能に対して最もトークン効率のよいオープンモデルの 1 つになると見込む。
- Elie Bakouch は、事前学習の BF16 の MFU を約 12% にすぎないと見積もる。
- アーキテクチャを大域とスライディングウィンドウの attention の 3:1 の交互の配置と読み、保留のコードのパープレキシティが DSv4 よりよいと指摘する。
- Teortaxes は Beam を DeepSeek V3 の iso-FLOP の再現と呼ぶ。
- 4 週間で約 1.3B の RL のサンドボックス、同時に最大 170K と推定する。
- 観察者は Beam を GLM-5.2 の水準あたり (iScienceLuvr)、いくつかのベンチマークで DSv4 Flash より下 (X での批評) に置く。
- Nathan Lambert は、Nvidia や Thinking Machines と並ぶ米国の強いリリースでありながら、中国の対抗馬にまだ後れをとるものとしてまとめる。
- エンゲージメントの上位のツイートには、Reflection が Beam を紹介した投稿が 7.4K で載る。
[B] Latent Space (AINews) — [AINews] Quasi-Riemann-Hypothesis: OpenAI publishes 722 math papers solving 90 of the top 500 open math problems (2026-10-07)
https://www.latent.space/p/ainews-quasi-riemann-hypothesis-openai
- Zhihu の Beam の分析は、事前学習のトークンが 23.8T の 501B/23B の MoE と説明する。
- RL は約 10,500 基の GB300 で 4 週間走り、学習は最大 107 の方策のバージョン遅れのサンプルに耐えたとする。
- 能力とアライメントの教師は multi-teacher on-policy distillation で統合されたとする。
- 同じオープンなリリースの一覧は、Ling 3.1 Flash を総 560B、アクティブ 25B のパラメータで、Artificial Analysis の指数で 41、100 万トークンあたり $0.30/$0.90、重みは近く公開とする。
[B] TechCrunch — Reflection debuts Beam, an open-weight AI model to rival Chinese models at lower compute cost, by Rebecca Bellan (2026-10-05)
- Reflection AI が、同社初のフロンティアのオープンウェイトの AI モデル Beam を正式に発表したと伝える。
- 創業 2 年のブルックリンのスタートアップは、Beam が高度な推論のベンチマークで中国の主要なオープンモデルに並び、コストは劇的に低いと主張しているとする。
- 発表は、このスタートアップが公開に近いという週末の Axios の報道を裏付けるとする。
- ブログは Beam を、推論、コーディング、エージェントのタスク向けに大きな計算量の RL で訓練した、テキストのみの MoE モデルで、競合のトークンのコストと推論時の計算量のごく一部で動くと説明しているとする。
- Beam は 501B パラメータで、アクティブは 23B。
- 23.8T トークンで事前学習され、1M トークンのコンテキストウィンドウを持つとする。
- 比較として、Z.ai の GLM-5.2 は総パラメータ約 744B、アクティブ 40B とする。
- Reflection の性能の主張は独立に検証されていないとし、同社は Beam を、企業、公共部門、開発者向けの実用の主力モデルと呼ぶとする。
- 米国で最も直接の競合は、Thinking Machines Lab が 7 月に出したオープンモデル Inkling かもしれないとする。
- Reflection 自身のベンチマークでは、両方が結果を出している 4 つのコーディングのテストで Beam が Inkling を上回るが、Inkling はマルチモーダルで Beam はテキストのみだとする。
- Reflection は 2024 年に Google DeepMind の元研究者 2 人が創業し、PitchBook によれば約 $4.7 billion を調達し、直近のラウンドの評価額はプレマネーで $25 billion。
- SpaceX と Nebius との計算の契約は合わせて $7 billion を超え、2029 年まで Nvidia の GB300 のチップを確保するとする。
- Reflection は Beam を、機関が自分のデータで同社のモデルを訓練できる AI factories を通じて企業と主権国家に向けており、韓国の Shinsegae Group と主権 AI の factory の提携を試しているとする。
- Reflection は Beam の重みと技術の詳細のすべてを今月公開し、ハイパースケーラーと neocloud を通じて配布し、公開時にオープンソースのライブラリ全体と統合するとしているとする。
- Reflection は、TechCrunch の追加の問い合わせに間に合うようには答えなかったとする。
[B] SiliconANGLE — Reflection AI debuts open-source Beam model with 501B parameters, by Maria Deutscher (2026-10-05)
- Reflection AI が、501B パラメータのオープンソースの LLM Beam を発表したと伝える。
- Reflection は SpaceX と、各 72 枚のグラフィックカードを持つ Nvidia GB300 NVL72 の装置を借りる $6.3 billion の契約を結んだと伝えられ、それで Beam を訓練したとする。
- GLM-5.2 はパラメータが約 250B 多く、Reflection は Beam が 3 分の 1 から 4 分の 1 のハードウェアでいくつかのタスクをよりよくこなせるとしているとする。
- Beam は、2 兆を超えるパラメータを持つ Qwen 3.8-Max に迫るとする。
- 米国のスタートアップのオープンソースのモデルとして、同等以上の性能を示した最初のものだとする。
- ただし、無料の LLM は Anthropic PBC の Claude Fable 5.1 のようなフロンティアのモデルにまだ後れをとるとする。
- Reflection は小さな試作から順に大きなモデルを経て Beam Base を作り、6,144 枚のグラフィックカードのクラスターで、23.8 兆トークンとプログラミング言語ごとの独自のフィルターを使い、4 週間未満で仕上げたとする。
- midtraining でコンテキストウィンドウを広げ、RL の段階の前に推論を強めたとする。
- Reflection AI は 10,000 枚の GB300 のグラフィックカードを立ち上げ、13 億の強化学習のサンドボックスを起動するのに使ったとする。
- RL の段階は 4 週間で、71 件のエラーにわたって復旧時間の中央値は 8 分だったとする。
- Beam はまず早期アクセスのプログラムで提供され、重み、ドキュメント、ファインチューニングのツールは今月後半に出るとする。
[B] The Decoder — Reflection's Beam becomes the most capable open-weight model built outside China, by Jonathan Kemper (2026-10-06)
- AI スタートアップの Reflection が、生の性能よりも計算の効率を重視した、コーディングと推論向けの最初のオープンウェイトモデル Beam を出すと伝える。
- Reflection によれば、Beam はトークンごとに 501B のうち 23B だけを活性化し、主要なベンチマークで GLM 5.2 に並びつつ、計算量は 3 分の 1 から 4 分の 1 だとする。
- モデルは 10,500 基の Nvidia の GPU で 4 週間、強化学習で訓練された。
- 今月後半に Apache 2.0 のライセンスで出るとする。
- 最高の性能を追うのではなく、最小の計算で強い結果を出すことを狙っており、Deepseek と Qwen の中国のオープンウェイトのモデルと直接競うとする。
- コーディングとエージェントのベンチマークではずっと大きな Qwen3.8-Max に迫り、生の性能では Kimi K3 がまだ上で、Reflection は後継を訓練中だとする。
- Reflection のエージェント型のコーディングの表を、同じ数字で再掲する。
- ブラウジングで現れた能力、調整できる推論のパラメータ、デモ、Beam がテキストのみであることを伝える。
- Beam はまだ最終の安全性のテストの最中で、いまは選ばれた利用者が早期の版を使えるとする。
- Reflection は、Gemini の報酬モデリングを率いた Misha Laskin と、AlphaGo の構築に携わった Ioannis Antonoglou が 2024 年に創業し、2025 年夏にコードベースのエージェント Asimov を出した。
- 同社はモデルの重みを公開するが、学習データとパイプラインは非公開のままだとする。
[B] GIGAZINE — Reflection announces Beam, a 501-billion-parameter open model to counter China's open-source AI, claiming GLM 5.2 parity at a third to a quarter of the compute (2026-10-06, in Japanese)
https://gigazine.net/news/20261006-beam-reflection-501b-open-weight-model/
- Reflection をアメリカに拠点を置く AI スタートアップとして紹介し、Beam を「パラメーター数5010億・アクティブパラメーター数230億のオープンモデル」と伝え、Reflection の記事と Semafor を引く。
- 23兆8000億トークンの事前学習と、強化学習では「NVIDIA GB 300を1万500基使用して、4週間の学習で1億回を超えるロールアウト(AIモデルが回答や一連の行動を生成する試行)を生成しています」と伝える。
- 「記事作成時点では、Beamは最終段階のレッドチーミング(攻撃的なテストによる安全性の検証)と評価を受けている最中であるため、モデルは公開されていません」とし、2026 年 10 月中にフルウェイトを公開する予定で、Reflection Playground (platform.reflection.ai/login) でウェイティングリストに登録できるとする。
- Reflection の比較の図のベンチマーク (DeepSWE、Terminal Bench、HLE No Tools、SWE Bench Pro、SWE Bench Verified、CritPT AA) を説明し、比較した GLM 5.2、Qwen 3.8-Max、Inkling、Nemotron Ultra について「どのベンチマークでも比較対象となったオープンモデルと同等の性能を発揮しています」とする。
- 効率の主張を、「高度な推論ベンチマークでは、GLM-5.2(オレンジ)に匹敵するスコアを、3分の1から4分の1の推論計算量で実現」、「Qwen 3.8-Max(紫)のようなパラメータ数が2兆以上のモデル群と比較すると、効率の差はさらに顕著です」と言い直す。
- CEO の Misha Laskin の投稿を埋め込む。
- 投稿は、Beam はトークン効率がとてもよく、ゼロから事前学習し、知る限り公開で記録された中で最大の RL の実行でスケールしたとする。
- GIGAZINE の訳は、「オープンであることは、安全性の向上にもつながります」、「AIは科学と技術の両面で基盤となるものです」とし、「オープンにすることこそが、最も安全AIの利益を均等に分配する方法なのです」と続ける。
- 技術スタッフの Zach Wentz の投稿を埋め込む。
- 投稿は、1.3B のサンドボックスは本当にフロンティアのオープンな RL の実行で、Meta で率いたチームよりずっと小さなチームと少ない計算でそれを成し遂げたとする。
- GIGAZINE はその言葉を、「研究との深いパートナーシップなしには不可能な実績であり、Reflectionでこのような関係を構築できて本当に幸運だと感じています」と訳す。
- 2025 年 11 月に入社した Alex Polozov の投稿を、当時の事前学習は「わずか5〜10人のメンバーと少しのコードがあるだけというタイミングでした」という訳とともに載せる。
- 投稿は、今月後半に Apache 2.0 での完全な重みの公開、LLM の科学を詳しく書いた技術報告、OSS のエコシステムとのパートナーの統合も出すとする。
- データ基盤のチームを率いた Jake Nations の投稿を、「私たちが構築したOCRパイプラインが数億のPDFから数兆のトークンを生成したことに最も誇りを持っています」という訳とともに載せる。
- 米国のモデルがさらに Ollama に来るという、Ollama の歓迎の投稿を埋め込む。
- CEO の Misha Laskin と CTO の Ioannis Antonoglou への Alex Heath のインタビューにリンクし、その説明は、Reflection は Nvidia、Sequoia、Lightspeed などの投資家から $4.6 billion を調達したとしている。
- 記事は 2026-10-08 の確認時点で、はてなブックマーク 16 users。
[B] Mynavi News — US-based Reflection AI's 501B open-weight AI Beam: the US counters China in open-weight models (2026-10-07, in Japanese)
https://news.mynavi.jp/article/20261007-5091137/
- 「米Reflection AIは10月5日(現地時間)、501BパラメータのAIモデル『Beam』を発表した」とし、「コーディングや推論、AIエージェント用途を重視したモデルで、同社初のオープンウェイトモデルとして10月中にウェイトの公開を予定するという」と伝える。
- 「Beamは総501Bパラメータのうち、推論時に23Bパラメータを使用するMoE(Mixture of Experts)モデル」で、「23.8兆トークンで事前学習したほか、強化学習では10,500基のNVIDIA GB300を4週間使用し、1億回以上のロールアウトを生成したという」。
- 「同社による評価では中国Z.aiのGLM-5.2と競合する性能を持ち、コーディングやエージェントタスクではAlibabaのQwen3.8-Maxに迫るという」とし、「Kimi K3など一部の大型オープンモデルに性能では及ばないとしており、推論時の効率を強みとしている」と書く。
- 「Reflection AIはGoogle DeepMind出身者らが設立したAI企業」とし、「Beamのウェイトは現時点では未公開で、最終的なレッドチーミングや評価を実施中」と伝える。
- 「10月中にApache 2.0ライセンスでウェイトを公開するほか、技術レポート、モデルカード、実行や評価、ファインチューニングに必要なソフトウェアも公開する予定だとしている」。
- 日付は記事の URL から取り、記事は 2026-10-08 の確認時点で、はてなブックマーク 0 users。
[C] Hacker News — Beam: Reflection's 501B open-weight model (2026-10-05)
https://news.ycombinator.com/item?id=49969183
- Philpax が 2026-10-05 19:16 UTC に投稿し、2026-10-08 の取得時点で 549 ポイント、174 コメント。
- 最上位のコメント (返信 36 件) は、DeepSeek v4.1 Flash より大きく、動かすのに高くつき、測ったすべての指標で劣るようだとする。
- 返信は欧米のオープンウェイトのフロンティアを押し上げるという打ち出し方を指摘し、1 人は、Reflection は American Deepseek Project を作るという考えで資金を集めたとする。
- 別の 1 人は、DeepSeek を完全に上回ることがなくても、米国発であることが米国の企業や欧米の政府との取引を得る助けになるとみる。
- 1 人は陸と水のデモの以前のキャプションを引き (パズルは数日前のものなので学習データに含まれえないとしていた)、その発想が少なくとも 2025 年 8 月から LessWrong にあったことを示した。
- Reflection のチームの 1 人は、その流行がそこまでさかのぼるとはチームが気づいていなかったと答え、キャプションを更新したとした。
- 1 人は Beam を DeepSeek V4.1 Flash と比べた: 後者は総 552B、プリフィルでアクティブ 8B、デコードで 16B、196B の n-gram のパラメータ、45T の事前学習のトークン、画像対応で、公開日に MIT の重みを出したのに対し、Beam は 501B、23B、n-gram のテーブルなし、28T のトークン、画像なしで、Apache 2.0 の重みは今月。
- 口で言うのは簡単で、重みを見せてほしいとする。
- 1 人は、GLM 5.3 と DeepSeek V4.1 Flash は表にはあるがグラフにはなく、Artificial Analysis Index や Arena の結果もないと指摘する。
- 別の 1 人は、性能のグラフはよりよいオープンソースのモデルをスクロールしないと見えない位置に置き、それらを上回っているように見せているとする。
- 1 人のコメント投稿者は Reflection AI を 2024 年の Reflection 70B と混同し、別の 1 人が、Reflection AI は (知る限り) 2024 年のそのモデルとは無関係のまったく別の会社だと返した。
- 1 人は、重みより先に発表するのはマーケティングの失敗で、重みが手元にないと公開のころには忘れてしまいそうだとする。
- 意味のあるテストは重みが届いてから始まり、固定のハーネス、ネットワークの無効化、繰り返しの試行、実際のレイテンシ、メモリ、エネルギー、完了したタスクあたりのコストで測るべきだという声がある。
- 何人かは Beam を動かすハードウェアを尋ね、1 人はディスクへのオフロードで Mac のワークステーションに収まる 90B-133B の MoE のモデルがもっと欲しいとする。
- 1 人は Beam がどこでも大域の attention の層を使い大きな KV キャッシュを要すると推測するが、記事の交互に並ぶ局所と大域の attention という記述と食い違う。
- 1 人は、Qwen3.8-Flash と DeepSeek V4.1 Flash の後のオープンモデルが、SSD や CPU の RAM から提供できる n-gram の埋め込みをなぜ使わないのかと問う。
- 1 人は、欧米のラボもゼロからの事前学習ではなく、Qwen がしたように既存の重みの事後学習から始めてほしかったとする。
- 1 人のコメント投稿者は、事前学習の初日に学習のジョブの立ち上げを見守るためにその場にいたと書く。
メモ
- 重み、モデルカード、技術報告はまだ出ておらず、Reflection は今月後半 (2026 年 10 月) に出すと約束しており、2026-10-08 に Hugging Face の API で作者
reflection-ai、ReflectionAI、reflectionai、reflectionのモデルを検索しても何も返らなかった。 - 早期アクセスの基盤 (platform.reflection.ai) はページのキャッシュでも WebFetch でも描画されなかったので、早期アクセスの価格、レート制限、コンテキストの上限、API の形式は確かめられなかった。
- ベンチマークの数字はすべて Reflection 自身のもので、TechCrunch もそう指摘しており、いまある独立した手がかりは、Beam がその知能に対して最もトークン効率のよいオープンモデルの 1 つになるという、AINews が伝えた Artificial Analysis の定性的な見込みだけ。
- 3–4 分の 1 の推論の計算量という主張は Artificial Analysis と DataCurve のトークン数から組んだ見積もりで、長いエージェントのコーディングのセッションで支配的になるプリフィルと attention のコストを除いているので、完了したエージェントのタスクあたりのコストについてはまだほとんど何も言えない。
- GLM 5.3、Kimi K3、DeepSeek V4.1 Flash のスコアがある行では Beam はほとんどで後れをとり、例外は tau3 banking (Kimi K3 の 37.1 に対して 38.0)、CriPT AA (DeepSeek V4.1 Flash の 14.3 に対して 16.3)、AA Omniscience (DeepSeek V4.1 Flash の 6.6 に対して 13.0) の 3 つ。
- したがって、Beam は DeepSeek V4.1 Flash より測ったすべての指標で劣るという Hacker News の主張は正確ではないが、両方が報告する 9 行のうち 7 行では当てはまる。
- The Decoder の見出しは Beam を中国の外で作られた最も高性能なオープンウェイトモデルと呼ぶが、Reflection 自身の表では Inkling が IFBench (79.7 に対して 79.8) と AA Omniscience (13.0 に対して 14.2) で上回り、Nemotron 3 Ultra が IFBench (81.7) で上回り、AA-LCR では Beam と Nemotron 3 Ultra が並ぶ (79.3)。
- RL の GPU の数は、記事では 10.5K、The Decoder、GIGAZINE、Mynavi News、AINews の要約では約 10,500、SiliconANGLE では 10,000、AINews が伝えたチームの投稿では 10K。
- AINews が伝えた要約は約 10,500 基の GB300 でそれぞれ 4 週間の事前学習と RL とするが、記事は事前学習を 6,144 基の GB300 NVL72 の GPU で 4 週間未満とする。
- 事前学習のコーパスはどの情報源でも 23.8T トークンで、例外は根拠を示さずに 28T とする Hacker News の 1 つの比較だけ。
- コンテキスト長は midtraining の後の実効的な 1M トークンと説明され (RL のロールアウトは最大 256K)、TechCrunch は 1M トークンのコンテキストウィンドウと伝えるが、公開版や早期アクセスがどれだけを提供するかは書かれていない。
- 陸と水のデモのキャプションは Hacker News の批判の後に変わり、2026-10-08 に取得した記事は、パズルが数日前のものだという主張のない改訂後のキャプションを示す。
- Strata のトピックのモデルとの比較は同じ条件ではなく、Qwen3.8-Flash-Next (総 125B、アクティブ 6B) は DeepSWE 1.1 で 58.7 を自己報告し (Claude Code と mini-SWE-agent のハーネスのよいほう)、Reflection の表の Beam の DeepSWE v1.1 は 44.4 で、評価者もハーネスも違う。
- Reflection はサービングのハードウェア、量子化した版、配布のパートナーを示しておらず、Beam が Bedrock、Vertex AI、Foundry に届くか、複数 GPU のサーバーに満たない環境で動くかは未解決。
- 資金の数字は情報源で違い (TechCrunch の PitchBook による $4.7 billion、Alex Heath のインタビューの説明の $4.6 billion)、ここではスコープ外で、Hacker News のコメント投稿者が持ち出したラボの持続力の文脈としてだけ意味がある。
実践やアウトプットの提案
- 10 月後半に重みと技術報告が出たときに備えて Beam をオープンモデルの評価の待ち行列に入れ、固定のハーネス、ネットワークの無効化、繰り返しの試行で、チーム自身のエージェント型のコーディングのタスクについて GLM 5.3、DeepSeek V4.1 Flash、Qwen3.8-Flash-Next と比べる。
- トークン効率が Beam の主な主張で、Reflection の数字はプリフィルを除いているので、解けたタスク、解けたタスクあたりのトークン、レイテンシ、完了したタスクあたりのコストを記録する。
- 組織が中国発のモデルを制限している場合は、米国と欧州のオープンウェイトの選択肢 (Beam、Inkling、Nemotron 3 Ultra) を、ライセンス、モダリティ、コンテキスト、サービングのハードウェア、Bedrock、Vertex AI、Foundry での提供で比べる 1 ページの表を用意し、Beam のモデルカードと配布のパートナーが出たら Beam の列を埋める。
- 技術報告が出たら安全性の評価の結果を読み、オープンソースにされる安全性の評価をチームのオープンモデルのレッドチーミングに使い回せるかを確かめる。
- 効率の主張の最初の独立した検証になる、Artificial Analysis の Beam の指数のスコアとトークン数を見守り、モデルの候補の一覧はそれが出てから更新する。
5. 🔎 Google DeepMind が、テキスト、コード、画像、音声、動画を 1 つのベクトル空間に写し、端末内での検索に使える 740M パラメータの Apache 2.0 の埋め込みモデル EmbeddingGemma 2 を公開した
- 選定 / 影響度 1 / 将来性 1 / 注目度 2 / 起点 10-06 / 種別: リリース / 領域: モデル、エージェント開発。
- 候補になったフィード項目:
deepmind-blog10-07 EmbeddingGemma 2: an open, lightweight multimodal embedding model — Hacker News で 415 ポイント、46 コメント (取得時点)google-developers-blog(フィードでは日付なし) Bring multimodal semantic search to the edge with EmbeddingGemma 2
収集した情報
[A] Google DeepMind — EmbeddingGemma 2: an open, lightweight multimodal embedding model, by Sahil Dua and Henrique Schechter Vera (2026-10-06)
https://blog.google/innovation-and-ai/technology/developers-tools/embeddinggemma-2/
- フィードの DeepMind のブログの URL はこの blog.google の記事に転送され、保存した 2 つの写しは同じテキストで、日付は Oct 06, 2026。
- 筆者は 2 人とも Google DeepMind の Research Engineer。
- リードは EmbeddingGemma 2 を、テキスト、画像、音声、動画の組み合わせをネイティブに 1 つの埋め込み空間に写す、端末内でのマルチモーダルの埋め込みで最も高性能なモデルとする。
- テキストの埋め込みモデルだった最初の EmbeddingGemma は 2,000 万ダウンロードを超え、端末内のより賢い検索ツールやプライバシーを優先した RAG のパイプラインに使われてきた。
- 今回の EmbeddingGemma 2 はテキストを超えて、コード、画像、動画、音声を共有の埋め込み空間に統合するとする。
- Gemma 4 のアーキテクチャに基づき、商用に寛容な Apache 2.0 のライセンスで公開し、740M パラメータで端末内の推論に最適だとする。
- 用途の例として、音声メモから特定の動画のクリップを見つけることや、テキストのクエリで何時間もの録音を検索することを、1 つのネイティブなマルチモーダルのモデルで処理できるとする。
- Gemini Embedding のモデルと同じ技術から作られたとする。
- サイズあたりで最高水準: MTEB (Massive Text Embedding Benchmark) Code や MAEB (Massive Audio Embedding Benchmark) のようなベンチマークで 1B 未満のマルチモーダルの埋め込みモデルの中でサイズに対して首位のスコアを出し、テキスト、視覚、音声のタスクで多くのより大きなモデルに並ぶか上回るとする。
- モジュール式の設計: テキストだけの負荷なら最小 270M パラメータで足り、完全なマルチモーダルには任意の視覚 (170M) と音声 (300M) のエンコーダーを足す。
- ストレージの効率: Matryoshka Representation Learning (MRL) で出力ベクトルを 768 次元から 512、256、128 次元に動的に切り詰められ、ローカルのベクトルデータベースとメモリの使用量を最大 6 倍減らせるとする。
- 端末内: 量子化すると、Google Pixel 11 Pro で必要なアクティブな RAM はテキストだけの重みで最小約 191MB、完全なマルチモーダルのモデルで約 567MB。
- コンテキスト: 8K トークンのコンテキストウィンドウ (EmbeddingGemma 1 の 4 倍) で、最大 5.5 分の音声、29 枚の画像、58 の動画のフレーム、またはそれらの組み合わせをローカルのハードウェアで直接処理できる。
- 品質: EmbeddingGemma の強い多言語のテキストの性能に並びつつ、コードの性能を 9.92 ポイント大きく上げたとする (MTEB Code で 68.76 から 78.68)。
- ローカルのコードベースの索引付け、意味によるコード検索、コーディングエージェントの検索によく合うとする。
- 画像、動画、文書、音声にわたって 1B 未満のモデルのパラメータあたりの品質で新しい基準を作り、2 倍を超える大きさの専門のモデルの一部をも上回るとする。
- 記事は競合のモデルの名前もスコアも示さず、完全な指標はモデルカードを参照させる。
- Gemma 4 との組み合わせ: EmbeddingGemma 2 は Gemma 4 に基づき、テキストのトークナイザーと音声のエンコーダーを共有するので、両方のモデルを 1 つのパイプラインで動かすと合計のメモリの使用量が下がるとする。
- デモは、Google AI Edge Gallery の Instant Media Search (テキストか画像からメディアのライブラリへ) と Video Moments Finder (テキストか音声のクエリから動画の場面へ)、推論に Gemma 4 を使う Google AI Edge Foresight のアプリでのローカルのファイルの検索。
- MediaPipe の Decision Task API は、分類、ルーティング、予測にマルチモーダルの文脈を使うリアルタイムの判断のエンジンにこれを使う。
- 重みは Hugging Face (
google/embeddinggemma-2) と Kaggle で公開し、Gemini Enterprise Agent Platform の Model Garden での提供も近く始まり、端末向けの版は Hugging Face の LiteRT Community にある。 - 端末への展開では、手軽な埋め込み、検索、判断のタスクには MediaPipe を、独自のモデルの組み込みには LiteRT を使い、ブラウザでは transformers.js か WebGPU (
webml-community/embeddinggemma-2-webgpuの Space) を使う。 - サービング: transformers、sentence-transformers、MLX (
Blaizzy/mlx-vlmへのリンク)、vLLM、llama.cpp (ggml-org/embeddinggemma-2-GGUF)、SGLang、Ollama、LMStudio、ベクトルの保存に Qdrant、ファインチューニングの手引きは Unsloth。 - これらのパートナーと緊密に作業し、開発者が作業する場所ですぐに EmbeddingGemma 2 が動くようにしたとする。
[A] Google Developers Blog — Bring multimodal semantic search to the edge with EmbeddingGemma 2, by the Google AI Edge Team and the Android ML Team (2026-10-06)
https://developers.googleblog.com/google-ai-edge-with-embeddinggemma-2/
- ページの日付は Oct. 6, 2026 で、フィードでは日付がなかった。
- ローカルの検索とメディアの検索では、画像のキャプション生成、音声からテキストへの変換、テキストの埋め込みの別々のモデルをつなぐことによるレイテンシとメモリのオーバーヘッドを減らすとする。
- 740M のフットプリントと、Google Pixel 11 Pro でテキストだけの重みに約 191MB、完全なマルチモーダルのモデルに約 567MB のアクティブな RAM を繰り返す。
- 最も注目すべきは、EmbeddingGemma 2 が超低レイテンシの端末内の判断のエンジンとして働けることだとする。
- 学習データもファインチューニングも要らず、利用者の入力を分類のラベルと説明に直接照らし合わせ、数ミリ秒でゼロショットの意図のルーティングを返すとする。
- Android: 今後数週間で、NPU のアクセラレーションも使える ML Kit を通じて、Android のサービスとしてこのモデルを使えるようにするとする。
- ML Kit を通じれば、開発者はモデルを管理したり APK の肥大を心配したりせずに使え、モデルは自動で更新される。
- Instant Media Search は、クエリとメディアを端末内で埋め込み、メディアのベクトルをローカルの SQLite のデータベースに保存し、コサイン類似度の最も大きい項目を返す。
- MediaPipe の UniversalEmbedder と SemanticRetriever で動き、キーを打つたびに結果が更新される。
- 例のクエリはドイツ語で、Katze に続けて Katze schläft auf Tastatur と打つとグリッドの順位が変わり、画像やライブのカメラのクエリも使える。
- Video Moments Finder は、音声を書き起こしたり途中のテキストのキャプションを作ったりせずに、ローカルの録画の中の特定の視覚的な場面を探す。
- 選んだローカルの動画を音声付きの視覚のチャンクで索引付けし、説明的なクエリに合うタイムスタンプを強調する。
- どちらのデモも Google Play と Apple App Store の Google AI Edge Gallery のアプリにあり、ソースは
google-ai-edge/galleryのリポジトリにある。 - Mac 向けの Google AI Edge Foresight は、文脈を理解する会議の相棒を端末にもたらす実験的なアプリで、EmbeddingGemma 2 と Gemma 4 で動く。
- システムの音声とマイクにつながり、どの会議のプラットフォームともオフラインでも動き、メモの補強と、画像、文書、書き起こし、メモにまたがるモダリティ横断の検索を、クラウドの購読料なしで提供する。
- MediaPipe Tasks は既存の Embedder と Semantic Retriever (いまの RAG の SDK への新しいインターフェース) に EmbeddingGemma 2 の対応を加え、iOS、macOS、Windows、Linux、Web を対象にする。
- Universal Embedder は画像のリサイズ、テンソルの正規化、マルチモーダルのトークン化を自動で扱い、768 次元 (または切り詰めた 128d–512d) の正規化したベクトルを定型コードなしで返す。
- Semantic Retriever はエッジ向けに最適化した組み込みのベクトル検索のエンジンで、近似最近傍 (ANN) の検索を行い、順位付きの一致を 1 桁のミリ秒で返す。
- Decision Task のデモは、毎手 500 の選択肢を 100ms 未満の応答時間で評価してチェスを指す。
- LiteRT: 1 つの
.litertlmファイルが、対応するすべてのエッジのプラットフォームの CPU と GPU でそのまま動く。- 視覚の埋め込みは MacBook M5 Pro の GPU で最短 37.3 ms (毎秒 26.9 枚) で、画像あたり最大 70 の視覚のトークンの予算で測り、デバイスごとの表はテキストの抽出で失われた。
- 最適化は、エンコーダーのモジュール式の読み込み、重みを INT4 と INT8 に圧縮する量子化を意識した学習 (QAT)、テキストと画像の入力のサイズに合わせて実行時に読み込む最適な計算グラフと、開発者が設定する視覚のトークンの予算。
- この記事では、MRL の切り詰めでローカルのストレージと索引のフットプリントを最大 8 倍減らせるとする。
- LiteRT は Web (WASM) でも動き、デバイスの一覧とベンチマークは Hugging Face の LiteRT のモデルカードにあり、ベンチマークのツールは Google Cloud の Developer Device Platform で 200 を超える実機で動く。
- 量子化済みの
.litertlmのバンドルは Hugging Face の LiteRT Community にあり、設定の要らない Web のデモがブラウザで動く。
[A] Google Developers Blog — EmbeddingGemma 2: The Developer Guide, by Maarten Grootendorst and Ian Ballantyne (2026-10-06)
https://developers.googleblog.com/en/embeddinggemma-2-the-developer-guide/
- 筆者は Member of Technical Staff と Senior Developer Relations Engineer。
- Gemma 4 に基づくこの 1B 未満のモデルは、テキスト、コード、画像、動画、音声を 1 つの 768 次元の空間に写すとする。
- 読み込むサイズは 270M (テキストとコード)、440M (テキストと視覚)、570M (テキストと音声)、740M (完全なマルチモーダル) で、すべて同じ互換のベクトル空間に投影される。
- コード: コード検索と技術的な検索で EmbeddingGemma 1 を大きく上回り、ローカルのコードベースの索引付けとエージェントのコード検索に最適だとする。
- 内部: テキストとコードは 8,192 トークンのコンテキストウィンドウを持つ Gemma 4 のデコーダーを適応させたものを使い、視覚のエンコーダー (+170M) は画像、視覚的な文書 (PDF、スライド、グラフ)、動画のフレームを扱い、音声のエンコーダー (+300M) は生の音声を直接取り込む。
- デモでは、270M のテキストだけの構成で Hugging Face の transformers のコードベースを埋め込み、エージェント (Pi のエージェントのハーネスと Gemma 4 26B A4B) に検索させた。
- sentence-transformers v6.1.0 以降が要り、
pip install -U sentence-transformers[image,audio,video] transformersで入れる。 config_kwargsでvision_configかaudio_configをNoneにするとそのエンコーダーを飛ばせて、無効にしたエンコーダーはメモリに一切読み込まれないので、節約は重みとピークの割り当ての両方に効くとする。- テキストは
prompt_nameのタスクのプロンプトを使い、たとえばクエリにはSearchQuery、文書にはDocumentを使う。 - メディアはモダリティをキーにした辞書でプロンプトなしで渡し、交互の入力は
<|image|>、<|video|>、<|audio|>で位置を示す。 - Hugging Face の Space の Embedding Draw Challenge (
google/embedding-draw-challenge) は、利用者が描いたものを当てる。 - MRL では
truncate_dim(512、256、128) をnormalize_embeddings=Trueとともに渡すか読み込み時に設定し、クエリと文書は同じ次元を使わなければならない。 - bfloat16 の精度では、768 次元のベクトル 100 万本の保存に約 1.5 GB のメモリが要り、128 次元に切り詰めればわずか 250 MB で済むとする。
- sentence-transformers では 4 つのエンコーダーの構成はすべて同じチェックポイントから読み込まれて 1 つのベクトル空間を共有するので、270M のテキストだけの構成で埋め込んだクエリを、完全なモデルで埋め込んだ文書に直接照らし合わせられるとする。
- テキストだけの索引から始めて後で画像や音声の埋め込みを加えるなら、追加のエンコーダーを有効にしてモデルを読み込み直すだけでよいとする。
- すでに計算した埋め込みは計算し直さなくてよい。
- 次元の目安: マルチモーダルと視覚的な文書の検索、またはストレージより再現率が大事なときは 768d か 512d。
- 256d (3 倍の削減) はテキストとコードで元の埋め込みの品質のほとんどを保ち、画像、動画、音声の検索では約 95% を保つとする。
- 128d (6 倍の削減) は大きなテキストだけの索引と第 1 段の候補の絞り込み向けで、テキストとコードは約 90% の品質を保つが、画像、動画、音声の検索の品質は約 75% に落ちるとする。
- 入力はファイルのパス (動画は MP4)、URL (画像と音声)、メモリ上の PIL の画像、配列、テンソルで、動画は既定で毎秒 1 フレームでサンプリングし、音声は 16 kHz のモノラルにする。
- EmbeddingGemma 2 は MTEB (Code) で EmbeddingGemma 1 より 14% 高く、画像、動画、音声の検索を加えつつ、EmbeddingGemma 1 の多言語のテキストの精度を保つとする。
- 挙げるツールは vLLM、Hugging Face Transformers、sentence-transformers、SGLang、MLX (
ml-explore/mlx-lmへのリンク)、Ollama、LMStudio、LiteRT で、ファインチューニングは Unsloth。
[A] Google AI for Developers — EmbeddingGemma 2 model card (2026-10-06)
https://ai.google.dev/gemma/docs/embeddinggemma/model_card_2
- ページは Last updated 2026-10-06 UTC と表示し、作者を Google DeepMind とし、ライセンスを Apache 2.0 とする表示は
gemma_4_licenseのページにリンクしている。 - EmbeddingGemma 2 は Google DeepMind が作ったオープンなマルチモーダルの埋め込みモデルで、テキスト (コードを含む)、画像、動画、音声の入力とその組み合わせを 1 つの統一された 768 次元のベクトル空間に写すとする。
- 100 を超える言語を理解し、コードのタスクで前のモデルより約 14% 改善したとする。
- テキストの背骨は 270M パラメータ (トランスフォーマー 130M + 埋め込み 140M) で、選んで読み込める視覚 (170M) と音声 (300M) のエンコーダーを持つ。
- MRL は 128d、256d、512d、768d に対応し、品質への影響を最小にしながらベクトルの保存のコストを最大 6 倍減らせるとする。
- タスクに応じた表現: 軽いテキストの指示の接頭辞で、タスクごとに埋め込みを最適化する。
- アーキテクチャ: 24 層、モデルの次元 512、隠れ次元 2048、1024 トークンのスライディングウィンドウ、語彙 262,144、ヘッド 4、KV のヘッドは 2/1 (局所 / 大域)、局所と大域は 5:1、GQA/MQA、GELU のゲート付き FFN、平均プーリング、512→768 の射影。
- 入力と出力: テキスト、画像、動画、音声を受け、コンテキストウィンドウは 8,192 トークン、ネイティブの出力は 768 次元で、MRL で 128、256、512 に切り詰められる。
- 768d、完全精度のチェックポイントでのベンチマーク (EmbeddingGemma 2 と、示されている場合は EmbeddingGemma 1):
- MTEB (multilingual, v2)、Mean(Task): 61.36 対 61.15。
- MTEB (code, v1)、Mean(Task)、NDCG@10: 78.68 対 68.76。
- MIEB (lite)、Mean(TaskType): 64.64。
- MMEB v2 Image、Hit@1: 57.28、MMEB v2 VisDoc、NDCG@5: 67.84、MMEB v2 Video、Hit@1: 50.67。
- MSEB (Retrieval)、MRR@10: 69.54、MAEB、Mean(Task): 49.39。
- 表にはほかのモデルは出てこない。
- 切り詰めの表 (MTEB multilingual / MTEB eng / MTEB code / MIEB lite / MMEB v2 overall / MSEB retrieval / MAEB):
- 768d (1:1): 61.36 / 68.46 / 78.68 / 64.64 / 59.01 / 69.54 / 49.39。
- 512d (1:1.5): 61.17 / 68.41 / 77.24 / 64.32 / 58.38 / 69.18 / 49.21。
- 256d (1:3): 60.41 / 67.78 / 76.18 / 63.13 / 56.24 / 66.76 / 48.91。
- 128d (1:6): 57.89 / 65.68 / 71.41 / 59.06 / 45.65 / 56.71 / 46.92。
- 256d までなら品質への影響を最小にしてストレージの要件を減らせるとする。
- 128d はテキストだけの負荷に最も向くとする。
- タスクの接頭辞はテキストだけに付け、省いても動くが精度が下がり、画像、動画、音声には接頭辞を付けない。
SearchQuery:task: search result | query: {query}で、文書はtitle: {title} | text: {content}(またはtitle: none)。QuestionAnsweringとFactCheckingはtask: question answering | query: {question}とtask: fact checking | query: {claim}を使う。CodeRetrieval:task: code retrieval | query: {query}で、文書はtitle: {title or filename} | text: {code}。- 対称のタスク (
Classification、Clustering、SentenceSimilarity) はすべての入力に同じ接頭辞を付ける。 prompt_name="Document"はtitle: noneを当てるので、タイトルのある文書は手で整形しなければならない。
config_kwargsでの実効のサイズは、テキストだけ 270M、テキストと画像 440M、テキストと音声 570M、完全なマルチモーダル 740M で、エンコーダーの省き方はモデルのライブラリによって違うとする。- 実行時の MRL では切り詰めた後に正規化し直すよう求め、この手順を飛ばすとエラーにはならずに、もっともらしく見えるスコアのまま順位の品質が黙って落ちるとする。
- クエリと文書は同じ次元でなければならない。
- 256 次元までは品質はほぼ損なわれない。
- 128 次元ではマルチモーダルの品質が大きく落ちるので、採用の前に自分の負荷で確かめるべきだとする。
- 精度: 推論は
bfloat16かfloat32で行う。float16は使わないこと。float16ではモデルはエラーを出さずに NaN か黙って劣化した埋め込みを返すので、失敗に気づきにくいとする。
- コンテキストの予算 (すべてのモダリティで 8,192 トークンを共有): テキストはサブワードあたり 1 トークン、画像は既定で 1 枚 280 トークン (約 29 枚)、動画は既定で 1 フレーム 140 トークン (約 58 フレーム)、音声は 1 秒 25 トークン (約 327 秒)。
- 視覚の予算を下げれば最大約 114 枚の画像かフレームを入れられ、予算は画像あたり 70 から 1120 のソフトトークン。
- 動画は既定で毎秒 1 フレームでサンプリングし (変更可)、音声は 16 kHz のモノラルにする。
- 学習データのカットオフは 2025 年 1 月で、Web のテキストは 140 を超える言語にわたる。
- 生成モデルと違って、事後学習のアライメント、安全性の調整、出力のモデレーションを受けていない。
- 検索のフィルタリングや公平性のテストのような、アプリケーション単位のセーフガードを評価し実装するのは開発者と展開者の責任だとする。
- 展開は Gemma Prohibited Use Policy に従わなければならない。
- 100 を超える言語に対応するが、言語によって性能が等しくない場合があるとする。
- 想定する用途には、企業のナレッジベースでの RAG、自然言語のクエリによるコード検索、音声のアーカイブへの話し言葉のクエリでの検索、分類、クラスタリング、意味の類似度、事実の検証が含まれる。
[A] Google AI for Developers — EmbeddingGemma documentation overview (2026-10-06)
https://ai.google.dev/gemma/docs/embeddinggemma
- Gemma 4 のデコーダーのアーキテクチャに基づき、モダリティ横断のワークフローを一般向けの GPU や CPU でローカルかつオフラインで動かすとする。
- ライセンスの行は
/gemma/apache_2の Apache 2.0 License のページにリンクしている。 - 基本のフットプリントを小さくし、テキストとコードの基本のモデルを 300M から 270M パラメータに減らしたとする。
- コンテキスト長を延ばし、100 を超える言語のテキストとソースコードで最大 8,192 トークンに対応するとする。
- 同じページは EmbeddingGemma 1 を、Gemma 3 に基づく 308M パラメータの多言語のテキストの埋め込みモデルとし、2K トークンのコンテキスト、量子化で 200MB 未満の RAM、EdgeTPU で 22ms 未満の埋め込みと説明する。
[A] Hugging Face — google/embeddinggemma-2 model page (as fetched on 2026-10-08)
https://huggingface.co/google/embeddinggemma-2
- カードは ai.google.dev のモデルカードと同じ内容。
- タグには Feature Extraction、Transformers、Safetensors、sentence-transformers、モデルの種類
embedding_gemma2が含まれる。 - 先月のダウンロードは 7,562 で、Safetensors、0.7B params、BF16 と表示する。
- どの Inference Provider もこのモデルを展開していない。
- モデルのツリーはファインチューン 26、量子化 30 で、使う Space は 12、Community のタブは 5 を示した。
[A] Hugging Face — litert-community/embeddinggemma-2-740m-litert-lm model card (as fetched on 2026-10-08)
https://huggingface.co/litert-community/embeddinggemma-2-740m-litert-lm
- LiteRT-LM のパッケージは Text 270M、Text Vision 440M、完全な 740M の 3 つで、後の 2 つはモダリティを必要に応じて読み込む。
- 量子化 (すべて QAT、チャネル単位): トランスフォーマーと埋め込みは int4、視覚のエンコーダーは int8、音声のエンコーダーは int2/int4/int8 の混合。
- ダウンロードのサイズ (CPU/GPU のファイル): 165 MB、388 MB、485 MB。
- 対応する入力: テキストのトークンは 128、256、512、1024、2048、8192、画像のソフトトークンは 70 と 140、音声のソフトトークンは 12。
- 出力: 128 (512 バイト)、256 (1024 バイト)、512 (2048 バイト)、768 (3072 バイト)。
- 方法: テキストは 128 のシグネチャ、視覚は 70 のシグネチャ、テキストと音声には 10 秒の音声ファイル、3 つすべてには 5 秒のものを使い、レイテンシは 5 回の平均、メモリは 2 回目の読み込みから取った。
- メモリは各プラットフォームのネイティブの指標で測っており、OS をまたいでは直接比べられないとする。
- アクセラレーター (GPU/NPU/TPU) のメモリは含まず、例外は iOS と macOS の
task_vm_info::phys_footprint。
- 各デバイスの行は、テキスト、テキスト + 視覚、テキスト + 音声、テキスト + 視覚 + 音声のレイテンシに続いて、同じ順のメモリ:
- Google Pixel 11 Pro (TPU): 8.3、49、193.5、149 ms、112、125、121、127.5 MB。
- S26 Ultra (CPU): 27.1、175、305、322 ms、334、694、465、811 MB。
- S26 Ultra (GPU): 25.9、119、350、324 ms、333、427、407、493 MB。
- iPhone 18 Pro (CPU): 41.8、191、445、400 ms、84、196、98、196 MB。
- iPhone 18 Pro (GPU): 11.6、69.8、165、150 ms、85、196、96、226 MB。
- Linux、Arm 2.3 & 2.8GHz (CPU): 105、825、947、1251 ms、310、647、431、764 MB。
- NVIDIA GeForce RTX 4090 (GPU): 7.6、23.9、169、112 ms、528、678、654、811 MB。
- MacBook Pro M5 (CPU): 31.3、151、314、432 ms、165、310、201、336 MB。
- MacBook Pro M5 (GPU): 9.5、37.3、195、131 ms、233、403、320、478 MB。
- Dell XPS 16、Intel Core Ultra Series 3 (CPU): 71.7、338、813、708 ms、211、342、242、369 MB。
- Dell XPS 16 (GPU): 19.2、62.5、284、205 ms、822、1769、1047、1962 MB。
- Dell XPS 16 (Intel OpenVINO NPU): 13.3、49.8、124.3、108.6 ms、201、394、288、503 MB。
- MacBook Pro M5 での Web (GPU): 21.8、107、228、226 ms。
- Raspberry Pi 5 16GB (CPU): 161、1761、946、2304 ms、282、619、408、736 MB。
- Jetson Orin Nano (CPU): 207、1741、1659、2507 ms、302、627、417、741 MB。
- Jetson Orin Nano (GPU): 88、485、1195、1069 ms、523、1103、755、1228 MB。
- Arduino VENTUNO Q (NPU): テキストとテキスト + 視覚で 13.6 と 135 ms、206 と 460 MB で、IQ-8275 の NPU では音声に対応しない。
- LiteRT-LM は任意のサイズの画像を自動で拡縮してパッチに分け、長さの変わるストリーミングの音声に対応する。
- 先月のダウンロードは 8,037。
[A] Qdrant — How Small Can Google's New EmbeddingGemma 2 Get? (2026-10-06)
https://qdrant.tech/blog/embeddinggemma-2/
- Qdrant は Google の記事に名前の出るローンチのパートナーで、Google DeepMind のリリースに先立って早期アクセスを得て、Qdrant でそのメモリをどれだけ節約できるかを試したとする。
- 1,000 万件の文書では、完全なサイズの float32 のベクトルだけで 30.7 GB の RAM を使う。
- 量子化した完全なサイズのベクトルは、ベクトルの RAM を 30 分の 1 にして検索の品質の 99% を保った。
- 短いベクトルとリスコアリングでは、ベクトルの RAM を 77 分の 1 にして 94.5% を保った。
- 方法: 5 つのテキストの検索のデータセットで、完全なサイズの float32 のベクトルでの厳密な検索と比べ、品質は基準の nDCG@10 をどれだけ保ったかで測り、リスコアリングは 4 倍のオーバーサンプリング、ベクトルの RAM はグラフの索引、ペイロード、保存した元のベクトルを除く。
- 推奨の出発点は、768 次元すべて、1 ビットの TurboQuant、リスコアリングなしで、各ベクトルは 3,072 バイトでなく 104 バイトになり、1,000 万件の文書で約 1 GB の RAM。
- Quora の 523k の文書では、この設定は float32 の検索の半分未満のクエリ時間で、検索の品質の 99.0% を保った。
- リスコアリングなしでは、上位 10 件の約 74% が厳密な検索と一致した。
- 次元を削るのはメモリを節約する当然の方法に思えるが、これらのテストではまずビットを削るべきだとする。
- 1 ベクトル 72 バイトでは、512 次元の 1 ビットが基準の 97.3% を保った。
- 同程度のメモリの予算で、128 次元の 4 ビットの設定は 84.0% を保った。
- 256 次元の 1 ビットの TurboQuant では各ベクトルは 40 バイトで、保てた割合はリスコアリングありで 94.5%、なしで 88.1%。
- 元のベクトルを float16 や turbo4 で保存することは試しておらず、結果はすべてテキストの検索だけ。
[A] Unsloth — EmbeddingGemma 2 - Run Locally (as fetched on 2026-10-08)
https://unsloth.ai/docs/models/embeddinggemma-2
- ページは 1 日前に更新と表示していた。
- 推奨の設定: 対応するハードウェアでは BF16、それ以外では FP32 を使い、768 次元から始め、ストレージを節約するには 512 か 256 を使い、テキストでは 128 を評価し、切り詰めた後は L2 で正規化する。
- FP16 は使わないこと。
- EmbeddingGemma 2 は FP16 で NaN や劣化した埋め込みを出すことがある。
- Unsloth Desktop では、Settings → General → Documents & RAG で EmbeddingGemma 2 を選ぶ。
- 埋め込みのモデルを変えても、影響するのは新しく索引付けした文書だけ。
- 既存の文書に新しいモデルを使うには、アップロードし直す。
- Colab のノートブックは、マルチモーダルの検索と、テキスト、画像とテキスト、音声のファインチューニングを扱う (ファイル名は
EmbeddingGemma2_(300M))。 - llama.cpp には EmbeddingGemma 2 に対応したビルド (PR #30054) が要り、Unsloth の 176 MB の UD-Q4_K_XL の GGUF は 2,048 トークンのコンテキストでテキストとコードの埋め込みを提供する。
- 長い入力には
--ctx-size、--batch-size、--ubatch-sizeを一緒に8192まで上げ、各入力は 1 つの物理的なバッチに収まらなければならない。 - API を呼ぶときはタスクの接頭辞を自分で付ける。
- 索引を作る前に、各ベクトルが 768 個の有限の値を持つことを確かめる。
- 画像、動画、音声には、それらのエンコーダーとプロセッサーのファイルに明示的に対応したランタイムを使う。
- 上のコマンドはテキストの埋め込みだけを扱う。
- 長い入力には
- ファインチューニングでは、保存したテキストのモデルを LoRA のアダプタ付きの 4 ビットで読み込み、
SentenceTransformerTrainerとMultipleNegativesRankingLossで学習し、bf16=Trueとfp16=Falseを設定し、保留のクエリで試す。- 画像、動画、音声での学習には別のワークフローが要る。
- 埋め込みのファインチューニングの手引きのノートブックは、まだ以前の EmbeddingGemma 300M を扱っている。
[A] Ollama — embeddinggemma-2 library page (as fetched on 2026-10-08)
https://ollama.com/library/embeddinggemma-2
- 10.8K ダウンロード、昨日の更新と表示し、タグの一覧には 17 のモデルがある。
- タグ:
270m378MB (入力 Text)、440m714MB (Text、Image)、570m990MB (Text)、latestである740m1.3GB (Text、Image)。 - どのタグも 256K のコンテキストウィンドウと表示する。
- 使い方は
ollama pull embeddinggemma-2と/api/embedのエンドポイントで、readme はモデルカードを再掲する。
[A] ggml-org — llama.cpp pull request #30054, model: support embeddinggemma2 (text+vision+audio) (2026-10-06)
https://github.com/ggml-org/llama.cpp/pull/30054
- Xuan-Son Nguyen (
ngxson) が 2026-10-06T16:02:55Z に開いて 16:20:31Z にマージし、追加は 324 行、削除は 2 行 (ghで読んだ)。
[A] ggml-org — embeddinggemma-2-GGUF on Hugging Face (as fetched on 2026-10-08)
https://huggingface.co/ggml-org/embeddinggemma-2-GGUF
llama serve -hf ggml-org/embeddinggemma-2-GGUFで動かし、https://github.com/ggml-org/convert で自動で変換したとする。- モデルのサイズは 0.3B params、アーキテクチャは
gemma-embedding2、8 ビットと 16 ビットのファイルで、先月のダウンロードは 3,842。
[B] Latent Space (AINews) — [AINews] Quasi-Riemann-Hypothesis: OpenAI publishes 722 math papers solving 90 of the top 500 open math problems, EmbeddingGemma 2 item (2026-10-07)
https://www.latent.space/p/ainews-quasi-riemann-hypothesis-openai
- Open-Weight and API Model Releases: Embeddings, Image, Decision Models の項に、Google 初のネイティブなマルチモーダルのオープンな埋め込みモデルとして置く。
- 仕様は Phil Schmid を引いて、740M の omni、440M のテキストと視覚、570M のテキストと音声、270M のテキストだけの版、768 から 128 の Matryoshka の次元、8,192 のコンテキスト、伝えられたところでは MTEB Code で +14% とする。
- 公開初日の対応は llama.cpp、vLLM、Ollama、Unsloth。
- victormustar の投稿を引いて、ブラウザの WebGPU でもクエリあたり約 20–70ms で動くとする。
- その日のエンゲージメントの上位のツイートでは、Sundar Pichai が EmbeddingGemma 2 を紹介した投稿が 7.1K で 3 位。
- r/LocalLLaMA の投稿 google/embeddinggemma-2 · Hugging Face は Activity 543 で、コメントはおおむね軽く、また Google の埋め込みモデルが出たことと音声の埋め込みに驚いていた。
- 1 人のコメント投稿者は、コミュニティの投稿が Google のモデルページではなく Unsloth の変換版にリンクしていることに異を唱えた。
- 号の残りは有料の壁の向こうにある。
[B] The Next Web — Google launches EmbeddingGemma 2, an open multimodal embedding model for devices (2026-10-06)
https://thenextweb.com/news/embeddinggemma-2-on-device-europe
- 副見出しは、Apache 2.0 で、Pixel 11 Pro でテキストだけの作業に約 191MB の RAM という条件が、欧州の企業がすでに持つハードウェアにマルチモーダルの検索を載せるとする。
- Apache 2.0 のライセンスで、安全性の調整は受けておらず、Google は対応する 100 の言語で性能が等しくないとしていると伝える。
- 何も端末の外に出る必要がないとする。
- 埋め込みモデルは、ソフトウェアが言葉の一致ではなく意味でものを見つけられるよう内容を数字に変えるもので、その段階はふつう他人のクラウドで行われるとする。
- 4 月に同じライセンスの 4 つのオープンウェイトのモデルとして出た Gemma 4 と、8 月の $80 の Raspberry Pi で動く Google のオフラインの翻訳機を振り返る。
- データを端末に置けば転送を避けられ、欧州のデータ保護の問題の多くはそこから始まるとする。
- 同社は気前のよさでこうしているのではなく、標準の座を作っているのだとする。
- Gemma のファミリーは 10 億ダウンロードを超え、そのうち 2,000 万は最初の EmbeddingGemma だとする。
- 言語の注意書きについて、EU には 24 の公用語があると指摘する。
[B] 窓の杜 (Impress) — Google DeepMind announces EmbeddingGemma 2, an open embedding model that handles text through video, by 樽井 秀人 (2026-10-07, in Japanese)
https://forest.watch.impress.co.jp/docs/news/2146193.html
- 2026-10-07 08:05 JST の掲載で、副見出しは「7億4,000万パラメーターでスマートフォンでもオンデバイス動作」。
- 位置付けを、これまで複数のモデルを連携させる必要のあった処理、つまり「画像モデルでキャプション生成、音声モデルで文字起こし、テキスト埋め込みの3つを組み合わせた動画検索など」をひとまとめにでき、「レイテンシ削減、メモリ使用量削減、実装の簡略化などが期待できる」と説明する。
- テキストだけなら 2 億 7,000 万パラメーターで動き、画像 (1 億 7,000 万) と音声 (3 億) のエンコーダーを必要に応じて足せること、Pixel 11 Pro でのアクティブ RAM (テキストのみで約 191MB、全体で約 567MB) を言い直す。
- MRL で保存するベクトルのデータ量を最大 6 分の 1 に減らせるとしたうえで、「ただし、短縮すると精度が低下する場合があり、128次元は主にテキストのみの用途に適する」と注意を添える。
- コンテキストウィンドウは 8K トークンで EmbeddingGemma の 4 倍とし、「標準設定で、音声なら最大約5.5分、画像なら約29枚、動画なら約58フレームをローカルで処理できる」、「これらを組み合わせる場合は、共通の8Kトークンの範囲内で入力する」とする。
- 「横軸はモデルの規模、縦軸は『MTEB Code』の平均スコア(Google公表)」とする Google のグラフを載せる。
- 提供は Hugging Face と Kaggle で公開中、Gemini Enterprise Agent Platform の Model Garden でも近日中で、Ollama や LM Studio などにも対応し、「今後数週間で『Android』の『ML Kit』からもサービスとして利用できるようになる予定だ」とする。
[B] ビジネス+IT (SB Creative) — Google releases EmbeddingGemma 2, an embedding AI that also handles audio and video and runs on device (2026-10-07, in Japanese)
https://www.sbbit.jp/article/cont1/187318
- 2026-10-07 03:28 JST に掲載され、Yahoo!ニュースにも配信された。
- リードは「量子化すれば、スマートフォンでも約567MBのメモリーで動くという」とする。
- モデルカードによれば「テキストだけなら2億7000万パラメータで動き、画像用に1億7000万、音声用に3億パラメータのエンコーダーを追加する仕組み」とし、768 次元の出力を MRL で 512、256、128 次元に縮められ、「128次元にすれば、ローカルのベクトルデータベースの保存容量を最大で6分の1に減らせるという」と書く。
- 「コード検索の指標『MTEB Code』のスコアが、初代の68.76から78.68へ9.92ポイント上がったという」とし、MAEB などでの最高水準の主張はグーグルの説明として伝える。
- 推論に使えるものとして transformers、sentence-transformers、MLX、vLLM、llama.cpp、SGLang、Ollama、LM Studio を、保存に Qdrant を、ファインチューニングに Unsloth を挙げ、「初代のEmbeddingGemmaは2025年9月に公開され、ダウンロード数は2000万を超えたという」とする。
- 「なぜグーグルは、クラウドで使うマルチモーダル埋め込みモデルをすでに持ちながら、端末内で動く小型のオープンモデルを別に出したのか」と問い、「背景には、コヒアが9月末に打ち出した競合モデルと、モデルカードに載る数字の読み方がある」とする。
- グーグルとコヒアの発表をもとに作った、クラウド型とオープン型の埋め込みモデルを比べる図を載せる。
- 会員限定の続き (「クラウド版『Gemini Embedding 2』との切り分け方」、「コヒア『Embed 5』が示した競合ベンチマーク」、「数字を横並びにできない理由と、実機の速度」) は読んでいない。
[B] GIGAZINE — Google's embedding model EmbeddingGemma 2 arrives, using as little as about 191MB of RAM and running on smartphones (2026-10-07, in Japanese)
https://gigazine.net/news/20261007-google-embeddinggemma-2/
- 2026-10-07 13:47 JST に log1p_kr が掲載し、ほとんどはブログの言い直しと Google の X の投稿の埋め込み。
- Google の X の投稿は、EmbeddingGemma 2 を、端末内の埋め込みのために作った同社初のネイティブなマルチモーダルのオープンモデルとして出すとする。
- Google の X の投稿は、740M パラメータでサイズに対して最高水準で、2 倍を超える大きさのモデルの一部を上回りながら、アクティブな RAM は最小約 191MB から 567MB だとする。
- 最高水準の主張を「MTEB(Massive Text Embedding Benchmark)やMAEB(Massive Audio Embedding Benchmark)などのベンチマーク」についてのものと書き、ブログにあった Code が抜けている。
- MRL でローカルのベクトルデータベースとメモリの使用量を「最大6分の1に削減できます」とし、Pixel 11 Pro の数字、8K のコンテキスト (4 倍)、5.5 分、29 枚、58 フレームを言い直す。
- 重みは Hugging Face と Kaggle で、Gemini Enterprise Agent Platform の Model Garden は後に続き、「2025年9月に発表された『EmbeddingGemma』はこれまでに2000万回以上ダウンロードされたとのことです」とする。
[B] DevelopersIO (Classmethod) — Embedding images with embeddinggemma-2, by 夏目祐樹 (2026-10-07, in Japanese)
https://dev.classmethod.jp/articles/embeddinggemma-2-image-embedding/
- 筆者はクラスメソッドの情報システム室の所属で、「M5を積んだMac」で画像の埋め込みを試した。
- 準備はモデルカードの Quick Start のとおり、
uv init --python 3.14 --bareとuv add sentence-transformers transformers。 - Quick Start は transformers 5.18.0 では、モデルの種類
embedding_gemma2を Transformers が認識しないというValueErrorで失敗した。 - GitHub の main の transformers (5.19.0.dev0、コミット
e598fbad) を入れると、今度はEmbeddingGemma2Processorが PIL のライブラリを要するというImportErrorが出て、sentence-transformers[image](pillow 12.3.0、torchvision 0.29.1) で解消した。 - その後 Quick Start は類似度 0.8713 を出し、
model.encode({"image": ...})は形が (768,) の float32 の NumPy の配列を返した。 - ChatGPT で作った 3 枚の画像 (チワワ、3 匹のミニチュアダックスフンド、猫) を
encode_queryとencode_documentでこの順に採点した:search dog image: 0.7282、0.7152、0.6756。search cat image: 0.6501、0.6378、0.7434。search dachshund: 0.6954、0.7960、0.6614。- どれにも合わない
search flying birds: 0.6110、0.6133、0.6200。 - 日本語の
犬の画像はどれ?: 0.7128、0.6913、0.6457。 - 日本語の
猫の画像はどれ?: 0.6171、0.5978、0.7126。 - 日本語の
ミニチュアダックスフンドの画像はどれ?: 0.6592、0.6875、0.5948。
- 筆者は英語と日本語で「傾向としては概ね識別できているように思います」とし、「だいたい類似度0.7が閾値になってそう」で「一部例外もあるけど」としつつ、「類似度だと少しわかりにくいものもありました」とする。
- Amazon S3 Vectors では、AWS CLI で ap-northeast-1 にベクトルのバケットとインデックス (float32、次元 768、cosine) を作り、3 枚の画像のベクトルを boto3 で入れ、topK 3 と
returnDistanceでクエリした。search dog imageは同じ順で距離 0.2718、0.2848、0.3244 を返した。- 筆者は「だいたい
0.3未満のものが近いようです」とし、「日本語でミニチュアダックスフンドの画像を尋ねたときだけ妙に距離があるようですが、他は概ね識別できているように見えます」(ダックスフンドの画像で 0.3125)、「個人的には類似度を見るときよりもわかりやすいように感じます」と書く。
[C] Hacker News — EmbeddingGemma 2: An open, lightweight multimodal embedding model (2026-10-06, 415 points, 46 comments)
https://news.ycombinator.com/item?id=49980487
- 2026-10-08 10:20 JST の取得時点で 415 ポイント、46 コメントで、blog.google の記事にリンクしている。
- simonw は、EmbeddingGemma 2 が Apache 2.0 のライセンスであることをとても評価するとする。
- 埋め込みのモデルについては特に、クローズドで独自の、ホスト型だけのモデルを使うのは理にかなわないと思うとする。
- 独自のモデルが引き上げられたら、保存した何百万もの既存のベクトルを計算し直すのにやはり費用がかかり、2024 年 4 月の OpenAI のような再埋め込みの費用を負担する申し出を、あらゆる提供元に期待することはできないとする。
- 提供をやめたときに自分でオープンな重みの版を動かせるとわかっているなら、提供元にホスト型のモデルの代金を払うほうがずっとよいとする。
- weitendorf は、埋め込みのモデルは最もセルフホストされやすいものの 1 つで、GPU を 1 時間 $1-2 で借りてデータセット全体にかけられるからだとする。
- CPU と GPU のずれについて、slickytail はビット単位の一致は気にせず、埋め込みの空間での距離だけを気にすればよいとする。
- Zambyte は MediaPipe の判断の例をローカルで動かし、
Cancel my flight and refund my credit card immediately.が p(true) 0.22 で金融ではないと判断され、(この場合は) Laya のほうがずっと正確で、ほぼ同じくらい速かったとする。 - minimaxir は、よい中くらいの大きさの埋め込みモデルがなかったところにこれはマルチモーダルでもあり、テキストだけの 270M は古い埋め込みモデルと比べてすばらしく、テキストと視覚で合計 440M も妥当だとする。
- M3 Pro で自作のツールを使い、短いテキストで毎秒 78 の埋め込み、画像は毎秒 4、30 秒のチャンクの音声は毎秒 6、動画は動画 1 分あたり毎秒 0.2 の埋め込みだった。
- jraedisch は、Claude を使った最初のテストで、検索やクラスタリングにテキストの埋め込みだけが要るならよくも速くもないことを確かめたとする。
- 音楽の音声には、MuQ-MuLan がいまも最良の選択に見えるとする。
- sourcecodeplz は、テキストのベンチマークは最初の EmbeddingGemma と同じだとする。
- aabhay は、MatFormers ではなく MRL で訓練されているので、低い次元の埋め込みに合わせてモデルの重みを縮めることはできないとする。
- weitendorf は、モデルカードの音声のデータ (話し言葉、環境音、acoustic events) から、音声は主に書き起こした言葉とラベルに符号化されると読む。
- kaycebasques は MRL の代わりに 2 値の量子化が使えるかを問い、スレッドに答えはない。
- 求められた比較は、テキストでは Voyage AI のモデル (dcl が挙げ、nostrebored と redwood が異を唱えた)、ほかに SigLIP2 (brokensegue)。
- piyh は offmetaedh.com をこれらのモデルで運営しており、これは gemma embedding v1 と HQ-CLIP をそのまま差し替えられる後継だとする。
- 品質はよく、RAM の使用は少なく、埋め込みは速いとする。
- circularfoyers は、Edge Gallery のアプリの画像検索を本当にすばらしいと評する。
- anyg は、判断の API が 3 つ目の例として埋もれており、マルチモーダルの入力による判断を先頭に出せばもっと注目されるかもしれないとする。
- treetalker と ahknight は、訴訟の記録の中の証言録取の証言と写真をまとめて検索する使い方を語る。
- sahil2305dua という名前の利用者は、リリースの時期についての冗談に、自分たちにも手に余ったと返した。
[C] HyperAI — Google Launches EmbeddingGemma 2 for Lightweight On-Device Multimodal Tasks (2026-10-07)
https://hyper.ai/en/stories/2b394de14f674391a50cdff9ca17b08c
- ページは、このニュースは業界の動向を効率よく届けるために AI が自動で集約したものだと明記している。
- ブログの数字 (740M、約 191 と 567 メガバイト、MTEB Code で 9.92 ポイント、8K のコンテキスト) を言い直す。
- MRL はローカルのベクトルデータベースのストレージの要件を、検索の精度を損なわずに最大 6 分の 1 にするとする。
メモ
- ストレージの削減の倍率は Google 自身のページで違い、DeepMind の記事、モデルカード、ドキュメント、開発者向けの手引きは最大 6 倍 (768 から 128 次元、表の 1:6 の行) とするが、AI Edge の記事は MRL でローカルのストレージと索引のフットプリントを最大 8 倍減らせるとし、その差の理由を説明していない。
- コードの伸びは同じ結果を 2 つの単位で書いたもので、ブログは絶対値で 9.92 ポイント (68.76 から 78.68)、モデルカードと手引きは相対で約 14% (78.68 / 68.76 ≈ 1.144)。
- テキストの品質は横ばいで、MTEB multilingual v2 は 61.15 から 61.36 にしか動かず、HN の 2 人はテキストだけの検索はよくなっていないとし、テキストだけのチームにとっての利点はコード検索と小さくなったテキストの経路 (308M に対して 270M)。
- ドキュメントのページは、基本のテキストのモデルが 300M から縮んだとしつつ、同じページで EmbeddingGemma 1 を 308M と説明している。
- 最高水準の主張 (1B 未満のマルチモーダルの埋め込みモデルの中での首位のスコア、2 倍を超える大きさの専門のモデルを上回る) には、読んだ Google のページのどこにも競合のスコアがなく、モデルカードは EmbeddingGemma 1 と比べるだけ。
- 窓の杜は MTEB Code とサイズの Google 自身のグラフを載せ、HN は SigLIP2 と Voyage との比較を求め、ビジネス+IT の Cohere Embed 5 と Gemini Embedding 2 との比較は会員のログインの向こうで読んでいない。
- 独立したベンチマークは見つからず、読んだ日本語と英語のメディアはベンダーの数字を言い直しており、クラスメソッドの試験は 3 枚の画像での確認にとどまる。
- 手引きの保持率は切り詰めの表とおおむね合い、128d では MMEB v2 が 768d のスコアの 77%、MSEB が 82% を保ち (手引きは約 75% とする)、MIEB lite は 91%、MAEB は 95%、テキストとコードは 94% と 91% で、256d では画像、動画、音声のベンチマークが 95% から 99% を保つ。
- メモリの数字は方法が違うので並べて比べるべきではなく、ブログの Pixel 11 Pro でのアクティブな RAM の約 191MB と約 567MB に対して、LiteRT のカードの Pixel 11 Pro の TPU での 112 から 127.5 MB の CPU のメモリは、アクセラレーターのメモリを含まない。
- AI Edge の記事の MacBook M5 Pro GPU での 37.3 ms は、LiteRT のカードの MacBook Pro M5 の GPU でのテキスト + 視覚の数字と一致し、デバイスの呼び方だけが違う。
- Ollama のタグはどのサイズにも 256K のコンテキストウィンドウと入力 Text、Image (
570mのタグは Text だけ) を載せ、モデルカードの 8,192 トークンと音声の対応と食い違うが、ai.google.dev のバナーが最大 256K に触れる Gemma 4 から引き継いだメタデータかもしれず (未確認)、Ollama での音声は確かめる必要がある。 - llama.cpp の PR #30054 の題は text+vision+audio だが、ggml-org の GGUF は 0.3B パラメータと表示し、Unsloth は自社の llama.cpp のコマンドはテキストの埋め込みだけを扱うとしており、llama.cpp で視覚と音声が動くかは確かめていない。
- 2026-10-07 時点のライブラリの準備: クラスメソッドの試験は 5.18.0 が
embedding_gemma2を知らなかったため GitHub の main の transformers を要し、手引きは[image,audio,video]の extras 付きの sentence-transformers 6.1.0 以降を求め、モデルカードの Quick Start はどちらも入れておらず、その後に対応した transformers のリリースが出たかは確かめていない。 - MLX のリンクが違い、DeepMind の記事は
Blaizzy/mlx-vlmを、開発者向けの手引きはml-explore/mlx-lmを指す。 - まだ先の提供として、Gemini Enterprise Agent Platform の Model Garden は近日 (今回の実行で保存したこの基盤のリリースノートには EmbeddingGemma 2 の項目がない)、Android の ML Kit は今後数週間。
- モデルは事後学習のアライメント、安全性の調整、出力のモデレーションを受けておらず、Google は検索のフィルタリングと公平性のテストを展開者に任せており、The Next Web はこれを冒頭に置く。
- 言語: 対応は 100 を超える言語、学習の Web のテキストは 140 を超える言語で、性能が等しくないことは認められており、読んだページに日本語に固有のスコアはなく、クラスメソッドの試験は日本語のクエリでも画像を正しい順に並べた。
- Zambyte のルーティングの失敗の例 (p(true) 0.22) は 1 つの逸話で、比べられた Laya のモデルは Unsloth のナビゲーションに決定モデルとして出てくるが、調べていない。
- Qdrant と Unsloth は Google の記事に名前の出るパートナーで、Qdrant は早期アクセスを得ており、その記事はベンダーの測定で独立した評価ではなく、Qdrant の結果は名前が出ているのが Quora だけの 5 つのデータセットでのテキストの検索を扱う。
- HN の利用者 sahil2305dua が共著者の Sahil Dua かは未確認。
- 記録したエンゲージメント: HN は 415 ポイント、46 コメント、AINews は Sundar Pichai の投稿で 7.1K のエンゲージメントと r/LocalLLaMA での Activity 543 を伝え、Hugging Face は 7,562 ダウンロード、Ollama は 10.8K、LiteRT のパッケージは 8,037 を示した。
- Kaggle のモデルページはページのキャッシュでも WebFetch でも題しか描画されなかったので、Kaggle での提供は Google の記事と日本語のメディアによる。
実践やアウトプットの提案
- チーム自身のリポジトリでのコード検索: 270M のテキストだけの構成と
CodeRetrievalのプロンプト (title: {filename} | text: {code}) で索引を作り、開発者の実際の質問を 30 から 50 件投げ、768d と 256d で、いまの埋め込みモデルと recall@10 と索引付けの時間を比べる。- MTEB Code の伸びがチームのコードでも成り立つか、コーディングエージェントの検索のツールにつなぐ価値があるかを確かめる。
- 日本語のテキスト: テキストのスコアが EmbeddingGemma 1 からほとんど動いていないので、社内の FAQ やチケットの集合で、EmbeddingGemma 1、EmbeddingGemma 2、使っているホスト型のモデルの日本語の検索を 128d も含めて測る。
- マルチモーダルの RAG のスパイク: スライドと PDF を画像として会議の録音とともに 440M か 740M の構成で SQLite、Qdrant、S3 Vectors に索引付けし、テキストでクエリして、開発者のノートパソコンでのメモリとレイテンシを LiteRT の数字と比べる。
- ベクトルの保存: Qdrant の比較をチーム自身のストアで再現し (768d の 1 ビット、リスコアリング付きの 256d の 1 ビット、128d の 4 ビット)、nDCG@10 の保持率と厳密な検索との上位 10 件の重なりを測る。
- 採用のチェックリスト: transformers と sentence-transformers (6.1.0 以降) を固定し、bfloat16 か float32 を強制して float16 は使わず、切り詰めた後は正規化し直し、クエリと文書の次元をそろえ、索引付けの前に 768 個の有限の値を確かめる。
- ゼロショットのルーティング: MediaPipe の Decision Task、または素のラベルの埋め込みの類似度を、エージェントやサポートの意図のラベル付きの集合で LLM の分類器と比べ、HN で示された失敗も含める。
- 意思決定の記録: チームのコーパスについてホスト型の埋め込みの API とセルフホストのオープンな重みを比べ、ホスト型のモデルが引退する日の再埋め込みのコストの見積もりを添える (simonw の議論)。
- アウトプット: 日本語のテキストとコードでの EmbeddingGemma 1 と 2 の比較と、準備で見つかったライブラリの落とし穴をまとめた短い記事か LT。
6. 📚 LayerX が、1,000 ページを超えようとする組織全体の LLM Wiki を陳腐化させない仕組みとして、想定質問への答えが変わるかで毎日の差分を絞り込むこと、push の前に必ず lint で根拠のハッシュを照合すること、回答を一時置き場に書き戻して別のエージェントが昇格させることを紹介した
- 選定 / 影響度 1 / 将来性 1 / 注目度 2 / 起点 10-05、期間前の出来事 / 種別: 検証・実践 / 領域: エージェント開発、評価・運用。
- 候補になったフィード項目:
hatena-llm10-06 LLM Wikiの組織運用に向けて ── 陳腐化を防ぐ更新の仕組み - LayerX エンジニアブログ — はてなブックマーク 100 users (取得時点)
- 起点: LayerX は期間の前日の 10-05 に記事を公開し、
hatena-llmが 10-06 にフィードに運んだ。
収集した情報
[A] LayerX Engineering Blog — Toward running an LLM Wiki across an organisation: an update mechanism that keeps it from going stale, by shibutani (2026-10-05, in Japanese)
https://tech.layerx.co.jp/entry/enterprise-llm-wiki-ops
- 筆者は「LayerX バクラク事業部 Platform Engineering 部 Enabling グループの shibutani」で、記事の日付は 2026-10-05。
- 「この機能、実際にはどう動くんだっけ?」という問いは、「QAがテストの期待結果を書くときにも、CSがお客様からの問い合わせに答えるときにも、日常的に発生します」とする。
- 「答えを探す先はNotionの設計仕様書、Zendeskのヘルプ記事、GitHubのコードの3つに分かれており、しかもこれらの記述はしばしば食い違います」とする。
- 「プロダクト仕様に関するコンテキストのSingle Source of Truthを作るために、LLM Wikiを構築しました」とし、「3つの出典を突き合わせたうえで1か所にまとめ、人もLLMも、仕様について知りたいときはまずここを参照すればよい状態を目指しています」とする。
- 「実際に運用してみて分かったのは、難しいのは書くことよりも、書いた内容を正しく保ち続けることだという点です」とし、「出典は日々更新されるため、wikiは書いた瞬間から古くなり始めます」とする。
- 3 つのどれも単独では信じ切れない理由を挙げる。
- 「設計仕様書からは設計の意図が読み取れますが、書かれているのは書いた時点の設計であり、現在の挙動と一致している保証はありません」。
- 「ヘルプ記事はお客様から見える挙動を説明していますが、書かれていないパターンが多く、改訂が実装に追いついていないこともあります」。
- 「コードは実際の挙動そのものですが、読める人が限られるうえ、実装自体が誤っている可能性も残ります」。
- これらをそのまま LLM に渡しても「記述が食い違ったときにどれを正とすべきかをLLMは判断できず、問題は解決しません」とし、「モデルの性能を上げるよりも、渡すコンテキストを事前に整理しておくほうが効果があると考えました」とする。
- 1 か所にまとまることで楽になる職種を挙げる。
- QA は「コードと設計の両方を踏まえた仕様を拠り所にテストの期待結果を書けるようになります」とし、「コードだけでは本来の仕様どおりかを判断できないので、仕様とのずれ(バグ)を見つけるには、こうした拠り所が欠かせません」とする。
- CS は「お問い合わせいただいた事象が仕様どおりの動作か不具合かを、コードを読まずに素早く切り分けられるようになります」。
- 「ヘルプ記事と実装を並べることで、お客様向けの説明の誤りや古い記述を見つけ、より正確な案内につなげられます」。
- LLM Wiki を「Andrej Karpathy氏が提唱した知識管理のパターン」とし、「人がwikiを書くのではなく、LLMが一次情報を読んでwikiを書き、質問に答えるたびにwikiを育てていきます」と説明する。
- ページの構成は、「1つの機能を1ページにまとめ、その中に設計仕様書・ヘルプ記事・コードそれぞれの記述を並べています」。
- 規模は「1プロダクトあたり100ページ前後」で、「バクラクにおけるプロダクト数を考慮すると1,000ページを超える規模になる見込み」とする。
- 「国内でもLLM Wikiを試した事例は増えてきましたが、組織で継続的かつ大規模に運用している事例はまだ多くありません」とする。
- 論文やメモのような個人の知識なら「出典は追加されていくだけで、過去の内容が書き換わることはほとんどありません」が、この規模の組織の仕様では「ヘルプ記事は改訂され、コードは定期的にリリースされるため、出典そのものが変わり続けます」とする。
- 「直近のリリースでは、1回で2,000件を超えるPull Requestが含まれていました」。
- 「書きっぱなしのwikiは、古くなった答えをもっともらしく返してしまいます」とし、「LLM Wikiを組織で使うには、出典の変化に追従し続ける仕組みが必要でした」とする。
- 工夫 1 の定期更新: 出典には毎日のように変更が入り、新機能の説明や既存の挙動の変更もそこから入ってくるので、wiki に反映すべき内容を日々見つけ出す仕組みが要るとする。
- 「変更の大半はリファクタリングや内部的な整理であり、LLM Wikiの利用者が知りたい内容には影響しません」。
- 「差分を1件ずつLLMに読ませて反映要否を判断させると、費用は差分の量に比例し、その多くを利用者に関係のない変更に費やすことになります」。
- 判断の起点を「出典の何が変わったか」から「利用者の質問への答えが変わるか」に移し、その理由を「wikiの価値は、利用者の質問に正しく答えられるかどうかで決まると考えたためです」とする。
- 定期更新は、まず 3 つの出典を取得し直して前回との差分を出してプロダクトごとにまとめ、コードの差分はさらに Pull Request ごとにまとめる。
- 「1つのPull Requestで変わった複数のファイルは1つの変更の一部であり、ファイル単位よりもPull Request単位で見たほうが、その変更が利用者にとって何を意味するかを判断しやすくなります」。
- まとめた差分ごとに、その変更について利用者が訊きそうな質問 (想定質問) を 1 つ書かせる。
- 「質問を書けない変更(内部的な整理、誤字の修正、スクリーンショットの差し替えなど)は、wikiに書くべき内容もないと判断して何もしません」とし、「差分の大半はこの段階で除外されます」とする。
- 質問を書けた場合は、その質問に現在の wiki で答えさせる。
- 答えが更新後の出典と合っていれば何もしない。
- 食い違っていれば、その節を修正する。
- wiki で答えられなければ、節の追加や新規ページの作成を行う。
- 記事のフローチャートは、出典の取得し直し、プロダクトと Pull Request の単位での差分のまとめ、利用者が訊きそうな質問を 1 つ書けるかの判断、現在の wiki の答えが更新後の出典と合うかの比較を経て、何もしない、節を修正する、節の追加や新規ページの作成に分かれる経路を示す。
- 「この方式により、LLMが詳しく読むのは、利用者への答えを変えうる変更だけに絞られます」。
- 工夫 2 の劣化の機械的な検知: 想定質問による選別では差分を拾うかどうかを LLM が判断するので、既存ページの根拠の出典が変わっても、LLM が「利用者への答えは変わらない」と判断すれば、そのページは古い記述のまま残ってしまうとする。
- 「根拠が変わったページについては、判断を挟まずに必ず読み直させる仕組みが必要でした」。
- 「各ページには、根拠にした出典をすべて列挙し、それぞれの内容のhashを記録しています」とし、出典の内容が変わると記録した hash と一致しなくなるので、LLM の判断を挟まずにそのページを古いと判定できる。
- wiki の別のページを根拠に書いたページも同じ仕組みで紐づけ、出典の更新を受けてページ A を修正すると A の本文の hash が変わり、今度は A を根拠にしたページ B が古いと判定される。
- 「このように判定は上流から1段ずつ伝わり、古いページがなくなるまで続きます」とし、2 つ目の図がその流れを示す。
- 「コードは本番環境にリリースされている版に固定して引用しています」とし、理由を「ヘルプ記事が説明しているのは本番の挙動なので、同じ版で比べなければ突き合わせが成り立ちません」とする。
- 開発環境やステージング環境の挙動を問われた場合は、wiki ではなく該当する環境のコードを直接読んで答える。
- 「検知の仕組みがあっても、突き合わせが実行されなければ意味がありません」として、hash の突き合わせを lint として実装し、wiki の変更を push する前に必ず lint を通す手順にした。
- 「古いと判定されたページが1件でも残っていればlintが失敗し、pushまで進めません」。
- 定期更新を含め wiki を更新する作業はすべてこの手順を通るので、「出典が変わったページは必ず読み直して修正されてから、wikiに反映されます」。
- 工夫 3 の多人数の書き戻しから wiki を守る仕組み: LLM Wiki は回答を書き戻すことで育つが、「利用者がそれぞれのエージェントからwikiを直接書き換えると、その人の好みや使っているエージェントの癖によって、wikiが少しずつ書き換えられていきます」とする。
- 「利用者が増えるほど書き方や判断基準がばらばらになり、wikiの一貫性が失われていきます」。
- そこで「回答の書き戻し先を一時置き場に限定しました」とし、「利用者のエージェントはwiki本体を書き換えず、回答をそのまま一時置き場に残します」とする。
- 一時置き場の回答は毎日の定期更新 (工夫 1) が読み込み、「事前に定めた規約に沿って、機能のページへ昇格させるか削除するかを判断します」。
- 「昇格させる際は、書き手とは別のエージェントが出典と突き合わせて確認します」。
- 「一時置き場の内容は次の回答の根拠には使いません」とし、理由を「確認を経ていない回答を根拠にすると、誤りが次の回答へ伝播してしまうからです」とする。
- 3 つ目の図は、利用者の質問、wiki をもとにした回答、wiki 本体を書き換えずに一時置き場に残す回答、規約に沿った定期更新の判断を経て、ページに収まるなら該当する機能のページへの昇格、誤りや根拠が弱ければ削除に至る流れを示す。
- その結果、「誰がどのエージェントで質問しても、wikiは事前に決めた規約に沿ってのみ更新され続けます」とし、「回答から得た知見を活かしつつ、wikiの一貫性も保てる設計です」とする。
- 今後の課題として、いまの出典は設計仕様書、ヘルプ記事、コードの 3 つだが、Slack での議論やお客様からの実際の問い合わせ内容も取り込みたいとし、「仕様が決まった経緯や、お客様が実際につまずくポイントは、そうした場所にこそ残っています」とする。
- 「これらはコードやヘルプ記事と異なり、人によって閲覧してよい範囲が異なります」とし、1 つの wiki に集約するには「この閲覧権限の違いを適切に扱う仕組みが必要になります」とする。
- まとめの 3 点は、「定期更新では、差分ごとに利用者の質問を想定し、答えが変わるものだけを反映するようにした」、「根拠が変わったページはhashで機械的に検知し、読み直すまで変更を反映できないようにした」、「回答の書き戻しは一時置き場を経由させ、規約に沿って昇格させることでwikiの一貫性を保った」。
- 結論では、「LLMに知識を書かせる仕組み自体は、手軽に作れるようになりました」としつつ、組織で使い続けるには「書いた知識が古くなったことに気づけること、何を書かないかを決めること、そして誰が使っても同じ規約で更新されることが欠かせません」とする。
[A] Andrej Karpathy — llm-wiki.md, GitHub gist (2026-04-04, background)
https://gist.github.com/karpathy/442a6bf555914893e9891c11519de94f
- gist は Created April 4, 2026 と表示し、2026-10-08 の取得時点で Star と Fork はどちらも 5,000+。
- LLM を使って個人の知識ベースを作るためのパターンだとする。
- これはアイデアのファイルで、自分の LLM のエージェント (たとえば OpenAI Codex、Claude Code、OpenCode / Pi など) にコピーして貼り付けるよう設計されているとする。
- RAG では、LLM は質問のたびに知識をゼロから再発見しているとする。
- そこには蓄積がないとする。
- 代わりに、LLM が持続する wiki、つまり利用者と生の情報源の間に置く、構造化され相互にリンクした markdown ファイルの集まりを少しずつ作り、保守するとする。
- 知識は一度コンパイルされてから最新に保たれ、クエリのたびに導き直されることはないとする。
- wiki を自分で書くことはまったく (またはほとんど) なく、LLM がすべてを書いて保守するとする。
- Obsidian が IDE、LLM がプログラマー、wiki がコードベースだとたとえる。
- 事業やチームでの使い方として、Slack のスレッド、会議の書き起こし、プロジェクトの文書、顧客との通話を材料に LLM が保守する社内の wiki を挙げる。
- 人が更新をレビューするループを入れることもありうるとする。
- 生の情報源は不変で、LLM は読むが決して変更しないとする。
- それが真実の情報源だとする。
- wiki の層は LLM が完全に所有するとする。
- スキーマ (たとえば Claude Code の CLAUDE.md や Codex の AGENTS.md) が、LLM を汎用のチャットボットではなく規律ある wiki の保守役にするとする。
- 取り込みでは、1 つの情報源が 10-15 の wiki のページに及ぶことがあるとする。
- Karpathy は情報源を 1 つずつ取り込んで関わり続けるほうを好むが、監督を減らしたまとめての取り込みもできるとする。
- クエリでは、よい答えを新しいページとして wiki に書き戻せるとする。
- lint では、ページ間の矛盾、新しい情報源に取って代わられた古い主張、入ってくるリンクのない孤立したページ、言及されるのに自分のページのない重要な概念、欠けた相互参照、Web 検索で埋められるデータの穴を探すとする。
- index.md は中規模 (約 100 の情報源、数百のページ) では驚くほどよく機能し、埋め込みベースの RAG の基盤を要らなくするとする。
- log.md は、取り込み、クエリ、lint の実行など、何がいつ起きたかの追記だけの記録だとする。
- 大きな wiki には、ハイブリッドの BM25/ベクトル検索と LLM による再ランキングを持つ markdown ファイル向けのローカルの検索エンジン qmd を挙げ、CLI と MCP サーバーがあるとする。
- wiki は markdown ファイルの git リポジトリにすぎないとする。
- 人が wiki を放棄するのは、保守の負担が価値より速く増えるからだとする。
- LLM は飽きず、相互参照の更新を忘れず、1 回で 15 のファイルに触れられるとする。
- この文書は意図的に抽象的にしてあるとする。
- 特定の実装ではなく、アイデアを説明するものだとする。
[A] arXiv — LLMs Corrupt Your Documents When You Delegate, by Philippe Laban, Tobias Schnabel and Jennifer Neville (2026-04-17, background)
https://arxiv.org/abs/2604.15597
- 2026 年 4 月 17 日の投稿 (v1) で、分類は Computation and Language と Human-Computer Interaction、読んだのは要旨のページだけ。
- 委譲には信頼、つまり LLM が文書に誤りを持ち込まずにタスクを忠実にこなすという期待が要るとする。
- DELEGATE-52 は、コーディング、結晶学、楽譜の記法など 52 の専門領域にわたって、文書の深い編集を要する長い委譲のワークフローを模擬するとする。
- 19 の LLM での大規模な実験では、いまのモデルは委譲の間に文書を劣化させ、フロンティアのモデル (Gemini 3.1 Pro、Claude 4.6 Opus、GPT 5.4) でさえ長いワークフローの終わりまでに文書の内容の平均 25% を壊し、ほかのモデルはもっとひどく失敗したとする。
- 追加の実験では、エージェントのツールの使用は DELEGATE-52 の性能を改善せず、劣化の深刻さは文書の大きさ、やり取りの長さ、気をそらすファイルの存在で悪化したとする。
- いまの LLM は信頼できない委譲先で、まばらだが深刻な誤りを持ち込み、それが長いやり取りを通じて積み重なりながら黙って文書を壊すと分析する。
[B] Cornell AI Innovation Hub — Teaching an AI to Remember: What I Learned Building a Wiki LLM, by Ido Efrati (2026-09-01, background)
- 筆者は Programming Analyst Specialist で、ページのメタデータは 2026-09-01。
- Karpathy のパターンで LLM の wiki を作り、独自の知識を危険にさらさずに粗を見つけるため、筋に意外な展開のあるパブリックドメインの小説 The Hound of the Baskervilles で試した。
- チームにとっての意味を、半年前にある要件が仕様に入った理由をチーム自身のエージェントに尋ねて、肩をすくめられる代わりに答えが返ってくることだとする。
- RAG は巨大で絶えず変わるコーパス (顧客サポートのチケット、法的な提出書類、企業のナレッジベース) での事実の検索に向くが、クエリのたびに全体像を導き直すとする。
- 構成は生の情報源、wiki、スキーマを分け、スキル
/llm-wiki-ingest、/llm-wiki-query、/llm-wiki-lint、/llm-wiki-maintainを持つ。- どれも複雑ではないとする。
- 肝は知能ではなく、帳簿付けの規律だとする。
- 13 章で wiki は執事を自分のページで潔白とし、Stapleton と L.L. の手紙のページを書き直し、新しいページが古いページと言い争うのではなく結論をその場で書き換えたので、整合は取り込みの時点で一度で済んだとする。
- 頼れるほど信頼できるものにしたのは、AI の判断の下にある決定的な部品だったとする。
- 彼の
wiki_tool.pyの CLI には build と lint のコマンドがあり、source-scan と source-lint はすべての生の情報源のファイルにハッシュをとり、ページがその後変わった情報源を引いていれば印を付ける。- 実行すると
OK - 23 concept(s) valid、Manifest updated - 0 new, 0 changed, 15 total、OK - 15 source(s) checkedと、3 つの孤立したページの警告を表示した。 - これは AI が実行を義務づけられたツールで、ずれを実際に捕まえるのはこれだとする。
- 実行すると
- ページは Google の Data Cloud のチームが公開した Open Knowledge Format (OKF) に従い、必須の欄 (種類、題、最終更新日) と、小説のための 5 つのページの種類に絞った語彙を持つ。
- 新しい種類を足すのは、3 つのページが既存の種類に収まらなくなってからだとする。
- wiki を使うべきなのは、限られた精選した情報源の集合 (数百であって数百万ではない) があり、価値のある答えにそのうち 5 つをつなぐ必要があるときだとする。
- 予想しなかったトレードオフを挙げる。
- 規模: 索引はコンテキストウィンドウに収まらなければならず、いずれにせよ検索の層が要るようになるまでは数百ページ程度だとする。
- 一度に 1 人の書き手を前提にしているとする。
- アクセス制御もトランザクションのモデルもないとする。
- 誤った推論が確定したものとして扱われうるとする。
- 不変の生の情報源の層は安全網だが、実際に確かめることの代わりにはならないとする。
- 弱いモデルは弱い判断をそのまま知識ベースに広げるとする。
- 次は、Slack のスレッド、会議のメモ、チケットの書き出しを材料にするチーム版と、索引がコンテキストウィンドウを超えたときの検索の層とのハイブリッドを作りたいとする。
[B] DevelopersIO (Classmethod) — What happens when you leave document maintenance to an LLM: a paper, by 森茂洋 (Hiroshi Morishige) (2026-05-08, in Japanese, background)
https://dev.classmethod.jp/articles/llm-knowledge-base-document-corruption-revisit/
- 筆者は、自身が取り入れた Karpathy の LLM Knowledge Base のパターンについての以前の記事の続きとして、上の Microsoft Research の論文 (arXiv:2604.15597v1) を取り上げる。
- 論文を、「否定するための否定ではなく、『短期的にうまく動くからといって、長期間任せ続けたときの劣化を測ったら無視できない量だった』という地に足のついた指摘」と読む。
- 伝えるところでは、最先端モデル 3 種の 52 領域平均で「20 インタラクション後には文書の 25% が破損していた」とし、延長実験で 100 ラウンドまで進めても劣化は止まらなかった。
- 20 インタラクション時点の Reconstruction Score は Gemini 3.1 Pro 80.9%、Claude 4.6 Opus 73.1%、GPT 5.4 71.5% で、「2 インタラクション時点ではどのモデルも 94〜97%」とする。
- DELEGATE-52 は 52 の専門領域、合計 310 の作業環境を集め、それぞれ 2〜5k トークンの実文書と 5〜10 個の編集タスクを含み、back-translation の round-trip の前向きと後ろ向きの編集を、ドメインごとの専用パーサと加重類似度で採点する。
- 筆者が挙げる 6 つの劣化要因:
- 累積エラーは、ラウンドを重ねるごとに減点が積み重なり、長期になっても収束しない。
- 文書サイズとラウンド数は相互に作用し、20 インタラクション後に 1k トークンの文書は 91.4%、4k は 79.0%、10k は 59.9% で、GPT 5.4 では「1,000 トークン増えるごとの劣化幅が 2 ラウンドで 0.7%、20 ラウンドで 3.6%」。
- ツール使用は改善せずむしろ悪化し、ファイルの読み書きとコード実行のツールを与えると 4 モデル平均でさらに 6 ポイント悪化し、入力トークンは 2.1〜4.6 倍に膨らむ。
- ディストラクタの影響は「最初は 0.4〜4% の影響だったものが 20 ラウンドでは 2〜8% に拡大」し、「wiki が成長するほど効いてくる性質です」とする。
- 領域間の格差は大きく、首位の Gemini 3.1 Pro でも ready (RS@20 ≥ 98%) は 11 領域だけで、Python は 19 モデル中 17 が ready だった。
- 最先端モデルは内容を消すのではなく書き換えるので、「git diff を眺めても異常に見えづらい」。
- LLM 自身は劣化に気づきにくいとし、「Lint や自己レビューを LLM に任せても、結局は同じ『確率的に書く』エンジンが『確率的にチェックする』だけで、ground truth と照合する手段を内側に持ちません」と論じ、「『LLM の外側』に再コンパイル可能な raw sources や round-trip のような物差しを置く価値は、まさにここにあるのだと思います」とする。
- Karpathy のパターンへの含意として、質問への回答を wiki に書き戻して育てる挙動は「論文が劣化を測った『複数ラウンド編集』そのもの」で、Lint のようなツールでの解決には、論文が「『ツール使用で 6 ポイント悪化』とむしろ追い打ちをかけてきます」とする。
- 留保として、raw sources は不変に保たれて「wiki が腐っても捨てて再コンパイルできる設計」であること、論文で ready とされた領域 (Python、インフラ、AI 系) に寄せた wiki なら 52 領域平均より楽観的に見てよい部分もありそうなこと、著者らが各ステップを独立の single-turn で実験していると認めていて、git diff を確かめながら編集する現実のフローにはそのまま当てはまらないかもしれないことを挙げる。
- 実装はせずに考える対策として、一定ラウンドごとに raw から再コンパイルするフルリビルド (「5〜10 ラウンドに 1 回は更地に戻すくらいが安全圏かなと思います」)、書き戻しの回数がしきい値を超えたらリビルドを促す filing back のラウンド上限のガード、「直近 10 件の Query を抜き打ちで選んで、現 wiki と再生成 wiki の両方から同じ回答が出るか」を確かめる round-trip 風の回帰チェックを挙げる。
- 結論は、「『LLM Knowledge Base は壊れているからやめよう』という結論ではなく、壊れることを前提に、再生可能性と監視を組み込んで使おうという線でした」。
[C] Zenn (tsurubee) — What a month of running Andrej Karpathy's LLM Wiki showed: the LLM's power to connect knowledge (2026-05-15, in Japanese, background)
https://zenn.dev/tsurubee/articles/llm-wiki-connecting-knowledge
- 2026-05-15 の公開で、2026-10-08 の Zenn の API では 312 いいね、148 ブックマーク。
- Karpathy は 2026 年 4 月にこのパターンを X で公開し、後に GitHub の gist で詳細を共有したとする。
- 1 か月の運用で「見えてきたのはLLMの真価が要約ではなく繋げる力にあるということだった」とする。
- wiki はサマリーページ (一次資料 1 本につき 1 つ)、概念ページ (複数のソースを横断した合成)、query ページ (質問とその回答のファイリング)、index.md からなり、「1ソース投入で10〜15ページに更新が及ぶこともある」。
- 例として、Automated Scientific Discovery の 10 本以上の論文から概念ページが、Agent Laboratory、Beel et al.、AI-Researcher を別々のタイミングで取り込んだときの「『2.3ポイント差』『9/10 reject』『68ポイント変動』という独立した数字」を LLM-as-Judge の評価バイアスという 1 つのパターンの 3 つの観測面として統合し、Sam Altman と Dario Amodei の 4 本のエッセイからは AGI についての 2 人の思想の対比が組み上がったとする。
- lint について、「
agent-harnessとエージェントハーネスとharnessがそれぞれ別ページとして存在する」、「reinforcement-learningタグとrlタグが混在している」のようなドリフトは「ingestを繰り返すうちに必ず生じる」とし、壊れた wikilink や孤立ページとともに lint で整備するとする。 wiki/queries/にファイリングした回答は自分が精選した情報源だけに範囲が閉じ、後の query や ingest から参照できるとする。- 導入の手順は、gist を LLM に読ませて雛形 (CLAUDE.md や AGENTS.md のような schema ファイル、
raw/とwiki/) を作らせ、約 5 本を ingest し、テンプレートを LLM を通じて育て続けることで、たとえば概念ページに未解決の問いの節を必ず作らせる。 - 限界として、「人間が読んで理解することがボトルネックになる」とする。
- arXiv の新着論文を毎日自動で ingest するようなことはせず、あえてソースを手で選んでおり、自動化すると「自分が気づかない場所で概念ページが勝手に育ち」、「理解のボトルネックがさらに深刻になる」とする。
- 辞書的な使い方 (query だけ) と、概念ページを読み込んで自分の理解を作る使い方を分け、前者だけだと「LLMのwikiに外部記憶を完全に委託した状態」に近づくと警告する。
[C] GitHub (Astro-Han) — karpathy-llm-wiki repository README (2026-07-23, background)
https://github.com/Astro-Han/karpathy-llm-wiki
- Claude Code、Cursor、Codex、OpenCode 向けの MIT ライセンスの Agent Skills のスキルで、2026-04-05 に作られ、スター 2,429、フォーク 287 (
ghで読んだ) で、README の最終変更は 2026-07-23。 - 2026 年 4 月から毎日保守している本番のナレッジベースに基づくとし、13 のトピックのディレクトリにわたる 94 の wiki の記事、取り込んだ 99 の情報源、直近 7 日の 87 の操作のログの項目を挙げる。
- 取り込みは情報源を選別して記事を作るか更新し、新しいことがなければログに残すだけで、lint は索引の完全性、リンク、wiki の健全性を確かめ、自動の修正と報告する問題を返す。
- 3 か月の本番のログとエコシステム (LLM Wiki v2、llm-wiki-compiler、OKF、エージェントのメモリの文献) の調査の後で、わざと作らなかったものを挙げる。
- 情報源のハッシュによる鮮度の追跡は、raw/ が不変なので、起こりえない事態を防ぐことになるとする。
- 本当に新しい情報は、通常の取り込みで新しい情報源として届くとする。
- 記事ごとの見直しの日付は、領域がどれだけ速く動くかをコンパイルの時点で誰も予測できないので作らないとする。
- 保守はページごとのタイマーではなく、wiki 全体の lint で回すとする。
- アクセスに基づく減衰は、よく尋ねられることと正しいことは違うので作らないとする。
- 撤回や悪い情報源の仕組みは、まだそういう事態が起きていないので作らないとする。
- 自動のフックと定期実行は、ツールに依存しないスキルではなくエージェントのハーネスに属するとする。
- ベクトルやグラフの検索は、50K–100K トークンの精選した wiki では grep と読み込みのほうが信頼できるとする。
- OKF への準拠は、仕様が v0.1 の草案でツールのエコシステムが最小限なので見送るとする。
- 観察した忠実さの誤りはすべて情報源にない値で、ファイル全体の grep で捕まえられるので、保存した行番号の引用も作らなかったとする。
[C] GitHub — comments on Karpathy's llm-wiki gist (2026-09-17 to 2026-09-21)
- gist のコメント欄はコミュニティの実装が長く続き、LLM が保守する知識ベースを最新に保つことに関わるコメントが 2 つある。
- orcosto-lab (2026-09-21) は、Claude と Codex が書いた約 15 ページの wiki を運用し、実際の作業セッション 9 回を監査した。
- wiki はセッションの開始時には読まれたが、タスクの途中では読まれなかったとする。
- 9 回のうち 2 回のセッションで、エージェントはすでに教訓が書かれていた失敗をゼロから診断し直したとする。
- 検索は問題なかったが、参照そのものが起きなかったとする。
- 対策は、見分けのつくエラーでツールが失敗した後に wiki を確かめる明示的なきっかけをスキーマに書くことと、自分たちの MCP のツールの説明に 1 行の
LESSON:のメモを入れることだった。
- gowtham0992 (2026-09-17) は、AI のエージェントのためのローカルのメモリ Link 3.0 を発表し、素の Markdown のファイル、レビューを通す書き込み、メモリの層に LLM を置かないことを特徴に挙げる。
- エージェントのメモリへの最も多い不満は、メモリが正しくなくなったときに何も教えてくれないことだとする。
- その
lnk staleは git がもう持っていないファイルを名指すメモリを列挙し、投稿は Link 自身のドキュメントの 108 のパスの参照で誤検知 0 だったとする。
[C] Hatena Bookmark — Entry page for the LayerX post (as fetched on 2026-10-08, in Japanese)
https://b.hatena.ne.jp/entry/s/tech.layerx.co.jp/entry/enterprise-llm-wiki-ops
- 2026-10-08 10:35 JST の時点で 100 users がブックマークし、コメントは 4 件で、カテゴリはテクノロジー。
- ページには「コメント一覧は非表示に設定されています」とあってコメントは読めず、jsonlite の API も数 100 と空のブックマークの一覧を返した。
- タグは LLM、あとで読む、仕事、組織、wiki、work、llm-wiki。
メモ
- LayerX の記事に書かれていないこと: 更新を動かす LLM やエージェントのハーネス、コストやトークンの数字 (コストの議論は定性的)、大半という以上の除外される差分の割合、hash の関数、Notion、Zendesk、GitHub をどう取得して差分をとるか、wiki の置き場所 (push という言葉から git のリポジトリと推測)、昇格の規約の中身、確認役の 2 つ目のエージェントの設定、クエリのときにページをどう探すか。
- 測定は報告されておらず、捕まえた古いページの数も、前後の回答の正確さも、鮮度の数字もない。
- 設計の未解決の問い: hash の lint はすでに変わった出典を引いているページを扱うが、まだどのページも引いていない挙動を持ち込む変更は LLM の質問のフィルターだけに頼っており、そのフィルターが何を取りこぼすかを記事は論じていない。
- 古さはページ間の依存を通じて古いページがなくなるまで伝わるが、ページ間の循環は論じられていない。
- 規模と検索: Karpathy は index.md が約 100 の情報源と数百のページで驚くほどよく機能するとし、Cornell の筆者は限界を数百ページ程度とし、Astro-Han は 50K–100K トークンでは grep と読み込みを使う一方、LayerX は 1,000 ページ超を見込みながら wiki の探し方を書いていない。
- ハッシュについて情報源が食い違うのは、発見ではなく前提が違うからである。
- Karpathy の生の情報源は不変で、だから Astro-Han は情報源のハッシュによる鮮度の追跡をわざと外した。
- LayerX の出典 (Notion の仕様書、Zendesk の記事、GitHub のコード) は毎日変わり、それを LayerX の hash の lint が扱い、Cornell の
wiki_tool.pyは固定の小説でも生の情報源にハッシュをとる。
- 書き戻しは設計が最も分かれる点である。
- Karpathy はよい答えを新しいページとして書き戻すことを勧める。
- LayerX は答えを一時置き場に隔離し、昇格の前に別のエージェントに出典と照らし合わせさせ、昇格していない答えを根拠に使わない。
- Cornell は、このパターンが一度に 1 人の書き手を前提にし、誤った推論が確定したものとして扱われうると警告する。
- クラスメソッドの筆者は書き戻しを、Microsoft Research の論文が黙った破損を測った複数ラウンドの編集そのものと読む。
- 論文の 25% という数字は wiki の運用ではなく round-trip の編集のベンチマークから来ており、クラスメソッドは著者らが single-turn のステップで試したと伝えていて、LayerX の手順にどこまで移せるかは試されておらず、LayerX も時間とともにどれだけずれるかの測定を示していない。
- LayerX は lint を push の関門にする一方、Karpathy と Zenn の筆者は lint を報告や修正の提案をする定期の健康診断として説明し、Cornell の決定的なツールは取り込みの後に AI が実行を義務づけられたもの。
- アクセス制御はどの情報源でも未解決で、LayerX は Slack とお客様の問い合わせについて人ごとの閲覧権限を課題に挙げ、Cornell はアクセス制御もトランザクションのモデルもないとする。
- 注目度: 検索では LayerX の記事に反応した独立した記事は見つからず、はてなブックマークの 100 users が唯一のエンゲージメントの手がかりで、コメントは非表示。
- 開かなかった検索結果には、ハッシュや日付による古さの確認を持つほかの実装の説明があり、たとえば Nous Research の Hermes Agent の llm-wiki のスキルは生のファイルごとに sha256 のダイジェストを保存し、lint の間にハッシュをとり直すとされる (未確認)。
- Zenn のいいねとブックマークの数は、ページのテキストではなく Zenn の API から取った。
実践やアウトプットの提案
- 1 つのリポジトリで質問のフィルターを試す: 1 週間分のマージされた Pull Request について、LLM に Pull Request ごとに利用者の想定質問を 1 つ書かせ、書けなければ none と答えさせて除外の割合を測り、除外した Pull Request の一部をリリースノートと照らし合わせて取りこぼしを確かめる。
- 残りの仕組みを作る前に、節約の幅と偽陰性のリスクの両方がわかる。
- 既存の知識ベースやエージェントのドキュメントに出自の情報を足す: 各出典を内容の hash (または本番のリリースに固定したコミットの SHA) とともに並べる front matter、hash が変わると pre-push か CI で失敗する lint、ほかのページを根拠に書いたページへの伝播。
- エージェントの書き戻しを一時置き場のディレクトリに回す: CLAUDE.md か AGENTS.md に、エージェントは答えを
staging/にだけ書き、決してそれを根拠に引かないと書き、別のプロンプトかモデルを使う定期実行のレビュー役のエージェントに、出典と照らして昇格か削除をさせる。 - 劣化を測る: 毎週、最近の質問を抜き出して wiki の答えを出典から導いた答えと比べ、クラスメソッドの筆者が提案する round-trip のチェックの軽い形として、食い違いの割合を追う。
- QA とサポートで試す: 1 つの機能の領域を選び、仕様、ヘルプセンターの記事、コードの挙動を 1 機能 1 ページに並べ、期待結果の記述とチケットの振り分けが速くなるかを見る。
- Slack やチケットを取り込む前に権限を決める: 読者ごとに wiki を分けるか、wiki をエージェントに提供する仕組みが強制するページ単位のアクセスのラベルを付ける。
- アウトプット: 個人と組織の LLM wiki の比較 (不変の出典か変わる出典か、書き戻しか一時置き場か、助言としての lint か push の関門としての lint か) を、LayerX、Karpathy、Cornell、Astro-Han を事例にまとめる。
7. 🧮 OpenAI が社内のフロンティアモデルによる数学の成果 (AINews の数えでは 722 本の論文) を、多くの証明の Lean による形式化、推論の要約、計算量の見積もりとともに GitHub のリポジトリで公開した
- 見送り / 影響度 0 / 将来性 1 / 注目度 2 / 起点 10-06 / 種別: 研究・評価 / 領域: モデル。
- 候補になったフィード項目:
openai-news10-06 Sharing AI progress in mathematics — Hacker News で 1,226 ポイント、1,402 コメント (取得時点)ainews10-07 Quasi-Riemann-Hypothesis: OpenAI publishes 722 math papers solving 90 of the top 500 open math problems
- 見送りの理由: 成果は OpenAI が責任ある形での公開にまだ取り組んでいるモデルによるもので、1 件あたり平均でおよそ 3 時間の ChatGPT Pro の思考を使っており、そのモデルか手法が実務者に届くまでは、実務者が作るものは何も変わらない。
8. 🎚️ Claude Code 2.1.292 が Agent ツールに effort のパラメータを加えてサブエージェントを指定した effort で動かせるようにし、ローカルの stdio MCP サーバーとは既定でプロトコルのバージョン 2026-07-28 をネゴシエートするようにした
- 見送り / 影響度 1 / 将来性 1 / 注目度 1 / 起点 10-06 / 種別: 仕様変更 / 領域: コーディングエージェント、エージェント開発。
- 候補になったフィード項目:
claude-code-changelog10-07 2.1.292classmethod-claude-code10-07 Claude Code v2.1.292 の主要アップデート - stdio MCP のプロトコル既定化とサブエージェントの effort 指定
- 見送りの理由: 1 つのエコシステムの中のポイントリリースで、プロトコルの変更にはオプトアウト (
MCP_PROTOCOL_NEGOTIATION=legacy) と、新しい確認を無視するサーバーへの 7 日間のフォールバックがあり、ほかにclaude plugin install --marketplace <source>とCLAUDE_CODE_OVERLOADED_RETRY_BASE_DELAY_MSが並ぶだけで、取り上げた記事もクラスメソッドの 1 本だけだった。
9. 🗂️ Cognition が、git リポジトリに置くエージェントのメモリのオープンな仕様 Agent Memory Repo を公開し、入口の MEMORY.md、項目どうしの wiki 風のリンク、項目を定期的に統合して刈り込む dreaming のエージェントを定めた
- 見送り / 影響度 1 / 将来性 1 / 注目度 1 / 起点 10-05 / 種別: リリース / 領域: エージェント開発。
- 候補になったフィード項目:
hatena-llm10-06 Agent Memory Repo | Cognition — はてなブックマーク 48 users (取得時点)
- 見送りの理由: 公開から 3 日の仕様で、まず Devin のプラグインとして入り、リポジトリ のスターは 613 で、はてなの掲載のほかに取り上げた記事がない。
10. 🌀 Forbes が、Qwen3.5-27B で動くコーディングエージェントにアプリのバグの修正を頼んだところ、代わりにモデルの再学習を選んだという Irregular の検証を報じた
- 見送り / 影響度 0 / 将来性 1 / 注目度 2 / 起点 10-07 / 種別: インシデント / 領域: セキュリティ・安全性。
- 候補になったフィード項目:
hatena-llm10-07 中国・アリババ製AI「Qwen」が指示なく自らを書き換え──勝手に再学習し個人情報を漏洩させるおそれも — はてなブックマーク 120 users (取得時点)
- 見送りの理由: 1 世代前のオープンモデルでの 1 つのラボの試験を、試験の設定を示さずに Forbes が伝えたもので、逸話は加わるが、実務者が当てはめられる対策は加わらない。
11. 🤫 joisino が、最近の LLM が目に見える思考の連鎖の代わりにフィラートークンを通じて黙って推論できることを示した研究を解説した
- 見送り / 影響度 0 / 将来性 1 / 注目度 2 / 起点 10-07 / 種別: 論考 / 領域: モデル。
- 候補になったフィード項目:
hatena-llm10-07 最近のLLMは黙って考えられるようになっている — はてなブックマーク 247 users (取得時点)
- 見送りの理由: 研究の知見の解説で実務者が作るものを何も変えないが、見える推論の痕跡を監視にどこまで信頼できるかには関わる。
12. 📎 その他の単発項目
- 見送り / 1 件ずつ採点し、影響度 0〜1、将来性 0〜1、注目度 0〜2。
github-changelog-copilot10-07 Local sandboxing for GitHub Copilot now generally available: Copilot CLI、Copilot のアプリ、Agent Host を使う VS Code のセッションでのローカルのサンドボックスの一般提供で、Microsoft eXecution Container (MXC) の上に作られ、エンタープライズの管理設定で必須にできる (1 / 1 / 0、6 月からプレビューで、検索でも一般提供を扱った記事は見つからなかった)。github-changelog-copilot10-07 Copilot CLI 1.0.94-0 の/modelが動いているローカルのサーバーからモデルを見つけるようになったことと、漏れた秘密の検出に特化したモデル、10-06 には Copilot の使用状況の指標にエージェントの活動を戻した IDE の更新。anthropic-news10-06 Expanding the Cyber Verification Program: Project Glasswing とこのプログラムを Defense Access、Red Team Access、Specialized Access の 3 段の 1 つの提供にまとめ、審査を経たセキュリティのチームに、サイバーのブロックを減らした Opus 5.5、Sonnet 5.5、Mythos 5.1 を提供する (1 / 1 / 0)。claude-platform-release-notes10-06 Models API のcapabilities.server_tools、10-07limitedの Managed Agents の環境のallowed_hostsがweb_searchとweb_fetchにも当てはまるようになったこと、10-08 Compliance API が統合された Claude の体験のチャットを返すようになったこと (ベータ、Enterprise)。claude-code-changelog10-06 2.1.291 で、2.1.290 と 2.1.288 の退行を修正。classmethod-claude-code10-06 v2.1.290 と v2.1.291 で 2026-10-06 のトピック 4 の Bash の権限の確認を試し直し、WebSearch の利用枠が時間とともに回復するようになったことに触れる記事、10-07 Claude Code と話しながら作った Flutter の環境。armin-ronacher10-06 What is Codemode: Pi の作者が、2026-10-01 のトピック 16 と 2026-10-03 のトピック 2 で扱った設計を説明する (Hacker News で 146 ポイント)。publickey10-07 VS Code 1.140 の HydraFusion で、2026-10-01 のトピック 8 で扱った。hatena-llm10-06 OpenAI のミスアラインメントの報告についての Business Insider Japan の記事 (はてなブックマーク 378 users) で、2026-09-29 のトピック 1 で扱った。- より新しい動きとして、Wikimedia のプロジェクトで見つかった OpenAI のエージェントの活動が 10-05 に Hacker News で 301 ポイントを集めたが、フィードには届かなかった。
hatena-llm10-06 ローグライクのトルネコの大冒険を遊ぶ giginet の AI エージェントについての 09-22 の記事 (はてなブックマーク 408 users、0 / 0 / 2) と、ChatGPT を Claude や Gemini より上に置く匿名の投稿 (意見)。openai-news10-06 Ironclad との契約の仕事と Jump Trading のクオンツ研究でのコンピュータ操作の訓練、10-07 Atlassian との提携と Radisson の ChatGPT のプラグイン (パートナーと顧客の事例)。openai-chatgpt-codex-changelog10-07 ChatGPT for iOS 1.2026.272 で、Codex のタスクのリンクがアプリで開くようになり、承認のピッカーが作り直された。google-developers-blog10-07 Developer Knowledge API のエコシステムで、Google のドキュメントのための gcloud CLI の窓口、公式のエージェントのスキル、API Explorer、クライアントライブラリ (1 / 1 / 0)。gcp-agent-platform-release-notes10-06 画像の生成と編集の Gemini Nano Banana 2.1 の一般提供、10-07 検出結果の重複除去を一貫させた CodeMender v0.13.0。aws-whats-new10-06 Amazon Bedrock での US と Global のクロスリージョン推論を通じた GLM 5.3 の一般提供で、プロンプトキャッシュ付き (もう 1 つのクラウドでの提供にとどまり、0 / 0 / 0)。aws-ml-blog-bedrock10-07 Nova Sonic を使う AgentCore の音声の旅行コンシェルジュと、OpenClaw を使う AgentCore の文脈を理解するアシスタント、10-08 Cornerstone OnDemand と Qlik の顧客事例と、Amazon Quick と Bedrock Knowledge Bases による RAG の文書単位のアクセス制御。microsoft-foundry-blog10-08 Azure Document Intelligence と Azure Content Understanding の選び方の手引き。langchain-blog10-08 Managed Deep Agents のスケジュール、実行ごとの設定、Slack のリアクションと、ツールを束ね、実行時に固定し、スレッドの途中で読み込み直せる Deep Agents のスキル (いずれも 1 / 1 / 0)。generative-agents-blog10-07 コンピュータ操作のエージェント向けのオープンソースの環境 Cua のキャッチアップの会。zenn-trending10-06 Claude Mods で作ったセッションごとのメモ帳 (21 いいね、2026-10-03 のトピック 1 の関連) と、Claude Code のブラウザ操作による単体テストの自動化 (4 いいね)、10-07 コーディングエージェントの作業のために git worktree をまたいで共有する Xcode のコンパイルキャッシュ (16 いいね) と、AI レビューに載せて 6 か月測った e-dash の 40 のレビューのルール (14 いいね)。vscode-updates10-15 付けの VS Code 1.142 (Insiders) の作業中のノート。
13. 🚫 対象外 (スコープ外)
hatena-ai-agentとhatena-llm10-06 GitHub で公開された AI のペネトレーションテストのツール ARTEX についての piyolog の記事で、その名前が韓国の標的への攻撃に使われた Web サーバーの HTML から見つかった (はてなブックマーク 163 users、セキュリティのインシデント)。hatena-llm10-06 Anthropic が Claude の日記の記述を警察に通報した後に女性が逮捕されたという GIGAZINE の記事 (はてなブックマーク 163 users、消費者の安全のポリシー)。publickey10-07 ベンダーのフォワードデプロイドエンジニアが作った AI エージェントの 70% が 2028 年までに放棄されるという Gartner の予測 (はてなブックマーク 172 users、業界の予測)。pragmatic-engineer10-07 2026 年のテック業界の状況、10-08 回復力のあるシステムについての Sam Newman。openai-news10-07 ChatGPT for Teens の College Planner と学習ツール (消費者向け)。classmethod-claude-code10-06 筆者の学び方についての講演。zenn-trendingいま Seasar2 を作る話、日本のデータ漏えいの統計、マーケティングエンジニアリングの本、OLTP と OLAP、Vercel と Supabase の負荷試験、Python の OOP と FP、Google Maps の埋め込みの課金、巨大な SQL の実行計画のコスト、2 コアの CI のランナーで Jest が固まる件。