スイート 4.1 (現在の状態です)
マコベンチ:メインベンチ
MakoBenchは、素早く実行できるベンチマークです。また、実行も簡単で柔軟性に富んでおり、コードやチャットに関する能力を測定するためにあらゆるテキストモデルのスコアを算出できます。さらに進化も続けており、あるレベルの問題をモデルがすべて解けるようになると、より難しい問題が追加される仕組みですから、最も優秀なモデルであっても適切に評価することが可能です。このベンチマークを作る中で得た知見もご覧ください。
テストしてみたいモデルがありますか? 投票ページにアクセスし、リクエストを送信すれば、そのモデルがリストに追加されます。
表を横にスワイプすると、さらに列が表示されます。
| モデル | # | 合計 | チャット | コード | 量/数 | 検査日 |
|---|---|---|---|---|---|---|
| Claude Fable 5.2最大値 | 1 | 25.2 | 12.7 | 12.5 | API | 2026-11-10 |
| Kimi K3.1 Pro最大値 | 2 | 24.6 | 12.6 | 12.0 | API | 2026-11-08 |
| Grok 4.7最大値 | 3 | 24.1 | 12.4 | 11.7 | API | 2026-11-08 |
| GPT-6 Astra最大値 | 4 | 24.0 | 12.6 | 11.5 | API | 2026-11-10 |
| GPT-6.1 Sol最大値 | 5 | 23.9 | 12.4 | 11.5 | API | 2026-11-10 |
| Claude Opus 5最大値2件がブロックされました | 6 | 19.6 | 10.0 | 9.6 | API | 2026-11-08 |
| GPT-6.1 Terra | 7 | 19.4 | 9.2 | 10.2 | API | 2026-11-08 |
| Claude Fable 5.1古いバージョン最大値2件がブロックされました | 8 | 19.4 | 10.0 | 9.4 | API | 2026-11-08 |
| DeepSeek V4.1-Flash-1017 | 9 | 19.2 | 7.6 | 11.6 | API | 2026-11-08 |
| GPT-6 Luna | 10 | 18.5 | 8.0 | 10.5 | API | 2026-11-08 |
| DeepSeek V4-Pro-0813 | 11 | 18.4 | 7.7 | 10.7 | API | 2026-11-08 |
| Claude Opus 4.8古いバージョン | 12 | 17.0 | 7.3 | 9.7 | API | 2026-11-08 |
| Claude Fable 5古いバージョン最大値5件がブロックされました | 13 | 17.0 | 8.5 | 8.4 | API | 2026-11-08 |
| Claude Haiku 5.5 | 14 | 16.9 | 6.2 | 10.6 | API | 2026-11-08 |
| Claude Opus 4.7古いバージョン | 15 | 16.6 | 7.0 | 9.6 | API | 2026-11-08 |
| Swish 31B FinalQ8_0 | 16 | 16.3 | 8.0 | 8.4 | Q8_0 | 2026-11-08 |
| Artemis 31B v1.2 | 17 | 16.0 | 7.4 | 8.6 | Q6_K | 2026-11-08 |
| Claude Opus 4.6古いバージョン | 18 | 15.4 | 7.4 | 8.0 | API | 2026-11-08 |
| Grok Build 0.1 | 19 | 15.2 | 7.6 | 7.6 | API | 2026-11-08 |
| Claude Sonnet 4.6 | 20 | 15.0 | 7.0 | 8.0 | API | 2026-11-08 |
| Omega Arsenal 31B FinalQ8_0 | 21 | 15.0 | 6.8 | 8.2 | Q8_0 | 2026-11-08 |
| Qwen3.8 27B HereticNVFP4 | 22 | 14.9 | 7.2 | 7.7 | NVFP4 | 2026-11-08 |
| Dark Craving 31B v2.0Q8_0 | 23 | 14.6 | 7.2 | 7.4 | Q8_0 | 2026-11-08 |
| MiniMax M3 | 24 | 14.6 | 6.0 | 8.5 | API | 2026-11-08 |
| Claude Opus 4.5古いバージョン | 25 | 14.5 | 6.8 | 7.7 | API | 2026-11-08 |
| Dark Scarlett 27B v3.0Q8_0 | 26 | 14.4 | 7.3 | 7.1 | Q8_0 | 2026-11-08 |
| Dark Scarlett 27B v2.0 (Q5_K_M)Q5_K_M | 27 | 14.1 | 6.2 | 7.9 | Q5_K_M | 2026-11-08 |
| Darker Scarlett 27B v0.1Q4_K_M | 28 | 14.0 | 6.5 | 7.5 | Q4_K_M | 2026-11-09 |
| OrcaRouter Qwen3.8 27BQ8_0 | 29 | 13.9 | 6.6 | 7.4 | Q8_0 | 2026-11-08 |
| Qwen3.8 27BQ5_K_S | 30 | 13.8 | 5.8 | 8.0 | Q5_K_S | 2026-11-08 |
| MiniMax M3.1 Flash | 31 | 13.6 | 5.6 | 8.0 | API | 2026-11-08 |
| MiniMax M2.7古いバージョン | 32 | 13.4 | 6.7 | 6.7 | API | 2026-11-08 |
| Split-Untied 31BQ8_0 | 33 | 13.3 | 7.2 | 6.1 | Q8_0 | 2026-11-08 |
| Claude Sonnet 4.5古いバージョン | 34 | 13.3 | 6.9 | 6.4 | API | 2026-11-08 |
| flintQ8_0 | 35 | 12.2 | 4.7 | 7.5 | Q8_0 | 2026-11-11 |
| MiniMax M2.5古いバージョン | 36 | 12.2 | 5.8 | 6.4 | API | 2026-11-08 |
| Qwen3.8 27B Twin Turbo FableQ5_K_M | 37 | 12.0 | 5.8 | 6.1 | Q5_K_M | 2026-11-09 |
| Wicked Tutu 26B-A4BQ8_0 | 38 | 11.6 | 5.4 | 6.2 | Q8_0 | 2026-11-09 |
| gpt-oss 20BQ8_0 | 39 | 11.5 | 4.3 | 7.1 | Q8_0 | 2026-11-08 |
| Qwen3.5 122B HereticQ4_K_S | 40 | 11.4 | 5.6 | 5.8 | Q4_K_S | 2026-11-09 |
| Claude Haiku 4.5古いバージョン | 41 | 11.3 | 5.6 | 5.7 | API | 2026-11-08 |
| Gemma 4 26B-A4B QATQ4_0 | 42 | 10.4 | 4.5 | 5.9 | Q4_0 | 2026-11-08 |
| Darker Hero 27BQ4_K_S | 43 | 9.6 | 4.7 | 4.9 | Q4_K_S | 2026-11-09 |
| Spark-X 2.6 4BQ8_0 | 44 | 4.9 | 2.3 | 2.7 | Q8_0 | 2026-11-08 |
| Cydonia 22B v1Q6_K | 45 | 3.8 | 3.2 | 0.5 | Q6_K | 2026-11-09 |
| DeepSeek R1 0528 8BQ4_K_M | 46 | 3.3 | 1.4 | 1.9 | Q4_K_M | 2026-11-08 |
| Celeste 12B v1.6Q8_0 | 47 | 1.0 | 0.8 | 0.1 | Q8_0 | 2026-11-09 |
| Claude Opus 5.5⚠ 暫定的なものです | – | – | 9.2 | 10.0 | API | 2026-11-08 |
| Claude Sonnet 5.5⚠ 暫定的なものです | – | – | 8.6 | 10.0 | API | 2026-11-08 |
| Grok 4.6⚠ 暫定的なものです古いバージョン | – | – | 8.9 | 9.8 | API | 2026-11-08 |
| Kimi K3⚠ 暫定的なものです古いバージョン | – | – | 7.5 | 9.7 | API | 2026-11-08 |
| Claude Sonnet 5⚠ 暫定的なものです古いバージョン | – | – | 6.4 | 8.8 | API | 2026-11-08 |
| Qwen2.5 1.5BQ4_K_M⚠ 暫定的なものです | – | – | – | 0.5 | Q4_K_M | 2026-11-10 |
| Noromaid 7B v0.1.1Q8_0⚠ 暫定的なものです | – | – | – | 0.3 | Q8_0 | 2026-11-09 |
| Qwen2.5 0.5BQ8_0⚠ 暫定的なものです | – | – | – | 0.2 | Q8_0 | 2026-11-10 |
| Gemma 2 2B AbliteratedQ5_K_S⚠ 暫定的なものです | – | – | – | 0.2 | Q5_K_S | 2026-11-10 |
MAX:テストの一部において、このモデルはすべてのセットで最高点を獲得しました。この時点を超えるとテストではモデルを区別できなくなるため、より難しいセットが必要です。
- Total = Code + Chat. 10 each is a perfect run of the standard tests, so 20 is the nominal top; bonus packs add points on top, up to the suite's most possible (a row's bars run to it).
- ± 合計値=テストケースにおけるブートストラップの90%区間の半分に相当します。この値よりも近いモデル同士は統計的に同等とみなされます。
- 各モデルは1回ずつ実行されるため、±の値は実際に抽出されたケースを示しており、実行ごとのばらつきを表しているわけではなく、実際の不確実性を過小評価しています。同じ重みを持つケース(クォント型とサービング・ティア型のペア)同士でも、ここでは最大2.4ポイントの差が生じます。1〜2ポイント程度の差は同点と見なしてください。
- クラスは、総合的に見て粗い帯域です:S≥16、A≥13、B≥10、C≥0。
- 差がボード中央値から1.5ポイント以上ある場合は「リーン」=チャット寄りまたはコード寄りとなり、そうでなければバランスしているとみなされます。
- tok/s=世代生成速度の中央値。同じホストで実行されたモデル間でのみ比較可能。
- Quant=私たちが評価した量子化方式です。Q8_0がローカルモデルにおける標準的な量子化方式であり、その他の量子化方式は行の詳細情報において非標準の量子化方式として記載されています。API=プロバイダーによって提供されるホスト型モデルです。
- Run cost = what one run of the Code and Chat tests cost at the provider's price, generation only. ~ = estimated from token counts at list price. * means some requests came back without usage data, so the figure may be low. — = run on our own hardware, so no bill.
- Nブロック=プロバイダーのコンテンツフィルターがN件の返信をブロックした。各返信のスコアはゼロとなる。
- モデルごとに1行ずつ:同じ重みを持つ他の量子化設定やサービングティアは、メイン行の下に表示され(矢印を開く)、順位付けはされません。
- ⚠ 暫定値=ランクなしで表示されています。その理由は各行に記載されています(互換性チェックに失敗した、テストが完了していない、またはボーナスパックが再実行待ち)。再実行可能な行は、再実行後にランクが付与されます。Q5未満でテストされた行や、あらゆるテストに適さないほど小さいモデルは、引き続き無ランクのままです。
- 「合計」欄のダッシュ記号は、そのモデルの製品群(コード、チャット、またはボーナスパック)の一部がまだ採点されておらず、ランキングに入っていないことを意味します。
MakoBenchは無料で、広告もありません。動作させるには電力やハードウェア、そして私たちの時間が必要です。
☕ PayPalで支援する初めてご利用ですか? テストが何を測定するかをご覧ください。
このベンチについて
・エンジンとしてはCrucibleForgeが使用されています。これはオープンソースですので、ダウンロードしてご自身でモデルをテストすることも可能です。
・ベンチマークの問題群は増え続けており、ある質問セットでモデルが優れた成績を収めるようになると、さらに難易度の高い問題も追加されます。そのため理論上は誰も満点を取ることはできません。
・テキストモデルに対しては、コード生成およびロールプレイや対話機能という2つのタスクで評価を行っています。画像・動画・音声・3D生成ツールや単一タスク専用のツールは対象外となります。MakoBenchが何をテストし、何をテストしないかもご覧ください。
・主要なテストは迅速かつ低コストで実行できるように設計されており、これにより各モデル間の差異を容易に判断できます。
・またNSFW向けのテストも存在します。専用のタブがあり、最後の項目がそれです:+NSFWベンチマーク
次に読む

MakoBenchの仕組み:オープンなLLMベンチマークの解説
MakoBenchがどのようにしてモデルの回答をスコアに変換するか、各ステップごとに図解付きで説明します。事例の採点方法、判定プロセスの仕組み、コード+チャット機能、マージンの概念、そしてボーナスセットがどのように解除されるかについても解説します。実例では、実際のモデルを使用しています。

自分のモデルでCrucibleForgeを実行する:インストールガイド
MakoBenchの背後で動作するオープンソースエンジンであるCrucibleForgeをインストールし、任意のOpenAI互換モデルを指定すれば、コードスコアとチャットスコアがそれぞれ得られます。標準的な実行においては両スコアとも満点の10となります。実際のコマンドや出力結果も確認でき、1.6分間の簡易テストにかかった費用はわずか2セントです。
私のLLMベンチマークスコアを歪ませた4つのハーネス不具合
新しく公開されたモデルが、従来のモデルよりも低いスコアを記録しました。この数値はほぼ正確で、私たちのテストハーネスが最大1.7ポイント分の減点要因となっていたのです。ここではその4つの不具合とそれぞれがもたらす影響、そして自分のハーネスをチェックできる無料のツールキットについてご紹介します。
モデルをリクエストする モデルのテストをご希望ですか?リストを検索し、+1を付けるか、新しいものを送信してください。