マコベンチ:メインベンチ

MakoBenchは、素早く実行できるベンチマークです。また、実行も簡単で柔軟性に富んでおり、コードやチャットに関する能力を測定するためにあらゆるテキストモデルのスコアを算出できます。さらに進化も続けており、あるレベルの問題をモデルがすべて解けるようになると、より難しい問題が追加される仕組みですから、最も優秀なモデルであっても適切に評価することが可能です。このベンチマークを作る中で得た知見もご覧ください。

テストしてみたいモデルがありますか? 投票ページにアクセスし、リクエストを送信すれば、そのモデルがリストに追加されます。

モデル # 合計 チャット コード 量/数 検査日
Claude Fable 5.2最大値 1 25.2 12.7 12.5 API 2026-11-10
Kimi K3.1 Pro最大値 2 24.6 12.6 12.0 API 2026-11-08
Grok 4.7最大値 3 24.1 12.4 11.7 API 2026-11-08
GPT-6 Astra最大値 4 24.0 12.6 11.5 API 2026-11-10
GPT-6.1 Sol最大値 5 23.9 12.4 11.5 API 2026-11-10
Claude Opus 5最大値2件がブロックされました 6 19.6 10.0 9.6 API 2026-11-08
GPT-6.1 Terra 7 19.4 9.2 10.2 API 2026-11-08
DeepSeek V4.1-Flash-1017 9 19.2 7.6 11.6 API 2026-11-08
GPT-6 Luna 10 18.5 8.0 10.5 API 2026-11-08
DeepSeek V4-Pro-0813 11 18.4 7.7 10.7 API 2026-11-08
Claude Haiku 5.5 14 16.9 6.2 10.6 API 2026-11-08
Swish 31B FinalQ8_0 16 16.3 8.0 8.4 Q8_0 2026-11-08
Artemis 31B v1.2 17 16.0 7.4 8.6 Q6_K 2026-11-08
Grok Build 0.1 19 15.2 7.6 7.6 API 2026-11-08
Claude Sonnet 4.6 20 15.0 7.0 8.0 API 2026-11-08
Omega Arsenal 31B FinalQ8_0 21 15.0 6.8 8.2 Q8_0 2026-11-08
Qwen3.8 27B HereticNVFP4 22 14.9 7.2 7.7 NVFP4 2026-11-08
Dark Craving 31B v2.0Q8_0 23 14.6 7.2 7.4 Q8_0 2026-11-08
MiniMax M3 24 14.6 6.0 8.5 API 2026-11-08
Dark Scarlett 27B v3.0Q8_0 26 14.4 7.3 7.1 Q8_0 2026-11-08
Dark Scarlett 27B v2.0 (Q5_K_M)Q5_K_M 27 14.1 6.2 7.9 Q5_K_M 2026-11-08
Darker Scarlett 27B v0.1Q4_K_M 28 14.0 6.5 7.5 Q4_K_M 2026-11-09
OrcaRouter Qwen3.8 27BQ8_0 29 13.9 6.6 7.4 Q8_0 2026-11-08
Qwen3.8 27BQ5_K_S 30 13.8 5.8 8.0 Q5_K_S 2026-11-08
MiniMax M3.1 Flash 31 13.6 5.6 8.0 API 2026-11-08
Split-Untied 31BQ8_0 33 13.3 7.2 6.1 Q8_0 2026-11-08
flintQ8_0 35 12.2 4.7 7.5 Q8_0 2026-11-11
Qwen3.8 27B Twin Turbo FableQ5_K_M 37 12.0 5.8 6.1 Q5_K_M 2026-11-09
Wicked Tutu 26B-A4BQ8_0 38 11.6 5.4 6.2 Q8_0 2026-11-09
gpt-oss 20BQ8_0 39 11.5 4.3 7.1 Q8_0 2026-11-08
Qwen3.5 122B HereticQ4_K_S 40 11.4 5.6 5.8 Q4_K_S 2026-11-09
Gemma 4 26B-A4B QATQ4_0 42 10.4 4.5 5.9 Q4_0 2026-11-08
Darker Hero 27BQ4_K_S 43 9.6 4.7 4.9 Q4_K_S 2026-11-09
Spark-X 2.6 4BQ8_0 44 4.9 2.3 2.7 Q8_0 2026-11-08
Cydonia 22B v1Q6_K 45 3.8 3.2 0.5 Q6_K 2026-11-09
DeepSeek R1 0528 8BQ4_K_M 46 3.3 1.4 1.9 Q4_K_M 2026-11-08
Celeste 12B v1.6Q8_0 47 1.0 0.8 0.1 Q8_0 2026-11-09
Claude Opus 5.5⚠ 暫定的なものです – – 9.2 10.0 API 2026-11-08
Claude Sonnet 5.5⚠ 暫定的なものです – – 8.6 10.0 API 2026-11-08
Qwen2.5 1.5BQ4_K_M⚠ 暫定的なものです – – – 0.5 Q4_K_M 2026-11-10
Noromaid 7B v0.1.1Q8_0⚠ 暫定的なものです – – – 0.3 Q8_0 2026-11-09
Qwen2.5 0.5BQ8_0⚠ 暫定的なものです – – – 0.2 Q8_0 2026-11-10
Gemma 2 2B AbliteratedQ5_K_S⚠ 暫定的なものです – – – 0.2 Q5_K_S 2026-11-10

MAX:テストの一部において、このモデルはすべてのセットで最高点を獲得しました。この時点を超えるとテストではモデルを区別できなくなるため、より難しいセットが必要です。

  • Total = Code + Chat. 10 each is a perfect run of the standard tests, so 20 is the nominal top; bonus packs add points on top, up to the suite's most possible (a row's bars run to it).
  • ± 合計値=テストケースにおけるブートストラップの90%区間の半分に相当します。この値よりも近いモデル同士は統計的に同等とみなされます。
  • 各モデルは1回ずつ実行されるため、±の値は実際に抽出されたケースを示しており、実行ごとのばらつきを表しているわけではなく、実際の不確実性を過小評価しています。同じ重みを持つケース(クォント型とサービング・ティア型のペア)同士でも、ここでは最大2.4ポイントの差が生じます。1〜2ポイント程度の差は同点と見なしてください。
  • クラスは、総合的に見て粗い帯域です:S≥16、A≥13、B≥10、C≥0。
  • 差がボード中央値から1.5ポイント以上ある場合は「リーン」=チャット寄りまたはコード寄りとなり、そうでなければバランスしているとみなされます。
  • tok/s=世代生成速度の中央値。同じホストで実行されたモデル間でのみ比較可能。
  • Quant=私たちが評価した量子化方式です。Q8_0がローカルモデルにおける標準的な量子化方式であり、その他の量子化方式は行の詳細情報において非標準の量子化方式として記載されています。API=プロバイダーによって提供されるホスト型モデルです。
  • Run cost = what one run of the Code and Chat tests cost at the provider's price, generation only. ~ = estimated from token counts at list price. * means some requests came back without usage data, so the figure may be low. — = run on our own hardware, so no bill.
  • Nブロック=プロバイダーのコンテンツフィルターがN件の返信をブロックした。各返信のスコアはゼロとなる。
  • モデルごとに1行ずつ:同じ重みを持つ他の量子化設定やサービングティアは、メイン行の下に表示され(矢印を開く)、順位付けはされません。
  • ⚠ 暫定値=ランクなしで表示されています。その理由は各行に記載されています(互換性チェックに失敗した、テストが完了していない、またはボーナスパックが再実行待ち)。再実行可能な行は、再実行後にランクが付与されます。Q5未満でテストされた行や、あらゆるテストに適さないほど小さいモデルは、引き続き無ランクのままです。
  • 「合計」欄のダッシュ記号は、そのモデルの製品群(コード、チャット、またはボーナスパック)の一部がまだ採点されておらず、ランキングに入っていないことを意味します。

MakoBenchは無料で、広告もありません。動作させるには電力やハードウェア、そして私たちの時間が必要です。

☕ PayPalで支援する

初めてご利用ですか? テストが何を測定するかをご覧ください。

このベンチについて

・エンジンとしてはCrucibleForgeが使用されています。これはオープンソースですので、ダウンロードしてご自身でモデルをテストすることも可能です。
・ベンチマークの問題群は増え続けており、ある質問セットでモデルが優れた成績を収めるようになると、さらに難易度の高い問題も追加されます。そのため理論上は誰も満点を取ることはできません。
・テキストモデルに対しては、コード生成およびロールプレイや対話機能という2つのタスクで評価を行っています。画像・動画・音声・3D生成ツールや単一タスク専用のツールは対象外となります。MakoBenchが何をテストし、何をテストしないかもご覧ください。
・主要なテストは迅速かつ低コストで実行できるように設計されており、これにより各モデル間の差異を容易に判断できます。
・またNSFW向けのテストも存在します。専用のタブがあり、最後の項目がそれです:+NSFWベンチマーク

次に読む

AIとローカルLLM

MakoBenchの仕組み:オープンなLLMベンチマークの解説

MakoBenchがどのようにしてモデルの回答をスコアに変換するか、各ステップごとに図解付きで説明します。事例の採点方法、判定プロセスの仕組み、コード+チャット機能、マージンの概念、そしてボーナスセットがどのように解除されるかについても解説します。実例では、実際のモデルを使用しています。

2026年11月5日 · 更新日 2026年11月8日
AIとローカルLLM

自分のモデルでCrucibleForgeを実行する:インストールガイド

MakoBenchの背後で動作するオープンソースエンジンであるCrucibleForgeをインストールし、任意のOpenAI互換モデルを指定すれば、コードスコアとチャットスコアがそれぞれ得られます。標準的な実行においては両スコアとも満点の10となります。実際のコマンドや出力結果も確認でき、1.6分間の簡易テストにかかった費用はわずか2セントです。

2026年11月5日 · 更新日 2026年11月5日
AIとローカルLLM

私のLLMベンチマークスコアを歪ませた4つのハーネス不具合

新しく公開されたモデルが、従来のモデルよりも低いスコアを記録しました。この数値はほぼ正確で、私たちのテストハーネスが最大1.7ポイント分の減点要因となっていたのです。ここではその4つの不具合とそれぞれがもたらす影響、そして自分のハーネスをチェックできる無料のツールキットについてご紹介します。

2026年11月2日 · 更新日 2026年11月2日

モデルをリクエストする モデルのテストをご希望ですか?リストを検索し、+1を付けるか、新しいものを送信してください。