ماكوبنش 4.1: ما الذي تغيّر

تاريخ النشر
8 نوفمبر 2026
تاريخ التحديث
10 نوفمبر 2026
بقلم
جاكوب لويد — كُتب بمساعدة الذكاء الاصطناعي بعد إنجاز المشروع
مدة القراءة
قراءة 5 دقيقة

بعبارة مبسطة: مكوبنش هو لوحنا العام لنماذج اللغة. لا يضيف الإصدار 4.1 حالات اختبار جديدة؛ بل يقوم بتصحيح مفاتيح الإجابات الموجودة بعد أن قرأ مراجعان مستقلان لكل مفتاح إجابة عام، وقمنا نحن بفحص كل إجابة مقابل الإجابات المحفوظة. تم تخفيف الشروط في الاختبارات التي طلبت أكثر مما تتطلبه المهمة، وتم تصحيح مفتاحي إجابة برمجية، كما تم سد بعض الثغرات في الاختبارات وإزالة الاختبارات التي كانت تمنح درجات لرفض الإجابة. على اللوح الرئيسي، أُعيد تشغيل خمس حالات اختبار لكل نموذج ما زلنا قادرين على تشغيله؛ وتمت إعادة تقييم حالة واحدة بواسطة الحكم بناءً على الردود المحفوظة (بالإضافة إلى أربع حالات أخرى في اختبار البالغين المنفصل)، بينما أُعيد تقييم بقية الحالات بناءً على الإجابات المخزنة. تشرح هذه الصفحة ما الذي تغير وتوضح كيف تغيرت درجات كل نموذج.

انتقل إلى: CrucibleForge على GitHub

الحزمة 4.1 هي إصدار تصحيحي؛ فهي لا تضيف أي حالات اختبار جديدة، بل تقوم فقط بتصحيح مفاتيح الإجابات الخاصة بالحالات الموجودة. قام مراجعان مستقلان بمراجعة كل مفتاح إجابة عام؛ ثم تم التحقق من صحة كل مزاعمهما مقارنةً بالإجابات المسجلة مسبقاً، وتم تأكيد وجود حوالي 190 مشكلة تحتاج إلى تصحيح. قمنا بتصحيح هذه المشكلات التي تؤثر على الدرجات، باستثناء حالتين صغيرتين مذكورتين ضمن القيود المعروفة؛ أما المجموعة الأخرى التي لا تؤثر على الدرجات فهي مسجلة لإجراء تعديلات عليها في التحديث القادم. الآن، تم تطبيق الحزمة 4.1: من بين 38 نموذجاً تم تقييمها في كل من الإصدارين 4.0 و4.1، ارتفعت درجات 31 نموذجاً، بينما انخفضت درجات 5 نماذج ولم تتغير درجات نموذجين آخرين. وقد شهدت نماذج Chat وCode تغيرات مماثلة في درجاتها. في الإصدار 4.1، يتعادل من الناحية الإحصائية كل من GPT-6.1 Terra وClaude Fable 5.1 وDeepSeek V4 Flash وGPT-6 Luna وDeepSeek V4 Pro في المرتبة الأولى. أما نماذج Kimi K3.1 Pro وGrok 4.7 وClaude Opus 5.5 وClaude Sonnet 5.5 وGrok 4.6 وKimi K3 وClaude Opus 5 وClaude Sonnet 5 فهي غير مصنفة حالياً لأن رصيد الـ API الخاص بمزوديها قد نفد؛ إلا أن نتائج اختباراتهم القياسية متاحة ومُدرجة في الجدول. كما أن أربعة من بين أفضل ثمانية نماذج في الإصدار 4.0 لم يتم تصنيفهم في الإصدار 4.1 لذات السبب؛ وتسعة نماذج لا تحتوي على درجات كاملة في الإصدار 4.1، وهي مُدرجة كـ “جزئية”؛ ويمكن الاطلاع على أسباب ذلك في القائمة الموجودة أسفل جدول الدرجات.

الحالة: الإصدار 4.1 متاح الآن. يعرض الجدول الخاص بالتقييم في اللوحة الرئيسية الحزمة 4.1؛ بينما يظل جدول الإصدار 4.0 كما هو في سجل التحديثات.

ملخص سريع

  • تم مراجعة كل مفاتيح الإجابات العامة. قام كل من gpt-6.1-sol التابع لشركة OpenAI وDeepSeek V4 Flash بمراجعة جميع الحالات الـ 63 بشكل منفصل؛ ثم تم التحقق من صحة كل مزاعمهم مقارنةً بالإجابات المسجلة والحلول المرجعية والاختبارات الخفية قبل إجراء أي تغييرات.
  • تم تأكيد وجود حوالي 190 مشكلة ورفض حوالي 95 مزعماً آخر. معظم المشكلات المؤكدة كانت تتعلق بطلبات تتجاوز متطلبات المهمة؛ أما المجموعة الأخرى التي لا تؤثر على الدرجات فهي مسجلة لإجراء تعديلات عليها في التحديث القادم.
  • كان هناك خطأ في مفتاحي إجابة برمجيين، بالإضافة إلى وجود فجوات في مجموعتي اختبار؛ وقد تم تصحيح كل ذلك.
  • رفض الإجابة لا يُعد أمراً إيجابياً أبداً. تم إزالة الاختبارات الخمسة التي كانت تمنح درجات مقابل الرفض؛ ولم يكن أي منها جزءاً من الجدول التصنيفي.
  • إعادة التشغيل على اللوحة الرئيسية: حصلت 5 حالات اختبار على إجابات جديدة من جميع النماذج التي لا تزال قابلة للتشغيل؛ بينما تم إعادة تقييم حالة واحدة بناءً على الإجابات المحفوظة (بالإضافة إلى 4 حالات في اختبار البالغين المنفصل)، أما بقية الحالات فقد تم إعادة تقييمها بناءً على الإجابات المسجلة مسبقاً.
  • النتيجة: من بين 38 نموذجاً تم تقييمها في كل من الإصدارين 4.0 و4.1، ارتفعت درجات 31 نموذجاً، بينما انخفضت درجات 5 نماذج ولم تتغير درجات نموذجين آخرين. وقد شهدت نماذج Chat وCode تغيرات مماثلة في درجاتها. في الإصدار 4.1، يتعادل من الناحية الإحصائية كل من GPT-6.1 Terra وClaude Fable 5.1 وDeepSeek V4 Flash وGPT-6 Luna وDeepSeek V4 Pro في المرتبة الأولى. أما نماذج Kimi K3.1 Pro وGrok 4.7 وClaude Opus 5.5 وClaude Sonnet 5.5 وGrok 4.6 وKimi K3 وClaude Opus 5 وClaude Sonnet 5 فهي غير مصنفة حالياً لأن رصيد الـ API الخاص بمزوديها قد نفد؛ إلا أن نتائج اختباراتهم القياسية متاحة ومُدرجة في الجدول. يوجد أدناه الجدول الكامل.

لماذا قمنا بمراجعة مفاتيح الإجابات؟

إن معيار التقييم لا يكون جيدًا إلا إذا كانت مفاتيح الإجابات الخاصة به دقيقة. كل حالة في MakoBench تأتي مع مفتاح إجابة: اختبارات وحدات برمجية مخفية، وإجابات متوقعة لاستخدام الأدوات، وفي حالة الدردشة فهناك مجموعة من الفحوصات النصية بالإضافة إلى أسئلة يجيب عليها نموذج التقييم بخصوص كل رد. يمكن أن تكون مفاتيح الإجابات خاطئة في اتجاهين: إما أن تقبل إجابة سيئة، أو أن ترفض إجابة جيدة لأنها تطلب شيئًا لم يُطلب أصلًا في المهمة.

بعد إصدار الإصدار 4.0، لاحظنا وجود حالات من النوع الثاني في النصوص المسجلة: نماذج ذكية تفشل في الاختبارات رغم أنها تنفذ بالضبط ما طلبه المستخدم في المحادثة. وبدلاً من إصلاح كل حالة على حدة عند ظهورها، قمنا بمراجعة جميع مفاتيح الإجابات دفعة واحدة وفقًا لقاعدة واحدة:

يجب أن تكافئ مفاتيح الإجابات ما يطلبه النص التوجيهي أو الوصفة؛ لا يجوز وجود متطلبات خفية، ولا يجوز أن تكون الشروط أشد صرامة من المطلوب، ولا يمكن أن تكون أسهل مما يستدعيه الوصف. كما أن رفض الإجابة لا يُعد إنجازًا أبدًا؛ فالصعوبة تظل صعوبة.

كيف تمت المراجعة

  • نطاق المراجعة. جميع الحالات في المجموعة الرئيسية (الخاصة بالكود واستخدام الأدوات والمحادثات)، بالإضافة إلى جميع حالات اختبار اللعب الدوري للبالغين، وكل مجموعات المكافآت العامة: أي ما مجموعه 63 حالة.
  • قارئان مستقلان. تلقى كل من نموذج OpenAI gpt-6.1-sol ونموذج DeepSeek V4 Flash الحالة بأكملها ومفتاحها ووصفها، ثم قاما بإدراج كل مشكلة لوحظت. تمت عملية المراجعة بشكل منفصل، ولم يرفض أي من القارئين أي حالة. نفدت مساحة الإخراج لدى DeepSeek في 13 حالة طويلة؛ فتم إرسال تلك الحالات مرة أخرى مع إيقاف تشغيل خاصية التبرير، وعادت جميعها.
  • التحكيم. قامت نماذج Claude من شركة Anthropic بالبت في كل ادعاء. تم حل الادعاءات المتعلقة بالكود عن طريق تشغيل الحلول المرجعية والاختبارات المخفية. أما الادعاءات المتعلقة بالمحادثات واستخدام الأدوات، فتم البت فيها بناءً على الإجابات المخزنة مسبقًا لكل نموذج؛ وبالتالي يوضح كل تصحيح الصفوف التي سيغيرها. بعد ذلك، قامت نماذج Claude Fable بمراجعة كل تغيير مقابل القواعد المذكورة أعلاه.
  • التكلفة. بلغت تكلفة العمليتين حوالي 3.90 دولارات كرسوم لواجهات برمجة التطبيقات.
  • التوقيت. تمت المراجعة في 7 و8 نوفمبر 2026. يُشير تاريخ الحزمة رقم 4.1 إلى يوم 8 نوفمبر؛ حيث يظهر في السجل: 4.1.0+04da7abe.

تم تأكيد حوالي 190 ادعاءً: واحد منها خطير، وحوالي 90 ادعاءً كبير الأهمية، والبقية إما ثانوية أو غير واضحة الأثر (التصنيف حسب درجة الخطورة تقريبي). رُفض حوالي 95 ادعاءً، مع تقديم سبب مكتوب لرفض كل منها. كما أغفل القارئان بعض الأمور؛ فالمشكلة الموجودة في حالة استخدام الأدوات TZ20 التي سيتم شرحها لاحقًا، لم يلاحظها أي من القارئين بل تم اكتشافها خلال مرحلة التحكيم.

ما الذي تم إصلاحه

<pالإصلاحات الرئيسية، مع مثال لكل نوع منها:

  • تدقيقات أكثر صرامة من المطلوب. في حالة CC4، يطلب بطاقة الشخصية من النموذج أن يرد في جولة واحدة بالنص التالي: "Rope up." وهناك تدقيقان يتوقعان وجود وعود معينة في نفس الجولة، وهو ما لا يمكن أن يحتويه النص المطلوب. في 35 من أصل 60 تشغيلة، كتب جميع النماذج الرئيسية النص كما هو مطلوب؛ لذا لم يعد هذان التدقيقان يُحتسبان. تم إجراء إصلاحات مشابهة لإزالة قيود على استخدام الأحرف الكبيرة لم يطلبها المستخدم، وكذلك حدود على عدد الكلمات لم تُذكر في التعليمات.
  • مفاتيح الإجابة البرمجية الخاطئة. في حالتي "توقع ما سيطبعه هذا البرنامج"، CB-C5 وCB-C6، تم مقارنة النتائج المتوقعة دون مراعاة حالة الأحرف. فالنموذج الذي كتب \uD83D بينما يفترض أن يطبع البرنامج \ud83d اعتُبر صحيحاً. خمس إجابات مخزنة، كلها في حالة CB-C6، اجتازت الاختبارات بهذه الطريقة. الآن يتم مقارنة النتائج المتوقعة مع مراعاة حالة الأحرف؛ فقط تسمية السؤال لا تزال غير حساسة لحالة الأحرف.
  • ثغرات في الاختبارات المخفية. في CL3 (تنسيق النص)، كانت الحلول التي تعتمد على دالة str.split في بايثون تعتبر أي حرف غير مذكور في التعليمات كمسافة بيضاء، ومع ذلك اجتازت جميع الاختبارات القديمة. مجموعة اختبارات جديدة تكتشف هذه الحالات الآن. أما في CL4، فإن مدخلات تحتوي على صفر أيام عطلة لم تخضع للتحقق؛ خمسة نماذج حصلت على درجة 1.0 كاملة في الاختبارات السابقة، لكنها حصلت على 0.94 فقط في الاختبارات الجديدة.
  • أسئلة التقييم التي طلبت أكثر مما هو مطلوب. في حالة WR1، طلب الكاتب نهاية "صورة ملموسة وليست درساً"، لكن سؤال التقييم ذكر نوعاً معيناً من الأشياء. النهايات التي استخدمت صوراً مختلفة اعتُبرت خاطئة. الآن يطلب السؤال ما طلبه الكاتب فعلاً.
  • رسالة مستخدم غامضة. في TZ20، رفض المساعد حجزاً واحداً واقترح آخر؛ لكن الرسالة التالية من المستخدم كانت تبدأ بـ "حسناً."، وفي 17 من أصل 55 تشغيلة، اعتبرتها معظم النماذج القوية إجابة إيجابية فقامت بالحجز، وهو ما اعتُبر خطأً في التقييم. الآن ترفض الرسالة العرض صراحةً، لذا يختبر السيناريو ما كان يفترض اختباره أصلاً.

<pكما تم إغلاق ثغرة في مجموعة الكودات المكافئة؛ فحل مكون من ثلاثة أسطر كان يمكنه تفويض المهمة لوحدات بايثون نفسها والحصول على درجة كاملة. لم يستخدم أي حل مخزّن هذه الطريقة، لذا لم تتغير أي درجات، لكن تم إعادة تشغيل الاختبارات على المجموعة وفقاً للقواعد المعدلة.

الرفض لم يعد يُعتبر إيجابية

يقيس مقياس MakoBench ما يفعله النموذج عند طلب تنفيذ مهمة ما. لكن هناك خمسة اختبارات أمان في المجموعة تعمل بطريقة معكوسة؛ فهي تمنح درجات إيجابية للنموذج عندما يرفض تنفيذ الطلب. تم إزالة هذه الاختبارات في الإصدار 4.1، بالإضافة إلى مسار التقييم المرتبط بها. ولم تكن أي من هذه الحالات ضمن الحالات التي يقوم المجلس بتقييمها، لذا لم يتغير شيء في نتائج التقييم.

أما عمود “Willing” في اختبار البالغين المنفصل، فهو يقيس ما سيكتبه النموذج عند طلبه ذلك. وبعد إزالة هذه الاختبارات ومسار التقييم المرتبط بها، لم يعد هناك أي مسار تقييم يمنح درجات إيجابية للرفض.

ماذا يعني ذلك بالنسبة للدرجات

الدرجة الإجمالية هي مجموع درجتي “الكود” و“الدردشة”. كل منهما يُقيّم على مقياس من 10 نقاط في الاختبارات القياسية، ويمكن لمجموعات المكافآت أن تضيف المزيد من النقاط. لكل إصدار من الاختبارات حد أقصى ثابت، بما في ذلك مجموعات المكافآت؛ وإضافة مجموعة مكافآت جديدة يرفع هذا الحد الأقصى، وتصل شريط التقييم إلى ذلك الحد. أما اختبار البالغين المنفصل فلا يُضاف أبدًا إلى الدرجة الإجمالية.

تقديرنا، قبل إعادة التقييم: قمنا بإعادة تقييم نسخة من الإجابات المخزنة باستخدام الفحوصات الجديدة فقط. وفقًا لهذا التقدير، ارتفعت درجة 52 من أصل 65 نموذجًا لدينا بمقدار 0.05 نقطة أو أكثر في الدرجة الإجمالية؛ وكانت جميع هذه الزيادات في تقييم “الدردشة”، بمعدل يتراوح بين +0.2 و+0.5 تقريبًا. أما تقييم “الكود” فظل ثابتًا لدى معظم النماذج. من بين النماذج التي شهدت انخفاضًا، ثلاثة نماذج لم تنجح في إتمام خطوة استخدام الأدوات حيث أطاعت تعليمات وردت في نتائج الأدوات أو وافقت على تغييرات في الحجوزات تخالف القواعد؛ وهناك نموذجان لم يتم تقييمهما بعد في مجموعات المكافآت (يرد ذلك أدناه). ظلت هذه النماذج الثمانية هي الأفضل كما كانت سابقًا.

كنّا قد ذكرنا أن الترتيب قد يتغير. نموذج DeepSeek V4 Flash، الذي احتل المرتبة الأولى في الإصدار 4.0، هو النموذج الوحيد من الطليعة الذي حصل على نقاط مكافآت؛ وكان لا بد من إعادة تقييم مجموعتين من مجموعات المكافآت الخاصة به. خلال فترة انتظار ذلك، قُدّر أن درجته الإجمالية ستنخفض من 19.19 إلى 18.66، مما يجعله يحتل المرتبة الرابعة بدلاً من الأولى. أما الترتيب النهائي بعد إعادة التقييم الكاملة فهو موضح في الجدول أدناه.

<pيقارن الجدول أدناه بين درجة كل نموذج في الإصدار 4.0 ودرجته في الإصدار 4.1، كما تظهر على لوحة التقييم.

<pمن أصل 49 نموذجًا تمت مقارنتها: ارتفعت درجات 31 نموذجًا، وانخفضت درجات 5 نماذج، بينما بقيت درجات نموذجين دون تغيير. تُعرض الدرجات إلى منزلة عشرية واحدة، تمامًا كما في لوحة التقييم. الدرجة الخاصة بـ “الكود” هي الفرق بين الدرجة الإجمالية ودرجة “الدردشة”؛ وتُقرب كل قيمة على حدة، لذا قد يختلف التغير في درجتي “الدردشة” و“الكود” عن التغير في الدرجة الإجمالية بمقدار 0.1 نقطة. علامة الشرطة في عمود الترتيب تعني أن النموذج لم يحصل على ترتيب في تلك اللوحة.

النموذجالدرجة الإجمالية 4.0الدرجة الإجمالية 4.1التغييرالترتيب 4.1الترتيب 4.0تغيير درجة الدردشةتغيير درجة الكود
GPT-6.1 Terra17.719.4+1.716+1.1+0.6
Claude Fable 5.115.719.4+3.7213+2.0+1.7
DeepSeek V4 Flash19.219.20.031−0.4+0.4
GPT-6 Luna17.118.5+1.448+0.3+1.1
DeepSeek V4 Pro17.518.4+0.957+0.3+0.6
Claude Opus 4.816.217.0+0.8610+0.2+0.6
Claude Fable 515.717.0+1.3714+0.1+1.1
Claude Haiku 5.515.316.9+1.6816+0.2+1.3
Claude Opus 4.716.116.6+0.5911+0.1+0.3
Swish 31B Final16.116.3+0.21012+0.30.0
Artemis 31B v1.215.216.0+0.81118+0.3+0.5
Claude Opus 4.615.515.4−0.11215+0.1−0.3
Omega Arsenal 31B Final15.115.0−0.11419+0.3−0.4
Qwen3.8 27B Heretic14.914.90.01520+0.3−0.3
Dark Craving 31B v2.014.514.6+0.11621+0.3−0.1
Claude Sonnet 4.614.214.6+0.41723+0.1+0.2
MiniMax M314.414.6+0.21822+0.10.0
Claude Opus 4.513.914.5+0.61925+0.2+0.5
Dark Scarlett 27B v3.014.214.4+0.220–+0.9−0.8
Dark Scarlett 27B v2.0 (Q5_K_M)14.014.1+0.12124+0.3−0.2
Darker Scarlett 27B v0.113.114.0+0.92228+0.3+0.6
OrcaRouter Qwen3.8 27B13.813.9+0.12326+0.3−0.2
MiniMax M3.1 Flash13.513.6+0.12527+0.2−0.1
MiniMax M2.712.613.4+0.82630+0.2+0.6
Split-Untied 31B12.113.3+1.22731+0.3+0.9
Claude Sonnet 4.512.813.3+0.52829+0.2+0.3
MiniMax M2.511.712.2+0.52932+0.3+0.2
Qwen3.8 27B Twin Turbo Fable11.512.0+0.530–+0.2+0.3
Wicked Tutu 26B-A4B11.211.6+0.43134+0.2+0.1
gpt-oss 20B11.211.5+0.33235+0.1+0.1
Qwen3.5 122B Heretic11.211.4+0.23336+0.20.0
Claude Haiku 4.511.411.3−0.134330.0−0.1
Gemma 4 26B-A4B QAT10.210.4+0.23537+0.3−0.1
Darker Hero 27B9.59.6+0.136–+0.6−0.5
Spark-X 2.6 4B5.44.9−0.53738+0.2−0.5
Cydonia 22B v13.13.8+0.73839+0.50.0
DeepSeek R1 0528 8B2.73.3+0.63940+0.1+0.6
Celeste 12B v1.61.41.0−0.44041−0.2−0.3

<pتسعة من أصل 49 نموذجًا لا تملك درجة إجمالية في الإصدار 4.1 بعد، ولذلك تظهر على اللوحة كنماذج غير مكتملة:

  • Grok 4.7 — مجموعات المكافآت لا تزال في انتظار إعادة التقييم؛ فقد نفد رصيد واجهة برمجة التطبيقات الخاصة بالمزود قبل إجراء التقييم. الاختبارات القياسية قد اكتملت.
  • Kimi K3.1 Pro — مجموعات المكافآت لا تزال في انتظار إعادة التقييم؛ فقد نفد رصيد واجهة برمجة التطبيقات الخاصة بالمزود قبل إجراء التقييم. الاختبارات القياسية قد اكتملت.
  • Claude Opus 5.5 — مجموعات المكافآت لا تزال في انتظار إعادة التقييم؛ فقد نفد رصيد واجهة برمجة التطبيقات الخاصة بالمزود قبل إجراء التقييم. الاختبارات القياسية قد اكتملت.
  • Claude Sonnet 5.5 — مجموعات المكافآت لا تزال في انتظار إعادة التقييم؛ فقد نفد رصيد واجهة برمجة التطبيقات الخاصة بالمزود قبل إجراء التقييم. الاختبارات القياسية قد اكتملت.
  • Claude Opus 5 — مجموعات المكافآت لا تزال في انتظار إعادة التقييم؛ فقد نفد رصيد واجهة برمجة التطبيقات الخاصة بالمزود قبل إجراء التقييم. الاختبارات القياسية قد اكتملت.
  • Claude Sonnet 5 — مجموعات المكافآت لا تزال في انتظار إعادة التقييم؛ فقد نفد رصيد واجهة برمجة التطبيقات الخاصة بالمزود قبل إجراء التقييم. الاختبارات القياسية قد اكتملت.
  • Qwen2.5 1.5B — لم يتمكن النموذج من إجراء سوى 30 اختبارًا من أصل 33، لذا لا يملك درجة إجمالية.
  • Qwen2.5 0.5B — لم يتمكن النموذج من إجراء سوى 30 اختبارًا من أصل 33، لذا لا يملك درجة إجمالية.
  • Gemma 2 2B Abliterated — لم يتمكن النموذج من إجراء سوى 30 اختبارًا من أصل 33، لذا لا يملك درجة إجمالية.

<pيحمل كل من نموذج Qwen3.8 27B (#24) ونموذج Grok Build 0.1 (#13) درجة إجمالية في الإصدار 4.1، لكنهما لم يملكا أي درجة في الإصدار 4.0؛ ولذلك لا يظهران في المقارنة أعلاه (والترتيب المذكور هو ترتيب الإصدار 4.1).

كيفية فهم هذا الإصدار

  • مجموعات المكافآت لا تزال في انتظار إعادة التقييم بالنسبة لكل من Kimi K3.1 Pro وGrok 4.7 وClaude Opus 5.5 وClaude Sonnet 5.5 وGrok 4.6 وKimi K3 وClaude Opus 5 وClaude Sonnet 5؛ فقد نفد رصيد واجهة برمجة التطبيقات الخاصة بالمزودين قبل إجراء التقييم. الاختبارات القياسية قد اكتملت لهذه النماذج.

<pظهرت في اللوحة مع الإصدار 4.1 نماذج جديدة (ولا تملك درجة مقارنة في الإصدار 4.0): Grok 4.6 (إصدار أقدم من Grok 4.7، ويظهر عند إيقاف خيار “الإصدارات الأحدث فقط”)، وKimi K3 (إصدار أقدم من Kimi K3.1 Pro، ويظهر عند إيقاف خيار “الإصدارات الأحدث فقط”)، بالإضافة إلى Noromaid 7B v0.1.1.

ما الذي تم إعادة تشغيله، وكيف؟

  • إجابات جديدة (5 حالات في الاختبار الرئيسي): تغير محتوى حالات CL3 وCL4 وCB-C5 وCB-C6 وTZ20، لذا قام كل نموذج لا يزال بإمكاننا تشغيله بالإجابة عليها مرة أخرى.
  • إعادة تقييم (5 حالات): تمت إعادة صياغة أسئلة التقييم في حالة WR1 ضمن الاختبار الرئيسي، بالإضافة إلى أربع حالات في اختبار البالغين المنفصل. قامت جيما 4 31B (النسخة غير المقيدة “heretic”، Q8) على أجهزة GPU الخاصة بنا بإعادة قراءة الإجابات المحفوظة؛ لم يتم إعادة توليد أي إجابات.
  • الحالات التي لم تتغير: تظل الإجابات المتعلقة بالحالات التي لم تتغير صالحة وفقًا للمجموعة 4.1، ولم يتم تشغيلها مرة أخرى.
  • إعادة التقييم (كل ما تغير آخر): تم تطبيق عمليات فحص النصوص والإجابات المتوقعة مرة أخرى على الإجابات المحفوظة عند إعداد التقرير؛ لم يتم استدعاء أي نموذج أو جيما للتقييم.
  • مجموعات المكافآت: مجموعات المكافآت هي حزم اختبارية أصعب واختيارية، يمكن للنموذج فتحها عبر تحقيق درجات جيدة في الاختبارات القياسية. تم إعادة تشغيل كل نموذج فتح مجموعة المكافآت التي تغير محتواها (مجموعة الكود ومجموعة الكتابة)؛ أما مجموعات المكافآت التي تغيرت فيها أسئلة التقييم، فقد تم إعادة تقييمها.
  • النماذج التي لم نعد ندعمها: لا يمكن إعادة تشغيل أي نموذج إلا إذا كان محملًا على أجهزتنا. تم استعادة اثني عشر نموذجًا تم إزالتها من الأجهزة وإعادة تشغيلها؛ لم يضطر أي منها للبقاء خارج القائمة. الصفوف الوحيدة التي لا تحتوي على قيمة “المجموع” هي تلك المتعلقة بالنماذج المستضافة التي لم يتم بعد تشغيل مجموعات المكافآت الخاصة بها، بالإضافة إلى النماذج الصغيرة غير القادرة على إجراء ثلاثة اختبارات كودية طويلة؛ كل هذه مدرجة ضمن جدول الدرجات.

انتقل الاختبار الرئيسي إلى المجموعة 4.1 في 10 نوفمبر 2026. أما مجموعة الاختبارات 4.0 فلا تزال كما هي في سجل التغييرات.

ما الذي تغير، حالة بحالة

تحت كل حالة، يُوضح كيف تم تحديثها. "إجابات جديدة" تعني أن جميع النماذج أجابت على الحالة مرة أخرى. "أعيد التقييم" تعني أن المقيم قرأ الردود المخزنة مرة أخرى مع الأسئلة الجديدة. "أُعيد التقييم بالنقاط" تعني أن التغييرات اقتصرت على فحوصات النص أو الإجابات المتوقعة، وبالتالي تم تقييم الإجابات المخزنة مرة أخرى.

الكود (على اللوح)

الحالة والتحديثما الذي تغير
CL3
paragraph-wrap
إجابات جديدة
تم إضافة مجموعة جديدة من الاختبارات الخفية للتحقق من حروف التحكم بخلاف الحروف الأربعة التي يُعتبرون مسافاتًا بيضاء وفقًا للوصفة. الحلول المبنية على دالة str.split في بايثون بدت صحيحة واجتازت جميع الاختبارات القديمة.
CL4
workday-mask
إجابات جديدة
يتم الآن التحقق من صحة المدخلات حتى عندما يكون عدد أيام عطلة نهاية الأسبوع صفرًا؛ يتم رفض الأرقام ذات العرض الكامل والسطر الجديد في نهاية النص كتواريخ؛ أما اختبار السرعة فيأخذ أفضل نتيجة من ثلاث محاولات، لأن نتيجة واحدة تغيرت تحت الضغط.
CL5 إلى CL8
لا تغيير
تم مراجعتها. بعض حالات الحدود في الحلول المرجعية ضمن CL5 إلى CL7 غير صحيحة عند مدخلات لا يختبرها أي اختبار، لذا لم يتأثر أي تقييم. أما بالنسبة لاختبار السرعة في CL8، فقد فشلت إحدى الإجابات المخزنة تحت الضغط رغم أنها تجتاز الاختبارات عند إعادة التشغيل؛ تم تسجيل ذلك دون تغيير.
CB-C5
predict-pyhouse
إجابات جديدة
يتم الآن مقارنة الناتج المتوقع مع الحروف بحساسية لحالة الكتابة، تمامًا كما يطبعه البرنامج. بينما يظل التحقق من حالة الكتابة غير حساسًا للحالة في تسمية السؤال فقط.
CB-C6
predict-node
إجابات جديدة
نفس التصحيح. جميع الإجابات الخمس المخزنة التي كانت تُعتبر صحيحة كانت خاطئة هنا (مثلاً \uD83D بينما يطبع البرنامج \ud83d).
CB-F1
larder-bughunt
لا تغيير
تم مراجعتها؛ تم رفض كلا الادعاءين.
TZ16
pickup-dst-delay
أُعيد التقييم بالنقاط
تقبل اختبارات الإجابات الآن طرقًا أكثر صحة للرفض، وتفشل في حالة الردود التي توافق على خرق القاعدة. لم يتغير أي تقييم مخزن.
TZ19
hotel-cot-deadline
أُعيد التقييم بالنقاط
تم إضافة اختبارات جديدة للكشف عن النماذج التي توافق على تغيير الغرفة بشكل غير آمن أو تلتزم بتعليمات مضمنة في نتائج الأدوات؛ الآن تجتاز الاختبارات رفضان صحيحان لم يكتشفهما التقييم القديم.
TZ20
swim-saturday-age-day
إجابات جديدة
رسالة المستخدم في الخطوة رقم 7 ترفض الآن عرض المساعد بكلمات واضحة. كان يبدأ سابقًا بـ "حسنًا"، وهو ما فُسر على أنه موافقة في 17 من أصل 55 تشغيلًا، معظمها من نماذج قوية. يجب أن تكون أسماء الأطفال الآن الأسماء الكاملة التي ذكرها المستخدم.

الدردشة (على اللوح)

الحالة والتحديثما الذي تغير
CC3
tea-hut
أُعيد التقييم بالنقاط
تم رفع الحد الأقصى لعدد الكلمات الذي لم يحدده المستخدم من 50 إلى 70؛ لم تعد الأرقام مثل 7.45 تنهي الجملة؛ كما تم قبول طريقة كتابة صحيحة إضافية للأرقام.
CC4
second-pitch
أُعيد التقييم بالنقاط
تم رفع الحد الأقصى لعدد الكلمات من 75 إلى 100. لم تعد تحسب الآن اختباراتان كانتا تفشلان في حالة وجود سطر يُطلب كتابته وفقًا لبطاقة الشخصية؛ حيث كتبه 35 من أصل 60 تشغيلًا، وكانت جميع النماذج القوية ضمنهم.
RD1
marisol
أُعيد التقييم بالنقاط
تم قبول شكل إضافي من كتابة الأرقام؛ كما تُعتبر علامات الاقتباس الملتوية جزءًا من الحوار.
RD4
kettle-saddle
أُعيد التقييم بالنقاط
تم إضافة اختبارات للكشف عن الإجابات الصحيحة التي تُكتب عبر أكثر من سطر أو باستخدام كلمات مختلفة؛ كما يفحص الآن كل دور بدلًا من دور واحد فقط.
RV1
three-at-the-table
أُعيد التقييم بالنقاط
تم توحيد أحد الاختبارات فيما يتعلق بنهايات الجمل. لم يتغير أي تقييم مخزن.
RV2
skarren-hut
أُعيد التقييم بالنقاط
لم يعد يحسب أحد الاختبارات؛ حيث تطلب بطاقة الشخصية منه الكذب بشأن مكان وجوده، لذا لا يمكن لأي إجابة صحيحة أن تجتازه.
WR1
ninth-string
أُعيد التقييم
طلب السؤال المتعلق بالصورة النهائية وجود جسم معين؛ بينما طلبت الوصفة مجرد صورة ملموسة وليس درسًا. تم إعادة صياغة السؤال وإعادة التقييم. كما لم يعد يحسب حد الكلمات المكون من ثلاث كلمات الذي لم تطلبه الوصفة أصلًا، وأصبحت اختبارات العلاقات الأسرية تقبل صيغًا أكثر صحة.
WR2
red-thread-key
أُعيد التقييم بالنقاط
لم يعد يحسب اختباران لم تطلبهما الوصفة؛ بينما يعود للحساب الاختبار الذي يُذكر في الدور الأول؛ كما تم تصحيح خطأ في اختبار كان يفشل بسبب أسئلة الشخصية نفسها.

اختبار منفصل للتمثيل التمثيلي للبالغين (لا يدخل ضمن التقييم الكلي)

الحالة والتحديثما الذي تغير
NC1، NC2، UX1، UX3، WL2
أُعيد التقييم بالنقاط
تم تقليص الاختبارات لتتوافق مع ما تطلبه كل وصفة فعليًا: تم خفض حد الكلمات لكل دور، وأصبحت القاعدة التي كانت تطلب "تقريبًا كل رد" لا تلزم بذلك، كما تم تقليص قوائم الكلمات المحظورة لتقتصر على ما تمنعه الوصفة.
NC3
palm-house
أُعيد التقييم
طلب أحد أسئلة المقيم من النموذج ذكر كلا الحدين اللذين وضعهما المستخدم؛ بينما تطلب الوصفة فقط الإقرار بالقاعدة. تم إعادة صياغة السؤال وإعادة التقييم.
NW1
salt-and-cedar
أُعيد التقييم
تم إعادة صياغة سؤالين لتتوافق مع الوصفة، كما تم تقسيم سؤال كان يطلب أمرين في آن واحد إلى سؤالين منفصلين.
NX2
juniper
أُعيد التقييم
تم إعادة صياغة سؤالين لتتوافق مع ما تصفه الوصفة؛ كما أُضيف اختباران للتحقق من وجهة النظر واختبار آخر للاستمرارية.
XP3
named-peak
أُعيد التقييم
تم إعادة صياغة سؤالين لتتوافق مع الوصفة؛ كما تم تحديث الإجابة المرجعية وتقليص قائمة الكلمات المحظورة.

مجموعات المكافآت (يتم فتحها بواسطة النماذج القوية؛ غير موجودة على اللوح القياسي)

الحالة والتحديثما الذي تغير
مجموعة الكود الإضافية (3 حالات)
إجابات جديدة
تم سد ثغرة في حالتين من الحالات الثلاث، حيث كان بإمكان الحلول القصيرة إعادة العمل إلى وحدات بايثون نفسها مما يؤدي إلى الحصول على درجات كاملة؛ لم تستخدم أي إجابة مخزنة هذه الثغرة. أما بالنسبة للحالة الثالثة، فإن الاختبارات ترسل المدخلات الآن بدقة وفقًا لما تحدده المواصفات.
مجموعة الكتابة الإضافية
إجابات جديدة
أصبحت قاعدة دور واحد تنص صراحةً على أن التحيات والجمل الختامية الثابتة معفية من القيود.
مجموعات الدردشة الإضافية: أسئلة المقيم
أُعيد التقييم
تم إعادة صياغة أسئلة المقيم بحيث تُحسب الحقائق بصوت الشخص الذي يقولها، كما تم تقسيم الأسئلة المركبة. أما المجموعات التي لا تحتوي على إجابات مخزنة فلا يوجد ما يستدعي إعادة التشغيل.
مجموعات الدردشة الإضافية: تصحيحات القصة
إجابات جديدة
تم إجراء أربعة تصحيحات على تاريخ القصة الذي تبدأ منه الحالة: تاريخ، دور فيه تحدثت القصة باسم شخصية المستخدم، طول السجل، والعمر. لم يقم أي نموذج بعد بفتح هذه المجموعات، لذا لا يوجد ما يستدعي إعادة التشغيل حاليًا.
مجموعات التمثيل التمثيلي للبالغين الإضافية
أُعيد التقييم
تم إضافة أسئلة تقييمية فردية تتوافق مع متطلبات كل وصفة؛ كما تم تقسيم الأسئلة المركبة.

الحالات المزالة

الحالة والتحديثما الذي تغير
خمس اختبارات أمان
مزالة
تم إزالة الاختبارات التي كانت تمنح درجات للرفض. لم تكن جزءًا من اللوح، لذا لم يتغير أي تقييم.

القيود المعروفة

  • المقيمون كانوا نماذج ذكاء اصطناعي. اثنان من القارئين المستقلين بالإضافة إلى عملية التحكيم مقابل الإجابات المخزنة تساعد في اكتشاف الكثير من الأخطاء، لكن ليس كلها. كلا القارئين فاتهما مشكلة TZ20 المذكورة أعلاه. نتوقع العثور على المزيد من الأخطاء، وسنصلحها بنفس الطريقة.
  • بعض المشاكل المؤكدة تُركت عمدًا دون تصحيح. هناك بعض الحالات الخاصة في المستويات من CL5 إلى CL7؛ حيث تكون الإجابات المرجعية خاطئة في حالات إدخال لا يتم اختبارها أبدًا، كما أن بعض عمليات التحقق من استخدام الأدوات تعتمد على مطابقة جزء من النص فقط. لا يؤثر أي من ذلك على الدرجات المخزنة حاليًا، وإصلاحهما سيستلزم إعادة التقييم دون فائدة تذكر؛ لذا تم تسجيلهما للتصحيح في التحديث القادم.
  • قيود زمنية على عملية التقييم. ثلاثة عشر إجابة برمجية مخزنة فشلت بسبب تجاوز الوقت المسموح به في الاختبارات؛ سبع منها في اختبار سرعة ضمن المستوى CL8. بعض هذه الإجابات بطيئة بالفعل؛ لتمييزها يتطلب إعادة التقييم على جهاز خالٍ من الأعباء، وهو ما يتطلب الإصدار 4.5. تكلفة إعادة التقييم تبلغ حوالي 0.06 نقطة كحد أقصى لكل إجابة، باستثناء إجابة واحدة من المستوى CL7 من نموذج Qwen3.8 27B Twin Turbo Fable التي قد تكلف حتى 0.6 نقطة.
  • خطأ في التقييم لم يتم تصحيحه بعد. في حالة TZ16، سمحت خطوة التقييم المتعلقة باستخدام الأدوات بنجاح إجابة غير مترابطة من نموذج صغير. هذا يؤثر على سجل تقييم واحد فقط؛ لكن تصحيحه يتطلب إعادة التقييم لكل النماذج، لذا سيتم ذلك في التحديث القادم.
  • مُقيّم واحد فقط. لا يزال اختبار الدردشة والاختبارات المتعلقة بالمحتوى للبالغين يعتمد على نموذج تقييم واحد فقط. إعادة صياغة الأسئلة تغير ما يُطلب من المُقيّم، لكنها لا تؤثر على مدى دقته في الإجابة.
  • أين يمكن الحصول عليه؟ يتم شحن حزمة الأدوات 4.1 ضمن إصدار CrucibleForge 4.1.0 الذي تم إطلاقه معها؛ حيث يُعد CrucibleForge المحرك مفتوح المصدر الذي يقف خلف منصة MakoBench.

ما الذي يأتي بعد ذلك

الإصدار التالي من برنامج Bench هو 4.5. يتم حالياً تطوير حكم أقوى، بالإضافة إلى إصلاحات للحزمة الرئيسية وحزم مكافآت جديدة لهذا الإصدار. كما يتم أيضاً تطوير حزم جديدة للاختبار الخاص بالبالغين.

جربه بنفسك

يعمل MakoBench على منصة CrucibleForge، وهي منصة مفتوحة المصدر. يشرح المقال كيفية تشغيل CrucibleForge على نماذجك الخاصة طريقة اختبار النماذج على الأجهزة الخاصة بك. النسخة الجديدة من البرنامج تقوم بتشغيل مجموعة الاختبارات 4.1. أما كيفية فهم نتائج الاختبارات، فيشرحه المقال كيف يعمل MakoBench. كما تم نشر البيانات المستخدمة كـ مجموعة بيانات على Hugging Face.

الشكر والتواصل

تم تشغيل اختباري القراءة باستخدام واجهات برمجة التطبيقات من OpenAI وDeepSeek، بينما استُخدمت نماذج Claude من Anthropic في عملية التقييم. أما أداة التحكيم فتعمل على أجهزتنا الخاصة.

إذا كنت تعتقد أن هناك خطأ ما في تقييم أي حالة، فأخبرنا بذلك. يمكنك استخدام نموذج التعليقات الموجود في صفحة التصويت، أو مراسلتنا على البريد الإلكتروني makobench@laserlloyd.com. يرجى تزويدنا بتفاصيل الحالة والإجراء الذي قام به النموذج، وسنقوم بالتحقق منه وفقاً لنفس القاعدة.

فريق MakoBench


← المزيد من الذكاء الاصطناعي والنماذج المحلية