إشراف لا تستطيع قياسه هو زينة.

نشرنا هذا الشهر تدقيق الطبقة البشرية (DOI: 10.5281/zenodo.19453026)، وهو مبني حول نتيجة مزعجة.

الإشراف البشري، كما يُمارَس في معظم تطبيقات الذكاء الاصطناعي اليوم، مسرحية. إنسان "يراجع" مخرجات النظام، والمراجعة تستغرق ثلاث ثوانٍ، ونسبة الموافقة مئة بالمئة عمليًا، ويُعلَّم مربع المساءلة. وهذا أسوأ من غياب الإشراف أصلًا، لأنه يصنع مظهر السيطرة دون أي من وظيفتها. والجهات الرقابية بدأت تلاحظ الفرق. أما الشركات فمعظمها لم يلاحظه بعد.

وجواب التدقيق نموذج نضج: خمسة مكونات للإشراف البشري، ولكل منها خمسة مستويات نضج، تُقاس في مواجهة مستويات مخاطر تحدد الحد الأدنى المقبول بحسب ما يفعله النظام فعلًا: أيستشير، أم يشارك، أم يتصرف بعواقب. والمقصود من النموذج ليس الدرجة، بل أن تكف عبارة "لدينا إنسان في الحلقة" عن كونها جملة يقولها أي أحد بلا دليل.

وُجدت الورقة لأن كل نقاش جاد خضناه هذا العام انتهى عند الجدار نفسه. المسؤولون يوافقون على أن الطبقة البشرية مهمة، ثم يسألون: كيف نعرف إن كانت طبقتنا جيدة؟ وبلا أداة قياس كان الجواب الصادق: لا تعرف. والآن صارت هناك أداة.

وشيء أخير فرضه التدقيق علينا: إنه ينطبق على تايمر أيضًا. فنحن نبني أنظمة ذكاء اصطناعي تتصرف داخل الشركات، ما يعني أن معمار إشرافنا نحن يُقاس بمسطرتنا نحن، ونشر الدرجات هو الخطة لا فرضية. فالمسطرة التي تعفي نفسك منها زينة من نوع آخر.