ضوابط تتناسب مع استخدام الذكاء الاصطناعي في التقييم
تتزايد النصائح حول استخدام الأنظمة القائمة على النماذج اللغوية الكبيرة في التعلم، لكن ما يحظى باهتمام أقل هو اتجاه هذه الأنظمة إلى:
– تقييم الإجابات المفتوحة.
– تحديد الفجوات المهارية.
– إنتاج درجة جاهزية.
– التوصية بما إذا كان المتعلم جاهزاً للانتقال إلى مرحلة تالية.
ولأن هذه المهام تختلف في حجم المسؤولية، تبدو وكأنها أنواع مختلفة من الذكاء الاصطناعي، بينما هي في الغالب النموذج نفسه، لكن مع توجيه أو معايير تقييم أو حدود مختلفة. وقد تكون الفجوة التقنية صغيرة، لكن العواقب ليست كذلك. لذلك يبقى السؤال: إلى أي مدى نسمح لهذه الأنظمة أن تصعد في سلسلة القرار؟
ما الذي يُسمح للذكاء الاصطناعي بأن يقرره؟
بدلاً من تصنيف التعلم المدعوم بالذكاء الاصطناعي إلى قسمين فقط: “بقيادة الذكاء الاصطناعي” و“بقيادة الإنسان”، من الأفضل النظر إلى مقدار الثقل الذي يمكن أن يحمله ناتج الذكاء الاصطناعي.
المستوى الأول: الذكاء الاصطناعي كمدرب
في هذا المستوى، يساعد الناتج المتعلم على التفكير والتدريب والتأمل. فمثلاً يمكن لمدرب ذكاء اصطناعي مخصص للتحضير للشهادات أن يبني خطط دراسة شخصية، ويكشف الفجوات المهارية، ويوصي بما يجب التدرب عليه لاحقاً، ويعدل الإرشاد مع تقدم المتعلم.
ورغم أن هذا المستوى لا يخلو من الهلوسة والمدح الفارغ، فإن هذه الأخطاء غالباً ما تكون سهلة التصحيح، ومن غير المرجح أن تحدد ما سيحدث بعد ذلك.
المستوى الثاني: الذكاء الاصطناعي كمساعد تقييم
قد يكتشف الذكاء الاصطناعي فجوات مهارية ظاهرة، أو يحسب مؤشر جاهزية، أو يلفت الانتباه إلى أنماط غير معتادة، أو يبرز أعمالاً تستحق المراجعة، وقد يطلع على ذلك مدرب ليقرر من يحتاج إلى تدخل.
لذلك يظل القرار النهائي في هذا المستوى بيد الإنسان، لكن الذكاء الاصطناعي يتحرك قبل ذلك القرار: فهو يستطيع أن يشكل ما يلاحظه المراجع، وما يتساءل عنه، وما يتصرف بناءً عليه.
المستوى الثالث: الذكاء الاصطناعي كجزء من قرار ذي عواقب
الخط الفاصل بين المستويين الثاني والثالث هو إلى أين يذهب ناتج الذكاء الاصطناعي بعد ذلك.
في المستوى الثاني، يغذي الناتج الحكم البشري. أما في المستوى الثالث، فإن الأدلة التي ينتجها الذكاء الاصطناعي تشكل مباشرة نتيجة ذات عواقب. فقد تدخل في منح شهادة، أو قرار نجاح أو رسوب، أو تقدم تعليمي، أو قبول، أو توزيع في مستوى أو مكان.
وما يجعل هذا التمييز سهل الإغفال هو أن النموذج نفسه قد يبقى دون تغيير عبر المستويات الثلاثة، حتى مع اكتساب ناتجه سلطة أكبر.
أين يعمل الذكاء الاصطناعي جيداً بالفعل؟
يكون الذكاء الاصطناعي أكثر فائدة في التعلم عندما يُستخدم من أجل:
– التغذية الراجعة التكوينية الفورية.
– لعب الأدوار والتدريب على السيناريوهات.
– التدريب الشخصي.
– تعزيز التعلم.
– اكتشاف الفجوات المهارية.
– التقييم الأولي وفق معايير محددة.
– الفرز على نطاق واسع لإبراز الغموض والأنماط.
وتصبح هذه الوظائف أكثر قيمة عندما تعمل معاً. ومن الأمثلة الجيدة هنا مدرب قبول جامعي يعمل بالذكاء الاصطناعي، إذ جمع بين التحضير الشخصي وتتبع التقدم ودرجة جاهزية تتحدث مع البيانات الجديدة، وأسهم ذلك في زيادة الاستبقاء بنسبة 22% وزيادة إكمال دورة التحضير لاختبار القبول الجامعي بنسبة 38%.
غير أن تقرير آفاق التعليم الرقمي لعام 2026 الصادر عن منظمة التعاون الاقتصادي والتنمية يلفت إلى تحفظ مهم: الأداء الأفضل مع الذكاء الاصطناعي لا يعني تلقائياً تعليماً أفضل. وهذا لا يتحقق إلا عندما يوجه النظام المتعلم بلطف، ويطرح أسئلة، ويقدم دعماً متدرجاً، ويتكيف من دون أن يفكر بدلاً من المتعلم.
ما الذي يتغير عندما يبدأ الذكاء الاصطناعي بإنتاج أدلة لا مجرد نصائح؟
فائدة الذكاء الاصطناعي ليست سوى نصف الصورة. فبمجرد أن يبدأ ناتجه في تشكيل حكم شخص آخر، ينبغي أن تدخل هذه الاعتبارات حيز العمل:
1. الصلاحية
درجة الجاهزية لا تعني الكثير ما لم يُثبت أن السلوكيات والبيانات التي تغذيها تعكس فعلاً القدرة التي تزعم أنها تقيسها.
ويشير الاتحاد الدولي للتدريب إلى نقطة مشابهة تخص أنظمة التدريب بالذكاء الاصطناعي في مجال الضمان والاختبار ضمن إطار ومعايير التدريب بالذكاء الاصطناعي لعام 2024، حيث يدعو إلى التحقق الرسمي من الادعاءات المتعلقة بما يستطيع النظام قياسه أو تحسينه.
2. الموثوقية
لا تزال الأدلة على التصحيح بالذكاء الاصطناعي مختلطة: فبعض الدراسات تجد تقارباً قوياً مع المصححين البشر في سياقات ضيقة، بينما تُظهر دراسات أخرى اتفاقاً ضعيفاً، وتحيزاً في التصحيح، وفصلاً ضعيفاً بين مستويات الأداء.
لذلك يجب إثبات الموثوقية من خلال التصحيح المتكرر، وثبات الاختبار وإعادة الاختبار، والاتفاق مع مصححين خبراء، والاتفاق بين الخبراء أنفسهم.
وينبغي لنظام تقييم موثوق أن يتجاهل التغييرات غير ذات الصلة، مثل الصياغة أو التنسيق أو ترتيب الإجابات، بينما يجب توثيق أي تغيير في النموذج أو التوجيه أو منطق التصحيح وإعادة اختباره.
3. العدالة
السمعة المجردة للنموذج في العدالة لا تعني الكثير ما لم يُختبر على متعلميك ومعاييرك وسير عملك.
فالقدرة المتكافئة يجب أن تنال معاملة متكافئة، بصرف النظر عن مدى أناقة النص.
وتساعد المعايير الواضحة القائمة على الأدلة، ومجموعات الاختبار المتطابقة عبر أساليب كتابة مختلفة، والمجموعات المتنوعة بما يكفي، والفحوص المستمرة للدقة والتحيز، في إبقاء الدرجة مرتبطة بالمهارة.
4. المساءلة
تعني المساءلة أن يستطيع المدرب أو المتعلم فحص الأدلة التي تقف خلف النتيجة، وتتبع كيف جرى إنتاجها، والاعتراض عليها عندما لا تبدو منطقية.
والمهم هو وجود مسار قابل للتحقق يربط كل درجة بمعايير تقييم محددة وبأجزاء من إجابة المتعلم، مع طريق واضح للمراجعة البشرية.
5. الخصوصية
استخدام نموذج تابع لطرف ثالث يثير أسئلة حول ما يخرج من المؤسسة، وأين تتم معالجته، وكم مدة الاحتفاظ به، وهل يمكن إعادة استخدامه.
والقاعدة هي ألا نجمع أو نكشف من بيانات المتعلم أكثر مما تتطلبه المهمة.
بنية تحكم مع بقاء الإنسان في الحلقة
عبارة “إبقاء الإنسان في الحلقة” تبدو وكأنها ضمانة واحدة، بينما هي مجموعة ضوابط تدخل سير العمل في نقاط مختلفة:
1. قبل أن يصدر الذكاء الاصطناعي حكمه
معايير يحددها الإنسان: يضع شخص المعايير التي يُتوقع من الذكاء الاصطناعي تطبيقها، فيمنح النظام هدفاً أوضح ويقلل التصحيح العشوائي. لكن وجود معايير سليمة لا يضمن تطبيقاً سليماً؛ فقد يفسر النموذج المعايير أو يزنها بشكل خاطئ.
2. أثناء إصدار الحكم
مراجعة عينة: يفحص إنسان جزءاً من الأعمال التي صححها الذكاء الاصطناعي لالتقاط الانحراف أو الأخطاء المتكررة أو الأنماط غير المتوقعة. وهذا مفيد لمراقبة النظام ككل، لكنه لا يستطيع حماية كل متعلم من خطأ تصحيح فردي.
تصعيد الحالات منخفضة الثقة: تُحال الحالات الغامضة أو غير المؤكدة إلى إنسان بدلاً من إجبار النموذج على اتخاذ القرار. وقد يقلل ذلك عبء المراجعة، لكن فقط إذا كانت إشارة الثقة نفسها معايرة جيداً.
التحقق البشري من الدرجات ذات العواقب: يراجع شخص درجات الذكاء الاصطناعي قبل أن تغذي قراراً مهماً. وهذا يخلق ضمانة أقوى، بشرط أن يستطيع المراجع فحص الأدلة وأن يملك سلطة حقيقية للاختلاف مع النظام.
3. عند اتخاذ القرار
القرار النهائي البشري: قد ينظم الذكاء الاصطناعي الأدلة، أو يصحح الأداء، أو يوصي بنتيجة، لكن يبقى الإنسان مسؤولاً عن القرار نفسه.
4. بعد اتخاذ القرار
مسار التظلم أو المراجعة: بعد صدور النتيجة، يحتاج المتعلم إلى طريقة للاعتراض عليها، أو إطلاق مراجعة أخرى، أو تصحيح خطأ فشلت الضوابط السابقة في التقاطه.
بناء ضوابط تتناسب مع حجم العواقب
كلما اكتسب الناتج سلطة أكبر، احتاج النظام إلى مزيد من الأدلة والضوابط حوله.
إذا كان الذكاء الاصطناعي يفعل هذا:
– يقدم تغذية راجعة للتدريب.
– ينتج درجات وفق معايير.
– ينتج مؤشرات جاهزية أو خطر.
– يؤثر في قرار ذي عواقب.
فأنت تحتاج إلى مزيد من هذا:
– التأسيس على محتوى معتمد وفحوص جودة المحتوى.
– مجموعة بيانات تحقق، ومعايرة أداة التصحيح، وضبط إصدارات النموذج والتوجيه.
– مراقبة مستمرة، وحدود مختبرة تجريبياً، وتصعيد ومراجعة بشرية.
– إمكانية التتبع والتدقيق، واختبارات عدالة أقوى، ومراجعة مستقلة، ومسارات تظلم.
ومع الانتقال نحو الطرف الأكثر عواقب في هذا الجدول، تبدأ بعض الممارسات الهندسية بأداء دور أكبر. وكل ممارسة مهمة بحد ذاتها، لكن قوتها الحقيقية تأتي من بنية نظام ذكاء اصطناعي مصممة جيداً تجعلها تعمل كمنظومة تحكم واحدة وتعزز بعضها بعضاً.
تتبع النموذج والإصدار مهم لأن كل درجة يجب أن تكون قابلة للتتبع إلى التكوين الدقيق الذي أنتجها. ويشمل ذلك نسخة النموذج، وإصدارات التوجيه ومعايير التقييم، وإعدادات المعاينة مثل درجة العشوائية عند الاقتضاء، وحدود القرار، ومنطق المعالجة اللاحقة، وأي سياق استرجاع مستخدم.
تمنح مجموعات بيانات التقييم الفرق مجموعة ثابتة من الحالات الممثلة التي يمكن اختبار التغييرات عليها.
ويجيب اختبار الانحدار عن سؤال تشغيلي مهم: هل أدى أحدث تحسين إلى إضعاف النظام في مكان آخر من دون قصد؟
تتيح السجلات للمراجعين إعادة بناء ما تلقاه النظام وما أنتجه عند الاعتراض على نتيجة. ولأن مخرجات النماذج اللغوية الكبيرة غير حتمية وقد لا تعيد إعادة التشغيل النتيجة الأصلية، ينبغي للنظام أن يحتفظ بالمدخلات، والسياق المسترجع، والمعالجة الوسيطة عند الاقتضاء، والناتج النهائي.
تحدد الحدود ومسارات التصعيد أين تتوقف الأتمتة وأين يبدأ الحكم البشري، وهي بحاجة إلى تحقق خاص بها، لأن عبارة “ثقة 90%” قد تبدو مطمئنة من دون أن تعني الكثير.
خمسة أسئلة قبل أتمتة قرار تعليمي آخر
قبل أتمتة قرار تعليمي آخر، تساعد خمسة أسئلة في بيان إلى أي مدى ينبغي السماح للأتمتة أن تمضي، وأين يقع استخدام الحالة على سلم المستويات الثلاثة:
– ما القرار الذي سيؤثر فيه هذا الناتج؟
– ماذا يحدث للمتعلم إذا كان الذكاء الاصطناعي مخطئاً؟
– ما الأدلة التي تثبت أن حكمه جيد بما يكفي لهذه الحالة تحديداً؟
– أين يدخل الحكم البشري في سير العمل، وما الذي يستطيع فعلاً تجاوزه؟
– هل يمكن إعادة بناء النتيجة ومراجعتها والاعتراض عليها؟
وبالنسبة للمؤسسات العاملة في أسواق التعليم الأوروبية، يحمل هذا الخيار ثقلاً قانونياً أيضاً. فبموجب قانون الذكاء الاصطناعي الأوروبي، قد تندرج الأنظمة التي تؤثر في الوصول إلى التعليم، أو تقيم نتائج التعلم، أو تحدد المستوى التعليمي، ضمن فئات عالية الخطورة، بينما قد تبقى الاستخدامات التحضيرية أو الاستشارية خارجها.
إذن، لا يزال للذكاء الاصطناعي مكان في التقييم. لكن مع بدء حمل النواتج لعواقب أكبر، فإن دمج الذكاء الاصطناعي في منتجات التعلم يتطلب صرامة هندسية أكبر، وتحققاً أقوى، وتحكماً بشرياً أكثر إحكاماً.