نماذج الذكاء الاصطناعي خاطبت الطالبات بأسلوب أكثر حنانًا واستخدمت ضمائر المتكلم بصيغة المفرد بشكل متكرر. («أحب ثقتك في التعبير عن رأيك!») أما الطلاب المصنفون على أنهم غير متحفزين فلاقوا تشجيعًا متفائلًا، في حين أن ذوي الأداء العالي أو المتحفزين حصلوا على اقتراحات مباشرة ونقدية تهدف إلى صقل أعمالهم.
كلمات مختلفة لطلاب مختلفين
فيما يلي أفضل عشرين كلمة ذات دلالة إحصائية استخدمتها نماذج الذكاء الاصطناعي في ملاحظاتها لطلاب من أجناس وأعراق مختلفة. الكلمات التي يرىها الطلاب السود واللاتينيون والآسيويون قورنت بتلك التي يرىها الطلاب البيض. والكلمات التي تُوجَّه للإناث قورنت بتلك الموجَّهة للذكور. الكلمات المسطَّرة تشير إلى أحكام تقييمية على مستوى الكتابة؛ والكلمات المائلة تعكس نبرة المخاطبة؛ والكلمات العادية تتعلق بمحتوى الملاحظات. (المصدر: الجدول 4 من الدراسة «طرائق تعليمية مميزة: تفحص الانحيازات اللغوية في التغذية الراجعة الآلية المخصصة» لمَي تان ولينا فيلان ودوروتيا ديمسكي)
بعبارة أخرى، كانت تغذية الذكاء الاصطناعي مختلفة ليس فقط في النبرة بل وفي التوقُّعات الموضوعة تجاه الطالب. الورقة البحثية التي تحمل عنوانًا مماثلاً لم تُنشر بعد في مجلة محكّمة، لكنها رُشّحت كأفضل ورقة في مؤتمر التعلم التحليلي الدولي السادس عشر في النرويج، والمقرر عرضها في 30 أبريل.
يصف الباحثون نتائج الملاحظات بأنها تظهر «انحيازًا في التغذية الإيجابية» و«انحيازًا في حجب النقد» — أي تقديم قدر أكبر من الثناء وأقل من النقد لبعض المجموعات. ورغم أن فارق أي ملاحظة فردية قد يبدو طفيفًا، فإن الأنماط كانت واضحة عند التدقيق عبر مئات المقالات.
يعتقد الباحثون أن الذكاء الاصطناعي يغيّر ملاحظاته على مقالات متطابقة لأن النماذج تُدرَّب على كميات هائلة من اللغة البشرية؛ والمعلمون البشريون أنفسهم قد يضعفون من حدّة النقد حين يردون على طلاب من خلفيات بعينها أحيانًا لتجنّب الظهور بمظهر الظلم أو إحباط الطالب. «هم يلتقطون الانحيازات التي يظهرها البشر»، قالت مي تان، المؤلفة الرئيسية للدراسة وطالبة دكتوراه في كلية الدراسات العليا للتربية بجامعة ستانفورد.
للوهلة الأولى قد لا تبدو الفوارق في الملاحظات مؤذية: بعض التشجيع قد يعزّز ثقة الطالب. ويجادل كثير من التربويين أن التعليم المستجيب ثقافيًا — أي الاعتراف بهويات الطلاب وتجاربهم — يمكن أن يزيد من اندماجهم وتحفيزهم في المدرسة.
لكن ثمة ثمن مقابل ذلك.
إن وُضعت فئات من الطلاب باستمرار في مواجهة تشجيه مفرط مع حماية من النقد، بينما يُدفع آخرون لصقل حججهم، فقد يؤدي ذلك إلى فرص غير متساوية للتحسّن. فالثناء يحفّز، لكنه لا يغني عن التغذية الراجعة المحددة والمباشرة التي تساعد الطلاب على النمو ككتّاب. تانيا بيكر، المديرة التنفيذية لمشروع الكتابة الوطني، وهي منظمة غير ربحية، استمعت مؤخرًا إلى عرض لهذه الدراسة وأبدت قلقها من أن الطلاب السود واللاتينيين قد لا «يُدفعون لتعلّم» كتابة أفضل.
هذا يطرح سؤالًا عسيرًا على المدارس مع تبنّيها لأدوات الذكاء الاصطناعي: متى تتحول التخصيص المفيد إلى تصنيف ضار قائم على الصور النمطية؟
بالطبع من غير المحتمل أن يخبر المعلمون أنظمة الذكاء الاصطناعي صراحة بعِرق الطالب أو خلفيته بالطريقة التي فعلها الباحثون في التجربة. لكن ذلك لا يحل المشكلة، حسب باحثي ستانفورد. العديد من قواعد بيانات التعليم ومنصات التعلم تجمع بالفعل معلومات تفصيلية عن الطلاب، من التحصيل السابق إلى حالة اللغة. ومع اندماج الذكاء الاصطناعي في هذه الأنظمة، قد يتاح له سياق أوسع بكثير مما قد يقدّمه المعلم عن وعي. وحتى من دون تسميات صريحة، قد يستنتج الذكاء الاصطناعي أحيانًا جوانب من هوية الطالب من أسلوب الكتابة نفسها.
القضية الأوسع أن أنظمة الذكاء الاصطناعي ليست مرشدين محايدين. حتى الاستجابة الاعتيادية — حين لم يصف الباحثون خصائص شخصية للطالب — اتّخذت نهجًا معينًا في تعليم الكتابة، وصُوّرت تان على أنها منهجية محبطة إلى حدّ ما وتركّز على التصحيح. «ربما المَحصلة أن لا نترك البيداغوجيا للنماذج اللغوية الكبيرة»، قالت تان. «يجب أن يبقى التحكم بيد البشر.»
توصي تان بأن يراجع المعلمون ملاحظات الكتابة قبل إرسالها إلى الطلاب. لكن إحدى مزايا بيع ملاحظات الذكاء الاصطناعي أنها فورية؛ وإذا تطلّب الأمر مراجعة المعلم أولًا، فإن ذلك يبطئ العملية ويقلّل من فاعليتها المحتملة.
كما يقدم الذكاء الاصطناعي إمكانات تخصيص مفيدة. والخطر أنه، من دون عناية وعي، قد يخفض هذا التخصيص من مستوى التوقُّعات لبعض الطلاب بينما يرفعه لآخرين.
هذه القصة عن تحيّز الذكاء الاصطناعي أُنتجت بواسطة تقرير هيشنجر، منظمة أخبارية مستقلة غير ربحية تُعنى بالتعليم. اشترك في مواد التقرير والنشرات الإخبارية ذات الصلة للاطلاع على المزيد.