الاستخدام غير المعتمد للذكاء الاصطناعي بيانات، لا تمرّد
في العام الماضي اكتشفت أن إحدى الكاتبات في الوكالة التي أديرها كانت تنسخ موجزات العملاء وتلصقها في حساب مجاني لروبوت محادثة لتلخيصها. لم تكن تخفي الأمر تماماً؛ ظهر الموضوع في مكالمة كما قد يذكر أحدهم اختصاراً جديداً على لوحة المفاتيح. كان رد فعلي الأول الضيق. ثم بعد نحو ساعة جاء الإدراك المزعج بأنني لم أعطها شيئاً أفضل. لم يكن لدينا أداة معتمدة لتلك المهمة، ولا قاعدة تحدد ما يمكن لصقه وما لا يمكن، ولا تدريب يغطي أي من ذلك. كان أمامها عمل يجب إنجازه، فأنجزته بأقرب شيء متاح.
هذه المحادثة غيّرت طريقة قراءتي للأبحاث عن الاستخدام غير المعتمد للذكاء الاصطناعي في العمل. تسميه فرق الأمن الذكاء الاصطناعي الظلي وتتعامل معه كسطح تهديد، وهو كذلك بالفعل. لكنه بالنسبة لفرق التعلم والتطوير شيء آخر أيضاً: تحليل احتياجات أجرى نفسه، مجاناً، من دون أن يطلبه أحد. كل أداة غير معتمدة في شركتك تحدد مهمة فشلت فيها الأدوات الرسمية في خدمة شخص ما، ولم يصل إليه أي تدريب. يمكنك أن تدفع لشركة استشارات مالاً كثيراً مقابل خريطة بهذه الدقة.
الجميع تقريباً يستخدمونه، ولا أحد تقريباً تلقى تدريباً
الأرقام لم تعد غامضة. وجد استطلاع أجرته شركة بيجر ديوتي في عام ٢٠٢٦ حول الذكاء الاصطناعي الظلي، ونفذته ويكفيلد ريسيرش بين ١٢٥٠ موظفاً مكتبياً في شركات كبيرة، أن ٦٦ في المئة استخدموا أدوات ذكاء اصطناعي في العمل رغم اعتقادهم أنه مخالف للسياسة. وأكثر من الثلث وضعوا بيانات عملاء في نماذج عامة. أما النتيجة التي يجب أن تقلق فرق التعلم والتطوير أكثر من غيرها: قال قرابة النصف إنهم يفضلون مواصلة استخدام الذكاء الاصطناعي بهدوء بدلاً من أن يسألوا ويخاطروا بأن يُقال لهم لا.
ضع ذلك مقابل تغطية التدريب. وضع استطلاع لشركة ووكمي استخدام الذكاء الاصطناعي غير المعتمد عند ٧٨ في المئة من الموظفين، بينما قال ٧٫٥ في المئة فقط إنهم تلقوا تدريباً موسعاً على الذكاء الاصطناعي. المسافة بين هذين الرقمين هي كل الحجة لمعالجة هذا كمشكلة تدريب. الجميع تقريباً يستخدمون الأدوات. لكن أحداً تقريباً لم يُعرض عليه كيف.
الحظر يغيّر الظهور لا السلوك
سجل تقرير فيرايزون لتحقيقات اختراق البيانات لعام ٢٠٢٦ ارتفاعاً بمقدار أربعة أضعاف في اكتشافات الذكاء الاصطناعي الظلي خلال سنة واحدة، وهذا يخبرك بمدى نجاح المنع. عندما تحظر الشركة الأدوات، ينتقل الاستخدام إلى الهواتف الشخصية والحسابات المجانية الشخصية، وهي أسوأ نتيجة ممكنة. تأتي الخطط المجانية بأضعف ضوابط البيانات، وتقع الحسابات الشخصية خارج كل سجل تدقيق تملكه الشركة.
وثمة تكلفة ثانية نادراً ما تظهر في تقارير الأمن. الإخفاء يقتل التغذية الراجعة. الموظف الذي يخفي الأداة سيخفي أيضاً الخطأ الذي سببته الأداة، إلى أن يصل الخطأ إلى العميل. إذا كانت سياستك تعاقب الإفصاح، فأنت تدرّب الناس على الصمت في اللحظات التي تحتاج فيها أكثر من أي وقت إلى أن يتكلموا. قدمت حجة مشابهة عن الإبلاغ عن التزييف العميق في مقال سابق، وهي تنطبق هنا: الشخص الذي يعترف بسير عمل خطر يمنحك معلومة. عامل ذلك كهدية، وإلا ستتوقف عن تلقيه.
كل حالة استخدام يُفصح عنها هي بيانات مدخلات
عندما تتوقف عن قراءة الذكاء الاصطناعي الظلي كسوء سلوك، تتفكك كل حالة إلى أربع معلومات مفيدة. المهمة التي احتاج الشخص إنجازها. الضغط الذي كان وراءها، وعادة ما يكون المواعيد النهائية أو الحجم الهائل. الفجوة في الأدوات المعتمدة، سواء كانت أداة ناقصة أو أداة لا يعرف أحد بوجودها. والبيانات التي ذهبت إلى مكان لا يجب أن تذهب إليه.
موظف مالية ينظف صادرات جداول البيانات بروبوت محادثة يخبرك أن سير عمل التقارير يدوي أكثر من اللازم. موظف دعم يكتب ردوداً بلغته الثانية يخبرك أين تكون الثقة في الكتابة ضعيفة. مصمم يلخص سلسلة من ٤٠ رسالة عن الملاحظات يخبرك أن عملية المراجعة لديك تنتج سلاسل من ٤٠ رسالة. لن يكتب أي من هؤلاء ذلك في استطلاع تدريب سنوي. لقد أخبروك وهم يتصرفون.
نفّذ تدقيقاً للعفو قبل كتابة أي تدريب
الترتيب مهم هنا. التدريب المبني قبل معرفة الاستخدام الفعلي يتحول إلى ثقافة عامة في الذكاء الاصطناعي، ووحدات الثقافة العامة في الذكاء الاصطناعي ينقر عليها الناس ثم ينسونها. ابدأ بمعرفة ما يحدث فعلاً، واجعل الصدق رخيصاً.
أعلن عن نافذة، وأسبوعان كافيان، يمكن لأي شخص خلالها الإفصاح عن الأدوات التي يستخدمها وما يستخدمها لأجله، من دون أي عواقب. يجب أن تأتي الرسالة من القيادة، وبكتابة، وإلا فلن يصدقها أي شخص عاقل. اجعل الاستمارة قصيرة: ما المهمة، ما الأداة، ما نوع البيانات التي أُدخلت. ثم شارك النتائج المجمعة مع الفريق كله، لأن الناس يفصحون مرة واحدة ثم يراقبون ما تفعله بها.
حين أجرينا تدقيقنا، كانت الإفصاحات عادية. ملخصات، مسودات أولى، صيغ جداول بيانات، تدقيق ترجمات. أخطر شيء وجدناه كان روابط عملاء غير منشورة موجودة في سجلات الأوامر، وهذا ما يغطيه تدريبنا التمهيدي الآن بشكل صريح. لم يكن أحد يفعل شيئاً غريباً. هذه هي النتيجة فعلاً. الذكاء الاصطناعي الظلي في معظمه أشخاص عاديون يؤدون مهام عادية بأقرب أداة تعمل.
ابنِ التدريب من إفصاحات الناس
حدود البيانات تأتي أولاً، وهي تعمل أفضل كأمثلة لا كلغة سياسات. عبارة «لا تلصق أبداً بيانات اعتماد العملاء، أو الأعمال غير المنشورة، أو أي شيء يحمل اسم شخص» تبقى في الذاكرة. أما فقرة عن فئات الاستخدام المقبول فلا تبقى. اجعل قائمة الممنوعات قصيرة بما يكفي ليرددها الناس.
ثم حوّل حالات الاستخدام المفصح عنها إلى الوحدات الفعلية. إذا اعترف ١١ شخصاً بأنهم يلخصون وثائق، فوحدة التلخيص تكتب نفسها، مبنية على أنواع وثائقك الحقيقية ومعيار الجودة الحقيقي لديك. التدريب المبني على مهام يقوم بها الناس فعلاً يحصل على انتباه لا يحصل عليه تعليم الذكاء الاصطناعي المجرد، لأن كل شخص في الغرفة قد قابل المشكلة من قبل.
كل عبارة «توقف عن فعل ذلك» تحتاج إلى «افعل هذا بدلاً منه» ملحقة بها. إذا كان البديل المعتمد أبطأ من الأداة الظلية، سيهز الناس رؤوسهم في الجلسة ثم يعودون إلى الأداة الظلية بحلول الخميس. أحياناً تكون النتيجة الصادقة للتدقيق أن الشركة تحتاج إلى شراء شيء، وينبغي أن تكون فرق التعلم والتطوير هي التي تقول ذلك بصوت عال.
وحافظ على التنسيق قصيراً ومتكرراً لا طويلاً وسنوياً. الأدوات تتغير كل بضعة أشهر. وحدة مدتها ٩٠ دقيقة سُجلت في يناير تصبح قطعة متحفية بحلول يونيو.
من أين تبدأ هذا الشهر
لا تحتاج إلى لجنة حوكمة أو بند في الميزانية لتبدأ. اسأل فريقك هذا الأسبوع عن أدوات الذكاء الاصطناعي التي يستخدمونها بالفعل حين لا يراقبهم أحد، واجعل الإجابة آمنة حقاً. ستكون الإجابات أقل إثارة للخوف مما تتوقع، وأكثر تحديداً من أي استطلاع يمكنك تكليف به. في مكان ما في شركتك، برنامج تدريب الذكاء الاصطناعي يعمل بالفعل. إنه غير رسمي وغير مرئي، والأشخاص الذين يعلّمون أنفسهم لا يدركون أين الحدود. المهمة هي جلبه إلى الداخل.