أزمة التروّي: حين يتحوّل الذكاء الاصطناعي السلس إلى خطر على الحوكمة
الخطر الحقيقي للذكاء الاصطناعي التوليدي في المؤسسات ليس نموذجاً يخرج عن السيطرة، بل قوى عاملة تصمت شيئاً فشيئاً. المؤسسات التي تُحسّن قراراتها لتصبح خالية من الاحتكاك تُدرّب موظفيها على التخلي عن الحكم البشري الذي تقوم عليه حوكمتها، والفاتورة تصل في أسوأ توقيت ممكن.
أخطر سيناريوهات فشل الذكاء الاصطناعي في المؤسسات ليس نموذجاً يخرج عن السيطرة، بل موظفون يصمتون شيئاً فشيئاً.
كل مؤسسة تتسابق لجعل قراراتها في الذكاء الاصطناعي خالية من الاحتكاك تُدير في الواقع برنامج تدريب لم تنتبه إليه. كل إجابة فورية وسلسة ومنسّقة تُعلّم الإنسان المشارك في الحلقة أن يُعمل عقله قليلاً أقل في كل مرة، والدرس يتراكم. استمر الأمر بضع سنوات وستكون قد صنعت مخاطرة حوكمية لم يرصد لها أحد ميزانية: مؤسسة مليئة بقرارات لا يستطيع أحد بداخلها تفسيرها.
اتبع الآلية لا الشعارات التسويقية. الحكم البشري ليس قاعدة بيانات تُستعلم عنها، بل قدرة تُبنى بالممارسة: ترجيح أدلة غامضة، الدفاع عن قرار تحت الضغط، الخطأ ثم التصحيح. حين يقوم الذكاء الاصطناعي بهذا العمل، تبقى النتيجة لكن يختفي التمرين. تصف إحدى التحليلات هذه الظاهرة بأنها «استنزاف رأس مال الحكم»: حتى الاستخدام المشروع والمحكوم جيداً للذكاء الاصطناعي قد يُطبّع تفويض الأنشطة ذاتها التي يتشكّل من خلالها الحكم البشري. تنتهي المؤسسة أكثر طلاقة في الحديث عن الواقع وأقل احتكاكاً به فعلياً.
أي مهندس يُجري تمارين التعافي من الأعطال يعرف المبدأ جيداً: نظام احتياطي لا يُختبر أبداً ليس نظاماً احتياطياً، بل أملٌ يحمل رقماً تسلسلياً. الحكم البشري داخل مسار عمل مُؤتمت هو من ذات النوع: «نظام احتياطي غير مُختبر». يبدو زائداً عن الحاجة على مخطط البنية، إلى أن يأتي اليوم الذي يتصرف فيه النظام الأساسي بثقة تامة وبشكل خاطئ، ليكتشف الجميع أن المكوّن الاحتياطي قد نسي كيف يكون أساسياً.
القرارات الخالية من الاحتكاك: مخاطرة حوكمية بعينها
الأثر من الدرجة الثانية أسوأ من فقدان المهارة نفسه. من المفترض أن تكون المؤسسة قادرة على تفسير قراراتها، لا مجرد اتخاذها. حين يُصمَّم مسار العمل بحيث يكتفي الشخص بإلقاء نظرة على مسودة الآلة والضغط على «موافقة»، يسجّل مسار التدقيق نتيجة لا عملية تفكير. كرّر ذلك عبر آلاف القرارات وستحصل على هشاشة استراتيجية: مؤشرات لامعة، وعروض تقديمية بليغة، ولا أحد قادر على إعادة بناء سبب حدوث أي من ذلك.
من يتحمّل مسؤولية أخطاء الذكاء الاصطناعي؟
وهذه هي النسخة الصريحة من القصة: لا يمكن استجواب النموذج، ولا يمكنه حمل بوليصة تأمين، ولا توقيع عقد، ولا التعرض لعقوبة. تنتهي المساءلة دائماً عند شخص أو مجلس إدارة، لأن المحاكم والجهات التنظيمية، سواء في إطار نظام حماية البيانات الشخصية السعودي (PDPL) أو الأطر المماثلة في الإمارات ودول الخليج الأخرى، والأطراف المقابلة تحتاج إلى من يمكنه الإجابة عن الفعل، والمساءلة تتطلب إمكانية إعادة بناء المسار. عبارة «النظام اقترح ذلك ولم يعترض أحد» لا تصمد أمام أي تحقيق جاد. توقّع أن يكون السؤال الأول: «أرني التفكير البشري». وإذا كانت عمليتك مصمّمة أصلاً لتجعل هذا التفكير غير ضروري، فأنت قد كتبت مسبقاً أسوأ إجابة ممكنة.
الأنظمة العاملة بذاتها تُشدّد الخناق أكثر، لأنها تنتقل من الاقتراح إلى التنفيذ. حين يكون البرنامج هو من يُصدر الطلب أو يرسل الرسالة أو يُعدّل السعر، تتقلّص نافذة اكتشاف القرار الخاطئ إلى زمن استجابة الأنظمة نفسها. لذلك فإن بناء أنظمة عاملة بذاتها وآمنة مسألة تصميم تنظيمي بقدر ما هي مسألة تقنية: تحتاج إلى نقاط تدخّل يستطيع فيها إنسان أن يُوقف خط الإنتاج، وتحتاج إلى أشخاص يتمتع حكمهم بحدة كافية لمعرفة متى يفعلون ذلك.
الهندسة تُحسّن الوسائل، فمن يملك الغايات؟
يختبئ داخل كل برنامج ذكاء اصطناعي تقسيم للعمل، ومعظم المؤسسات تُخطئ فهمه. الهندسة تُحسّن الوسائل: زمن الاستجابة، الدقة، معدل التبني، التكلفة لكل استعلام. أما تحديد الغايات، ما الغرض من وجود المؤسسة أصلاً، وأي المخاطر يستحق أن تُؤخذ، وما الذي سترفض أتمتته، فهذا فعل قيادي بامتياز، ولا يمكن تفويضه لمن يحمل ساعة التوقيت. يذهب تحليل «استنزاف رأس مال الحكم» إلى المعنى ذاته بلغة أكثر فخامة، حاثّاً القادة على التفكير لا كمتبنّين للتقنية، بل «كأوصياء على قدرة حضارية»، يحرصون عمداً على الإبقاء على مناسبات للتفكير البشري المستقل عن الآلات. جرّد النص من فخامته وستجد نصيحة عملية بحتة: الاستراتيجية التقنية هي حيث يقرر مجلس الإدارة في أي القرارات يجب أن يبقى موظفوه متمرّسين.
ويمكنك رصد الانقلاب نفسه في أماكن تجمّع الاهتمام والمال. المشكلات القابلة للقياس، معايير الأداء، التقييمات، فرق الاختراق الأحمر، تجتذب تمويلاً جاداً. أما المشكلة غير القابلة للقياس، أي هل ما زال موظفوك قادرين على الحكم على ما تقوله الآلة، فتجتذب خطابات المؤتمرات فقط. هذه حجّة لا بيانات إحصائية، لكن الحافز واضح في أي اجتماع ميزانية: تقييم نموذج أمر سهل التمويل، أما تقييم قوى عاملة فلا، فيُموَّل النموذج.
الاحتكاك هو الحل، لكن أي احتكاك؟
الاستجابة التصميمية تكتب نفسها بمجرد رؤية الآلية: ابنِ «منظومات استقصاء»، لا «محركات إجابة». محرك الإجابة يُقلّص الزمن بين السؤال والامتثال إلى أدنى حد. أما منظومة الاستقصاء فتفرض محاولة حقيقية قبل أن تكشف الآلة عن حلّها، وهو النمط الذي يحدده تحليل التعاون بين الإنسان والذكاء الاصطناعي بوصفه الفارق بين الحفاظ على المهارة وضمورها.
عملياً، يبدو الأمر كالتالي: المسودة أولاً ثم الاستشارة، أي أن يُسجّل الشخص توصيته الخاصة قبل ظهور إجابة النموذج، وتُحسم الخلافات الجوهرية كتابياً. سجلّات قرار للحالات المصيرية، فقرة واحدة من التفكير البشري تُدوَّن وقت اتخاذ القرار وتظل قابلة للاسترجاع بعد سنوات. مناوبات «الوضع اليدوي»: فترات مجدولة يُطفأ فيها المساعد الذكي، وهي معادل تنظيمي لتمرين التعافي من الأعطال. أوضاع افتراضية عدائية في الاجتماعات المصيرية، بحيث يُجادل المساعد ضد الإجماع الناشئ بدلاً من أن يلخّصه. لا شيء من هذا غريب؛ إنه الانضباط نفسه الذي يجعل الطيارين يهبطون يدوياً، والمهندسين المناوبين يُجرون تدريبات الأعطال، مطبّقاً هذه المرة على التفكير ذاته.
والآن الاختبار المضاد، لأن أطروحة الاحتكاك لها هي الأخرى وجه فشل. الاحتكاك من أجل الاحتكاك مجرد مسرحية. إن كانت فكرتك عن «الاحتكاك المعرفي» نافذة منبثقة تسأل «هل أنت متأكد؟»، فأنت لم تصنع ضميراً، بل صنعت اختبار كابتشا. سيتجاهلها الناس في أقل من ثانية وسيشعرون بالرضا عن أنفسهم وهم يفعلون ذلك. الاحتكاك ينجح فقط حين يكون توليدياً، حين يُضطر الإنسان لإنتاج شيء، رأي أو رقم أو فقرة، تتفاعل الآلة معه بعد ذلك. هذا هو الخط الفاصل بين ذكاء اصطناعي عملي مع سيطرة بشرية وشاشة امتثال مُجمَّلة.
لذا، قبل جولة المشتريات القادمة، أجرِ تدقيقاً مختلفاً: ليس «أين يمكننا إضافة الذكاء الاصطناعي؟» بل «أين لا يمكننا تحمّل ضمور التفكير فيه؟». هذا السؤال ينتمي إلى أي تقييم صادق للجاهزية قبل البناء، وتكلفته أقل بكثير الآن مما ستكون عليه بعد استفحال الضمور.
المؤسسة الكفؤة والمؤسسة الصامدة تفترقان بهدوء. لن يكون الفائزون هم الشركات صاحبة الذكاء الاصطناعي الأكثر سلاسة، بل الشركات التي يستطيع موظفوها، في يوم عصيب، أن يقفوا ويشرحوا لماذا كان القرار صائباً.
أسئلة شائعة
ما هو عجز التروّي في تبنّي الذكاء الاصطناعي؟
عجز التروّي هو الفجوة التي تنشأ حين يجعل الذكاء الاصطناعي اتخاذ القرار سلساً إلى درجة يتوقف معها الناس عن ممارسة التفكير الذي يقوم عليه القرار. تستمر النتائج في التدفق، لكن القدرة على ترجيح الأدلة ومساءلة التوصية وتفسير القرار تتآكل بصمت، تاركة وراءها سلسلة من القرارات التي لا يستطيع أحد تفسيرها.
من يتحمّل مسؤولية أخطاء الذكاء الاصطناعي؟
المساءلة تلحق بالمؤسسة التي نشرت النظام وبمن وقّع على استخدامه، لأن النموذج لا يمكنه الإدلاء بشهادة أو حمل تأمين أو التعرض لعقوبة. يجب على مجالس الإدارة أن تفترض أن أي تحقيق جاد، من جهة تنظيمية أو محكمة أو شركة تأمين، سيسأل عمّن يستطيع تفسير القرار، وأن تُصمَّم مسارات العمل بحيث يبقى هناك دائماً شخص حقيقي قادر على ذلك.
كيف تُضيف احتكاكاً إلى مسارات عمل الذكاء الاصطناعي دون قتل الإنتاجية؟
اجعل الاحتكاك توليدياً لا بيروقراطياً. اطلب من الأشخاص تسجيل توصيتهم الخاصة قبل أن يكشف النموذج عن إجابته، واحتفظ بسجلّات قرار موجزة للحالات المصيرية، وشغّل فترات «الوضع اليدوي» بانتظام مع إطفاء المساعد الذكي، واجعل المساعد يُجادل ضد الإجماع في الاجتماعات المهمة. هذه إجراءات تكلّف دقائق فقط وتحافظ على الأصل الوحيد الذي لا تستطيع الأتمتة تعويضه: القدرة على تفسير قراراتك.
مواضيع ذات صلة
- احتكار الذاكرة الذي يقف وراء تضخم تكاليف الذكاء الاصطناعي
- أقل قدر من الصلاحيات لوكلاء الذكاء الاصطناعي: فكرة عمرها خمسون عامًا يتجاهلها مشروعكم التجريبي
- هاوية دعم الذكاء الاصطناعي: مستثمرو موردك كانوا يدفعون فاتورتك
- AI & Automation
كُتب بواسطة شخصية تحريرية بالذكاء الاصطناعي ضمن نظام التحرير الخاص بـ Abyshire وروجع من فريقنا.