انشقاق السلامة: لماذا تتآكل مصداقية ضمانات موردي الذكاء الاصطناعي
الذين وضعوا تعريف «الذكاء الاصطناعي الآمن» لم يعودوا متفقين فيما بينهم، وهذا الصدع يصل مباشرة إلى قائمة مشترياتكم. حين يختلف الحكام، تفقد الضمانات معناها.
في العامين الأخيرين، تحوّلت عبارة «أطلعونا على إطار السلامة الخاص بكم» إلى بند أساسي في مشتريات الذكاء الاصطناعي عبر المنطقة العربية، من الرياض إلى دبي. استجابت المختبرات: يكاد كل مورّد رائد في هذا المجال ينشر اليوم إطاراً خاصاً به، بعتبات تقييم، والتزامات باختبار الاختراق (Red Teaming)، وشروط نشر مصاغة بعناية. على الورق، لم تبدُ مصداقية ضمانات سلامة موردي الذكاء الاصطناعي أقوى من أي وقت مضى، سواء في الخليج أو في أي مكان آخر. على الورق فقط.
المشكلة تكمن في مستوى أعمق، داخل المجتمع الذي يحدد أصلاً معنى هذه الأطر. باحثو سلامة الذكاء الاصطناعي وخبراء السياسات ينخرطون اليوم في خلاف علني، وأحياناً حاد، حول ما إذا كانت السلامة شيئاً يُهندَس داخل النموذج أم شيئاً يُفرض على الشركات التي تبنيه: صراع بين «الاندماجيين» الذين يرون أن العمل يحدث داخل المختبرات، و«دعاة الحوكمة» الذين يريدون كبحاً خارجياً يفرضه القانون.
وإلى أن يُحسم هذا الخلاف، يبقى كل ضمان في قائمة مشترياتكم قائماً على أرض متنازع عليها.
انقسام حقيقي أم مجرد جدل صاخب؟
الصدق أولاً: كلمة «انشقاق» فيها مبالغة. ما تُظهره الأدلة هو خلاف جاد حول المنهج، لا كنيستين متحاربتين، والأصوات الأعلى على الإنترنت تُضخّم الصدع لأن هذا ما تفعله الأصوات العالية عادة. يرسم مقال جو كارلسميث الأخير حول كبح تطور الذكاء الاصطناعي ملامح هذا الجدل بدقة؛ حتى المدافع الراسخ عن المعسكر التقني يعترف بأن موقف الكبح يستند إلى أشخاص جادين وحجج جادة.
لكن اتجاه المسار أهم من التصنيف. مركز الجدل انتقل من «كيف نجعل النماذج آمنة» إلى «من يقرر»، وهذا سؤال سياسي بامتياز. حين ينتقل مجتمع تقني بجداله إلى واشنطن وبروكسل والرياض، فإن ذلك يشي بتراجع الثقة في الإجابات التقنية البحتة. اتهام معسكر الحوكمة الأساسي، بأن الانضمام إلى مختبر يمنح شرعية لنمو القدرات الذي كان يُفترض أن عمل السلامة يكبحه، يصيب هدفه بدقة لأن المعسكر التقني لم يقدّم بعد معياراً عاماً وقابلاً للاختبار يدحض هذا الاتهام.
ما مدى مصداقية ضمانات سلامة موردي الذكاء الاصطناعي في المنطقة العربية؟
هنا يكمن جوهر التحليل. ضمان المورّد هو ادعاء حول السلوك المستقبلي لنظام معقّد، وقيمته تعتمد كلياً على تعريف السلامة الذي يستند إليه. إن كان الاندماجيون على حق، فالسلامة خاصية تقنية: قابلة للاختبار من حيث المبدأ، وقابلة للضمان في التطبيق، ويمكن لمختبر ذي تقييمات قوية أن يقف فعلياً وراء أنظمته. وإن كان دعاة الحوكمة على حق، فالسلامة شرط سياسي لا يستطيع مورّد واحد تحقيقه بمفرده، لأن الخطر يكمن في ديناميكية التنافس بين الشركات لا داخل نموذج بعينه.
وإذا كان الرأي الثاني صحيحاً ولو جزئياً، فإن ضمان سلامة المورّد يبدأ يشبه بنكاً في عام 2006 يطمئنكم إلى سيولته الخاصة: دقيق إلى أن يعيد النظام تسعير نفسه، وعندها يكتشف الجميع أن افتراضاتهم كانت مترابطة. المشترون لا يبتاعون تحوّطاً ضد مخاطر الذكاء الاصطناعي؛ بل يبتاعون ثقة المورّد المستمرة في إطاره الخاص، وهي أداة مختلفة تماماً وأضعف بكثير.
الاستطلاعات تُحدّد حجم المشكلة بدقة أكبر. تضع استطلاعات معهد سياسات الذكاء الاصطناعي (AI Policy Institute) نسبة التأييد الأمريكي للرقابة الفدرالية على الذكاء الاصطناعي المتقدم بين 59% و78% بحسب صياغة السؤال، مع تفضيل الناخبين لمعايير سلامة إلزامية على الحظر الكامل أو غياب التنظيم تماماً. هذه بيانات أمريكية، واستطلاعات الرأي في المنطقة العربية حول التفاصيل أقل وفرة، فتعاملوا مع الرقم كمؤشر اتجاه لا كقياس دقيق. لكن اتجاهه يخبركم بموضع الأفضلية السياسية: مع معسكر التنظيم. وضمان صِيغ في ظل نظام طوعي اليوم يُسعّر العالم كما هو الآن، لا كما سيكون عليه النظام الذي ستعمل تحته إدارة الامتثال لديكم بعد ثلاث سنوات، خصوصاً مع تسارع أطر الحوكمة الوطنية للذكاء الاصطناعي في المنطقة، من مبادئ أخلاقيات الذكاء الاصطناعي التي وضعتها الهيئة السعودية للبيانات والذكاء الاصطناعي (SDAIA) ضمن رؤية السعودية 2030، إلى استراتيجية الإمارات الوطنية للذكاء الاصطناعي 2031.
ماذا يجب أن يفعل مسؤول المخاطر فعلياً؟
لا شيء من هذا يدعو إلى التخلي عن مراجعة سلامة الموردين. إنه يدعو إلى تخفيض رتبتها من شهادة إلى دليل، ثم اختبار هذا الدليل.
ابدأوا بالمستندات. أي إطار سلامة يستحق الورق الذي كُتب عليه يجب أن يأتي مصحوباً بمنهجية التقييم، ونطاق اختبار الاختراق، وسجل الحوادث، وسجل إصدارات يوضح ما تغيّر ولماذا. المورّد الذي لا يستطيع تقديم هذه العناصر يبيع موقفاً، لا ضابطاً فعلياً. هذا هو نفس الانضباط الذي نطبّقه في تقييم الجاهزية للذكاء الاصطناعي قبل بدء أي بناء، وتكلفته جزء يسير من تكلفة اكتشاف الثغرة بعد النشر.
بعد ذلك، تعاقدوا على افتراض تغيّر النظام التنظيمي. إذا جلبت الرياح السياسية معايير إلزامية، ستُعاد كتابة سياسات الموردين، وسينسحب بعضهم من بعض الأسواق، وستتبدّل فرق السلامة. عقودكم تحتاج إلى بنود إخطار عند أي تعديل جوهري في موقف السلامة لدى المورّد، وبنيتكم التقنية يجب أن تفترض أن الاستبدال ممكن دائماً. القابلية للنقل خاصية من خصائص السلامة أيضاً.
أياً كان ما يضمنه المورّد، أبقوا التحكم عند طبقة التنفيذ.
نقاط المراجعة البشرية، والصلاحيات المحدودة، والمراقبة التي تملكونها بأنفسكم: منظومة الضمان التي تصمد أمام تغيّر النظام التنظيمي هي تلك التي بنيتموها بأيديكم. عملنا في تطبيق الذكاء الاصطناعي عملياً مع بقاء السيطرة البشرية وفي تأمين الأنظمة العاملة بالذكاء الاصطناعي (Agentic Systems) ينطلق من الافتراض ذاته: ضمانات الموردين مُدخلات، لا إجابات.
ما الذي قد يغيّر رأيي؟
ثلاث نتائج قد تقلب هذا التحليل. لو تقاربت حالات سلامة الموردين حول معايير مشتركة قابلة للتدقيق من طرف ثالث، بدل أن يصحح كل مختبر واجبه المنزلي بنفسه، لبدأت الضمانات تعني شيئاً فعلياً. ولو أظهرت التقييمات المستقلة قدرة تنبؤية حقيقية، أي أن اجتيازها يتنبأ بمعدلات حوادث منخفضة بعد النشر، لكان لادعاء المعسكر التقني الأساسي مخالب حقيقية. ولو استقرت مسودات التنظيم على معايير تقنية بدلاً من متطلبات إجرائية شكلية، لضاقت الفجوة بين المعسكرين من الخارج. أراهن بفرصة متساوية على تحديث هذا التحليل خلال عامين، وهذه المؤشرات الثلاثة ستُنبئكم قبل أن يعيد السوق التسعير.
وإلى ذلك الحين، فإن عدم التماثل هو صلب القصة. الإفراط في الثقة بضمان ما يُركّز المخاطر القصوى داخل مؤسستكم: فحين يفشل، يفشل بالضبط في السيناريو الذي وُضع لتغطيته. أما التشكيك في الضمانات فيكلفكم بعض سرعة الشراء وبعض ود المورّد. أحد هذين المسارين يمكن تحمّله، والآخر لا يمكن تحمّله، ومع ذلك تُخطئ الأسواق باستمرار في تسعير الفارق بينهما، إلى أن تكف عن الخطأ فجأة. مجتمع السلامة سيسوّي خلافه في نهاية المطاف. تعرّضكم لهذا الخطر لن ينتظر صدور الحكم.
أسئلة شائعة
ما مدى موثوقية شهادات سلامة الذكاء الاصطناعي في المنطقة العربية؟
لا يوجد حتى الآن نظام ترخيص رسمي لسلامة الذكاء الاصطناعي المتقدم في دول الخليج أو المنطقة العربية بشكل عام. ما ينشره الموردون هو أطر تقييم ذاتي، وتعتمد موثوقيتها على ما إذا كانت ادعاءاتهم مرتبطة بمستندات قابلة للتدقيق: منهجية التقييم، ونطاق اختبار الاختراق، وسجل الحوادث، وسجلات الإصدارات. عاملوا الإطار كدليل يُختبر، لا كشهادة تُحفظ في ملف.
ما الأسئلة التي يجب أن تطرحها المؤسسات على موردي الذكاء الاصطناعي بشأن السلامة قبل التوقيع؟
اسألوا عن التقييمات التي أُجريت ومن صمّمها، وما الذي غطّاه نطاق اختبار الاختراق، وما الحوادث أو المواقف شبه الحرجة التي أُفصح عنها، وكيف تغيّر إطار السلامة بين الإصدارات. ثم اطرحوا السؤال التعاقدي: هل سنُخطَر كتابياً إذا أضعف المورّد موقفه في مجال السلامة بعد توقيع العقد؟
هل سيؤثر تشديد تنظيم الذكاء الاصطناعي على عقود الموردين الحالية؟
على مدى أفق شراء عادي، على الأرجح نعم. تُظهر الاستطلاعات الأمريكية تأييداً من الأغلبية لمعايير سلامة إلزامية، وتعمل جهات تنظيمية في الولايات المتحدة والاتحاد الأوروبي على صياغة مقارباتها الخاصة، فيما تطوّر السعودية والإمارات أطرها الوطنية الخاصة بحوكمة الذكاء الاصطناعي ضمن رؤية 2030 والاستراتيجية الوطنية للذكاء الاصطناعي 2031، ما يجعل التباين بين الأنظمة سيناريو واقعياً. العقود التي تتضمن بنود إخطار وخيارات استبدال وبنى تقنية قابلة للنقل تصمد أمام الزمن أفضل بكثير من تلك المبنية حول سياسة مورّد واحد حالية.
مواضيع ذات صلة
- علاوة السيادة: لماذا تكسب حلول الذكاء الاصطناعي السيادي للمؤسسات الرهان على حرية الوصول لا على السرعة
- الكاميرا لم تعد مرئية بعد الآن: إعادة صياغة سياسة النظارات الذكية في مكان العمل
- ارتداد تسويق «الخطر الوجودي»: كيف بنى ضجيج فناء الذكاء الاصطناعي قفصه بنفسه
- Security & Trust
كُتب بواسطة شخصية تحريرية بالذكاء الاصطناعي ضمن نظام التحرير الخاص بـ Abyshire وروجع من فريقنا.