وكيل الذكاء الاصطناعي قادر أصلاً على حذف قاعدة بياناتك بالكامل: منع أمر الحذف لن يحميك
شركات كثيرة تبيع اليوم أدوات تعترض كل إجراء ينفذه وكيل الذكاء الاصطناعي وتحظر ما يبدو خطيراً منه. لكن فعل الحذف غالباً هو الإجراء المشروع نفسه الذي كُلِّف الوكيل بتنفيذه، فالضابط الذي يصمد فعلاً هو قابلية التراجع وحجم الضرر المحتمل، لا حظر الفعل بحد ذاته.
حين تمنح وكيلاً ذاتي التشغيل بيانات اعتماد للدخول، فأنت لا تمنحه صلاحية وصول فحسب، بل تضع أمامه قائمة كاملة من الإجراءات الممكنة. معظم منظومة الأمن السيبراني في الشركات بُنيت للإجابة عن سؤال واحد: هل يُسمح لهذا الطرف بالوصول إلى هذا التطبيق؟ الجدران النارية، وأنظمة إدارة الهوية، ومراجعات الصلاحيات، كلها تتوقف عند الباب. لا شيء منها يحكم ما يفعله الوكيل بعد أن يعبر ذلك الباب، وهناك بالتحديد يقع الضرر الفعلي لأي نظام ذاتي التشغيل.
رد الموردين على هذه الفجوة هو التدخل الدقيق على مستوى كل إجراء: تقييم كل حركة ينفذها الوكيل لحظياً، وحظر الخطير منها قبل أن يُنفَّذ. إيقاف عملية حذف بعينها، في جلسة بعينها، قبل تنفيذها، دون تعطيل التسعة والتسعين إجراءً المشروعة من حولها. هذا تقدّم حقيقي على منطق السماح الكامل أو المنع الكامل، لكنه لا يزال يعالج النصف الخطأ من المشكلة.
وهذا هو ما يتجاهله العرض التسويقي: الفعل نفسه ليس مصدر الخطر. لا شيء عدائي بطبيعته في أمر حذف. وكيل كُلِّف بتنظيف سجلات مكررة لا بد أن يحذف. وكيل يُسوّي دفتر حسابات لا بد أن يستبدل قيماً قديمة بأخرى. وكيل يُنهي صلاحيات موظف مغادر لا بد أن يُلغي وصوله. احظر فعل الحذف تعطّل المهمة التي نشرت الوكيل من أجلها، واسمح به فالصلاحية ذاتها التي تحذف عشرة سجلات مكررة قادرة على حذف عشرة آلاف سجل. بوابة تعمل على مستوى كل فعل مُجبرة على اتخاذ قرار لا تملك السياق الكافي له: أهذا هو الحذف الذي أردته، أم الحذف الذي يُنهي عملك؟ كرّر هذا القرار آلاف المرات في الدقيقة، وستكون بعض الأحكام خاطئة حتماً، وسياسة تعمل على مستوى الفعل لا تمنحك وسيلة لجعل الخطأ رخيص الثمن. وكون الصلاحية الواحدة تجمع غالباً بين القراءة والكتابة والحذف ليس عيباً عارضاً في إعدادك: إرشادات مؤسسة OWASP حول «الصلاحية المفرطة» في الأنظمة القائمة على الذكاء الاصطناعي التوليدي ترصد بالضبط هذه المشكلة، إذ تصف تكاملاً مُنح لغرض القراءة فقط، ليتبيّن أنه يسمح ضمناً بالتعديل والحذف أيضاً.
لذا فالسؤال المفيد ليس هل يجوز للوكيل أن يحذف. السؤال هو ماذا يحدث حين يحذف شيئاً لم يكن ينبغي له حذفه. خاصيتان تحسمان الإجابة، وليس الفعل نفسه: مدى قابلية الإجراء للتراجع، ومدى اتساع نطاق ضرره. صمّم أنظمتك على أساس هاتين الخاصيتين، وسيتحول أمر الحذف الخاطئ إلى إزعاج تتراجع عنه، لا إلى حادثة تُضطر للإفصاح عنها.
كيف تُصنَّف الإجراءات المسموح بها لوكيل الذكاء الاصطناعي؟
صنّف الإجراءات بحسب عاقبتها، لا بحسب اسمها. أربعة مستويات، من الرخيص إلى الكارثي، لكل منها ضابطه وتكلفته.
المستوى الأول، الإجراءات غير المُغيِّرة للحالة: القراءة، الاستعلام، التلخيص. لا تُغيِّر أي بيانات، لذا فهي رخيصة السماح وعديمة الجدوى إن رُوقبت واحدة تلو الأخرى. الخطر المتبقي ليس الإتلاف بل التسريب، فوكيل يقرأ كل شيء بسرعة يُعد حدث فقدان بيانات حتى لو لم يُتلف شيئاً. الضابط المناسب هو سقف استهلاك لكل جلسة وتسجيل كامل للنشاط، لا اعتراض على كل عملية قراءة على حدة.
المستوى الثاني، الكتابة القابلة للتراجع: الإنشاء والتحديث حين تُحفَظ الحالة السابقة. احتفظ بنسخة ما قبل التعديل لكل سجل يلمسه الوكيل، وبذلك يمكن التراجع عن أي كتابة. الثمن هو مساحة تخزين إضافية وتضخم في عمليات الكتابة، وبنية بيانات تحمل إصدارات لم تكن تحملها من قبل. لمعظم بيانات الأعمال هذا ثمن زهيد مقارنة بتكلفة استبدال لا يمكن التراجع عنه.
المستوى الثالث، الإتلاف القابل للاسترجاع: الحذف والأرشفة عبر علامة حذف مؤقتة بدل الحذف الفعلي. بدلاً من إزالة السجل، يُعلَّم بأنه محذوف ويبقى قابلاً للاسترجاع خلال نافذة احتفاظ محددة. يرى الوكيل السجل وقد اختفى وينتقل إلى مهمته التالية، بينما تحتفظ أنت بفترة كافية لاكتشاف الخطأ وعكسه. والتوتر هنا حقيقي ويستحق التوضيح: البيانات التي تلتزم قانوناً بمحوها، بموجب أنظمة حماية البيانات في المنطقة مثل نظام حماية البيانات الشخصية السعودي، لا يمكن أن تبقى معلَّمة للحذف إلى أجل غير مسمى، فنافذة الاحتفاظ قرار سياسة وليست إعداداً افتراضياً.
المستوى الرابع، الإجراءات التي لا رجعة فيها: إسقاط جدول كامل، محو بيانات بعد انتهاء نافذة الاحتفاظ، إعادة كتابة مجموعة صلاحيات، أو تصدير كميات كبيرة من البيانات إلى وجهة خارج سيطرتك. هذه وحدها تستحق فعلاً اعتراضاً يوقف التنفيذ قبل وقوعه، والغاية من المستويات الثلاثة الأولى هي إبقاء هذه القائمة قصيرة. القائمة القصيرة يسهل تأمينها بشكل صارم، فموافقة أشد صرامة، أو بيانات اعتماد إضافية، أو توقيع إنسان على المستوى الرابع، تكلفتها زهيدة تحديداً لأن المستوى الرابع نادر الحدوث. المطالبة بالطقوس نفسها لكل إجراء هو ما يجعل التدخل الشامل على مستوى كل فعل ينهار تحت وطأة البطء.
قابلية التراجع تحدد سقف الضرر الناتج عن خطأ واحد. أما ميزانية نطاق الضرر فتحدد سقف عدد الأخطاء التي تتراكم قبل أن يتوقف شيء. امنح كل جلسة وكيل سقفاً: حداً أقصى من العمليات الإتلافية قبل أن تتوقف الجلسة للمراجعة، وتنفيذاً على دفعات بدل تطبيق كل التغييرات دفعة واحدة، وحدوداً لمعدل التنفيذ تقطع أي حلقة متسارعة قبل أن تُكمل عملها بوقت طويل. لا شيء من هذا يفترض أن الوكيل معصوم من الخطأ. ميزانية نطاق الضرر تضمن فقط أن جلسة واحدة لا يمكنها إحداث ضرر غير محدود في الفجوة الزمنية بين وقوع الخطأ واكتشافه.
الغموض الذي كنت تعتمد عليه مجاناً
هناك أثر ثانوي لم يضعه أحد على سجل المخاطر. بيانات الشركات مُبعثرة عبر عشرات تطبيقات SaaS، وكان هذا التشتت يؤدي عملاً أمنياً غير مُسعَّر. لم تكن السجلات الحساسة محمية بقدر ما كانت مُشتَّتة، وكان العثور عليها مكلفاً لأي مهاجم مضطر للتنقل تطبيقاً بعد تطبيق، ومخططاً بعد مخطط، بسرعة الإنسان. تكلفة الاكتشاف كانت هي الضابط الفعلي، ولم تظهر يوماً كبند في أي ميزانية.
الوكيل يقوّض هذه التكلفة. يستطيع التنقل بين الأنظمة بمنهجية، وربط ما كان مكلفاً للغاية ربطه سابقاً، ويفعل ذلك بسرعة الآلة. البيانات التي كانت خاصة عملياً لأنها كانت صعبة العثور عليها تصبح قابلة للاكتشاف بشكل منهجي. الآلية نفسها تميل إلى كشف ديون الهوية التي تحملها معظم البنى التحتية: حساب المدير الذي لا يملك مصادقة ثنائية، الحساب المحلي الذي يتحايل على منظومة الهوية المركزية، الحساب الخدمي الذي لم يراجعه أحد منذ إنشائه. مهاجم بشري بطيء نادراً ما كان يصل إلى فحص كل ذلك، أما المهاجم الآلي الذي لا يكل فيجعل من ذلك روتيناً معتاداً. هذه استنتاج مبني على سلوك هذه الأنظمة، لا رقم مقيس، لكن اتجاهه صعب الجدال فيه.
السوق سبق أن سعّر نسخة من هذا الخطر. حين دفعت شركة F5 نحو مليار دولار للاستحواذ على Shape Security، في صفقة أُغلقت في أوائل عام 2020 وفق الإقرار الرسمي لشركة F5 لدى الجهات التنظيمية الأمريكية، كانت تشتري القدرة على التمييز بين السلوك المشروع وإساءة الاستخدام الآلي، لا مجرد التحقق ممن يقف عند الباب. الفرضية نفسها تنطبق اليوم داخلياً، على وكلاء يحملون بيانات اعتماد صحيحة لكنهم يتصرفون بها بشكل غير طبيعي. حيث كان المحيط الخارجي هو الأهم سابقاً، بات السلوك داخل التطبيق نفسه هو محور الاهتمام، والإنفاق.
هل يكفي وضع إنسان في حلقة القرار؟
الغريزة الأولى، حين يتضح الخطر، هي وضع إنسان أمام الإجراءات الخطيرة. هذا يصلح للمستوى الرابع، حيث القائمة قصيرة بما يكفي لألا تُبطئ قائمة انتظار الموافقات عمل الوكيل. لكنه يفشل في كل ما عداه. عمليات الأمن السيبراني الناضجة تفترض وجود محلل في المنتصف: تنبيه يُطلق، شخص يحقق فيه، ثم قرار يصدر بعد دقائق أو ساعات. أمام مهاجم بشري، الدقائق عادة لا بأس بها. أمام وكيل يقرأ ويربط ويحذف داخل جلسة تشغيل ذاتية واحدة، الدقائق تُصبح تقريراً بعد وقوع الحادث، فجدول محذوف لا ينتظر بأدب حتى تُستعاد نسخته أثناء مراجعة التذكرة.
لهذا يجب أن تكون قابلية التراجع، لا الحكم البشري اللحظي، الضابط الافتراضي. لا يمكنك تعيين شخص خلف كل إجراء يتخذه وكيل، ولا ينبغي لك المحاولة. اجعل الإجراءات الشائعة آمنة حتى في حال الخطأ، واحتفظ بالإجراءات التي لا رجعة فيها ضمن قائمة قصيرة، بحيث يذهب الانتباه البشري إلى القائمة القصيرة التي تستحقه فعلاً. الجهات التي تبني هذا في صميم بنيتها، بدل إضافته بعد أول جلسة تشغيل خاطئة، هي التي تتعامل مع تأمين الأنظمة العاملة بالوكالة كتخصص هندسي، لا كبند في قائمة امتثال.
المنظومة التي تملكها معظم الشركات أصلاً بُنيت للإجابة عن سؤال: هل يُسمح لهذا الوكيل بالدخول؟ التدخل على مستوى كل فعل، وهو ما يبيعه الموردون اليوم، ينقل السؤال إلى ما يفعله الوكيل بعد الدخول، وهذا تقدّم فعلي. لكن ضبط الفعل ليس خط النهاية. اجعل الإجراءات الشائعة قابلة للتراجع، وحدد ميزانية نطاق الضرر لكل جلسة، ثم احرس القائمة القصيرة من الإجراءات التي لا يمكن فعلاً التراجع عنها. افعل ذلك، وسيصبح أسوأ ما يفعله الوكيل في جلسة واحدة أمراً تتراجع عنه قبل الغداء، لا أمراً تشرحه لجهة تنظيمية.
أسئلة شائعة
هل يجب حظر وكيل الذكاء الاصطناعي من الحذف أو إسقاط البيانات؟
نادراً ما يكون ذلك مناسباً، لأن حظر الفعل بشكل شامل يعطّل عملاً مشروعاً: وكيل مكلَّف بتنظيف سجلات مكررة أو إنهاء صلاحيات موظف مغادر لا بد أن يحذف ويُلغي الوصول. النمط الأقوى هو تمرير عمليات الإتلاف عبر حذف ناعم أو علامة حذف مؤقتة مع نافذة احتفاظ، بحيث يبقى الحذف الخاطئ قابلاً للاسترجاع، مع الاحتفاظ بالحظر الصارم الذي يوقف التنفيذ قبل وقوعه لقائمة قصيرة من الإجراءات التي لا رجعة فيها فعلاً، مثل إسقاط جدول كامل أو تصدير كميات ضخمة من البيانات.
ما المقصود بـ«ميزانية نطاق الضرر» لوكلاء الذكاء الاصطناعي؟
هي سقف لكل جلسة يحدد مقدار الضرر الذي يمكن أن تُحدثه عملية تشغيل واحدة: حد أقصى من العمليات الإتلافية قبل أن تتوقف الجلسة للمراجعة، وتنفيذ التغييرات على دفعات بدل تطبيقها دفعة واحدة، وحدود لمعدل التنفيذ تقطع أي حلقة متسارعة. الغاية ليست جعل الوكيل معصوماً من الخطأ، بل تحديد سقف لعدد الأخطاء التي تتراكم قبل أن يتوقف شيء، بحيث يتحول حادث غير محدود إلى حادث محتوى.
هل يحمي تشتت البيانات عبر تطبيقات SaaS المتعددة من وكلاء الذكاء الاصطناعي؟
كان يحمي، ولكن عرضاً لا قصداً. التشتت كان يجعل العثور على السجلات مكلفاً لمهاجم يتنقل تطبيقاً بعد تطبيق بسرعة الإنسان، فكانت تكلفة الاكتشاف تعمل كضابط أمني غير مُسعَّر. الوكيل يتنقل بين هذه الأنظمة ويربط بياناتها بسرعة الآلة، فتصبح البيانات التي كانت خاصة عملياً لأنها كانت صعبة العثور عليها قابلة للاكتشاف بشكل منهجي، ويتوقف التشتت عن العمل كدفاع فعلي.
مواضيع ذات صلة
- علاوة السيادة: لماذا تكسب حلول الذكاء الاصطناعي السيادي للمؤسسات الرهان على حرية الوصول لا على السرعة
- واشنطن تضع مختبرها الخاص للذكاء الاصطناعي على قائمة المخاطر... وهذا يغيّر معنى الارتهان لمزوّد الذكاء الاصطناعي
- لماذا تفشل مشاريع الذكاء الاصطناعي التجريبية في التوسع: المشكلة ثقة لا قدرة
- Security & Trust
كُتب بواسطة شخصية تحريرية بالذكاء الاصطناعي ضمن نظام التحرير الخاص بـ Abyshire وروجع من فريقنا.