إغلاق الكود المصدري لن يمنع الذكاء الاصطناعي من اكتشاف ثغراتك: المراجعة الاستباقية هي الحل
حين أغلقت شركة ناشئة سريعة النمو كودها المصدري هربا من مهاجمي الذكاء الاصطناعي، أساءت قراءة التهديد. الخطر الذي حاولت الاختباء منه لا علاقة له تقريبا بمن يستطيع قراءة الكود المصدري، وكل علاقته بالكود الذي لم يراجعه أحد قط. هذا المنطق الخاطئ، لا قرار تلك الشركة وحدها، هو ما يُرجَّح أن ينتشر.
افتراض هادئ يسند معظم منظومات البرمجيات في الشركات: لم يحدث شيء سيئ بعد، إذن فالكود سليم. تجربتان من العقد الماضي كفيلتان بدفن هذا الافتراض. ففي عام 2016، وضع تحدي DARPA للأمن السيبراني سبعة أنظمة مستقلة على منصة في مؤتمر DEF CON، وجعلها تكتشف ثغرات في ملفات تنفيذية مجمّعة بلا كود مصدري وتثبتها وترقّعها دون أي تدخل بشري. وبعد ثماني سنوات، في نوفمبر 2024، عثر نظام Big Sleep التابع لـ Google على ثغرة أمنية غير معروفة سابقا وقابلة للاستغلال في ذاكرة برمجية SQLite، وصفها باحثوه بأنها أول ثغرة من هذا النوع يكتشفها عميل ذكاء اصطناعي في برمجية حقيقية مستخدمة فعليا. لا شيء من هذين حدثا افتراضيا، بل وقعا بالفعل.
ما يترتب عليهما استشراف، وسأضعه في إطاره الصحيح كتوقع. تكلفة توجيه هذه القدرة نحو كود قديم لم يُراجَع قط تتجه نحو الصفر: تطبيقات ويب قديمة، أجهزة توجيه لا يمكن تحديثها، برمجيات ثابتة لأجهزة إنترنت الأشياء، وحدات تحكم صناعية، حتى الشيفرات الدقيقة (microcode)، من محطات الطاقة إلى مشاريع المدن الذكية التي تشهدها المنطقة، وكلها أنظمة عملت دون مساس لسنوات لأن لا أحد وجد سببا للنظر فيها. الآن أصبح النظر فيها رخيصا، وعقد كامل من المخاطر المتراكمة وغير المفحوصة يبدأ يبدو كشيء يستطيع مهاجم مصمم إنجازه في أيام لا سنوات.
ردّ الفعل المبكر، في حالة واحدة على الأقل ملحوظة، كان إعادة تعريف الانفتاح نفسه على أنه الخطر. فإذا كان بإمكان المهاجمين توجيه نموذج ذكاء اصطناعي نحو كل مستودع كود عام وحصاد الثغرات على نطاق واسع، تقول الحجة، فإن الشفافية نفسها هي سطح الهجوم، ومن ثم يجب إسدال الستار. هذا بالضبط ما فعلته شركة Cal.com حين أغلقت كودها التجاري المصدري، بحجة رئيسها التنفيذي أن مهاجمي الذكاء الاصطناعي يستغلون شفافية الكود المصدري. الأمر حتى الآن مثال منفرد لا تيار عام، لكن القلق مفهوم، والضرر الحقيقي كامن في المنطق لا في قرار شركة واحدة، لأن هذا المنطق هو ما تُوشِك شركات أخرى على تقليده.
هل يحميك إخفاء الكود المصدري من مهاجمي الذكاء الاصطناعي؟
لنبدأ من الآلية. المهاجم يحتاج سلوكا يستطيع سبره، والكود المصدري ليس إلا أسرع طريق لفهم ذلك السلوك. الملفات التنفيذية المغلقة تُفكَّك (decompile). صور البرمجيات الثابتة تُفتَح وتُحاكى. أدوات الفَزّ (fuzzers) تقذف ملايين المدخلات المشوّهة على خدمة قيد التشغيل وتسجّل ما ينهار، دون رؤية سطر كود مصدري واحد. بحث الثغرات الأمنية سابق للمصدر المفتوح أصلا، وأمضى عقودا يعمل في العتمة ضد أنظمة مملوكة ومغلقة، فما يغيّره الذكاء الاصطناعي هو مدى هذه الحرفة القديمة، ويوسّعها لتشمل الملفات التنفيذية والبرمجيات الثابتة، لا لتقتصر على المستودعات العامة فقط.
ولنعترف بالوجه الصادق من حجة إغلاق المصدر، فهو حقيقي: الغموض يرفع تكلفة المهاجم عند الهامش. قراءة الكود المصدري أسرع وأنظف من إعادة بناء المنطق عبر مُفكِّك أو استنتاجه من كومة أعطال ناتجة عن الفزّ، لذا في حالة تجاوز مصادقة أو ثغرة حقن، فإن إخفاء المصدر يشتري فعلا هامشا زمنيا حقيقيا. لكن أمرين يُفسدان هذه المقايضة. الهامش يتقلص باستمرار مع تحسّن النماذج في تحليل الملفات التنفيذية والبرمجيات الثابتة، وهذا بالضبط ما رسم حدوده تحدي DARPA للأمن السيبراني منذ عام 2016، حين عمل النظام الفائز مباشرة على ملفات تنفيذية مجمّعة بلا أي كود مصدري. كما أنك تدفع ثمن هذا الهامش بطرد الباحثين الودّيين الذين ربما كانوا سيصلون إلى الثغرة قبل المهاجم، ما يعني أن التأخير الذي تشتريه هو السلعة الوحيدة التي تملكها منظومة غير مراجَعة أصلا بوفرة.
إذن، إغلاق المصدر يزيل راحة واحدة عن المهاجم بينما يتنازل عن شيء حقيقي للمدافع: كثرة العيون الفاحصة. الكود المفتوح كود قابل للمراجعة، وحين يمكن لتلك المراجعة أن تكون نموذجا يعمل على نطاق واسع، فإن القيمة الدفاعية للكود القابل للقراءة ترتفع لا تنخفض. المقايضة تُغلق التزاما متقلّصا وتفتح آخر متزايدا.
المتغيّر الذي يتجادل حوله الجميع، أي الظهور العلني، ليس هو التعرّض للخطر أصلا. التعرّض هو أن الكود لم يُراجَع قط منذ البداية. المستودع الخاص المليء بثغرات لم تُفحَص معرَّض للخطر بقدر يقارب المستودع العام، إلا في احتمال أن يصل باحث ودّي إلى الثغرة قبل باحث معادٍ.
القدرة متماثلة، فالسرعة هي الميزة الوحيدة الباقية
هنا يكمن الجزء المزعج. اكتشاف الثغرات بمساعدة الذكاء الاصطناعي لا يبالي بأي طرف يشغّله. النموذج نفسه الذي يكشف الثغرة في شجرة تبعياتك يكشفها لمن يوجّهه إليها أولا، فتنكمش الصورة الاستراتيجية بأكملها إلى رافعة واحدة، هي الوقت. الميزة الدائمة تعود لمن يراجع نظاما أولا، لأن أول فحص كفؤ يحوّل خطرا مجهولا إلى ترقيعة أو إلى استغلال، بحسب من يمسك بلوحة المفاتيح لحظة وقوعه.
لهذا السبب يُعدّ التأخير الخيار الباهظ. التعامل مع التدقيق العدائي بالذكاء الاصطناعي كشيء يُشترى في الدورة المالية المقبلة يفترض ضمنا أن خصمك يسير على الجدول الزمني نفسه، وهو ليس كذلك. الوضعية العملية هي تشغيل هذا الفحص على كودك الخاص وتبعياتك وأجهزتك المتصلة الآن، على افتراض أن طرفا آخر يستطيع فعل ذلك وسيفعله عاجلا أم آجلا. هذا الاستعجال أشد إلحاحا لمنظمات تعمل ضمن أطر تنظيمية كنظام حماية البيانات الشخصية السعودي (PDPL) أو برامج التحول الرقمي الخليجية التي تجعل من غياب المراجعة تقصيرا تنظيميا لا مجرد فجوة تقنية. نحن نساعد عملاءنا على بناء هذا النوع من الضمان الخاضع لإشراف بشري داخل طريقة تصميم الأنظمة العاملة بالذكاء الاصطناعي وتشغيلها بالضبط، لأن الدفاع يتحقق بالمراجعة نفسها، ولا تعوّض عنها أي سياسة تتعلق بإغلاق الكود المصدري أو فتحه.
ماذا لو تعذّر عليك مراجعة كل شيء؟
مبدأ «راجِع أولا» يفترض أنك قادر على ذلك، وكثير من المؤسسات ليست كذلك. إن كنت تدير أربعمائة صورة برمجية ثابتة لن تُعاد بناؤها أبدا، أو أسطولا من الأجهزة اختفى مورّدوها، فسباق يحسمه الوقت هو سباق تخسره على بعض الجبهات قبل أن يبدأ أصلا، والتظاهر بغير ذلك هو كيف يحصل مسرح الأمان الوهمي على بند في الميزانية.
لذا صنّف الأولويات بصدق. رتّب حسب إمكانية الوصول مضروبة في نطاق الأثر، لا حسب مدى الإزعاج الذي يسببه لك نظام بعينه. كل ما يواجه الإنترنت مباشرة، أو يبعد خطوة واحدة عن المصادقة، ينتقل إلى مقدمة القائمة، لأن هذا بالضبط ما يصل إليه فحص المهاجم أولا أيضا. أما بالنسبة للباقي غير القابل للترقيع، فتخلَّ عن افتراض أن الترقيع هو الضابط الوحيد المتاح: اعزل تلك الأجهزة في شرائح شبكية لا تصل إلى الإنترنت أو إلى أصولك الحساسة، وصفِّ حركة خروجها، وراقبها بحيث يصبح الاستغلال الذي لا تستطيع منعه استغلالا تستطيع رؤيته على الأقل. ستخسر بعض هذه السباقات، فموّل قدرات الكشف والاستجابة التي تحدد تكلفة سباق خسرته فعلا. حيث تستطيع التحرك أولا، تفوز المراجعة بلا منازع؛ وحيث لا تستطيع، يتحمل الاحتواء والمراقبة العبء، وإقرارك الصادق بأنك «لم تستطع مراجعته» ينبغي أن يُطلق ضابطا تعويضيا، لا مجرد هزّ للكتفين.
لماذا لا يمكنك تسعير هذا اعتمادا على بيان مورّد صحفي؟
لا شيء مما سبق يعني ابتلاع الخطاب التسويقي كاملا. المورّدون يروّجون الآن لعدد الثغرات الجوهرية التي عثر عليها نموذج مخصص للأمن، وهذه الأرقام قريبة من غير القابلة للتحقق. فعندما تحدثت Anthropic عن نتائج نموذجها المزعومة، لم تستطع الإفصاح إلا عن جزء يسير منها لأن معظم الثغرات ظلت دون ترقيع، ما يجعل التحقق المستقل صعبا فعلا. رقم بارز في عنوان لا يخبرك كم من العمل أنجزه النموذج وكم أنجزه البشر الذين وجّهوه، ولا ما إذا كانت الثغرات حقيقية أو جديدة أو قابلة للوصول فعليا. اطلب بدل ذلك منهجية واضحة، وعينة قابلة لإعادة الإنتاج من النتائج الفعلية، ودليلا على أن النموذج، لا المحلل البشري، هو من اكتشفها. سعِّر القدرة انطلاقا من الكتيب التسويقي وستكون قد دفعت ثمن قصة، وهذا تحذير يستحق تطبيقه على كل عرض أمني قائم على الذكاء الاصطناعي يصلك هذا العام.
الشكل الحقيقي الذي ستبدو عليه منظومتك
سيل الثغرات الحرجة المكتشَفة لن يتوزع بالتساوي. سيتركّز في الأنظمة التي لا يريد أحد لمسها: البرمجية الثابتة لجهاز شُحن عام 2014 ولن يتلقى تحديثا أبدا، الخدمة الداخلية التي غادر مؤلفها منذ ثلاث إعادات هيكلة، التبعية المدفونة في عمق ست طبقات من ملف قفل الحزم. فرق الهندسة الأصغر حجما، التي خفّضتها موجة ترشيد التكاليف نفسها التي تركت تلك الأنظمة يتيمة، ترث فجوة مراجعة تتسع بأيدٍ أقل لسدّها.
المشكلة نفسها قديمة، وما تغيّر هو السعر فقط. الثغرات الكامنة ظلت دائما بلا مساس لسنوات حتى جعلها باحث واحد عملية، تماما كما حوّل دان كامينسكي نقاط ضعف معروفة في تسميم ذاكرة DNS إلى هجوم عملي مثبت عبر تطبيقات كثيرة دفعة واحدة. ما يفعله الذكاء الاصطناعي بعملية الاكتشاف هذه هو ما فعله خط التجميع بالصناعة: تصنيعها على نطاق واسع.
انزع عن الجدل بين المصدر المفتوح والمغلق قشرته، وستجد التوجيه واضحا. اجرد كل ما تشغّله، بما في ذلك البرمجيات الثابتة والتبعيات التي لم تقرأها قط. وجّه نفس فئة الأدوات التي سيستخدمها المهاجم نحو منظومتك، تحت إشراف بشري، وأصلح ما تكشفه قبل أن يوثّقه غيرك. سؤال المصدر المفتوح مقابل المغلق نقاش سياسات يمكنك خوضه براحتك؛ المراجعة هي ما يحسم إن كنت لا تزال صامدا. أدرجها ضمن استراتيجيتك التقنية الآن، ما دام العثور على ثغراتك بنفسك أولا لا يزال ميزة متاحة أمامك.
أسئلة شائعة
هل المصدر المفتوح أقل أمانا الآن بعد أن أصبح الذكاء الاصطناعي قادرا على فحص الكود؟
ليس بهذا الوضوح. المهاجمون قادرون على استخلاص الثغرات من الملفات التنفيذية والبرمجيات الثابتة المغلقة عبر التفكيك (decompilation) والفزّ (fuzzing) والمحاكاة، لذا فإخفاء الكود المصدري يرفع تكلفتهم ويشتري وقتا، لا أنه يزيل التعرّض للخطر. التعرّض الحقيقي هو الكود غير المُراجَع، والمصدر المفتوح على الأقل يبقيه قابلا للقراءة من قِبل أدوات الدفاع والباحثين الذين قد يصلون إلى الثغرة أولا.
كيف أبدأ تدقيقا أمنيا لأنظمتي باستخدام الذكاء الاصطناعي؟
ابدأ بجرد شامل يتضمن التبعيات وأي برمجيات ثابتة في الأجهزة المتصلة، فهذه هي المواضع التي تتركز فيها الثغرات غير المفحوصة. بعدها شغّل اكتشاف ثغرات عدائيا على منظومتك تحت إشراف بشري، مع إعطاء الأولوية للأنظمة المواجهة للإنترنت والقريبة من المصادقة، وعامل كل نتيجة كشيء يجب ترقيعه قبل أن يُكشَف عنه في مكان آخر. وحيث يستحيل ترقيع نظام فعليا، احتوِه وراقبه بدلا من ذلك.
هل يمكنني الوثوق بادعاء مورّد حول عدد الثغرات التي عثر عليها نموذجه الأمني؟
ليس اعتمادا على الرقم البارز وحده. كثير من هذه الإجماليات غير قابلة للتحقق ولا يمكن نسبتها إلى النموذج بدل الباحثين الذين وجّهوه. اطلب منهجية قابلة لإعادة الإنتاج، وعينة من النتائج الفعلية، ودليلا على أن الاكتشاف تم بواسطة النموذج، قبل أن تُسعِّر القدرة.
مواضيع ذات صلة
- علاوة السيادة: لماذا تكسب حلول الذكاء الاصطناعي السيادي للمؤسسات الرهان على حرية الوصول لا على السرعة
- واشنطن تضع مختبرها الخاص للذكاء الاصطناعي على قائمة المخاطر... وهذا يغيّر معنى الارتهان لمزوّد الذكاء الاصطناعي
- لماذا تفشل مشاريع الذكاء الاصطناعي التجريبية في التوسع: المشكلة ثقة لا قدرة
- Security & Trust
كُتب بواسطة شخصية تحريرية بالذكاء الاصطناعي ضمن نظام التحرير الخاص بـ Abyshire وروجع من فريقنا.