الثقة العامة في تقنيات المراقبة: تصريح قابل للسحب، لا صفقة نهائية
يمكن للمجتمعات المحلية اليوم سحب موافقتها على تقنيات المراقبة المرئية بعد صب الخرسانة، واستبدال المورّد لحذف ميزة مثيرة للجدل لن يعيد شراء تلك الثقة. قبل توقيع العقد المقبل، حدّدوا هل المعارضة التي تواجهونها خاصة بميزة أم أنها معارضة فئوية شاملة، فالأولى وحدها قابلة للشراء.
دنفر دفعت للتو مقابل حل مشكلة قد لا تكون موجودة أصلا. في مواجهة اعتراضات متواصلة على كاميرات Flock لقراءة لوحات المركبات، وافق مجلس المدينة بأغلبية ضئيلة على عقد لاستبدالها بأجهزة Axon، بحجة أن Axon لا تُشغّل شبكة بحث وطنية. تم استبعاد مورّد واحد، وحُذفت ميزة واحدة، وافتُرض أن الغضب الشعبي قد هدأ. لكن هذا الافتراض هو ما يستحق التوقف عنده: فهو يفترض أن الاعتراض كان على الميزة تحديدا. أما إذا كان الاعتراض على الفئة نفسها، أي تتبع تحركات السكان آليا بوصفه ممارسة، فإن دنفر لم تشترِ أي ثقة عامة في تقنية المراقبة، بل أعادت ضبط ساعة الغضب نفسها، مع إضافة تكلفة التركيب فوقها.
كل عملية نشر مرئية للبنية التحتية الاستشعارية تعمل اليوم بموجب «تصريح» لم تتقدم الجهة الناشرة بطلب رسمي للحصول عليه: موافقة المجتمع المحلي. هذا الترخيص الاجتماعي يشبه رخصة التخطيط العمراني، لكن بفارق واحد ينبغي أن يقلق أي مدير مالي: يمكن سحبه بعد إنفاق رأس المال بالكامل. الاعتراضات التي كانت تقتصر سابقا على منتديات التعليقات الإلكترونية أصبحت تملأ قاعات مجالس المدن، وهي تتعامل بشكل متزايد مع الكاميرات وأجهزة الاستشعار ومراكز البيانات التي تقف خلفها بوصفها فئة واحدة. المطلب لم يعد «احذفوا ميزة البحث»، بل أصبح «لا نريدها في حينا من دون إذن». والأصل الذي يمكن أن يُسحب تصريح تشغيله بين ليلة وضحاها هو أصل مختلف تماما عن ذلك المُدرج في جدول الميزانية، وقلة من الجهات تُدخل هذا الفارق في نماذجها المالية أصلا. في الخليج، حيث تحتل المدن الذكية موقعا محوريا في برامج التحول الرقمي كرؤية السعودية 2030 واستراتيجية الإمارات للذكاء الاصطناعي، هذا الفارق ليس نظريا: فالكاميرات وأجهزة الاستشعار المنتشرة في المشاريع العمرانية الجديدة تخضع للمنطق نفسه.
أي مشكلة تشترون حلا لها فعليا: ميزة أم ترخيص؟
استبدال المورّد استجابة عقلانية لنوع واحد فقط من الاعتراض: ذلك الذي يحدد ميزة بعينها ويتوقف لو اختفت تلك الميزة. أما في مواجهة اعتراض فئوي شامل، فكل ما يتغير هو الشعار المثبت على العمود. هذا التشخيص لا يكلف شيئا، وهو ما يجعل ندرة استخدامه أمرا غريبا. اقرأوا مطالب المعترضين فعليا: إن استشهدوا بقدرة محددة (قاعدة بيانات وطنية مشتركة، مدد احتفاظ بالبيانات، وصول أطراف ثالثة) فأنتم بصدد التفاوض على ميزة، والميزات يمكن إزالتها أو تقييدها أو التعاقد على استبعادها. أما إن كان مطلبهم إزالة الكاميرات بالكامل، فلا قرار شرائي سيحل شيئا؛ فالمعركة تُستأنف في اليوم الذي تُنصب فيه الأعمدة الجديدة، إلا أنكم هذه المرة تكونون قد دفعتم مرتين.
يواصل المشترون الوقوع في هذا الخطأ التصنيفي لأن شكوى الميزة مفهومة بالنسبة لإدارة المشتريات، بينما الاعتراض الفئوي ليس كذلك. تستطيع إدارة المشتريات مقارنة بنود مشاركة البيانات بين العقود المتنافسة. لكن ليس لديها بند في الميزانية اسمه «الموافقة المجتمعية».
كيف تُبنى الثقة العامة في تقنيات المراقبة؟
يمكن تلخيص الدليل على أهمية الضمانات في جملة واحدة: شكوى جنائية في ميلووكي تزعم أن ضابط شرطة استخدم نظام قراءة اللوحات التابع للإدارة لتتبع شخص كان يواعده، وتقارير وكالة أسوشيتد برس تتبّعت بيانات لوحات مركبات تدفقت من قوة شرطة في إلينوي إلى مأمور مقاطعة في تكساس كان يحقق في قضية إجهاض تخص امرأة، وفي الحالتين كانت الأنظمة تعمل تماما كما صُممت. سوء الاستخدام موثّق؛ والسؤال المفيد هو أي ضمانة كانت لتمنعه. هندسة السلامة رتّبت الإجابات على هذا السؤال منذ عقود؛ والتسلسل الهرمي لضوابط السلامة يضع الضوابط الهندسية فوق الضوابط الإدارية لسبب دقيق: الضمانات التي تعتمد على حسن سلوك البشر تفشل أولا. طبّقوا هذا التسلسل الهرمي على ضمانات المراقبة، وتنقلب الكتيبات التسويقية رأسا على عقب. حظر الكلمات المفتاحية، وسياسات الاستخدام المحظور، ووحدات التدريب، كلها ضوابط إدارية: وعود بشأن سلوك بشري، والوعود بشأن السلوك البشري تخسر. الضابط الهندسي هو نقطة تفويض: طرف ثانٍ يجب أن يوافق على كل استعلام ذي أثر مقابل تبرير مكتوب قبل تنفيذه. أبطأ بالتصميم، والبطء هو بيت القصيد. الحجة ذاتها نسوقها في مقال الذكاء الاصطناعي العملي مع رقابة بشرية: البوابة هي ما يجعل القدرة قابلة للنشر أصلا.
ما الذي يستطيع المجلس المحلي التحقق منه فعليا؟
الأمن هو النصف الأضعف من الحجة لصالح البوابة. النصف الأقوى هو أن البوابة هي الضمانة الوحيدة التي يستطيع طرف خارجي تدقيقها. لجنة رقابة لا تستطيع تفتيش قائمة الكلمات المفتاحية لدى مورّد، ولا التأكد من أن مجموعة بيانات ظلّت محذوفة؛ فهذه الضمانات تعيش داخل المنتج ويمكن أن تتراجع مع أول تحديث للبرمجيات. أما شرط التفويض لكل استعلام فينتج آثارا موجودة خارج المنتج: موافق مسمى، وتبرير مكتوب، وسطر سجل لكل عملية بحث، ورقم قابل للعدّ. يستطيع المجلس المحلي إدراج هذه الآثار كشروط في العقد، ومراجعة السجلات كل ثلاثة أشهر، ونشر الأعداد، ومعرفة فورا ما إذا كان الوعد قد صمد. هذا يحوّل الموافقة من تصويت لمرة واحدة عند مرحلة التخطيط إلى تصريح قابل للتجديد يخضع لحق التفتيش، وهو الشكل الوحيد من الموافقة الذي يصمد بعد التركيب. التصريح يتوقف عن كونه مجازا في اللحظة التي يصبح فيها لدى الجهة المرخِّصة ما تتحقق منه فعليا.
المملكة المتحدة أجرت هذه التجربة بالفعل أمام القضاء. حين نشرت شرطة جنوب ويلز تقنية التعرف الفوري على الوجه، خلصت محكمة الاستئناف في قضية Bridges v South Wales Police إلى أن عمليات النشر غير قانونية، ليس لأن التقنية محظورة، بل لأن سياسات القوة الأمنية منحت الضباط الأفراد صلاحية تقديرية واسعة أكثر مما ينبغي بشأن من يُدرج في قائمة المراقبة وأين تُنصب الكاميرات. قدرة غير مقيدة سقطت أمام الرقابة القضائية حتى داخل واحد من أكثر أنظمة الرقابة كثافة في العالم: قانون حماية البيانات البريطاني، ومدونة ممارسات كاميرات المراقبة، والمعايير الوطنية لقراءة لوحات المركبات التي تحكم شبكة الشرطة البريطانية. الدرس هنا قابل للنقل مباشرة إلى سياقات أخرى، بما فيها الأنظمة التنظيمية الحديثة في الخليج كنظام حماية البيانات الشخصية السعودي ولوائح حماية البيانات الإماراتية: فالمحاكم والجهات الرقابية، شأنها شأن السكان، تتقبل الفئة التقنية نفسها بسهولة أكبر حين يكون «من يستخدمها ولماذا» في كل حالة مقيدا مسبقا وموثقا. وفي بريطانيا يمكن الوصول إلى هذا السجل: سجلات جهة تشغيل عامة قابلة للإفصاح بموجب قانون حرية المعلومات لعام 2000، مع استثناءات مثل الإضرار بإنفاذ القانون، بينما تتفاوت قوانين السجلات العامة في الولايات الأمريكية لكنها غالبا ما تصل إلى مواد مشابهة. مسار التدقيق الذي يتيح لكم الدفاع عن عملية بحث مشروعة هو المسار نفسه الذي يتيح لمتقاضٍ إثبات أن عملية أخرى كانت غير مشروعة، ولهذا ينبغي أن يكون تتبع المصدر جزءا من التصميم منذ البداية، تماما كما تُعامل قابلية التتبع في الأنظمة العميلة الآمنة، لا أن تُدار كمخاطرة إفصاح لاحقة.
تنبيه أخير بشأن عملية الشراء نفسها. مزاعم الموردين حول قدرات منتجاتهم تصل عادة عبر مديري حسابات قد لا يعرفون بصدق السلوك الحقيقي الكامل للمنتج، كما يوضح وصف Flock المحدود بعناية لتعاملها مع سلطات الهجرة الأمريكية، لذا فإن الأسئلة الأساسية يجب أن تُطرح كتابةً ضمن أعمال التأهب قبل أي شراء أو بناء: من يستطيع الاستعلام، ومن أين، وبموافقة من، وبأي سجل، ومع من تُشارَك البيانات.
لكل من يخطط لنشر كاميرات أو أجهزة استشعار أو مركز بيانات، فإن الحساب هنا غير مريح. القدرة التقنية أصبحت الجزء الرخيص؛ فأي مورّد يستطيع بيعكم جهاز الاستشعار. أما التصريح فلا يأتي إلا من المجتمع المحلي، مُقوَّما بالثقة، وقابلا للسحب في أي وقت. لذا شغّلوا هذا التشخيص قبل التوقيع على العقد المقبل. إن كان الاعتراض محددا بميزة، تفاوضوا على الميزة. وإن كان فئويا شاملا، فلا استبدال مورّد سينقذكم، والمال ينبغي أن يذهب إلى عملية بناء الموافقة بدلا من ذلك: بوابة تفويض مكتوبة في العقد، وسجلات تقبلون نشرها، وحقوق تفتيش يستطيع الحي فعليا استخدامها.
الموافقة هي القيد. أنفقوا وفقا لذلك.
أسئلة شائعة
ما المقصود بالترخيص الاجتماعي لتشغيل تقنيات المراقبة؟
هو الموافقة غير الرسمية والقابلة للسحب التي يمنحها المجتمع المحلي لجهة تنشر بنية استشعارية مرئية. وخلافا لرخصة التخطيط العمراني، لا تصدر هذه الموافقة رسميا، لذا نادرا ما تظهر في سجل المخاطر، إلا أنها قابلة للسحب بعد التركيب عبر تصويتات المجالس المحلية وإلغاء العقود والاحتجاجات المستمرة، ما يترك رأس المال المُنفق معلّقا بلا جدوى.
هل يوقف تغيير مورّد تقنية المراقبة الغضب الشعبي؟
فقط حين تكون المعارضة خاصة بميزة بعينها. إن طالب المعترضون بإزالة قدرة محددة، مثل قاعدة بيانات بحث وطنية مشتركة، فإن مورّدا لا يملك تلك القدرة قد يحل النزاع فعليا. أما إن كان الاعتراض على فئة التقنية نفسها، فإن الاستبدال يعيد إشعال النزاع نفسه تحت شعار جديد، وتدفع الجهة تكلفة النشر مرتين.
هل التعرف الفوري على الوجه قانوني في المملكة المتحدة؟
لا يوجد حظر شامل. في قضية Bridges ضد شرطة جنوب ويلز عام 2020، رأت محكمة الاستئناف أن عمليات نشر القوة الأمنية غير قانونية لأن سياساتها منحت الضباط صلاحية تقديرية واسعة أكثر مما ينبغي حول من يُستهدف وأين تُنصب الكاميرات، ولأن تقييم حماية البيانات لديها كان قاصرا. واستأنفت قوات الشرطة عمليات النشر لاحقا بموجب سياسات منشورة أكثر صرامة، ما يعني أن الوضع العملي هو أن التعرف الفوري على الوجه يصمد أمام الرقابة فقط حين يكون كل استخدام مقيدا ومبررا وموثقا مسبقا.
مواضيع ذات صلة
- علاوة السيادة: لماذا تكسب حلول الذكاء الاصطناعي السيادي للمؤسسات الرهان على حرية الوصول لا على السرعة
- واشنطن تضع مختبرها الخاص للذكاء الاصطناعي على قائمة المخاطر... وهذا يغيّر معنى الارتهان لمزوّد الذكاء الاصطناعي
- لماذا تفشل مشاريع الذكاء الاصطناعي التجريبية في التوسع: المشكلة ثقة لا قدرة
- Security & Trust
كُتب بواسطة شخصية تحريرية بالذكاء الاصطناعي ضمن نظام التحرير الخاص بـ Abyshire وروجع من فريقنا.