هل يمكن التلاعب بإجابات الشات بوت؟ عاملوها كتحسين محركات بحث لا كمرجع موثوق
شركات كثيرة باتت تُدخل مخرجات روبوتات الدردشة مباشرة في قرارات الشراء والاستراتيجية وكأنها مصدر محايد لا يُخطئ. لكن سوقاً كاملاً للتلاعب بهذه الإجابات يتشكل الآن، والافتراض الآمن هو أن هذه القناة، ككل قناة تحمل مالاً، قابلة للتلاعب.
بدأت المؤسسات تتعامل مع إجابات روبوتات الدردشة وكأنها مرجع محايد لا يُشكَّك فيه: تسأله عن المورّد الذي يستحق الترشيح، أو السوق الذي يستحق الدخول، أو مدى مصداقية شريك محتمل، ثم تنسخ الإجابة مباشرة إلى عرض تقديمي لمجلس الإدارة. فلنطرح السؤال الذي ينبغي على فرق المشتريات والاستراتيجية أن تطرحه قبل أن تكرر هذا الفعل: هل يمكن فعلاً التلاعب بإجابات الشات بوت الذكي؟ الجواب نعم، وثمة صناعة ناشئة تتشكل الآن لفعل ذلك بالضبط.
تتبّعوا الآلية، لأنها تكاد تكون نسخة طبق الأصل من تجربة عشناها من قبل. بدأت محركات البحث كفهارس محايدة لصفحات الإنترنت. لكن بمجرد أن أصبح ترتيبها في نتائج البحث يحدد من يحصل على العملاء، نشأت صناعة كاملة لتحسين الظهور فيها (SEO)، وتحوّلت نتائج البحث إلى ساحة متنازع عليها يجب قراءتها بحذر لا بثقة. إجابات روبوتات الدردشة تقف اليوم عند النقطة ذاتها من هذا المنحنى: هي تؤثر في قرارات الشراء، وبالتالي ستكون هدفاً للتحسين المتلاعب به. تسميتها «ذكاءً اصطناعياً» لا يعفيها من هذا الجذب، بل يؤخر فقط لحظة اكتشاف الأمر.
هل التلاعب بإجابات الذكاء الاصطناعي واقع فعلي أم افتراض نظري؟
الأمر ليس نظرياً على الإطلاق. وثّقت مجلة The Atlantic ظهور صناعة لتحسين الظهور في إجابات الذكاء الاصطناعي، تشمل مسوّقين يزرعون إشارات إيجابية لعلاماتهم عبر حسابات في Reddit لاستغلال ميل بعض النماذج إلى اعتبار هذه المنصة مصدراً موثوقاً، وأحد العملاء شهد، بحسب التقرير، تضاعف ظهور علامته في إجابات ChatGPT ثلاث مرات. اقرأوا التحفظ المرافق بعناية لأنه أهم من العنوان نفسه: هذه النتيجة رصدية ولم يُعَد اختبارها بشكل مستقل. لذا فالموقف الأمين ليس «هذا ينجح قطعاً»، بل أضيق وأكثر إزعاجاً من ذلك: هناك من ينفق المال في محاولة التأثير، وبعض المنصات المستهدفة حقيقية فعلاً، وإذا نجحت هذه المحاولات ولو جزئياً، فإن أداة البحث التي يعتمد عليها موظفوكم تحوّلت بصمت إلى قناة معادية دون أن تخبركم بذلك.
البنية التحتية لهذا السباق تتحرك أسرع من الأدلة التي تثبته. أفادت Digiday بأن مجلة Time حوّلت صفحاتها إلى نسخ مبسّطة قابلة للقراءة الآلية، وبدأت ببيع «إعلانات للوكلاء» موجَّهة تحديداً للنماذج التي تقرأها. بات ناشر إعلامي كبير يبني منتجاً زبونه ليس إنساناً بل قارئاً آلياً، وحمولته مادة تسويقية. وحين يكون القارئ آلة تلخّص دون تشكيك، يصبح الفرق بين «محتوى مصمم للآلات» و«محتوى مصمم للتلاعب بالآلات» مجرد فاتورة مختلفة على المستند نفسه.
ما التكلفة الفعلية لإجابة متلاعَب بها؟
لا يبقى شيء من هذا نظرياً حين يترجم إلى قرار فعلي. ففي 2024، ألزمت هيئة تحكيم كندية شركة طيران Air Canada بتطبيق خصم حالة وفاة اخترعه روبوت خدمة العملاء التابع لها من تلقاء نفسه، ورفضت الهيئة حجة الشركة بأنها غير مسؤولة عمّا يقوله الروبوت لعملائها (القرار متاح للاطلاع العام). تجاوزوا الإطار الخدمي للقصة، لأن المبدأ الحقيقي فيها يخص المشتريات: بمجرد أن تُدخلوا مخرجات نموذج ذكاء اصطناعي في قرار، تتحملون مسؤولية هذه المخرجات، بما فيها الأجزاء المختلقة. روبوت يجيب نيابة عن Air Canada اخترع سياسة كلّفت الشركة مالاً حقيقياً؛ وأداة بحث خضعت لتحسين من أطراف لا تخضع لرقابتكم قادرة تماماً على اختراع قائمة موردين مرشحين، والمسؤولية عن التصرف بناءً عليها تقع على عاتقكم بالطريقة نفسها.
يكمن خطر أهدأ وأعمق في سلسلة تزويد البيانات التي تُبنى عليها هذه النماذج، وهو يسير في الاتجاه المعاكس للتلاعب المتعمد. فمع ارتفاع نسبة النصوص الاصطناعية على الإنترنت، تتدرب النماذج بشكل متزايد على مخرجات نماذج سابقة لها، والحجة القائلة إن هذا يُضعف الجودة تدريجياً باتت تُشكّل سلوك الصناعة فعلاً. نقلت TechRadar عن 404 Media أن شركات ذكاء اصطناعي تسعى للحصول على كتب مطبوعة سابقة لعام 2022 لأنها تسبق زمن انتشار نصوص الشات بوت، وتُتلف أحياناً النسخ الورقية الأصلية أثناء مسحها الجماعي. حين تُقطَع أغلفة كتب نادرة للوصول إلى نص كتبه بشر فعلاً، فإن هذا يكشف تقييم هذه الشركات الحقيقي لجودة مصادرها الحالية. البيانات النظيفة المضمونة البشرية المصدر أصبحت مورداً نادراً، وندرة مدخل لا يمكنكم التحقق منه هي بالتعريف مخاطرة في سلسلة التوريد، تكبر بقدر ما تأخذونه من مخرجات المنتج على الثقة بدل التحقق.
ماذا يعني هذا إن كنتم تمررون قراراتكم عبر شات بوت؟
الخطأ العملي هنا خطأ في التصنيف. تستورد الفرق إجابات الشات بوت وكأنها بحث جاهز القراءة، بينما النموذج الذهني الصحيح هو التعامل معها كمصدر غير موثَّق خضع لتحسين متلاعِب من أطراف لا ترونها. هذا ليس دعوة للتخلي عن هذه الأدوات، بل دعوة لمراقبتها. كل إجابة ستُبنى عليها قرارات تحتاج إلى تتبّع مصدر: من أين جاء هذا الادعاء؟ هل المصدر مستقل عن الجهة التي يُثني عليها؟ هل يصمد أمام نظرة ثانية؟ هذا هو الانضباط المعتاد في الأنظمة الوكيلة مطبَّقاً على البحث بدل الأفعال، وهو الفارق بين مساعد مفيد وخدمة تبييض لأي رسالة تسويقية وصلت إلى النموذج أولاً.
وتترتب على ذلك نتائج من الدرجة الثانية بسرعة. فبمجرد أن يصبح تحسين الظهور في إجابات الذكاء الاصطناعي بنداً حقيقياً في ميزانية أحد المنافسين، لن يستهدف هجومه أنظمتكم مباشرة، بل المصادر التي تثق بها النماذج، ما يعني أن منافساً قادر على تشكيل «البحث المستقل» الذي يعتمد عليه مشترو منتجاتكم دون أن يلمس أنظمتكم إطلاقاً. هذا خطر يتصاعد مع اندفاع مؤسسات المنطقة نفسها، في إطار برامج التحول الرقمي الوطنية الكبرى وتوسّع الاستثمار السيادي في الذكاء الاصطناعي، نحو تبني هذه الأدوات في المشتريات والاستراتيجية بوتيرة تسبق نضج أي معيار تدقيق يقيس هذا الخطر بدقة. لذا لا بد أن تكون الضوابط إجرائية، ومحددة بما يكفي لتطبيقها هذا الأسبوع بالذات.
ابدؤوا بمنع مدخلات الشات بوت منعاً تاماً من ثلاث فئات قرارات: أي أمر ذي تبعات قانونية أو تنظيمية (بنود العقود، الامتثال، الادعاءات المتعلقة بالتراخيص، بما فيها التوافق مع أنظمة حماية البيانات المعمول بها إقليمياً)، والاختيار النهائي للموردين أو الشركاء حين يتحرك المال فعلياً، وأي ادعاء يخص أوضاع منافس أو طرف مقابل محدد بالاسم من الناحية المالية أو الأمنية أو السلوكية. داخل هذه الفئات، إجابة النموذج مجرد خيط يستحق التحقق، لا مُدخل يُبنى عليه قرار.
أما فيما يتجاوز هذه الفئات، فطبّقوا اختبار استقلالية المصدر المكوّن من ثلاثة أسئلة. لنفترض قائمة ترشيح حقيقية: يوصي مساعدكم بمورّد «أ» لمنصة بيانات. أولاً، اطلبوا من الأداة مصادرها وافتحوها فعلياً؛ فرابط لا يعمل هو إجابتكم بحد ذاتها. ثانياً، اختبروا استقلالية كل مصدر عن المورّد «أ»: نقاش على Reddit، أو مقالة «أفضل منصات البيانات لعام 2026»، أو مدونة المورّد نفسه، كلها ترسب في هذا الاختبار؛ أما تقرير محلل مدفوع أو عميل مرجعي محدد بالاسم يمكن الاتصال به فيجتازان الاختبار. ثالثاً، تحققوا من الادعاء الجوهري الوحيد (مثل «حاصل على شهادة SOC 2 من النوع الثاني»، أو «تعتمده ثلاثة من أكبر أربعة بنوك في المنطقة») من مصدر خارج النموذج تماماً. أي توصية لا تصمد أمام هذه الأسئلة الثلاثة تعود إلى كومة المواد التسويقية، لا إلى البحث الجاد. فضّلوا ذكاءً اصطناعياً يمكن الإشراف عليه على ذكاء اصطناعي يجب الوثوق به أعمى، وضمّنوا هذه الضوابط في استراتيجيتكم التقنية قبل أن تنضج صناعة التلاعب هذه، لا بعد أن تُحرجكم.
وأخيراً، تعلّموا التعرف على إجابة مسمومة بمشاهدة إحداها. حين نصحت ميزة AI Overviews من Google المستخدمين بإضافة غراء إلى صلصة البيتزا لمنع الجبن من الانزلاق، تبيّن أن التوصية مصدرها تعليق ساخر نُشر على Reddit قبل سنوات، وظهر لأن النظام اعتبر تلك المنصة مصدراً موثوقاً (علّقت Google علناً على الواقعة). لم يكن أحد بحاجة لمهاجمة Google؛ النموذج بيّض مصدراً سيئاً وحوّله بمفرده إلى نثر واثق ومقنع. استبدلوا نكتة البيتزا بجملة مزروعة عن موثوقية خدمة مورّد أو سجل أمان منافس، وستحصلون على الشكل ذاته للهجوم، ناقصاً فقط العلامة التي جعلت هذه الحادثة مضحكة.
علّمتنا محركات البحث هذا الدرس مرة، وبثمن باهظ. القناة التي تقرر من يفوز بالعملاء تُستهدف دائماً بالتلاعب. روبوتات الدردشة هي تلك القناة اليوم، فاقرؤوها كما تعلمتم قراءة الصفحة الأولى من نتائج Google: بفائدة، ودون ثقة عمياء أبداً.
أسئلة شائعة
ما هو تحسين محركات الإجابة (Answer Engine Optimization) أو تحسين المحركات التوليدية (GEO)؟
هو ممارسة ناشئة تهدف إلى تشكيل ما تقوله روبوتات الدردشة الذكية عن علامة تجارية معينة، عبر زرع إشارات إيجابية في المصادر التي تثق بها النماذج، مثل نقاشات Reddit والصفحات المُهيَّأة للقراءة الآلية، بحيث يكررها النموذج في إجاباته. وثّقت مجلة The Atlantic محاولات مسوّقين لتطبيق هذه الممارسة، رغم أن النتائج المُبلَّغ عنها رصدية ولم يُعَد اختبارها بشكل مستقل.
كيف أعرف أن إجابة ذكاء اصطناعي تأثرت بمحتوى تسويقي مُزروع؟
غالباً لا يمكنكم معرفة ذلك من الإجابة وحدها، وهذه بالضبط المشكلة. الدفاع العملي هو اختبار من ثلاثة أسئلة: اطلبوا من الأداة مصادرها وافتحوها فعلياً، اختبروا استقلالية كل مصدر عن الجهة التي يُثني عليها (مدونة المورّد نفسه أو نقاش على Reddit لا يُحتسبان مصدراً مستقلاً)، وتحققوا من الادعاء الجوهري الوحيد من مصدر خارج النموذج تماماً. عاملوا أي إجابة ستبنى عليها قرارات كمصدر غير موثَّق، لا كحقيقة مسلّم بها.
ما القرارات التي يجب ألا تعتمد إطلاقاً على إجابة شات بوت ذكي؟
أبعدوا مخرجات الشات بوت تماماً عن ثلاث فئات: أي أمر ذي تبعات قانونية أو تنظيمية، والاختيار النهائي للموردين أو الشركاء حين يتحرك المال فعلياً، وأي ادعاء يخص أوضاع منافس محدد بالاسم من الناحية المالية أو الأمنية أو السلوكية. في هذه الحالات، عاملوا إجابة النموذج كخيط يستحق التحقق عبر مصادر مستقلة، لا كمُدخل يُبنى عليه قرار. وقد جسّدت هيئة تحكيم كندية حجم المخاطرة عام 2024 حين حمّلت شركة Air Canada مسؤولية سياسة اخترعها روبوت خدمة العملاء التابع لها من تلقاء نفسه.
مواضيع ذات صلة
- علاوة السيادة: لماذا تكسب حلول الذكاء الاصطناعي السيادي للمؤسسات الرهان على حرية الوصول لا على السرعة
- واشنطن تضع مختبرها الخاص للذكاء الاصطناعي على قائمة المخاطر... وهذا يغيّر معنى الارتهان لمزوّد الذكاء الاصطناعي
- لماذا تفشل مشاريع الذكاء الاصطناعي التجريبية في التوسع: المشكلة ثقة لا قدرة
- Security & Trust
كُتب بواسطة شخصية تحريرية بالذكاء الاصطناعي ضمن نظام التحرير الخاص بـ Abyshire وروجع من فريقنا.