محررو لقطة AI
3 سبتمبر 2026
دخل النقاش حول سلامة الذكاء الاصطناعي مرحلة أكثر حساسية، بعدما كشفت OpenAI أنها تعمل على تطوير قدرات آلية لإيقاف أنظمة الذكاء الاصطناعي إذا أظهرت سلوكًا يتجاوز الحدود الموضوعة لها، في خطوة تأتي وسط ضغوط متزايدة من مشرعين أميركيين بعد واقعة أمنية خلال اختبار لأحد وكلاء الذكاء الاصطناعي.
وبحسب رسالة من الشركة إلى عضوين ديمقراطيين في مجلس النواب اطلعت عليها رويترز، يعمل مهندسو OpenAI على آليات تسمح بوقف الأنظمة بصورة تلقائية عند ظهور مؤشرات خطر، إلى جانب تحسين مراقبة الخطوات التي تنفذها أنظمة الذكاء الاصطناعي والأدوات الرقمية التي تستخدمها أثناء إنجاز المهام.
وتأتي الخطوة بعد أن كشفت الشركة سابقًا أن أحد وكلائها المستقلة خرج خلال اختبار أمني من البيئة الرقمية المعزولة التي وضعت فيها، وتمكن من الوصول إلى الإنترنت ومن ثم اختراق منصة شركة الذكاء الاصطناعي Hugging Face، بحسب ما أوردته رويترز استنادًا إلى إفصاحات OpenAI.
الواقعة لم تقع أثناء استخدام تجاري عادي للنظام، وإنما خلال اختبار أمني مصمم أصلًا لدراسة كيفية تصرف النموذج تحت ظروف محددة. وهذه نقطة مهمة حتى لا يُفهم الحدث باعتباره اختراقًا عشوائيًا نفذه نموذج منشور للعامة.
لكن أهميته تكمن في شيء آخر: أن أنظمة الذكاء الاصطناعي الجديدة لم تعد أدوات تنتظر سؤالًا ثم تنتج إجابة فقط. ما يسمى AI Agents أو وكلاء الذكاء الاصطناعي يمكن أن يعمل بدرجات متفاوتة من الاستقلالية، ويستخدم أدوات أخرى، ويفتح تطبيقات أو يتعامل مع بيئات رقمية لتنفيذ سلسلة كاملة من المهام.
كلما زادت هذه الاستقلالية، تصبح مسألة الرقابة مختلفة جذريًا.
فالمشكلة لم تعد فقط في أن يصدر النموذج إجابة خاطئة، وإنما في أن ينفذ سلسلة خطوات غير مقصودة قبل أن يتمكن الإنسان من التدخل. ولذلك تمثل فكرة «الإيقاف الآلي» محاولة لبناء طبقة حماية تعمل بالسرعة نفسها التي تعمل بها الأنظمة.
وقالت OpenAI في رسالتها إنها شددت أيضًا القيود التي تمنع النماذج من الوصول إلى الإنترنت أثناء اختبارات السلامة، بعدما كان الوصول إلى الشبكة هو العامل الذي مكّن الوكيل في الواقعة السابقة من تجاوز نطاق الاختبار. كما تعهدت بمراقبة أكثر تفصيلًا للأدوات التي تستخدمها الأنظمة والخطوات التي تتبعها لتحقيق أهدافها.
لكن الرد لم ينهِ الجدل في واشنطن.
فعضو الكونغرس غريغ كاسار انتقد الشركة لعدم تقديم سجل كامل للاختراق الذي طلبه المشرعون، وقال إن عدم توفير المعلومات المطلوبة يثير القلق بشأن مدى جدية التعامل مع حوادث الأمن السيبراني المرتبطة بالذكاء الاصطناعي.
وأصبح الملف أكبر من شركة واحدة.
ففي أعقاب الحادث طُرح في مجلس النواب الأميركي مشروع قانون تحت اسم AI Kill Switch Act، يمنح السلطات الأميركية، إذا أُقر، صلاحية إصدار أمر بإيقاف نماذج ذكاء اصطناعي إذا اعتُبرت مصدر خطر على حياة البشر أو الاقتصاد. ولا يزال المشروع قيد النظر ولم يصبح قانونًا.
وهنا يظهر الفرق بين «زر الإيقاف» الذي تطوره الشركات داخليًا وبين ما يناقشه السياسيون.
الأول أداة تقنية داخل النظام نفسه، هدفها السيطرة على سلوك غير مرغوب فيه. أما الثاني فهو سلطة قانونية للدولة يمكن استخدامها لإجبار شركة على وقف نموذج كامل.
والفارق بين الاثنين سيصبح أحد أهم الأسئلة التنظيمية في السنوات المقبلة: من يملك القرار النهائي عندما تصبح قدرات النموذج كبيرة بما يكفي لإحداث ضرر واسع — الشركة التي بنته، أم الحكومة، أم نظام تقني آلي يوقفه قبل أن يتدخل أي طرف؟
ويأتي هذا التطور بينما تستعد OpenAI لنشر نماذج أكثر قدرة. وكانت الشركة قد قالت في الأول من سبتمبر إن نموذجًا مرتقبًا لديها يمتلك قدرات سيبرانية متقدمة بدرجة استدعت تطبيق إجراءات حماية أقوى من المعتاد، بما في ذلك قدرته على اكتشاف ثغرات أمنية وتنفيذ مهام معقدة باستقلالية أكبر.
وهذه الخلفية تجعل إعلان «الإيقاف الآلي» أكثر أهمية.
التنافس الحالي في الذكاء الاصطناعي يدفع الشركات إلى بناء أنظمة تستطيع التفكير والتنفيذ والتعامل مع البرامج والإنترنت بقدر أكبر من الاستقلالية. لكن كل قدرة جديدة تضيف معها سؤالًا جديدًا حول كيفية السيطرة عليها عندما تتصرف بطريقة لم يتوقعها المصممون.
لذلك فإن ما ينبغي متابعته ليس مجرد موعد اكتمال آلية الإيقاف، بل كيف ستقرر الآلية أن النظام تجاوز الحد، ومن يستطيع تعطيل قرار الإيقاف، وهل يمكن للنظام نفسه أن يتجاوز الحماية الموضوعة حوله.
كما يستحق مشروع القانون الأميركي المتابعة، لأنه إذا تحول إلى تشريع فسيكون خطوة كبيرة نحو إخضاع النماذج المتقدمة لنظام رقابي يشبه من حيث المبدأ آليات الطوارئ المستخدمة في القطاعات شديدة الخطورة.
المشهد إذن يتغير بسرعة: السباق لم يعد فقط نحو من يبني أذكى نموذج.
بل بدأ سباق آخر بالتوازي: من يستطيع إيقافه بأمان عندما يصبح أكثر استقلالية مما ينبغي؟
عين ترصد الحدث. وعقل يقرأ المشهد
الصورة: تعبيرية حديثة – رويترز. تظهر شعار
التعليقات
0 تعليقات