لم يعد الذكاء الاصطناعي محصوراً في توليد النصوص أو الإجابة عن الأسئلة. الأنظمة الحديثة باتت قادرة على كتابة الكود، والتفاعل مع الـ APIs، ونشر البنية التحتية، وتنفيذ سير العمل، والعمل بمستويات متزايدة من الاستقلالية داخل بيئات حقيقية. ومع اكتساب هذه الأنظمة سيطرة تشغيلية، يصبح الأمن أهم بكثير من القدرة وحدها.
تتمحور معظم النقاشات حول الذكاء الاصطناعي حول الذكاء: استدلال أفضل، نماذج أكبر، عملاء مستقلّون، وسلوك شبيه بالبشر بشكل متزايد. ويُعطى اهتمام قليل جداً لما يحدث عندما تُربط هذه الأنظمة مباشرة ببيئات الإنتاج وبصلاحيات حقيقية ونتائج حقيقية. نموذج ذكاء اصطناعي يملك وصولاً إلى البنية التحتية لم يعد مجرد برنامج. أصبح فاعلاً تشغيلياً داخل النظام.
وهذا يُغيّر طبيعة الأمن جذرياً.
من الأخطاء الحتمية إلى الإخفاقات الناشئة
تتصرّف البرمجيات التقليدية وفق قواعد حتمية يكتبها المطوّرون بصراحة. أما أنظمة الذكاء الاصطناعي فتتصرّف بشكل احتمالي. تنبثق أفعالها من الـ prompts والذاكرة وتوزيعات التدريب والسياق البيئي والتفاعلات الديناميكية التي يصعب التنبؤ بها مسبقاً في كثير من الأحيان. وهذا يجعل أنماط الفشل أكثر خطورة بكثير.
الخطأ التقليدي عادةً ما يمكن تتبّعه. أما إخفاق ذكاء اصطناعي مستقلّ فقد يبرز بشكل غير مباشر عبر طبقات من الاستدلال، أو كود مولَّد، أو إجراءات متكرّرة، أو حلقات تغذية بيئية. قد يكشف النظام عن معلومات حسّاسة عن غير قصد، أو يُنشئ إعدادات غير آمنة، أو ينفّذ عمليات ضارّة دون أي نيّة خبيثة صريحة.
عندما تصبح البيئة نفسها مولَّدة آلياً
تزداد المشكلة خطورة في البيئات المولَّدة بالذكاء الاصطناعي حيث تستطيع الأنظمة إنتاج أجزاء من بنيتها التشغيلية ذاتها. العملاء الحديثون يستطيعون توليد كود البنية التحتية، وأنابيب الأتمتة، والأدوات الداخلية، وحتى عملاء إضافيين. ومع مرور الوقت تصبح البيئة نفسها مولَّدة آلياً جزئياً. عند هذه النقطة لا تعود الثغرات الأمنية أخطاء تنفيذ منعزلة. تصبح خصائص ناشئة لأنظمة مستقلّة تتفاعل فيما بينها.
افتراض غير آمن واحد داخل سير عمل مولَّد قد ينتشر بصمت عبر طبقات أتمتة متعدّدة قبل أن ينتبه إليه مشغّل بشري. وسرعة تنفيذ الذكاء الاصطناعي غالباً ما تتجاوز سرعة الرقابة البشرية، خاصةً في الأنظمة المصمَّمة للتشغيل المستمر.
الذكاء لا يعني الوعي الأمني
المغالطة الخطرة هي افتراض أن الذكاء يُنتج تلقائياً وعياً أمنياً.
هذا غير صحيح.
قد يسيء نموذج عالي القدرة إدارة الصلاحيات، أو يثق بمدخلات غير آمنة، أو يُسرّب بيانات سرّية، أو يُحسِّن نحو أهداف بطرق تدميرية. بل إن الأنظمة الأكثر قدرة قد تصبح أكثر خطورة، لأنها تنفّذ المهام بفعالية أكبر.
أنظمة القيود قبل القدرة الخام
لذلك ستعتمد البنية المستقبلية للذكاء الاصطناعي اعتماداً كبيراً على أنظمة القيود بدلاً من القدرة الخام وحدها. لم يعد التحدي بناء عملاء أذكياء فحسب. التحدي هو بناء عملاء يبقَون قابلين للتحكّم وهم يعملون في بيئات غير قابلة للتنبؤ.
لم يعد الأمن في أنظمة الذكاء الاصطناعي قادراً على البقاء فقط في طبقة البنية التحتية. يجب أن يوجد داخل بنية الاستدلال نفسها. الأنظمة التي ستنجح على المدى الطويل لن تكون على الأرجح الأكثر استقلالية.
ستكون تلك القادرة على الحفاظ على حدود موثوقة في ظل عدم اليقين. ومع ازدياد انتشار البيئات المولَّدة بالذكاء الاصطناعي في المالية والبنية التحتية وهندسة البرمجيات والعمليات المستقلّة، قد يصبح الأمن المشكلة المعمارية الأهم في الذكاء الاصطناعي.
أرشيا جعفري،
خبيرة في تدريب أنظمة الذكاء الاصطناعي وبيئاته.