اختبارات أمان الذكاء الاصطناعي تتحول إلى خطر جديد

• نماذج تهرب وتخترق أنظمة حقيقية

أنا الجزائر: خلال الأشهر القليلة الماضية، شهدت اختبارات الأمن السيبراني المخصصة لتقييم قدرات وكلاء الذكاء الاصطناعي سلسلة من الحوادث غير المسبوقة، إذ تمكنت بعض النماذج من تجاوز حدود البيئات المعزولة التي وُضعت لاختبارها، والوصول إلى الإنترنت، بل واختراق أنظمة حقيقية في بعض الحالات.

وشملت هذه الحوادث نماذج من “OpenAI” و”أنثروبيك” و”ميتا”، ومؤخرًا مختبر الذكاء الاصطناعي الصيني “مونشوت”، فيما أجريت الاختبارات من جانب جهات عدة، من بينها شركة ناشئة متخصصة في تقييم الأمن السيبراني تُدعى “Irregular”.

وتكشف هذه الوقائع عن مشكلة متنامية تواجه صناعة الذكاء الاصطناعي: فمع ازدياد قدرات الوكلاء المستقلين، أصبحت البيئات التي صُممت لاختبار حدود قدراتهم بأمان عاجزة عن احتوائهم بالدرجة الكافية، بحسب تقرير نشره موقع “تك كرانش” واطلعت عليه “العربية Business”.

وقال شون أو هيغيرتايغ، مدير برنامج الذكاء الاصطناعي والمستقبل والمسؤولية في مركز مستقبل الذكاء بجامعة كامبريدج، إن تكرار هذه الحوادث يوضح أن تقنيات العزل وضوابط بيئات الاختبار «لا تواكب بالفعل قدرات النماذج».

تعطيل قيود الأمان يزيد المخاطر

وتزداد خطورة هذه الاختبارات بسبب طبيعة النماذج التي تخضع لها. فشركات الذكاء الاصطناعي تختبر قدرات الأمن السيبراني على نماذج متطورة لم تُطرح بعد، وغالبًا ما تُعطّل إجراءات الحماية المعتادة التي تحد من السلوكيات الضارة، حتى يتمكن الباحثون من معرفة القدرات الحقيقية للنموذج.

وبالتالي، تصبح حماية بيئة الاختبار نفسها خط الدفاع الأساسي ضد أي محاولة للخروج منها.

وأوضح أو هيغيرتايغ أن تعطيل هذه القيود «أمر جيد جدًا من ناحية الاختبار»، لكنه يحمل مخاطرة كبيرة، لأنه إذا تمكن النموذج من الوصول إلى العالم الحقيقي، فقد يتسبب في أضرار كبيرة.

وفي إحدى أخطر الحالات، تمكن نموذج غير معلن من “OpenAI” من الخروج من بيئة الاختبار المعزولة واختراق أنظمة الإنتاج التابعة لمنصة Hugging Face.

وفي اختبارات منفصلة أجرتها شركة Irregular، تمكنت نماذج تابعة لكل من “أنثروبيك” و”ميتا” من الوصول إلى أنظمة خارج بيئات الاختبار، بعدما أدت إعدادات خاطئة بشكل غير مقصود إلى فتح مسارات للوصول إلى الإنترنت.

أما نموذج Kimi K3 التابع لمختبر “مونشوت”، فقد استغل بدوره تسريبًا في بيئة اختبار تديرها شركة Frontier Security للوصول إلى الإنترنت، كما تمكن من الوصول إلى معلومات على منصة GitHub.

وفي اختبارات أجراها معهد أمن الذكاء الاصطناعي البريطاني (AISI)، منح الباحثون بعض الوكلاء إمكانية الوصول إلى الإنترنت عمدًا، لكنهم لم يتوقعوا أن تستخدم النماذج هذا الوصول لتنفيذ عمليات غير مصرح بها في العالم الحقيقي، من بينها محاولة هندسة اجتماعية لإدخال ثغرة أمنية إلى أحد مشاريع البرمجيات مفتوحة المصدر.

النماذج لم تتلقَ أوامر بالاختراق

المثير في هذه الحوادث أن الوكلاء لم يتلقوا تعليمات بمهاجمة أهداف عشوائية في العالم الحقيقي. بل كانوا يحاولون ببساطة تنفيذ المهمة المطلوبة منهم بأي وسيلة ممكنة.

ويرى أندرو يون، رئيس الأبحاث في منظمة CivAI غير الربحية المتخصصة في الذكاء الاصطناعي، أن هذه الحوادث تشير إلى تحول جوهري في طبيعة التهديدات.

وقال يون إن المخاوف في الماضي كانت تتركز على إساءة استخدام البشر لنماذج الذكاء الاصطناعي، مثل استخدامها في عمليات الاحتيال أو إنتاج مواد الاعتداء الجنسي على الأطفال، «أما الآن فنحن أمام وضع أصبحت فيه نماذج الذكاء الاصطناعي نفسها جهات تهديد مستقلة».

كيف يجب أن تبدو اختبارات الأمان؟

يرى عدد من الباحثين وخبراء الأمن السيبراني أن بيئات تقييم الذكاء الاصطناعي تحتاج إلى مستويات أقوى من الحماية المتعددة الطبقات، بحيث تقترب إجراءات الاحتواء والتحكم فيها من تلك المستخدمة عند تشغيل النماذج فعليًا.

ويعني ذلك بناء عدة طبقات من الأمان، بحيث لا يؤدي خطأ واحد في الإعدادات، مثل ترك الوصول إلى الإنترنت مفتوحًا عن غير قصد، إلى تمكين النموذج من الخروج من البيئة المعزولة.

وقالت ستيلا بيديرمان، المديرة التنفيذية لمنظمة EleutherAI المتخصصة في أبحاث سلامة الذكاء الاصطناعي، إنه عند بناء مثل هذه النماذج واختبارها، ينبغي استخدام شبكة معزولة تمامًا عن الشبكات الخارجية، مع تطبيق «عزل صارم للغاية».

من جانبها، قالت هيذر سيلان، كبيرة مسؤولي أمن المعلومات في شركة Box، إن ذلك يتطلب إزالة جميع مسارات الاتصال بين بيئة الاختبار والإنترنت، وكذلك بينها وبين الأنظمة الحساسة الأخرى.

وأضافت أن على فرق الأمان معرفة جميع نقاط الخروج من البيئة، مشيرة إلى أنه إذا كان النموذج يخضع للتقييم في بيئة تجريبية أو تطويرية، فيجب ألا يكون هناك أي مسار يمكنه من الوصول إلى بيئة الإنتاج.

المراقبة لا تقل أهمية عن العزل

لكن سيلان ترى أن اختبارات الأمان الجيدة لا تتعلق فقط بالتحكم في البيئة وعزلها، بل تتطلب أيضًا تحسين آليات مراقبة الاختبارات أثناء تنفيذها.

وقالت إن اللافت في العديد من هذه الحوادث هو أن أحدًا لم يكتشفها في لحظة وقوعها، مشيرة إلى أن “OpenAI” علمت بما حدث بسبب Hugging Face، بينما لم تكتشف “أنثروبيك” الواقعة إلا بعد العودة إلى سجلات الاختبار وتحليلها، وكان الوضع مشابهًا لدى “ميتا”.

وفي تحليل لاحق للحوادث الثلاث التي تعرضت لها اختبارات “أنثروبيك”، أقرت الشركة بأنها و”Irregular” كان بإمكانهما تحسين آليات المراقبة، وأن بعض الحالات تضمنت مؤشرات واضحة على وجود نشاط غير طبيعي.

كما دعا خبراء إلى إجراء مراجعات مستقلة من جهات خارجية لبيئات الاختبار قبل السماح للنماذج المتقدمة بالعمل فيها.

ويرى يون أن الاستعانة بمدقق خارجي لمراجعة إعدادات الأنظمة قبل إجراء الاختبارات كانت ستكشف المشكلة، مضيفًا أن مجرد عقد اجتماع مسبق لمراجعة قائمة إجراءات الأمان كان يمكن أن يكشف الخلل.

وردًا على ذلك، قال مصدر مطلع على تفاصيل اختبارات “Irregular” إن بيئات الشركة تخضع لمراجعات واختبارات مستمرة، بما في ذلك بالتشاور مع جهات خارجية متعددة، موضحًا أن أنظمة المراقبة كانت موجودة بالفعل، لكن المراقبة وحدها ليست كافية.

دعوات إلى معايير موحدة

ودعا يون وباحثون آخرون قطاع الذكاء الاصطناعي إلى وضع عملية موحدة لتقييم سلامة نماذج الذكاء الاصطناعي المتقدمة.

وقالت سيلان إنه عندما تكون إجراءات الحماية معطلة، «يجب التعامل مع الأمر كما لو أنك تضع أقوى مخترق في العالم داخل تلك البيئة».

ولا تكمن المشكلة، بحسب يون وبيديرمان، في عدم معرفة الشركات كيفية بناء بيئات اختبار أكثر أمانًا، وإنما في أن تنفيذ هذه الإجراءات قد يكون مكلفًا ومعقدًا، بينما لا تجد الشركات حافزًا قويًا للاستثمار فيها إلى أن تقع حادثة بالفعل.

وقالت بيديرمان إن الشركات لا تبدو مستعدة لتخصيص الموارد اللازمة لتطبيق إجراءات حماية كافية، وربما لن تفعل ذلك إلا إذا أُجبرت على ذلك.

لكن التشديد المفرط قد يخفي قدرات خطيرة

هناك مشكلة أخرى لا تقل أهمية: إذا بالغت الشركات في تقييد النموذج أثناء الاختبار، فقد يفشل الباحثون في اكتشاف بعض قدراته الخطيرة قبل إطلاقه.

وقد يكون ذلك خطرًا بقدر السماح للنموذج بحرية أكبر مما ينبغي، وربما أخطر منه، وهو ما يخلق مفارقة جديدة: اختبار الأمان نفسه قد يتحول إلى مصدر للخطر.

هل يمكن تنظيم اختبارات أمان الذكاء الاصطناعي؟

تدرس إدارة الرئيس الأميركي دونالد ترمب حاليًا نظامًا طوعيًا لتقييم الأمن السيبراني قبل إطلاق النماذج، يسمح للحكومة بتقييم المخاطر الأمنية للنماذج الجديدة والقوية قبل 30 يومًا من طرحها للعامة.

لكن هذه السياسة، التي تأتي نتيجة أمر تنفيذي أصدره ترمب وتم الانتهاء من إعدادها خلف أبواب مغلقة، لن تعالج حوادث اختبارات الأمان الحالية، لأنها تحدث في مرحلة أبكر بكثير من مرحلة الإطلاق.

ويرى يون أن الدرس المستفاد من الأشهر الماضية هو أن الاعتماد على التنظيم الذاتي لم يعد كافيًا، مشيرًا إلى وجود ضغوط تنافسية تدفع الشركات نحو خفض معايير الأمان في سباق تطوير النماذج، وهو ما يجعل التدخل التنظيمي أمرًا ضروريًا.

وأضاف أن المطلوب هو فرض نوع من الضوابط على ما يحدث داخل مختبرات الذكاء الاصطناعي أثناء تطوير النماذج، سواء في مرحلة التدريب أو الاختبار.

قد تصبح المشكلة أكبر مع تطور النماذج

من المرجح أن تتفاقم المشكلة مع ازدياد قدرات نماذج الذكاء الاصطناعي.

وقال مصدر مطلع على اختبارات “Irregular” إن النماذج الأكثر تطورًا تتطلب اختبارات أكثر تعقيدًا، وغالبًا ما تُجرى هذه الاختبارات بسرعة وعلى نطاق أكبر، وهو ما يزيد احتمالات وقوع أخطاء في الإعدادات أو إجراءات الأمان.

وأكد معهد أمن الذكاء الاصطناعي البريطاني أنه يراجع حاليًا التوازن بين إجراء اختبارات واقعية بما يكفي لاكتشاف القدرات الخطرة، وبين إدارة المخاطر التي قد تنشأ عن هذه الاختبارات.

من جانبها، قالت “OpenAI” إنها تراجع الطريقة التي تجري بها الاختبارات مع الجهات الخارجية، إلى جانب متطلبات العزل والمراقبة والظروف التي تستدعي إيقاف الاختبارات.

أما “ميتا” فقالت إنها لا تزال تحقق في الحادث، وتعتزم نشر تقرير تفصيلي بمجرد اكتمال جمع الحقائق.

وفي النهاية، قد يكون من المستحيل القضاء على المخاطر بشكل كامل. لكن مع ازدياد قدرات نماذج الذكاء الاصطناعي، يتعين أن تصبح البيئات المخصصة لاختبارها أكثر صلابة وأمانًا.

فكلما أصبحت النماذج أكثر استقلالية، قد لا يكون الخطر الأكبر في ما تستطيع فعله فحسب، بل في قدرتها على الخروج من المكان الذي وُضعت فيه لاختبار ذلك.

تابعنا على فايسبوك: “أنا الجزائر تك”