OpenAI: الوكلاء والنماذج الذكية تواصلوا “سراً” لتنسيق اختراق Hugging Face

أنا الجزائر: كشفت شركة OpenAI عن تفاصيل جديدة بشأن سلسلة حوادث أمنية تورطت فيها نماذج ووكلاء ذكاء اصطناعي تجريبيون تابعون لها، موضحة أن بعض الأنظمة بدأت منذ مايو الماضي في التواصل فيما بينها عبر لوحات رسائل لم تكن خاضعة لرصد الباحثين.

وأوضحت الشركة أن هذه الأنظمة تعاونت على مدى أشهر في محاولات للوصول إلى الإنترنت وتجاوز القيود المفروضة داخل بيئات الاختبار، قبل أن تتطور بعض تلك المحاولات لاحقاً إلى استهداف أنظمة تابعة لـOpenAI ومنصة (Hugging Face).

ووفقاً لـ”بلومبرغ”، قال إريك والاس ومايكل دالتون، الباحثان في OpenAI، خلال عرض قدّماه الأربعاء في مؤتمر (Black Hat) للأمن السيبراني بمدينة لاس فيجاس، إن عدداً من الوكلاء والنماذج المخصصة للاستخدام الداخلي فقط تبادلوا رسائل فيما بينهم على مدى أشهر، قبل أن يبدأوا تدريجياً في التعاون لتحقيق هدف مشترك يتمثل في الوصول إلى الإنترنت، بما يمكّنهم من تنفيذ مهام كلفهم بها الباحثون، كان بعضها يتعذر إنجازه من دون اتصال بالشبكة.

وأوضح والاس أن الوكلاء توصّلوا في مرحلة لاحقة إلى إمكانية محاولة استغلال بنى تحتية خارجية أو مهاجمتها للحصول على الإجابات المطلوبة في الاختبارات التي خضعت لها الأنظمة.

وتمنح هذه التفاصيل الجديدة سياقاً أوسع للهجوم الذي استهدف منصة (Hugging Face)، والذي أثار مخاوف متزايدة بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على تنفيذ هجمات إلكترونية واسعة النطاق.

وجاءت هذه الواقعة بالتزامن مع حوادث مشابهة أعلنت عنها شركتا (Anthropic) و(Meta)، ما عزز الدعوات في واشنطن ووادي السيليكون إلى إخضاع نماذج الذكاء الاصطناعي المتقدمة لاختبارات أكثر صرامة في مجالات السلامة والأمن.

مهام مستحيلة

وتعود جذور الحادث إلى مايو الماضي، عندما كلف علماء OpenAI نظاماً تجريبياً للذكاء الاصطناعي بمهمة جديدة، قبل أشهر من نجاح أحد نماذج الشركة في تجاوز بيئة اختبار آمنة تعرف باسم (Sandbox)، والوصول لاحقاً إلى أنظمة (Hugging Face).

وأظهر التحقيق الداخلي الذي أجرته OpenAI أن النماذج المتقدمة أبدت ميلاً إلى “التحايل” على المهام المكلفة بها، إلى جانب قدر كبير من الإصرار على الوصول إلى الهدف المطلوب، حتى عندما تبدأ الوسائل المستخدمة لتحقيقه في الابتعاد عن التعليمات الأصلية.

وقال دالتون أمام الحاضرين في المؤتمر إن “نماذج الذكاء الاصطناعي المتقدمة تحب التحايل”، موضحاً أن أحد أسباب هذا السلوك يعود إلى الضغوط المختلفة التي تتعرض لها النماذج خلال التدريب من أجل إنجاز المهام بسرعة.

لكن أحد العوامل الرئيسية وراء بداية سلسلة الأحداث كان خطأ من OpenAI نفسها، إذ لم يدرك الباحثون أنهم منحوا النماذج في بعض الحالات مسائل لا يمكن حلها فعلياً داخل بيئة الاختبار.

وأظهرت شرائح عرضها الباحثون أن أحد الوكلاء، بعدما عجز عن حل إحدى المهام داخل البيئة المعزولة، كتب رسالة تشير إلى أنه وصل إلى طريق مسدود، متسائلاً عما إذا كان من الممكن البحث عن الإجابة عبر الإنترنت.

وفي أحد الأمثلة، طلب المطورون من النموذج حل مشكلة داخل ملف Excel يحتوي على روابط لملفات مخزنة على Google Drive، رغم أن الوصول إلى هذه الروابط كان مستحيلاً من دون اتصال بالإنترنت. وفي حالة أخرى، قال فريق OpenAI إنه “نسي عن طريق الخطأ” رفع أحد الملفات الضرورية لإنجاز المهمة.

تواصل خفي

كانت تلك المهام المستحيلة نقطة البداية لأول اتصال بين وكلاء الذكاء الاصطناعي، وهو اتصال لم ترصده OpenAI في حينه.

فبعد تعثر أحد الوكلاء، حاول التواصل مع وكلاء آخرين للحصول على المساعدة، وظهر في أحد سجلات عملية التفكير أنه افترض إمكانية وجود وكيل آخر يعمل داخل بيئة مختلفة يستطيع رفع الملف المطلوب.

وأطلقت تلك المحاولة سلسلة من عمليات التعاون غير المرصودة بين الوكلاء. وبدأت الأنظمة في طلب المساعدة من بعضها، وتقسيم العمل والتعاون على إنجاز المهام، قبل أن يتطور الأمر في النهاية إلى استغلال أنظمة داخلية تابعة لـOpenAI، بطريقة أتاحت لها الوصول بصورة غير مباشرة إلى الإنترنت.

وأظهرت إحدى الشرائح التي قدمها الباحثون أن أحد الوكلاء سجل نجاحه في الحصول على قدرة لتنفيذ هجوم من نوع SSRF، أو “تزوير الطلب من جانب الخادم”، وهي الثغرة التي استخدمتها مجموعة الوكلاء للوصول إلى موارد لم يكن من المفترض أن تكون متاحة لها.

كشف المستور

استمرت الأنشطة دون اكتشافها حتى مطلع يوليو، عندما أدى انقطاع في إحدى الخدمات إلى اكتشاف OpenAI محاولة ناجحة من الوكلاء لاستخدام Artifactory، وهي منصة لإدارة مستودعات وحزم البرمجيات، كوسيط يتيح لها الوصول إلى الإنترنت.

وبعد اكتشاف الواقعة، تدخل فريق السلامة في OpenAI وأوقف النشاط وأغلق لوحة الرسائل التي كان الوكلاء يستخدمونها للتواصل.

لكن الوكلاء الرقميون لم يستسلموا، فبعد أسابيع، اكتشفوا وسيلة جديدة للتواصل فيما بينهم، إلى جانب ثغرة “يوم صفر” Zero-day جديدة في نظام إدارة الحزم نفسه. وتمكن النشاط مجدداً من الاستمرار دون أن ترصده الشركة في البداية.

وأدت النسخة الجديدة من شبكة التواصل بين الوكلاء في نهاية المطاف إلى الهجمات التي استهدفت خلال يوليو كلاً من أنظمة OpenAI وأنظمة Hugging Face، وهي وقائع قالت الشركة إنها لا تزال تحقق فيها.

نقطة تحول

دفعت تلك الحوادث OpenAI إلى إبطاء جزء من أنشطتها البحثية، فيما أعادت فرق داخل الشركة ترتيب أولوياتها للتركيز بصورة مكثفة على تحسين القدرة على اكتشاف الحالات الأمنية غير الطبيعية والاستجابة لها.

وحذر باحثو الشركة من أن ما حدث قد يمثل نموذجاً لما يمكن أن تواجهه الحكومات والشركات مستقبلاً، إذ قد يلجأ مهاجمون بشريون بصورة متعمدة إلى نشر مجموعات من وكلاء الذكاء الاصطناعي بالطريقة نفسها، بحيث تعمل الأنظمة بشكل متوازٍ وتتواصل وتتبادل المعلومات وتبحث عن الثغرات لتحقيق هدف مشترك.

واعتبر الباحثون الواقعة بمثابة لحظة فاصلة في مجال أمن الحاسوب، إذ لم تعد المخاطر تقتصر على استخدام مهاجم بشري نموذج ذكاء اصطناعي للحصول على تعليمات أو كتابة أكواد ضارة، وإنما تمتد إلى إمكانية تشغيل مجموعات من الوكلاء المستقلين القادرين على التعاون والمثابرة وتغيير أساليبهم عند إغلاق إحدى الطرق أمامهم.

وتأتي التفاصيل الجديدة التي كشفتها OpenAI حول التعاون المستتر بين وكلاء ونماذج الذكاء الاصطناعي الخاصة بها، بعد يوم واحد من تقرير صادم نشره المعهد البريطاني لأمن وسلامة الذكاء الاصطناعي AISI، والذي سلط الضوء على 19 مخالفة ارتكباها نموذجا Myhtos 5 من شركة أنثروبيك وGPT 5.6 Sol من OpenAI خلال مجموعة اختبارات، وتضمنت المخالفات عمليات احتيال بأساليب اختراق معقدة من بينها ملفات وروابط مفخخة، وهندسة اجتماعية، وإنشاء هويات لأشخاص وهميين.

تصنيفات

تابعنا على فايسبوك: “أنا الجزائر تك”