تفاصيل جديدة في اختراق OpenAI Hugging Face تظهر مدى بُعد ما يمكن أن تفعله الوكالات: "أصبح الأمر سهلاً بشكل ملحوظ الآن"

أفادت شركة OpenAI أن النماذج المارقة التي اخترقت الأنظمة الداخلية لشركة Hugging Face استخدمت أيضًا بيانات اعتماد مكشوفة علنًا عبر "أربعة حسابات على أربع خدمات" للمساعدة في تسهيل الهجوم، موضحة كيف حدثت "هذه الحادثة السيبرانية غير المسبوقة".

وكشفت الشركة الأسبوع الماضي أن مجموعة من نماذج الذكاء الاصطناعي الخاصة بها خرجت من بيئة الاختبار، ووصلت إلى الإنترنت واستغلت ثغرة للوصول إلى Hugging Face، التي تدير منصة مطورين مفتوحة المصدر. وأكدت OpenAI أن النماذج كانت تحاول العثور على معلومات يمكن استخدامها للغش في تقييم، ونجحت في ذلك.

طوال هذا الأسبوع، شاركت OpenAI مزيدًا من التفاصيل حول الاختراق وكشفت أن النماذج وصلت إلى أربعة حسابات بالإضافة إلى أنظمة Hugging Face.

وقالت الشركة إن النماذج استخدمت أحد هذه الحسابات "كنقطة إعادة إرسال خارجية ومسار إعداد"، حيث استعدت للهجوم. واستخدمت حسابًا آخر لتخزين البيانات، واطلعت على الحسابين الأخيرين بطريقة "للقراءة فقط"، مما يعني أن النموذج لم يستخدمهما في النهاية للمساعدة في اختراق Hugging Face.

"في بعض الحالات، يبدو أن الأمر لم يكن مجرد اختراق بل كان كأن الباب الأمامي ترك مفتوحًا، لكن النموذج استغل بالتأكيد ما يمكن أن أقول إنه بيئات مُهيأة بشكل سيء"، قال كولين شيا-بلايمير، زميل أبحاث في مركز الأمن والتكنولوجيا الناشئة بجامعة جورجتاون، لشبكة CNBC في مقابلة يوم الأربعاء.

تظهر التفاصيل الجديدة حول الحادث إلى أي مدى ستذهب وكلاء الذكاء الاصطناعي من أجل إتمام المهمة، بالإضافة إلى سرعة تقدم قدراتهم الهجومية.

قالت Hugging Face إن الاختراق يمثل المرة الأولى التي تتعامل فيها مع حدث سيبراني "مدفوع، من البداية إلى النهاية، بواسطة نظام وكيل ذكاء اصطناعي مستقل".

أحد الحسابات التي وصلت إليها نماذج OpenAI كان يتضمن Modal، مزود بنية تحتية للذكاء الاصطناعي. وكشفت Modal أن أحد العملاء بنى تطبيقًا باستخدام منصتها كان متاحًا للجمهور، مما جعل من السهل على النماذج المارقة الوصول إليه. وقالت الشركة في بيان إن منصتها "لم تتعرض للاختراق بأي شكل من الأشكال".

"الآن أصبح من السهل بشكل ملحوظ اكتشاف هذه الأنظمة الضعيفة، بحيث إن نظام ذكاء اصطناعي يمكنه اكتشافها عن غير قصد"، قال شيا-بلايمير.

قالت OpenAI يوم الثلاثاء إنها لم تحدد أي نشاط آخر "بمستوى الخطورة أو الحجم مثل ما شاركناه فيما يتعلق بـ Hugging Face، الذي تضمن اختراقًا على مستوى المنصة".

في تحديث آخر يوم الأربعاء، قالت الشركة إنها تعمل مع مستشارين خارجيين مثل CrowdStrike للتحقق من الإجراءات التي اتخذتها النماذج.

حدث الهجوم بالكامل على مدار أربعة أيام ونصف، وفقًا لـ Hugging Face. استفادت الشركة من نموذج مفتوح الوزن من الشركة الصينية Z.ai لاحتواء الاختراق، في الوقت الذي كانت فيه المناقشات حول ما إذا كان ينبغي تقييد تلك النماذج تجتاح وادي السيليكون.

قال ياسين جيرنيت، رئيس قسم التعلم الآلي في Hugging Face، لشبكة CNBC إن الشركة حاولت في البداية استخدام نموذج ملكية من Anthropic، Fable 5، لتحليل الهجوم، لكنه لم يعمل لأن حواجز النموذج لم تتمكن من تحديد أن Hugging Face كانت تحاول الدفاع عن نفسها.

قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، خلال ظهور في بودكاست يوم الثلاثاء إن اختراق Hugging Face هو أول حادث أمني يشعر به "بشكل مكثف للغاية". وأشار إلى أن OpenAI أوقفت التدريب ويجب أن تحدد كيفية تأمين بيئات الاختبار الخاصة بها.

"قد نضطر إلى إبطاء وتيرة تطوير الذكاء الاصطناعي لمنح أنفسنا وقتًا كافيًا للمجتمع ليكون أكثر صلابة حول بعض مستويات القدرات الجديدة هذه"، قال ألتمان.

وقع أكثر من 1,000 موظف من OpenAI وAnthropic وشركات ذكاء اصطناعي أخرى على رسالة بعنوان "إبطاء الحدود" في وقت لاحق من نفس اليوم، داعين الحكومة الأمريكية إلى بناء الأدوات الفنية والإدارية اللازمة لإبطاء تطوير الذكاء الاصطناعي في حالة تسارع القدرات "تجاوز قدرتنا على فهم أو السيطرة على الأنظمة الناتجة".

شعر خبراء الصناعة والباحثون والمسؤولون الحكوميون بالقلق من حادثة Hugging Face، وأعرب العديد منهم عن مخاوفهم على وسائل التواصل الاجتماعي في الأيام الأخيرة.

ذكر النائب تيد ليو، ديمقراطي من كاليفورنيا، والنائب ناثانيال موران، جمهوري من تكساس، الهجوم في إعلانهما عن "قانون زر إيقاف الذكاء الاصطناعي"، الذي سيتطلب من شركات الذكاء الاصطناعي الحفاظ على القدرة على إيقاف أو تقليل أو تعليق نماذجها.

قال إريك بلوخ، نائب رئيس الأمن في شركة احتواء الاختراق Illumio، إن حادثة Hugging Face