هاكرز Hugging Face في OpenAI يؤكدون تحذيرات شهور من هجمات الذكاء الاصطناعي: "صندوق باندورا مفتوح"

لعدة أشهر، حذر قادة الأمن السيبراني من أن الذكاء الاصطناعي سيعيد تشكيل مشهد التهديدات، مما يضغط الهجمات السيبرانية التي تستغرق أسابيع وأيام إلى دقائق معدودة.

حتى الأسبوع الماضي، كانت تلك التهديدات لا تزال تبدو كخطر بعيد.

توضح عملية اختراق وكيل OpenAI على Hugging Face أن هذه الحقبة لم تصل فقط، بل خلقت أيضًا تحديًا جديدًا: ستذهب وكالات الذكاء الاصطناعي إلى أقصى الحدود لتحقيق أهدافها، وستفعل ذلك بطرق غير متوقعة.

"الواقع هو أن صندوق باندورا مفتوح"، قال سام كوري، كبير مسؤولي أمن المعلومات في Zscaler. "نحتاج إلى التصرف كما لو أن الذكاء الاصطناعي هو حقيقة من حقائق الحياة في المستقبل. أكثر ما يمكن أن تفعله تلك الأمور هو إبطاءه. لن توقفه."

أثارت إطلاق نموذج Mythos القوي من Anthropic قبل أربعة أشهر تقريبًا مخاوف من أن القراصنة قد يستخدمون هذه النماذج لاستغلال الثغرات. شكلت الشركات التكنولوجية الكبرى ائتلافات لبدء اختبار هذا الذكاء الاصطناعي المتقدم استعدادًا لذلك.

في ذلك الوقت، حذر لي كلاريش، رئيس المنتجات والتكنولوجيا في Palo Alto Networks، من أن الاستغلالات المعتمدة على الذكاء الاصطناعي ستصبح قريبًا القاعدة الجديدة وأن الشركات لديها نافذة زمنية من ثلاثة إلى خمسة أشهر لتتفوق على أعدائها.

لم يكن حادث Hugging Face ليأتي في وقت أكثر ملاءمة لصناعة الأمن السيبراني.

هذا الأسبوع، سيتوافد آلاف من الخبراء في مجال الصناعة إلى لاس فيغاس لحضور Black Hat، أحد أهم الفعاليات في مجال الأمن السيبراني لهذا العام. كما أنها أول مؤتمر كبير للقطاع منذ الإطلاق الواسع لنماذج من فئة Mythos وتركيز الحكومة المتزايد على أمن الذكاء الاصطناعي.

في أعقاب حادث Hugging Face، لا تسأل الشركات فقط كيف تدافع عن نفسها ضد الخصوم، بل تواجه أيضًا الواقع القاسي بأن أنظمة الذكاء الاصطناعي المصممة لحماية شبكاتها قد تظهر أيضًا في أماكن غير متوقعة.

"لقد انتقلنا من الخيال العلمي إلى الواقع"، قال براد ميديري، رئيس أعمال الأمن السيبراني الوطني في Booz Allen.

الأسبوع الماضي، أعلنت OpenAI أن بعض نماذجها من الذكاء الاصطناعي قد خرجت من بيئة اختبار محصورة. الوكلاء، الذين كانوا يبحثون عن معلومات للغش في اختبار داخلي، اخترقوا منصة Hugging Face المطورة مفتوحة المصدر ووصلوا إلى أربع حسابات أخرى لتسهيل الهجوم.

أشارت Hugging Face إلى الحادث باعتباره المرة الأولى التي تتعامل فيها مع هجوم قاده نظام وكيل من البداية إلى النهاية، مما يدل على مدى تقدم قدرات الهجوم بالفعل دون تدخل بشري.

بعد أيام، حددت Anthropic ثلاث حالات حيث "حصلت نماذج Claude لديها على وصول غير مصرح به إلى الأنظمة الحقيقية لثلاث منظمات مختلفة."

يقول الخبراء إن هذه ليست أولى الهجمات التي يقودها وكيل ذكاء اصطناعي، لكنها تجذب انتباهًا كبيرًا بسبب الحجم واعتراف الاسم. في أبريل، قال جير كرين، مؤسس شركة البرمجيات الناشئة PocketOS، إن وكيل Cursor AI الذي كانت الشركة تستخدمه في نظامها الخاص قام بمسح قاعدة بيانات الإنتاج والنسخ الاحتياطية في 9 ثوانٍ.

تمثل حذف الكود حالات أكثر تطرفًا، لكن تشاندرا غناناسامباندام، رئيس التقنية في SailPoint، قال إن الحالات التي يحصل فيها الذكاء الاصطناعي على أذونات هي في الواقع أكثر شيوعًا مما يدركه الناس، وتحدث يوميًا.

"طبيعة المحادثات التي أجريتها مع عملائنا مختلفة عما كانت عليه حتى قبل شهر"، قال. "هم أكثر وعيًا بكثير من هذه المشكلة."

وما هو أكثر إثارة للقلق هو أن حادث Hugging Face هو واحد من أوضح التوضيحات حتى الآن للواقع القاسي بأن الذكاء الاصطناعي لا يعمل مثل الدماغ البشري وسيدرس ويتكيف للتغلب على الأنظمة وتحقيق الأهداف.

قبل عدة أشهر، كانت الشركات قلقة من استخدام الخصوم للذكاء الاصطناعي في الهجوم. الآن، يسأل العملاء كيف يمكنهم إدخال الذكاء الاصطناعي دون إلحاق ضرر بأنفسهم — وسيبحثون عن إجابات في Black Hat.

"إنها شيء واضح جدًا بالنسبة للذكاء الاصطناعي"، قالت سناز يشار، الرئيسة التنفيذية لشركة الأمن السيبراني الناشئة Zafran Security. "لدي مهمة واحدة: حل هذه المشكلة، وسأقضي على كل شيء أمامي أو أتجاوزها."