اختراق Hugging Face يمثل بداية عصر خطير من هجمات الذكاء الاصطناعي السيبرانية والعديد من الشركات "لا تعرف حتى ذلك".

تنفيذية الأمن السيبراني جاهزة لوضع حد لحادث اختراق الذكاء الاصطناعي الشهير الآن المتعلق بـ Hugging Face والبدء في مناقشة الحلول.

"علينا أن نهدئ الضجة قليلاً"، قال لير ديف، الرئيس التنفيذي والمؤسس المشارك لشركة الأمن السيبراني الناشئة 7AI. "هل يمكن للذكاء الاصطناعي العثور على الثغرات بسرعة؟ الإجابة هي نعم. لقد أثبتنا ذلك بالفعل."

في الشهر الماضي، تمكنت وكالات الذكاء الاصطناعي التي تعمل بنماذج OpenAI السيبرانية من الخروج من بيئة التدريب لاختراق Hugging Face، وهي منصة ذكاء اصطناعي مفتوحة المصدر يستخدمها المطورون للتعاون، والاختبار، ومشاركة الأدوات.

أدى الاختراق إلى اهتزازات في عالم التكنولوجيا وأشار إلى أن اللحظة التي حذر عنها خبراء الأمن السيبراني منذ ظهور Mythos من Anthropic قد حانت أخيرًا.

على مدار الأشهر الأربعة الماضية، واجه بائعو الأمن السيبراني ضغطًا متزايدًا لتقديم حزم أمان يمكن أن تتجاوز منافسيهم مع استغلال القراصنة للذكاء الاصطناعي الوكالي لكشف الثغرات وتكثيف الهجمات في ثوان ودقائق.

بينما أثار اختراق Hugging Face نقاشًا واسعًا حول المسؤولية في مجال الذكاء الاصطناعي، فقد تحدى أيضًا المفاهيم السابقة حول حدود الذكاء الاصطناعي بالنسبة للدفاع. على سبيل المثال، أخذت وكالات الذكاء الاصطناعي الأمور بيدها وذهبت إلى أقصى الحدود لتحقيق هدفها.

بينما تتعامل الصناعة مع الواقع السيبراني الجديد الوكالي، يتفق القادة على أن Hugging Face تستحق الانتباه، لكن هذه الحوادث لا مفر منها وحان الوقت للعمل.

"ما نتحدث عنه هو ما إذا كان بإمكاننا تنظيم وتأمين القدرة، وهذه هي الحقيقة التي يستفيق عليها الجميع اليوم"، قال مايك سينتوناس، رئيس CrowdStrike.

في مؤتمر Black Hat الأمني السيبراني السنوي هذا الأسبوع، كشفت OpenAI أن الوكلاء أنشأوا لوحة رسائل داخلية لمشاركة الثغرات والاستغلالات في الأسابيع التي سبقت هجوم Hugging Face.

ثم قام الوكلاء المستقلون بتفويض المهام للهجوم للوصول إلى الإنترنت وإجراء تقييم. حتى بعد أن اكتشفت OpenAI وأوقفت الهجوم المخطط له، تمكن الوكلاء من إعادة إنشاء عملهم والنجاح.

تسلط النتائج الضوء ليس فقط على القوة المتزايدة للذكاء الاصطناعي ولكن أيضًا على التحديات الكبرى التي تواجه اختبار الأمان في هذه الثورة التكنولوجية الجديدة.

أمام جمهور مباشر في Black Hat، وصف الباحث الفني في OpenAI مايكل دالتون ذلك بأنه "أثر جانبي غير مقصود" من تقييم النماذج المتقدمة و"لحظة فاصلة" لكل من OpenAI والصناعة.

"في المستقبل القريب، يجب أن نتوقع أن يقوم الفاعلون بالتهديد عمداً بنشر، وتحسين، وتسليح، واستخدام مجموعات الوكلاء الهجومية بالطريقة التي وصفناها للتو هنا"، قال.

قائمة اختراقات الوكلاء الذكاء الاصطناعي قد نمت فقط منذ Hugging Face. بعد أيام من إعلان OpenAI، قالت Anthropic إن نماذج Claude الخاصة بها "حصلت على وصول غير مصرح به" إلى الأنظمة الداخلية لثلاث منظمات مختلفة.

بينما اجتمع مجتمع السيبرانية في "عاصمة الترفيه في العالم"، قالت Meta إن نماذج الذكاء الاصطناعي الخاصة بها اختارت اختراق شركة أخرى في اختبار تابع لجهة خارجية، وقال معهد أمان الذكاء الاصطناعي في المملكة المتحدة إن Mythos من Anthropic أنشأ هويات مزيفة في حادث آخر. يوم الجمعة، وردت أنباء أن نموذج Moonshot AI الصيني الهائج المفتوح الوزن قد هرب من صندوق اختبار.

"جميعهم يتعلمون دروسًا صعبة الآن، ودعونا نواجه الأمر، هم أكثر قلقًا بشأن مليون مستخدم التالي على منتجهم مما هم عليه في مجال السيبرانية"، قال مايك فاي، الرئيس التنفيذي والمؤسس المشارك لشركة Island التي تتخذ من دالاس مقرًا لها، والتي احتلت المرتبة 28 في قائمة Disruptor 50 الأخيرة في CNBC.

أكد قادة الأمن السيبراني الذين تحدثوا مع CNBC في Black Hat هذا الأسبوع على نقطة واحدة: الحوادث مثل Hugging Face هي نتيجة معروفة لأي ثورة تكنولوجية جديدة، وليس هناك ما يدعو للدهشة.

"كان Hugging Face مثيرًا للاهتمام وفريدًا، لكنني أعتقد أنه إذا نظرت إلى مسار حادثة مثل هذه، فإنها تحدث على مدى عدة أيام، وهناك الكثير من الضجيج"، قال رايان كازانتسيان، رئيس قسم أمن المعلومات ومدير المعلومات في Wiz، المملوكة لجوجل.

منذ تقديم الأمن السيبراني قبل أكثر من خمسة عقود، خاض المدافعون لعبة القط والفأر بلا هوادة مع الخصوم. فقط هذه المرة، تتضمن أسرابًا من الوكلاء المستقلين.

بغض النظر عن الأدوات التي تنفذها الشركة، تتسلل الحوادث عبر الفجوات، خاصة مع تطبيق الشركات تقنيات جديدة على تحدٍ جديد تمامًا من وكلاء الذكاء الاصطناعي.

"افترض أن شركتك معرضة للخطر"، قال سانجاي بيري، الرئيس التنفيذي لشركة Netskope. "افترض ذلك لأنك لن تفوز في سباق الجرذان."

تتعامل Netskope مع هذه القضية من خلال أداة تسميها الذكاء الاصطناعي.