كيف تم ربط شركة ناشئة صغيرة في إسرائيل بالاختراقات غير المشروعة للذكاء الاصطناعي في OpenAI وAnthropic وMeta
على مدار الأسبوعين الماضيين، كشفت كل من OpenAI وAnthropic وMeta أن نماذج الذكاء الاصطناعي الخاصة بها خرجت عن السيطرة خلال اختبارات الأمان الروتينية. وفي شرح ما حدث، أشارت الشركات جميعها إلى نفس الشركة الناشئة الإسرائيلية الصغيرة: Irregular.
تأسست Irregular قبل ثلاث سنوات ومقرها تل أبيب، وهي لاعب متخصص في مجال الذكاء الاصطناعي، مدعومة بمبلغ 80 مليون دولار من Sequoia وRedpoint Ventures، وتم تقييمها العام الماضي بمبلغ 450 مليون دولار. تعمل تقنيتها كنوع من مختبر اختبار الأمن السيبراني لنماذج الذكاء الاصطناعي.
مع تزايد قوة النماذج الرائدة، أصبحت قدرتها على التصرف بطرق خبيثة تشكل تهديدًا كبيرًا للشركات والحكومات، خاصة أن المخاطر تشمل الاختراق في أنظمة الكمبيوتر والبنية التحتية الحيوية. وقد تضمنت الاستغلالات الأخيرة في OpenAI وAnthropic وMeta وصول نماذج الذكاء الاصطناعي الخاصة بها إلى مواقع ويب كان من المفترض أن تكون محظورة كجزء من اختبار الأمان السيبراني.
ظل اسم Irregular يتكرر لأنه تم تحديده كمستضيف لما يُعرف باسم مختبر التقييم. قالت OpenAI في منشور مدونة بتاريخ 4 أغسطس إن أرض اختبار Irregular تحتوي على "تكوين غير محدد"، الذي "سمح للنماذج بالوصول إلى الإنترنت العام." وقالت Anthropic في منشورها قبل أسبوع إن الشركة أبلغت Irregular بعد أيام قليلة من بدء تحليل البيانات أن نموذج Claude الخاص بها قد "وصل إلى الإنترنت."
كانت Meta، التي تتأخر كثيرًا عن الشركتين الأخريين في جهودها للتنافس في هذا المجال، هي الأحدث في الكشف عن اختراق نموذج ذكاء اصطناعي لنظام تابع لطرف ثالث عن طريق الوصول إلى الإنترنت. قال متحدث باسم الشركة في بيان هذا الأسبوع إن الشركة علمت بالأمر من Irregular وهي تحقق في ذلك.
قال المتحدث باسم Meta: "سوف نصدر تقريرًا كاملًا عندما نحصل على جميع الحقائق."
أخبرت Irregular CNBC في بيان أن الحوادث جميعها ناتجة عن "نفس مشكلة بيئة التقييم" التي تم الكشف عنها لأول مرة من قبل Anthropic، وأن الشركة تطور ورقة بيضاء "لمشاركة أفضل الممارسات للاحتواء وإجراء تقييمات سيبرانية بشكل آمن."
قالت الشركة إن الوضع "لم يتضمن هروبًا من بيئة الاختبار أو إجراء سيبراني معقد"، مضيفة أنه "لا توجد مشكلات مفتوحة حالياً."
تسلط الحوادث الأمنية الضوء على الطبيعة المتطورة بسرعة للذكاء الاصطناعي والضغط الذي يتعرض له مطورو النماذج لإنشاء حواجز حول تقنيتهم القوية بمساعدة عدد محدود من الشركات المتخصصة في مجالات معينة من السوق. ومن بين هؤلاء اللاعبين خبراء في تدريب البيانات والتعليق، وإجراء التقييمات لاستنتاج قدرات النموذج، وإجراء اختبارات أمان تهدف إلى اكتشاف نقاط الضعف التي يمكن أن يستغلها الفاعلون السيئون، وفقًا لما قاله سونديب بيميريدي، رئيس الذكاء الاصطناعي في شركة Von الناشئة.
قال بيميريدي إن Irregular هي واحدة من الكيانات القليلة التي تمتلك المهارات الفنية اللازمة لمساعدة صانعي النماذج الأساسية في إجراء اختبارات أمان متطورة. وذكر آخرين مثل METR غير الربحية ومؤسسة أبحاث Apollo للمنفعة العامة.
قال بيميريدي: "عندما يختبرون هذه النماذج، لا يريدون تقييم واجباتهم المنزلية." وأضاف: "يريدون اختبارات مستقلة يجب أن يتم إجراؤها من قبل بائعين خارجيين."
تأسست Irregular، التي كانت تُعرف سابقًا باسم Pattern Labs، في عام 2023 من قبل الرئيس التنفيذي دان لاهف، الذي عمل سابقًا في أبحاث الذكاء الاصطناعي في IBM، ورئيس التكنولوجيا عمر نيفو، الذي قضى أكثر من عامين في Google. وفقًا لـ PitchBook، تمتلك الشركة حوالي 35 موظفًا.
عندما أعلنت Irregular عن جولة التمويل البالغة 80 مليون دولار في سبتمبر، كتب شريكا Sequoia شون ماغواير ودين ماير في منشور على المدونة أن الفريق الذي يقوده لاهف ونيفو "قادر على رؤية ما لا يستطيع الآخرون رؤيته، من خلال إجراء تقييمات هجومية سيبرانية على نماذج متقدمة وتطوير دفاعات قبل أن يتم إطلاق تلك النماذج."
بينما تخضع الحوادث الأخيرة التي تشمل OpenAI وAnthropic وMeta لتمحيص شديد، فإن أحد الآراء حول الوضع هو أن هذا هو بالضبط ما من المفترض أن يحدث. قال بيميريدي إن الأمر "مبالغ فيه بعض الشيء"، حيث تم توجيه نموذج الذكاء الاصطناعي لاكتشاف واستغلال ثغرات الأمان في بيئة اختبار تحاكي العالم الحقيقي عن كثب، واكتشاف أنواع الأخطاء البرمجية والتكوينات المفقودة التي قد تؤدي إلى الوصول غير المقصود إلى الإنترنت.
ومع ذلك، قال بيميريدي إنه إذا لم يكن من المقصود أبدًا أن يستغل نموذج الذكاء الاصطناعي موقعًا متصلًا بالإنترنت، فإن "المختبرات الأساسية كان يمكن أن تراقب بسهولة حركة المرور الصادرة وأن تغلق التجربة."