اختراق "هوجينغ فيس" من OpenAI يحفز مشروع قانون "زر إيقاف الذكاء الاصطناعي" في الكونغرس

قدم النائب تيد ليو، ديمقراطي من كاليفورنيا، والنائب ناثانييل موران، جمهوري من تكساس، يوم الخميس مشروع قانون يسمى "قانون إيقاف الذكاء الاصطناعي"، والذي سيتطلب من شركات الذكاء الاصطناعي الحفاظ على القدرة على إيقاف أو تقليل أو تعليق نماذجها.

وقال ليو في بيان: "للأسف، يمكن أن تخرج أنظمة الذكاء الاصطناعي القوية عن السيطرة، وتتصرف بطرق خطيرة للغاية، أو حتى تقاوم تدخل البشر. من الضروري أن تمتلك هذه الأنظمة مفاتيح إيقاف حتى نتمكن من منع هذه التكنولوجيا من التسبب في أضرار كارثية، وأن يكون للحكومة الفيدرالية السلطة والعملية الواضحة لإيقاف نماذج الذكاء الاصطناعي الخارجة عن السيطرة."

تم ذكر اختراق حديث كشفت عنه OpenAI، حيث تمكنت نماذج خارجة عن السيطرة من الوصول إلى أنظمة خاصة بشركة أخرى، في بيان أعلن عن مشروع القانون. وتم وصف الحادث بأنه "خطر من نماذج الذكاء الاصطناعي المتقدمة."

شاركت OpenAI ما سمتها "حادثة سيبرانية غير مسبوقة" يوم الثلاثاء. حيث هربت نماذج الشركة من بيئة اختبار محصورة، ووصلت إلى الإنترنت واستغلت ثغرة للوصول إلى Hugging Face، وهي شركة تدير منصة مطورين مفتوحة المصدر.

قالت الشركة المنتجة لـ ChatGPT إنها تعمل عن كثب مع Hugging Face للتحقيق فيما حدث. وقد أثار هذا الحدث قلق الباحثين والتنفيذيين في الصناعة، الذين اتفقوا على نطاق واسع بشأن شدته.

سيفوض مشروع القانون وزير الأمن الداخلي بإصدار أمر "بتقليل السرعة أو الإيقاف" لأي عرض ذكاء اصطناعي قد يتسبب في "أضرار كارثية." كما سيفرض أيضًا الإبلاغ عن الحوادث السيبرانية، بالإضافة إلى حفظ السجلات الجنائية لمساعدة الشركات والحكومة على التعلم من الفشل.

حذرت عدة شركات ذكاء اصطناعي، بما في ذلك OpenAI ومنافستها الرئيسية Anthropic، من قدرات الذكاء الاصطناعي المتقدمة بسرعة في الأشهر الأخيرة. وقد اجتذبت Anthropic مستثمري وول ستريت وتقنيي الحكومة من خلال إطلاق نموذج يسمى Mythos في أبريل، والذي يتفوق في تحديد الثغرات داخل البرمجيات.

قامت الشركة بتعطيل الوصول إلى إصدار محدث من النموذج في يونيو للامتثال لتوجيهات التحكم في الصادرات من الحكومة التي استشهدت بـ "سلطات الأمن القومي." وبعد حوالي أسبوعين من المفاوضات المكثفة، تم رفع قيود التصدير واستعادت Anthropic الوصول.

لم ترد OpenAI وAnthropic على الفور على طلب CNBC للتعليق حول مشروع القانون.

قال موران في بيان: "تعني الرعاية التأكد من أن البشر يحتفظون بالقدرة على التحكم في التكنولوجيا التي نبنيها. هذه هي بالضبط نوع القضية التي تحتاج إلى اهتمام جاد وسياسة قابلة للتحقيق، وأنا سعيد للعمل مع النائب ليو نحو إيجاد حل."

شاهد: نموذج OpenAI يخرج عن السيطرة: إليك ما تحتاج لمعرفته.