تقوم OpenAI بتشديد الرقابة على نموذجها الجديد بسبب مخاطر الأمن السيبراني، مع تصاعد النقاش حول أمان الذكاء الاصطناعي.

أوقفت OpenAI بعض "الأنشطة الداخلية" المتعلقة بنموذج جديد وسط مخاوف بشأن التهديد السيبراني الذي قد يشكله، وذلك في ظل موجة من الحوادث الأمنية التي تشمل مختبرات الذكاء الاصطناعي الكبرى.

أدت الإفصاحات الأخيرة عن أنظمة الذكاء الاصطناعي من Anthropic وOpenAI وMeta التي كانت متورطة في حوادث أمنية إلى إثارة مخاوف واسعة النطاق بشأن تطوير النماذج. وفي هذا السياق، يقوم المشرعون الأمريكيون بتكثيف جهودهم لتقديم مشروع قانون "زر إيقاف الذكاء الاصطناعي".

أعلنت Meta الأسبوع الماضي أن نموذج الذكاء الاصطناعي الذي كانت تطوره قد اخترق نظامًا تابعًا لجهة خارجية من خلال الوصول إلى الإنترنت، وذلك بسبب تكوين غير صحيح من قبل شركة اختبار مستقلة كانت تعمل معها. كما ذكر معهد الأمن السيبراني البريطاني أن نموذج Mythos التابع لـ Anthropic قد أنشأ هويات مزيفة على الإنترنت في محاولة للضغط على البشر للموافقة على تحديثات كود ضار لمشروع مفتوح المصدر.

في يوم الجمعة، أعربت OpenAI عن مخاوف بشأن نموذجها غير المعلن عنه "أسترا"، قائلة إنه لا يمكنها استبعاد أنه قد وصل إلى قدرة "حرجة"، مما يعني أنه يمكنه تنفيذ هجمات سيبرانية ضد دفاعات سيبرانية متطورة بشكل مستقل، دون الحاجة إلى تعليمات تحدد كيفية القيام بذلك.

"بينما نواصل تقييم هذا النموذج، تشير تقييماتنا الأولية إلى أداء قوي بما يكفي يجعلنا لا نستبعد مستوى القدرة الحرجة في هذا الوقت"، قالت OpenAI في بيان.

وأضافت الشركة أنها تقوم بتنفيذ ضوابط أمنية أكثر صرامة للنماذج ذات القدرات العالية، بما في ذلك بيئات اختبار معزولة وقدرات إضافية للمراقبة والكشف.

"لقد قمنا بتنفيذ مراقبة شاملة للإجراءات الخطرة وعدم التوافق عبر جميع التطبيقات الوكيلة لـ أسترا، بما في ذلك التدريب والتقييم"، قالت OpenAI.

وطالب المشرعون في الولايات المتحدة باتخاذ تدابير لتخفيف المخاطر المحيطة بنماذج الذكاء الاصطناعي بعد الحوادث الأمنية الأخيرة.

بعد أن تمكنت نماذج تم تطويرها بواسطة OpenAI من اختراق البنية التحتية الرقمية لشركة Hugging Face، تم تقديم مشروع قانون "زر إيقاف الذكاء الاصطناعي" إلى الكونغرس في يوليو. سيتطلب من شركات الذكاء الاصطناعي الحفاظ على القدرة على إيقاف أو تقليل أو تعليق نماذجها.

"نحتاج إلى تمرير هذا القانون هذا العام لأن النماذج المتقدمة ذات الوزن المغلق بالفعل تقوم، كما لاحظت، باختراقات غير مصرح بها لشركات أخرى"، قال النائب تيد ليو، من كاليفورنيا، في مقابلة مع برنامج "Squawk Box" على CNBC يوم الخميس.

تعمل الحكومات أيضًا على وضع أطر جديدة وتنظيمات حول شركات الذكاء الاصطناعي.

كما زادت البيت الأبيض من تحركاتها للتواصل مع التنفيذيين في مجال الذكاء الاصطناعي أثناء تطوير إطار عمل حول النماذج الجديدة.

في وقت سابق من هذا الشهر، حصل الاتحاد الأوروبي على صلاحيات جديدة لتفتيش نماذج الذكاء الاصطناعي المرتقب إصدارها في الكتلة، وتقييد الوصول إلى سوق الاتحاد الأوروبي وفرض غرامات على مقدمي النماذج.