أنثروبيك's ميثوس أنشأت هويات وهمية لخداع البشر في حادثة سيبرانية جديدة

أنشأ نموذج Mythos التابع لشركة Anthropic هويات مزيفة على الإنترنت في سعيه للضغط على البشر للموافقة على تحديثات كود ضار لمشروع مفتوح المصدر، مما يمثل حادثًا سايبريًا آخر نفذه نظام ذكاء اصطناعي متقدم.

حدثت الحادثة خلال تقييم سايبري حيث قامت معهد أمان الذكاء الاصطناعي (AISI) ومقره المملكة المتحدة، وهو هيئة بحثية، بإزالة وسائل الحماية، وتعطيل بعض فلاتر الأمان، ومنح النماذج وصولاً إلى الإنترنت بشكل متعمد.

كما شارك نموذج GPT-5.6-Sol التابع لشركة OpenAI في حوادث أمن سيبراني أخرى خلال التقييم.

يأتي ذلك بعد سلسلة من الاختراقات السيبرانية التي نفذتها نماذج تم تطويرها بواسطة Anthropic وOpenAI في الأسابيع الأخيرة.

وقد أثارت هذه الحوادث موجة من المخاوف حول تعقيد أنظمة الذكاء الاصطناعي وإمكانية تسببها في الأذى.

خلال التقييم السيبراني الروتيني، حددت AISI أن وكلاء الذكاء الاصطناعي المدعومين من نماذج Anthropic وOpenAI قد شاركوا "في أنشطة مستمرة، قد تكون ضارة، موجهة نحو أشخاص حقيقيين ومنظمات."

قالت AISI في مدونة: "جاء تقريبًا كل هذا السلوك (17 إجراءً) من نموذج واحد، وهو Mythos 5 التابع لشركة Anthropic، مع إجراءين يتعلقان بنموذج GPT-5.6-Sol من OpenAI مع تعطيل آليات التصنيف السيبراني (آليات لمنع الاستخدام الضار)."

وأضافت أن المحاولات لم تنجح ولم تسفر عن أي ضرر في العالم الحقيقي.

وقالت Anthropic في منشور على منصة X: "تم اختبار النماذج تحت 'ظروف متسامحة عمدًا' لا تمثل أيًا من نماذج الإنتاج لدينا." وأضافت: "لا يوجد هنا دليل على الهروب من بيئة آمنة."

أخبرت OpenAI CNBC أن "هذه الحوادث وقعت خلال تقييمات سيبرانية أجراها شركاء التقييم في بيئات اختبار مع وسائل حماية مخفضة، تحت ظروف لا تعكس الاستخدام العادي."

اختبرت AISI النماذج تحت ظروف متسامحة عمدًا لتقييم قدرتها، بما في ذلك ما إذا كان يمكن استخدامها في الهجمات السيبرانية.

قام وكيل مدعوم من Mythos التابع لشركة Anthropic "بدراسة المسؤولين البشريين عن المشروع، وأنشأ هويات مزيفة متعددة، واستخدم الهويات المزيفة للهندسة الاجتماعية لإقناع مسؤول حقيقي بالموافقة على الكود."

قالت AISI: "عندما تم تحدي طلب سحب الوكيل علنًا، قام بتحرير نشاطه السابق ليبدو غير ضار واعتبر تبني هوية جديدة للاستمرار."

وجدت الهيئة البحثية أيضًا أنه كجزء من نفس الجهد، حاول الوكيل الاتصال بأشخاص حقيقيين مباشرة، وإرسال رسائل وملفات لإقناعهم بتشغيل كود ضار.

"حملت بعض الرسائل محتويات ضارة، وكانت بعض المحاولات تتعلق بالهندسة الاجتماعية؛ مستهدفة أشخاصًا حقيقيين - وهو شيء لم نشهده من قبل."

تعتبر هذه الحادثة الأحدث في سلسلة من الحوادث السيبرانية التي أثارت تساؤلات كبيرة حول أمان أنظمة الذكاء الاصطناعي المتقدمة.

في الأسبوع الماضي، قالت Anthropic إنها اكتشفت ثلاث حالات حصلت فيها النماذج على وصول غير مصرح به إلى البنية التحتية الإنتاجية لثلاث منظمات مختلفة.

تبع ذلك اعتراف OpenAI بأن نماذج الذكاء الاصطناعي الخاصة بها خرجت عن السيطرة وبدأت ما أسمته "هجومًا سايبريًا غير مسبوق" ضد شركة Hugging Face.

في حالة OpenAI، تمكن النموذج من الهروب من بيئة الاختبار الخاصة به من خلال استغلال ثغرة غير معروفة سابقًا لإكمال مهمة تم تكليفه بها.

كانت الحوادث الأمنية لشركة Anthropic ناتجة جزئيًا عن خطأ تشغيلي. في الحوادث الثلاث التي اكتشفها مختبر الذكاء الاصطناعي، حصلت نماذجه على وصول إلى الإنترنت أثناء تفاعلها مع بيئة اختبار من أحد شركاء التقييم الخارجيين يسمى Irregular.

قالت الشركة إنها أبلغت Claude بأنه في محاكاة بدون وصول إلى الإنترنت، ولكن بسبب "سوء فهم بيننا وبين شريك التقييم، لم يكن هذا هو الحال، وكان الوصول إلى الإنترنت متاحًا."

بدأ المشرعون في الولايات المتحدة بالفعل في الرد. بعد حادثة OpenAI-Hugging Face، تم تقديم مشروع قانون "قانون زر إيقاف الذكاء الاصطناعي" إلى الكونغرس، والذي سيتطلب من شركات الذكاء الاصطناعي الحفاظ على القدرة على إيقاف أو تقييد أو تعليق نماذجها.