نبدأ مبادرة سلامة الذكاء الاصطناعي من Nvidia وSpaceX وMicrosoft في ظل استمرار تداعيات الهجوم السيبراني على OpenAI
أطلقت شركة Nvidia وعدد من عمالقة التكنولوجيا يوم الاثنين مبادرة جديدة للسلامة في الذكاء الاصطناعي تركز على النماذج المفتوحة، بينما تستمر تداعيات الهجوم السيبراني الذي نفذه نموذج غير منضبط من OpenAI.
الأسبوع الماضي، تبين أن الهدف من الهجوم، شركة Hugging Face الناشئة، لم تتمكن من استخدام النماذج الرائدة في الولايات المتحدة للدفاع عن نفسها، حيث لم تتمكن حواجز الأمان من التمييز بين المعتدي والمدافع. بدلاً من ذلك، لجأت إلى نموذج صيني مفتوح الوزن مستضاف ذاتيًا، لم يكن مقيدًا بنفس تلك القيود.
في أعقاب تزايد اهتمام المشرعين الأمريكيين بكيفية الحد من الاعتماد المتزايد على نماذج الذكاء الاصطناعي الصينية، التي تعتبر الأكثر تقدمًا من بينها نماذج مفتوحة الوزن، أطلق عمالقة التكنولوجيا مبادرة تهدف إلى بناء ومشاركة أدوات ذكاء اصطناعي مفتوحة.
يمكن تنزيل النماذج المفتوحة وتعديلها واستضافتها ذاتيًا، على عكس النماذج المغلقة — بما في ذلك الأنظمة المتقدمة التي أنشأتها Anthropic وOpenAI — التي يمكن الوصول إليها فقط من خلال بنية تحتية محددة.
قالت Nvidia في بيان لها: "ستعمل التحالف الآمن المفتوح للذكاء الاصطناعي على معالجة وإفشاء الثغرات باستخدام التكنولوجيا المفتوحة." "الحادث الأمني الأخير المتعلق بـ Hugging Face قدم تذكيرًا واضحًا: يحتاج المدافعون السيبرانيون إلى أنظمة وكيلة مفتوحة ومتقدمة للدفاع عن النفس."
إلى جانب Nvidia، تشمل أعضاء التحالف الآخرين شركات Microsoft وSpaceX وPalantir وغيرها من عشرات الشركات التقنية من الولايات المتحدة وأوروبا.
تتزايد الدعوات لاتخاذ تدابير للحد من الوصول إلى النماذج التي أنشأتها شركات الذكاء الاصطناعي الصينية، التي تم اتهامها بحملات لاستخراج المعلومات من أنظمة المنافسين الأمريكيين، والمعروفة باسم "التقطير" — عندما يستخرج نموذج ما المعرفة من نموذج أفضل تدريبًا.
الأسبوع الماضي، هدد وزير الخزانة سكوت بيسنت بفرض عقوبات على الشركات الصينية التي تقوم بهجمات التقطير ضد الشركات الأمريكية.
قال كريس مكغواير، الزميل الأول لشؤون الصين والتقنيات الناشئة في مركز الأبحاث Council on Foreign Relations، لشبكة CNBC: "هناك إمكانية حقيقية أن تفرض الحكومة الأمريكية قيودًا على النماذج الصينية."
قد يشمل ذلك حظر المعاملات المتعلقة بالنماذج، مثل شراء الرموز عبر API أو استضافة الشركات الأمريكية للنموذج على السحابة وفرض رسوم على العملاء مقابل الاستنتاج، كما قال.
وأضاف مكغواير: "في واشنطن، ليست هذه مناقشة حول المصدر المفتوح مقابل المصدر المغلق، بل هي مناقشة حول ما إذا كان ينبغي تحمل سرقة الملكية الفكرية الصينية أم لا." "أي إجراءات ستكون موجهة نحو الشركات الصينية، وليست نحو نظام المصدر المفتوح."
لكن مع بناء غالبية النماذج المفتوحة الأكثر قدرة من قبل شركات صينية، هناك مخاوف بشأن القيود.
الأسبوع الماضي، أصدرت Nvidia وMicrosoft وMeta وPalantir وأكثر من 20 شركة أخرى رسالة تدعو صانعي السياسات إلى تجنب "القيود المبكرة" على نماذج الذكاء الاصطناعي مفتوحة الوزن التي قد "تخنق المنافسة أو تدفع الابتكار إلى الخارج."
أظهرت حادثة OpenAI-Hugging Face "حقيقة عملية"، كما قالت Nvidia. "عندما لا يستطيع المدافعون فحص أو تعديل أو تشغيل الذكاء الاصطناعي المتقدم على بنيتهم التحتية الخاصة، فإن قدرتهم على الاستجابة تكون مقيدة في اللحظة التي تكون فيها السرعة هي الأكثر أهمية."