حُظر Claude Fable 5 بعد 3 أيام من الإطلاق: بسبب طلب إصلاح شيفرة

أقوى ذكاء اصطناعي في العالم صمد ثلاثة أيام#

في 9 يونيو، أطلقت Anthropic Claude Fable 5 وMythos 5، أقدر نموذجين أطلقتهما قط، والنسخة المتقدمة منهما محفوظة لشركاء حكوميين موثّقين. وكتبنا في ذلك الحين أن الشيء الوحيد الذي يفصل بينهما هو من أنتم.

وبعد ثلاثة أيام، توقف ذلك التمييز عن أن يهم. فأصدرت الحكومة الأمريكية في 12 يونيو توجيهاً لضبط التصدير، محتجّةً بسلطات الأمن القومي، يأمر Anthropic بإيقاف كل وصول إلى Fable 5 وMythos 5 لأي مواطن أجنبي، داخل البلاد أو خارجها، بمن فيهم موظفو Anthropic الأجانب أنفسهم. والأثر العملي كان كاملاً: للامتثال، كان على Anthropic تعطيل النموذجين لدى كل عميل. الأسبوع الماضي كان السؤال أي نسخة ستحصلون عليها. وهذا الأسبوع الجواب لا هذه ولا تلك.

والوصول إلى كل نماذج Anthropic الأخرى غير متأثر. فقط الأقدر منها، ذهبا، بلا تاريخ انتهاء معلن.

ما الذي اعترضت عليه الحكومة فعلاً#

هنا يصير الأمر غريباً. فبحسب بيان Anthropic، وصل التوجيه في الساعة 5:21 مساءً بتوقيت شرق الولايات المتحدة ولم يضمّ تفاصيل محددة عن الشاغل الأمني القومي. وفهم الشركة، المجمّع لاحقاً، أن الحكومة تعتقد أن أحداً وجد طريقة لـ«اختراق» Fable 5، أي لتجاوز مصنّفات السلامة التي تعيد عادةً توجيه الاستفسارات السيبرانية والحيوية الحساسة إلى نموذج Opus 4.8 الأضعف.

فما كان الاختراق؟ بحسب Anthropic، الدليل الوحيد المقدّم كان شفهياً، ووصف تقنية «تتألف في جوهرها من مطالبة النموذج بقراءة قاعدة شيفرة محددة وإصلاح أي خلل برمجي فيها».

اقرأوا ذلك مرة أخرى. فالقدرة التي أطلقت استدعاءً أمنياً قومياً لنموذج يستخدمه مئات الملايين من الناس هي مطالبة ذكاء اصطناعي بإيجاد علل في شيفرة وإصلاحها. وذلك ليس ثغرة غريبة. إنه أكثر ما يستخدم المطورون نماذج البرمجة لأجله، كل ساعة من كل يوم.

وقد راجعت Anthropic عرضاً للتقنية ووجدت أنها أظهرت «عدداً صغيراً من الثغرات الطفيفة المعروفة سابقاً»، وهي عيوب كانت علنية أصلاً، وتقول الشركة إن نماذج أخرى متاحة مجاناً، ومنها GPT-5.5 من OpenAI، تستطيع اكتشافها بلا أي اختراق على الإطلاق. وبعبارة أخرى: الشيء الذي تعاملت الحكومة معه كخطر فريد من Fable 5 هو قدرة أساسية في القطاع كله، وأداة يعتمد عليها يومياً المدافعون الذين يؤمّنون أنظمة حقيقية.

ضمانات Anthropic لم تكن قط نقطة الضعف#

هذا هو الجزء الذي يجعل الاستدعاء صعب الدفاع من حيث الموضوع. فبكل الروايات، كانت ضمانات Fable 5 الأقوى في القطاع، لا الأضعف. من بيان Anthropic:

• قبل الإطلاق، خُضعت الضمانات لاختبار الفريق الأحمر آلاف الساعات من الحكومة الأمريكية نفسها، ومن UK AISI، ومن منظمات ثالثة متعددة، ومن فرق داخلية.
• وأظهرت تلك الاختبارات أن الضمانات كانت «أنجع بكثير من ضمانات أي نموذج منشور سابقاً».
• ولم يجد أي مختبِر اختراقاً شاملاً، أي طريقة تفتح على نطاق واسع قدرات النموذج المقيّدة.
• وضُبطت الضمانات على نحو محافظ إلى حد جعل المستخدمين يشتكون من أنها واسعة أكثر من اللازم، وتلتقط طلبات غير ضارة.

وكانت Anthropic صريحة كذلك من اليوم الأول بأن المقاومة الكاملة للاختراق غير ممكنة لأي أحد. فكل ضمانة في القطاع قابلة للاختراقات الضيقة غير الشاملة التي تستخرج بعض المعلومات في ظروف محددة. وذلك ليس عيباً خاصاً بـ Fable؛ إنه حالة الفن الراهنة لكل مزوّد نماذج متقدمة. وكانت استراتيجية الشركة المعلنة هي الدفاع في العمق: اجعلوا الاختراقات إما ضيقة أو مكلفة الإنتاج، واقرنوا ذلك بمراقبة مكثفة لكشف الهجمات الحقيقية وإيقافها بسرعة. وسياسة الاحتفاظ بالبيانات الإلزامية لثلاثين يوماً، التي أشرنا إليها كصداع امتثال عند إطلاق النموذجين، موجودة بالضبط حتى تستطيع Anthropic بحث الاختراقات والتخفيف منها متى ظهرت.

والأهم أن Anthropic تقول إنها لم تتلقَّ ولا إفصاحاً واحداً عن اختراق غير شامل أنتج نتيجة ضارة فعلاً. فكل ما ظهر حتى الآن كان إما مخرجاً حميداً أو نتائج طفيفة بلا «رفع خاص بـ Mythos»، ولا شيء تنازل عنه النموذج ولا تستطيعون الحصول عليه في مكان آخر.

لماذا ينبغي أن يقلقكم هذا حتى لو لم تلمسوا Fable 5 قط#

يغري المرء أن يصنّف هذا كقصة عن شركة واحدة ونموذجين. وهو ليس كذلك. السابقة هي القصة.

فإن كان معيار استدعاء نموذج متقدم منشور تجارياً هو «أن أحداً عرض تقنية ضيقة تُظهر عللاً علنية أصلاً»، فذلك المعيار، مطبَّقاً بالتساوي، يبرّر سحب كل نموذج كبير في السوق، ومنها تلك التي ما تزال تعمل الآن. وتطرح Anthropic هذه النقطة بالضبط: قاعدة كهذه «ستوقف في جوهرها كل عمليات نشر النماذج الجديدة لكل مزوّدي النماذج المتقدمة».

وAnthropic لا تخاصم سلطة الحكومة في حجب عمليات نشر غير آمنة. فهي تدعمها صراحة، كجزء من عملية قانونية «شفافة، وعادلة، وواضحة، ومؤسَّسة على وقائع تقنية». واعتراضها أن توجيهاً شفهياً بلا تفاصيل مبنياً على عرض لإصلاح علل لا يستوفي أياً من تلك الشروط. وحين يمكن سحب زرّ الإيقاف من أقدر النماذج في البلاد بلا تبرير تقني مكتوب، يتوقف السؤال عن أن يكون عن Anthropic ويبدأ في أن يكون عن من يقرر ما يعمل، وعلى أي دليل.

ولأي أحد يبني على واجهات برمجة متقدمة، هناك درس عملي مدفون هنا أيضاً: توافر النموذج صار الآن متغيراً جغرافياً سياسياً. فالنموذج الذي يعتمد عليه منتجكم يمكن أن يتلاشى في بعد ظهر واحد، لأسباب لن تُخبروا بها قط، ويؤثر على المستخدمين بحسب جنسياتهم. وإن كانت خارطة طريقكم تفترض أن نموذجاً متقدماً محدداً سيظل موجوداً ببساطة، فهذا الأسبوع هو التذكير بأن تصمّموا لليوم الذي لا يكون فيه موجوداً، وهو بالضبط الحساب الذي يقف خلف تشغيل نماذج تتحكمون فيها فعلاً.

إلى أين يذهب هذا بعد ذلك#

تقول Anthropic إنها تمتثل للتوجيه وهي تخالفه، وتسمّي الأمر كله «سوء فهم»، وتعمل على إعادة الوصول بأسرع ما يمكن. ووعدت بتفاصيل تقنية أكثر خلال 24 ساعة. وسواء تراجعت الحكومة عن هذا، أو أضفت عليه صيغة رسمية، أو صعّدته، فسيقول لنا الكثير عن كيف يعمل تنظيم الذكاء الاصطناعي فعلاً حين تكون الكاميرات مشتغلة، لا في قاعة جلسة استماع، بل في خطاب عند 5:21 مساءً بلا تفاصيل.

أما الآن، فأقدر النماذج في العالم كانت حية 72 ساعة، والسبب الرسمي لذهابها أن أحداً طلب من أحدها إصلاح بعض الشيفرة.

ما يعنيه هذا لمنظومتكم التقنية للذكاء الاصطناعي#

إن كان توجيه واحد قادراً على تعطيل نموذج متقدم بين ليلة وضحاها، للجميع، وبلا إشعار، فإن «أي نموذج هو الأفضل هذا الأسبوع» هو السؤال الخطأ لبناء شركة حوله. والسؤال الصحيح هو: ما يحدث لمنتجنا حين يتلاشى نموذجنا، أو يُخفَّض معدّله، أو يُقيَّد بحسب الجنسية؟

وتلك المتانة عمل هندسي، وهو ما نفعله في Silverthread Labs. نبني ذكاءً اصطناعياً مخصصاً وأنظمة وكيلة مصمّمة لتكون قابلة للنقل بين النماذج بدل أن تكون مقيّدة بتوافر مزوّد واحد، ونساعد الفرق على تقييم الخيارات ذاتية الاستضافة للأحمال التي لا تحتمل خسارتها. وإن كانت في منظومتكم التقنية نقطة فشل واحدة تحمل اسم نموذج شخص آخر، فلنتحدث قبل أن يحطّ التوجيه التالي.

والبيان الكامل على موقع Anthropic.