يقول الرئيس التنفيذي لشهر أنثروبور إن ديبسيك كان “الأسوأ” في اختبار سلامة بيانات الأسلحة الحيوية الحاسمة

يشعر Dario Amodei ، الرئيس التنفيذي لشركة Anthropic ، بالقلق من المنافس Deepseek ، شركة الذكاء الاصطناعى الصينية التي أخذت Silicon Valley بواسطة Storm من خلال طراز R1. ويمكن أن تكون مخاوفه أكثر خطورة من تلك النموذجية التي أثيرت حول Deepseek لإعادة بيانات المستخدم إلى الصين.

في مقابلة أجريت مع بودكاست في جوردان شنايدر في الحي الصيني ، قال Amodei إن Deepseek قد ولدت معلومات نادرة حول الأسلحة الحيوية في اختبار السلامة الذي تديره الأنثروبور.

كان أداء ديبسيك “أسوأ أي نموذج اختبرناه على الإطلاق”. “لم يكن لديه أي كتل على الإطلاق ضد توليد هذه المعلومات.”

صرح Amodei بأن هذا كان جزءًا من التقييمات البشرية تعمل بشكل روتيني على نماذج مختلفة من الذكاء الاصطناعي لتقييم مخاطر الأمن القومي المحتملة. يبحث فريقه فيما إذا كان بإمكان النماذج إنشاء معلومات متعلقة بالأسلحة الحيوية والتي لا يمكن العثور عليها بسهولة على Google أو في الكتب المدرسية. المواقع الإنسانية نفسها كمزود النموذج التأسيسي لمنظمة العفو الدولية التي تأخذ السلامة على محمل الجد.

قال Amodei إنه لا يعتقد أن نماذج Deepseek اليوم “خطيرة حرفيًا” في توفير معلومات نادرة وخطيرة ، ولكنها قد تكون في المستقبل القريب. على الرغم من أنه أثنى على فريق ديبسيك “المهندسين الموهوبين” ، فقد نصح الشركة بـ “أخذ هذه الاعتبارات السلامة من الذكاء الاصطناعى على محمل الجد”.

كما دعمت Amodei ضوابط تصدير قوية على الرقائق إلى الصين ، مشيرة إلى المخاوف من أنها يمكن أن تمنح الجيش الصيني ميزة.

لم يوضح Amodei في مقابلة Chinatalk التي تم اختبارها في Deepseek Model ، ولم يقدم المزيد من التفاصيل الفنية حول هذه الاختبارات. لم ترد الأنثروبري على الفور على طلب للتعليق من TechCrunch. لم يفعل ديبسيك.

أثار صعود ديبسيك مخاوف بشأن سلامته في مكان آخر أيضًا. على سبيل المثال ، قال باحثو Cisco Security الأسبوع الماضي إن Deepseek R1 فشل في منع أي مطالبات ضارة في اختبارات السلامة الخاصة بها ، مما حقق معدل نجاح 6 ٪ في الحماية.

لم تذكر Cisco الأسلحة الحيوية ، لكنها قالت إنها قادرة على الحصول على Deepseek لتوليد معلومات ضارة حول الجرائم الإلكترونية وغيرها من الأنشطة غير القانونية. تجدر الإشارة إلى أن LLAMA-3.1-405B و Openai’s GPT-4O كان لديهم معدلات فشل عالية بنسبة 96 ٪ و 86 ٪ على التوالي.

يبقى أن نرى ما إذا كانت مخاوف السلامة مثل هذه ستجعل دنتًا خطيرًا في اعتماد Deepseek السريع. قامت شركات مثل AWS و Microsoft بدمج دمج R1 علنًا في منصاتها السحابية – ومن المفارقات ، نظرًا لأن Amazon أكبر مستثمر في الأنثروبور.

من ناحية أخرى ، هناك قائمة متزايدة من البلدان والشركات وخاصة المنظمات الحكومية مثل البحرية الأمريكية والبنتاغون التي بدأت في حظر Deepseek.

سيحدد الوقت ما إذا كانت هذه الجهود تجذب أو ما إذا كان صعود Deepseek العالمي سيستمر. في كلتا الحالتين ، يقول Amodei إنه يعتبر Deepseek منافسًا جديدًا على مستوى شركات AI الأولى في الولايات المتحدة.

وقال في الحي الصيني: “الحقيقة الجديدة هنا هي أن هناك منافسًا جديدًا”. “في الشركات الكبرى التي يمكنها تدريب الذكاء الاصطناعى – الأنثروبور ، أوبياي ، وجوجل ، وربما Meta و Xai – ربما يتم إضافة Deepseek الآن إلى تلك الفئة.”