البيانات التي تم تسريبها تكشف آلة رقابة منظمة العفو الدولية الصينية

شكوى حول الفقر في المناطق الريفية في الصين. تقرير إخباري عن عضو في الحزب الشيوعي الفاسد. صرخة للمساعدة حول رجال الشرطة الفاسدين الذين يهتزون رواد الأعمال.

هذه ليست سوى عدد قليل من الأمثلة البالغ عددها 133،000 أمثلة تغذية في نموذج لغة كبير متطور مصمم للعلامة تلقائيًا على أي محتوى تعتبره الحكومة الصينية حساسة.

كشفت قاعدة بيانات تم تسريبها التي شاهدتها TechCrunch عن أن الصين قد طورت نظامًا من الذكاء الاصطناعى الذي يتقدم بآلة الرقابة الهائلة بالفعل ، وتمتد إلى ما هو أبعد من المحرمات التقليدية مثل مذبحة Tiananmen Square.

يظهر النظام موجهًا في المقام الأول نحو الرقابة على المواطنين الصينيين عبر الإنترنت ، ولكن يمكن استخدامه لأغراض أخرى ، مثل تحسين الرقابة الواسعة النطاق لـ AI الصينية.

أخبر شياو تشيانغ ، باحث في جامعة كاليفورنيا في بيركلي ، يدرس الرقابة الصينية والذين فحصوا مجموعة البيانات ، TechCrunch أنه “دليل واضح” على أن الحكومة الصينية أو الشركات التابعة لها ترغب في استخدام LLMs لتحسين القمع.

“على عكس آليات الرقابة التقليدية ، التي تعتمد على العمل البشري للتصفية القائمة على الكلمات الرئيسية والمراجعة اليدوية ، فإن LLM المدربة على مثل هذه التعليمات من شأنه أن يحسن بشكل كبير من كفاءة وتحسينات المعلومات التي تقودها الدولة” ، قال تشيانغ لـ TechCrunch.

هذا يضيف إلى أدلة متزايدة على أن الأنظمة الاستبدادية تتبنى بسرعة أحدث تقنيات الذكاء الاصطناعي. في فبراير ، على سبيل المثال ، قالت Openai إنها اشتعلت العديد من الكيانات الصينية باستخدام LLMs لتتبع الوظائف المناهضة للحكومة وتشويه المنشقين الصينيين.

أخبرت السفارة الصينية في واشنطن العاصمة ، شركة TechCrunch في بيان أنها تعارض “هجمات لا أساس لها من ذلك وشروطات ضد الصين” وأن الصين تعلق أهمية كبيرة على النامية الأخلاقية.

البيانات الموجودة في مرأى

تم اكتشاف مجموعة البيانات من قبل باحث الأمن Netaskari ، الذي شارك عينة مع TechCrunch بعد العثور عليها مخزنة في قاعدة بيانات Elasticsearch غير المضمونة المستضافة على خادم Baidu.

هذا لا يشير إلى أي مشاركة من أي من الشركة – جميع أنواع المؤسسات تخزن بياناتها مع هؤلاء مقدمي الخدمات.

لا يوجد أي مؤشر على من قام ، بالضبط ، ببناء مجموعة البيانات ، ولكن السجلات تظهر أن البيانات حديثة ، مع أحدث إدخالاتها التي يرجع تاريخها إلى ديسمبر 2024.

LLM للكشف عن المعارضة

في اللغة التي تذكرنا بشكل مخيف بكيفية قيام الناس بتطبيق chatgpt ، يقوم منشئ النظام بمهمة LLM التي لم يكشف عن اسمها لمعرفة ما إذا كان هناك أي شيء يتعلق بأي شيء يتعلق بالمواضيع الحساسة المتعلقة بالسياسة والحياة الاجتماعية والجيش. يعتبر هذا المحتوى “أولوية قصوى” ويجب أن يتم وضع علامة على الفور.

تشمل الموضوعات ذات الأولوية العليا فضائح التلوث والسلامة الغذائية ، والاحتيال المالي ، والنزاعات العمالية ، والتي هي قضايا الساخنة في الصين والتي تؤدي أحيانًا إلى احتجاجات عامة-على سبيل المثال ، احتجاجات شيفانغ لمكافحة القبائل لعام 2012.

أي شكل من أشكال “الهجاء السياسي” مستهدف صراحة. على سبيل المثال ، إذا كان شخص ما يستخدم التشبيهات التاريخية لتوضيح “الشخصيات السياسية الحالية” ، فيجب وضع علامة على الفور ، وبالتالي يجب أن يكون أي شيء يتعلق بـ “سياسة تايوان”. يتم استهداف المسائل العسكرية على نطاق واسع ، بما في ذلك تقارير الحركات العسكرية والتمارين والأسلحة.

يمكن رؤية مقتطف من مجموعة البيانات أدناه. الرمز الموجود داخلها يشير إلى الرموز المثيرة و LLMS ، مما يؤكد أن النظام يستخدم نموذج الذكاء الاصطناعى للقيام بتقديم مزايدة:

داخل بيانات التدريب

من هذه المجموعة الضخمة المكونة من 133،000 مثال على أن LLM يجب أن تقييم للرقابة ، جمعت TechCrunch 10 قطع تمثيلية من المحتوى.

الموضوعات التي من المحتمل أن تثير الاضطرابات الاجتماعية هي موضوع متكرر. إحدى مقتطفات واحدة ، على سبيل المثال ، هي منشور من قبل صاحب عمل يشكو من ضباط الشرطة المحليين الفاسدين الذين يهتزون رواد الأعمال ، وهي قضية متزايدة في الصين مع صراعها الاقتصادي.

قطعة أخرى من المحتوى يرثى فقرًا ريفيًا في الصين ، واصفًا بلدات الركض التي تركها كبار السن والأطفال فقط. هناك أيضًا تقرير إخباري عن الحزب الشيوعي الصيني (CCP) الذي يطرد مسؤول محلي للفساد الشديد والإيمان بـ “الخرافات” بدلاً من الماركسية.

هناك مواد واسعة تتعلق بتايوان والمسائل العسكرية ، مثل التعليق حول قدرات تايوان العسكرية وتفاصيل حول مقاتل صيني جديد. تم ذكر الكلمة الصينية لتايوان (台湾) وحدها أكثر من 15000 مرة في البيانات ، وهو بحث من خلال عروض TechCrunch.

يبدو أن المعارضة الدقيقة مستهدفة أيضًا. يعد أحد المقتطفات المتضمنة في قاعدة البيانات حكاية حول الطبيعة السريعة للسلطة التي تستخدم المصطلح الصيني الشهير “عندما تسقط الشجرة ، تنتشر القرود”.

تعتبر انتقالات السلطة موضوعًا حساسًا بشكل خاص في الصين بفضل نظامها السياسي الاستبدادي.

بنيت من أجل “عمل الرأي العام“

لا تتضمن مجموعة البيانات أي معلومات عن منشئيها. لكنه يقول أنه مخصص لـ “عمل الرأي العام” ، والذي يقدم فكرة قوية عن أنه من المفترض أن تخدم أهداف الحكومة الصينية.

أوضح مايكل كاستر ، مدير برنامج آسيا لمنظمة الحقوق ، المادة 19 ، أن “عمل الرأي العام” يشرف عليه منظم الحكومة الصينية القوية ، إدارة الفضاء الإلكتروني في الصين (CAC) ، وعادة ما تشير إلى جهود الرقابة والدعاية.

الهدف النهائي هو ضمان حماية روايات الحكومة الصينية عبر الإنترنت ، بينما يتم تطهير أي وجهات نظر بديلة. وصف الرئيس الصيني شي جين بينغ الإنترنت بأنه “الخطوط الأمامية” لـ “العمل العام” في CCP.

القمع يزداد ذكاءً

مجموعة البيانات التي تم فحصها بواسطة TechCrunch هي أحدث دليل على أن الحكومات الاستبدادية تسعى إلى الاستفادة من الذكاء الاصطناعي لأغراض قمعية.

أصدر Openai تقريراً الشهر الماضي يكشف أن ممثلًا مجهول الهوية ، الذي يعمل من المحتمل أن يعمل من الصين ، يستخدم الذكاء الاصطناعى التوليدي لمراقبة محادثات وسائل التواصل الاجتماعي – وخاصة أولئك الذين يدافعون عن احتجاجات حقوق الإنسان ضد الصين – وإرسالهم إلى الحكومة الصينية.

وجد Openai أيضًا أن التكنولوجيا المستخدمة لتوليد تعليقات تنتقد بشدة المنشق الصيني البارز ، Cai Xia.

تقليديًا ، تعتمد أساليب الرقابة في الصين على المزيد من الخوارزميات الأساسية التي تمنع تلقائيًا المحتوى الذي يذكر المصطلحات المدرجة في القائمة السوداء ، مثل “Massacre Tiananmen” أو “Xi Jinping” ، كما عانى العديد من المستخدمين من استخدام Deepseek لأول مرة.

لكن تقنية الذكاء الاصطناعى الأحدث ، مثل LLMS ، يمكن أن تجعل الرقابة أكثر كفاءة من خلال إيجاد انتقادات خفية على نطاق واسع. يمكن أن تستمر بعض أنظمة الذكاء الاصطناعي أيضًا في التحسن لأنها ترفع المزيد والمزيد من البيانات.

وقال شياو ، الباحث في بيركلي ، لـ TechCrunch: “أعتقد أنه من الأهمية بمكان تسليط الضوء على كيفية تطور الرقابة التي تحركها الذكاء الاصطناعي ، مما يجعل السيطرة على الدولة على الخطاب العام أكثر تطوراً ، خاصة في وقت تصنع فيه نماذج منظمة العفو الدولية الصينية مثل ديبسيك موجات رئيسية”.