تفيد هيئة مراقبة الإنترنت في المملكة المتحدة من النهج في الاباحية Deepfake

نشرت OFCOM ، منظم سلامة الإنترنت في المملكة المتحدة ، مشروع إرشادات جديدة أخرى حيث تواصل تنفيذ قانون السلامة عبر الإنترنت (OSA)-تهدف أحدث مجموعة من التوصيات إلى دعم الشركات في النطاق لتلبية الالتزامات القانونية لحماية النساء والفتيات من الإنترنت تهديدات مثل التحرش والبلطجة ، كره النساء ، وإساءة استخدام الصور الحميمة.

قالت الحكومة إن حماية النساء والفتيات يمثل أولوية لتنفيذها لـ OSA. يتم تحديد أشكال معينة من إساءة معاملة النساء (في الغالب) – مثل مشاركة الصور الحميمة دون موافقة أو استخدام أدوات AI لإنشاء إباحية DeepFake التي تستهدف الأفراد – بشكل صريح في القانون كأولويات إنفاذ.

واجهت لائحة السلامة عبر الإنترنت ، التي وافق عليها البرلمان في المملكة المتحدة في سبتمبر 2023 ، انتقادات بأن الأمر لا يتعلق بمهمة إصلاح عمالقة منصة ، على الرغم من احتواء عقوبات كبيرة على عدم الامتثال-ما يصل إلى 10 ٪ من دوران سنوي عالمي.

كما أعرب ناشطو سلامة الطفل عن إحباطه من المدة التي يستغرقها تنفيذ القانون ، وكذلك الشكوك فيما إذا كان سيكون له التأثير المطلوب.

في مقابلة مع بي بي سي في يناير ، وصفها حتى وزير التكنولوجيا بيتر كايل – الذي ورث التشريع من الحكومة السابقة – “غير متكافئ للغاية” و “غير مرضي”. لكن الحكومة تلتصق بهذا النهج. يمكن إرجاع جزء من السخط حول OSA إلى وزراء المهلة الطويلة المسموح لهم بتنفيذ النظام ، والذي يتطلب من البرلمان الموافقة على إرشادات الامتثال لـ OFCOM.

ومع ذلك ، من المتوقع أن يبدأ الإنفاذ في البدء قريبًا فيما يتعلق بالمتطلبات الأساسية حول معالجة المحتوى غير القانوني وحماية الطفل. ستستغرق التنفيذ الجوانب الأخرى من امتثال OSA وقتًا أطول. ويعترف OFCOM بأن هذه الأحدث من توصيات الممارسة لن تصبح قابلة للتنفيذ بالكامل حتى عام 2027 أو أحدث.

تقترب من خط بدء التنفيذ

وقالت جيسيكا سميث من OFCOM ، التي قادت تطوير إرشادات تركز على السلامة على الإنترنت ، لـ TechCrunch في مقابلة: “الواجبات الأولى لقانون السلامة عبر الإنترنت تدخل حيز التنفيذ الشهر المقبل”. “لذلك سننفذ بعض الواجبات الأساسية للسلامة عبر الإنترنت قبل هذا التوجيه [itself becoming enforceable]”

تهدف مشروع التوجيه الجديد حول إبقاء النساء والفتيات على الإنترنت إلى استكمال إرشادات أوسع في وقت أوسع بشأن المحتوى غير القانوني – والذي يوفر أيضًا توصيات لحماية القصر من رؤية محتوى البالغين عبر الإنترنت.

في ديسمبر / كانون الأول ، نشر الجهة المنظمة إرشاداته النهائية حول كيفية تقلص المنصات والخدمات من المخاطر المتعلقة بالمحتوى غير القانوني ، وهو مجال تعتبر فيه حماية الطفل أولوية واضحة.

وقد سبق أن أنتجت رمز أمان للأطفال ، والذي يوصي بالخدمات عبر الإنترنت الاتصال بالشيكات العمرية وتصفية المحتوى لضمان عدم تعرض الأطفال لمحتوى غير مناسب مثل المواد الإباحية. وبما أنه يعمل على تنفيذ نظام السلامة عبر الإنترنت ، فقد تم تطويره أيضًا توصيات لتقنيات ضمان العمر لمواقع محتوى البالغين ، بهدف دفع مواقع إباحية لاتخاذ خطوات فعالة لمنع القصر من الوصول إلى المحتوى غير المناسب للعمر.

تم تطوير أحدث مجموعة من التوجيهات بمساعدة من الضحايا والناجين ومجموعات الدعوة النسائية وخبراء السلامة ، لكل OFCOM. ويغطي أربعة مجالات رئيسية حيث تقول المنظم إن الإناث تتأثر بشكل غير متناسب بالضرر عبر الإنترنت – أي: كره النساء على الإنترنت ؛ كومة والتحرش عبر الإنترنت ؛ الإساءة المنزلية عبر الإنترنت ؛ وإساءة استخدام الصور الحميمة.

السلامة حسب التصميم

تحث التوصية العليا لـ OFCOM على الخدمات والمنصات في النطاق على اتباع نهج “السلامة عن طريق التصميم”. أخبرنا سميث أن المنظم يريد تشجيع شركات التكنولوجيا على “التراجع” و “التفكير في تجربة المستخدم في الجولة”. على الرغم من أنها أقرت أن بعض الخدمات قد وضعت بعض التدابير المفيدة في تقليص المخاطر عبر الإنترنت في هذا المجال ، إلا أنها قالت إنه لا يزال هناك نقص في التفكير الشامل عندما يتعلق الأمر بتحديد أولويات سلامة النساء والفتيات.

“ما نطلبه حقًا هو مجرد تغيير خطوة في كيفية عمل عمليات التصميم” ، قالت لنا ، قائلة إن الهدف هو ضمان أن تكون اعتبارات السلامة في تصميم المنتج.

لقد أبرزت ظهور خدمات توليد الصور التي توليد الصور ، والتي لاحظت أنها أدت إلى نمو “هائل” في إساءة معاملة الصور الحميمة ديبفيك كمثال على المكان الذي كان يمكن أن يتخذ فيه التقنيون تدابير استباقية لتجعيد مخاطر أدواتهم التي يتم سلاحها لاستهداف النساء والفتيات – ومع ذلك لم يفعل.

“نعتقد أن هناك أشياء معقولة يمكن للخدمات القيام بها في مرحلة التصميم والتي من شأنها أن تساعد في معالجة خطر بعض هذه الأضرار” ، اقترحت.

تتضمن أمثلة الممارسات “الجيدة” الممارسات البارزة في OfCom في التوجيه الخدمات عبر الإنترنت اتخاذ إجراءات مثل:

• إزالة الموقع الجغرافي بشكل افتراضي (لتقليص مخاطر الخصوصية/الملاحقة) ؛
• إجراء اختبار “الإساءة” لتحديد كيفية إساءة استخدام الخدمة/إساءة استخدامها ؛
• اتخاذ خطوات لتعزيز أمن الحساب ؛
• تصميم في مطالبات المستخدم التي تهدف إلى جعل الملصقات تفكر مرتين قبل نشر محتوى مسيء ؛
• وتقديم أدوات إعداد تقارير يمكن الوصول إليها تتيح للمستخدمين الإبلاغ عن المشكلات.

كما هو الحال مع كل إرشادات OSA الخاصة بـ OFCOM ، لن يكون كل إجراء مناسب لكل نوع أو حجم الخدمة – لأن القانون ينطبق على الخدمات عبر الإنترنت الكبيرة والصغيرة ، ويتخطى مختلف الساحات من وسائل التواصل الاجتماعي ، إلى المواعدة عبر الإنترنت ، والألعاب ، والمنتديات وتطبيقات المراسلة ، على سبيل المثال لا الحصر. لذا فإن جزءًا كبيرًا من العمل للشركات في النطاق هو فهم معنى الامتثال في سياق منتجاتها.

عندما سئل عما إذا كانت OFCOM قد حددت أي خدمات تفي حاليًا بمعايير التوجيه ، اقترح سميث أنهم لم يفعلوا ذلك. وقالت: “لا يزال هناك الكثير من العمل الذي يتعين القيام به في جميع أنحاء الصناعة”.

كما اعترفت بشكل ضمني بأنه قد تكون هناك تحديات متزايدة بالنظر إلى بعض الخطوات الورائية التي اتخذت مقابل الثقة والسلامة من قبل بعض اللاعبين الرئيسيين في الصناعة. على سبيل المثال ، منذ الاستيلاء على Twitter وإعادة تسمية الشبكة الاجتماعية كـ X ، قام Elon Musk بتليين عدد الموظفين على ثقتها وسلامة – لصالح متابعة ما قام بتأطيره كنهج أقصى لحرية التعبير.

في الأشهر الأخيرة ، يبدو أن Meta-التي تمتلك Facebook و Instagram-اتخذت بعض الخطوات المحاكاة ، قائلة إنها تنتهي من عقود فحص الحقائق من ثلاثين عامًا لصالح نشر نظام “ملاحظات مجتمعية” على طراز X على وضع العلامات على النزاعات المحتوية على المحتوى ، على سبيل المثال.

الشفافية

اقترح سميث أن استجابة OFCOM لهذه التحولات عالية المستوى-حيث يمكن أن تخاطر تصرفات المشغلين بالاتصال ، بدلاً من التخميد ، الأضرار عبر الإنترنت-ستركز على استخدام صلاحيات الشفافية وجمع المعلومات التي يتم وضعها تحت OSA لتوضيح الآثار وقيادة المستخدمين وعي.

لذلك ، باختصار ، يبدو أن التكتيك هنا هو “الاسم والعار” – على الأقل في المقام الأول.

“بمجرد الانتهاء من التوجيه ، سننتج [market] تقرير … حول من يستخدم التوجيه ، من يتابع الخطوات ، ونوع النتائج التي يحققونها لمستخدميها الذين هم النساء والفتيات ، ويسلق الضوء حقًا على الحماية الموجودة على منصات مختلفة حتى يتمكن المستخدمون أخبرتنا.

اقترح سميث أن الشركات التي ترغب في تجنب مخاطر التعرض للارتياح علنًا من أجل ضعف الأداء على سلامة المرأة ، ستكون قادرة على التحول إلى إرشادات OFCOM عن “الخطوات العملية” حول كيفية تحسين الموقف لمستخدميها ، ومعالجة خطر الإصابة بالضرر أيضًا .

وأضافت في سياق المناقشة على المنصات الرئيسية التي تخلط عن الثقة والسلامة: “سيتعين على المنصات التي تعمل في المملكة المتحدة الامتثال لقانون المملكة المتحدة”. “وهذا يعني الامتثال لواجبات الأضرار غير القانونية وحماية واجبات الأطفال بموجب قانون السلامة عبر الإنترنت.”

“أعتقد أن هذا هو المكان الذي تأتي فيه سلطات الشفافية لدينا أيضًا – إذا كانت الصناعة تغير الاتجاه وتزداد الأضرار ، فهذا هو المكان الذي سنكون قادرين على تسليط الضوء على المعلومات ذات الصلة مع مستخدمي المملكة المتحدة ، مع الوسائط ، مع البرلمانيين.”

التكنولوجيا لمعالجة الاباحية Deepfake

أحد أنواع الأضرار التي لحقت عبر الإنترنت حيث تقوم OFCOM بتعزيز توصياتها بشكل صريح حتى قبل أن تبدأ بنشاط على إنفاذ OSA هو إساءة معاملة الصور الحميمة – حيث أن آخر مشروع إرشادات تشير إلى أن استخدام تجزئة الكشف عن هذه الصور المسيئة وإزالة هذا بعيد.

“لقد قمنا بتضمين خطوات إضافية في هذه التوجيهات التي تتجاوز ما حددناه بالفعل في رموزنا” ، أشار سميث ، مؤكدًا على أن OFCOM تخطط لتحديث رموزه السابقة لدمج هذا التغيير “في المستقبل القريب”.

وأضافت: “لذلك هذه طريقة للقول للمنصات التي يمكنك أن تتقدم من هذا المتطلبات القابلة للتنفيذ من خلال اتباع الخطوات التي يتم تحديدها في هذا التوجيه”.

أوصت OFCOM باستخدام تقنية مطابقة التجزئة لمواجهة إساءة استخدام الصور الحميمة بسبب زيادة كبيرة في هذا الخطر ، لكل سميث-خاصة فيما يتعلق بإساءة استخدام صور DeepFake التي تم إنشاؤها من الذكاء الاصطناعى.

وأشارت إلى أن “كان هناك إساءة معاملة حميمة في عام 2023 أكثر مما كانت عليه في جميع السنوات السابقة مجتمعة” ، مضيفة أن Ofcom قد جمعت أيضًا المزيد من الأدلة على فعالية مطابقة التجزئة لمعالجة هذا الضرر.

سيخضع مسودة التوجيه ككل الآن للتشاور – مع دعوة OFCOM إلى ملاحظات حتى 23 مايو 2025 – وبعد ذلك سوف تقدم إرشادات نهائية بحلول نهاية هذا العام.

بعد 18 شهرًا من ذلك ، ستنتج Ofcom ثم أول تقارير لمراجعة الصناعة في هذا المجال.

“نحن نصل إلى عام 2027 قبل أن ننتج تقريرنا الأول عن من يفعل ماذا [to protect women and girls online] – ولكن لا يوجد شيء لوقف المنصات التي تتصرف الآن “.

ورداً على الانتقادات بأن OSA تأخذ OFCOM وقتًا طويلاً للغاية لتنفيذها ، قالت إنه من الصواب أن يتشاور الجهاز التنظيمي بشأن تدابير الامتثال. ومع ذلك ، مع تدبير الإجراء النهائي في الشهر المقبل ، أشارت إلى أن OFCOM يتوقع التحول في المحادثة المحيطة بهذه القضية أيضًا.

“[T]تنبأت ، “ستبدأ هات في تغيير المحادثة مع المنصات ، على وجه الخصوص” ، مضيفة أنه سيكون أيضًا في وضع يسمح له بالبدء في إظهار التقدم في تحريك الإبرة عندما يتعلق الأمر بتقليل الأضرار عبر الإنترنت.