يقدم مؤلف SB 1047 مشروع قانون جديد لمنظمة العفو الدولية في كاليفورنيا

عاد مؤلف كتاب “SB 1047” في كاليفورنيا ، وهو أكثر فاتورة السلامة من الذكاء الاصطناعى في البلاد في عام 2024 ، مع مشروع قانون جديد لمنظمة العفو الدولية التي يمكن أن تهز وادي السيليكون.

قدم سيناتور ولاية كاليفورنيا سكوت وينر مشروع قانون جديد يوم الجمعة يحمي الموظفين في قيادة مختبرات الذكاء الاصطناعى ، مما يسمح لهم بالتحدث إذا كانوا يعتقدون أن أنظمة الذكاء الاصطناعى لشركتهم قد تكون “مخاطر حاسمة” للمجتمع. سيقوم مشروع القانون الجديد ، SB 53 ، بإنشاء مجموعة حوسبة سحابية عامة ، تسمى Calcompute ، لمنح الباحثين والشركات الناشئة موارد الحوسبة اللازمة لتطوير الذكاء الاصطناعي التي تفيد الجمهور.

أثار آخر مشروع قانون منظمة العفو الدولية في Wiener ، SB 1047 في كاليفورنيا ، نقاشًا حيويًا في جميع أنحاء البلاد حول كيفية التعامل مع أنظمة الذكاء الاصطناعى الضخمة التي يمكن أن تسبب الكوارث. يهدف SB 1047 إلى منع إمكانية وجود نماذج كبيرة جدًا من الذكاء الاصطناعي لخلق أحداث كارثية ، مثل التسبب في خسارة في الأرواح أو الهجمات الإلكترونية التي تكلف أكثر من 500 مليون دولار كتعويضات. ومع ذلك ، قام الحاكم غافن نيوزوم في نهاية المطاف بنقل مشروع القانون في سبتمبر ، قائلاً إن SB 1047 لم يكن أفضل طريقة.

لكن النقاش حول SB 1047 تحول بسرعة قبيحة. قال بعض قادة وادي السيليكون إن SB 1047 سيؤذي الميزة التنافسية لأمريكا في سباق الذكاء الاصطناعى العالمي ، وادعى أن مشروع القانون مستوحى من المخاوف غير الواقعية من أن أنظمة الذكاء الاصطناعى يمكن أن تؤدي إلى سيناريوهات يوم القيامة الشبيهة بالخيال العلمي. وفي الوقت نفسه ، زعم السناتور وينر أن بعض أصحاب رأس المال الاستثماري شاركوا في “حملة دعائية” ضد فاتورته ، مشيرًا جزئيًا إلى ادعاء Y Combinator بأن SB 1047 سترسل مؤسسي بدء التشغيل إلى السجن ، وقد جادل خبراء مطالبة بأنها مضللة.

يأخذ SB 53 بشكل أساسي الأجزاء الأقل إثارة للجدل من SB 1047 – مثل حماية المبلغين عن المخالفات وإنشاء مجموعة كالكومبوت – وإعادة تعبئتها في فاتورة جديدة من الذكاء الاصطناعي.

والجدير بالذكر أن Wiener لا تبتعد عن مخاطر الذكاء الاصطناعى الوجودي في SB 53. إن مشروع القانون الجديد يحمي على وجه التحديد المبلغين عن المخالفات الذين يعتقدون أن أصحاب عملهم يخلقون أنظمة الذكاء الاصطناعى التي تشكل “خطرًا بالغ الأهمية”. يحدد مشروع القانون المخاطر الحاسمة على أنها أ “المخاطر المتوقعة أو المادية أن يؤدي تطوير أو تخزين أو نشر نموذج الأساس ، على النحو المحدد ، إلى وفاة أو إصابة خطيرة لأكثر من 100 شخص أو أكثر من مليار دولار في الأضرار التي لحقت بالمال أو الممتلكات. “

يحد SB 53 من مطوري النماذج Frontier AI – على الأرجح بما في ذلك Openai ، Anthropic ، و Xai ، من بين آخرين – من الانتقام من الموظفين الذين يكشفون عن المعلومات إلى المدعي العام في كاليفورنيا أو السلطات الفيدرالية أو غيرهم من الموظفين. بموجب مشروع القانون ، سيُطلب من هؤلاء المطورين تقديم تقرير إلى المخالفات حول عمليات معينة داخلية تجدها المبلغون عن المخالفات.

أما بالنسبة إلى Calcompute ، فإن SB 53 من شأنه أن ينشئ مجموعة لبناء مجموعة حوسبة سحابية عامة. ستتألف المجموعة من ممثلي جامعة كاليفورنيا ، بالإضافة إلى باحثين من القطاعين العام والخاص الآخرين. من شأنه أن يقدم توصيات حول كيفية بناء calcompute ، وكم يجب أن تكون الكتلة ، وأي المستخدمين والمؤسسات يجب أن يكون لديهم الوصول إليها.

بالطبع ، إنه في وقت مبكر جدًا من العملية التشريعية لـ SB 53. يجب مراجعة مشروع القانون وإقراره من قبل الهيئات التشريعية في كاليفورنيا قبل أن يصل إلى مكتب حاكم Newsom. من المؤكد أن المشرعين في الولاية ينتظرون رد فعل وادي السيليكون على SB 53.

ومع ذلك ، قد يكون عام 2025 عامًا أكثر صرامة لتمرير فواتير سلامة الذكاء الاصطناعى مقارنة بعام 2024. اجتازت كاليفورنيا 18 مشروع قانون مرتبط بالنيابة في عام 2024 ، ولكن يبدو الآن كما لو أن حركة Doom قد فقدت الأرض.

أشار نائب الرئيس JD Vance في قمة AI AI Paris إلى أن أمريكا ليست مهتمة بسلامة الذكاء الاصطناعي ، ولكنها تعطي الأولوية للابتكار من الذكاء الاصطناعي. في حين أن المجموعة الكالكومبوت التي أنشأتها SB 53 يمكن أن يُنظر إليها بالتأكيد على أنها تقدم تقدم AI ، فمن غير الواضح كيف أن الجهود التشريعية حول مخاطر الذكاء الاصطناعى الوجودي سوف تكون في عام 2025.