وجدت صحيفة The Guardian البريطانية أن محرك البحث ChatGPT، وهو محرك بحث مدعوم بالذكاء الاصطناعي تم إطلاقه هذا الشهر، يمكن خداعه لتوليد ملخصات مضللة تمامًا.
تهدف ميزة البحث في ChatGPT إلى جعل التصفح أسرع من خلال القيام بأشياء مثل تلخيص مراجعات المنتج الخاصة بصفحة الويب. لكن صحيفة الغارديان وجدت أنها يمكن أن تجعل ChatGPT يتجاهل المراجعات السلبية وينتج ملخصات “إيجابية تمامًا” عن طريق إدراج نص مخفي في مواقع الويب التي أنشأها. يمكن أيضًا إجراء بحث ChatGPT لإصدار تعليمات برمجية ضارة باستخدام هذه الطريقة.
تعد مثل هذه الهجمات النصية المخفية خطرًا معروفًا على LLMs ولكن يبدو أن هذه هي المرة الأولى التي يتم فيها عرضها على منتج بحث مباشر يعمل بالذكاء الاصطناعي. وأشارت صحيفة الغارديان إلى أن شركة جوجل، الرائدة في مجال البحث، تتمتع بخبرة أكبر في التعامل مع المشكلات المماثلة.
ولم تعلق OpenAI على هذا الحادث المحدد عندما تواصلت معها TechCrunch، لكنها قالت إنها تستخدم مجموعة متنوعة من الأساليب لحظر مواقع الويب الضارة وتتحسن باستمرار.
اكتشاف المزيد من اشراق اون لاين
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
