هناك إلى حد ما فيما يتعلق بالاتجاه الجديد فيروسي: يستخدم الناس ChatGPT لمعرفة الموقع الموضح في الصور.
هذا الأسبوع ، أصدرت Openai أحدث طرز الذكاء الاصطناعي ، O3 و O4-Mini ، وكلاهما يمكن أن “سبب” فريد من خلال الصور التي تم تحميلها. في الممارسة العملية ، يمكن للنماذج أن تقطع الصور وتدويرها وتكبيرها – حتى غير ضبابية ومشتتة – لتحليلها بدقة.
إن إمكانيات تحليل الصور هذه ، المقترنة بقدرة النماذج على البحث في الويب ، تجعل أداة توليد المواقع قوية. اكتشف المستخدمون على X بسرعة أن O3 ، على وجه الخصوص ، جيد جدًا في استنتاج المدن والمعالم وحتى المطاعم والبارات من أدلة بصرية خفية.
واو ، مسمره ولا حتى شجرة في الأفق. pic.twitter.com/bvcoe1fq0z
– Swax (swax) 17 أبريل 2025
في كثير من الحالات ، لا يبدو أن النماذج تعتمد على “ذكريات” محادثات ChatGPT السابقة ، أو بيانات EXIF ، وهي البيانات الوصفية المرفقة بالصور التي تكشف تفاصيل مثل المكان الذي تم التقاط الصورة.
تمتلئ X بأمثلة من المستخدمين الذين يقدمون قوائم مطعم ChatGpt ، وبطاقات الأحياء ، والواجهات ، والرسوم الذاتية ، وتوجيه O3 لتخيل أنها تلعب “Geoguessr” ، وهي لعبة على الإنترنت تتحدى اللاعبين لتخمين المواقع من صور Google Street View.
هذه ميزة chatgpt O3 ممتعة. geoguessr! pic.twitter.com/hrcmixs8yd
– جيسون بارنز (فيروتيك) 17 أبريل 2025
إنها مسألة خصوصية محتملة واضحة. لا يوجد شيء يمنع ممثلًا سيئًا من لقطة الشاشة ، على سبيل المثال ، قصة Instagram الخاصة بشخص واستخدام ChatGPT لمحاولة doxx.
O3 هو مجنون
طلبت من صديق لي أن يعطيني صورة عشوائية
أعطوني صورة عشوائية التقطوها في مكتبة
O3 يعرف ذلك في 20 ثانية وهو صحيح pic.twitter.com/0k8dxifkoy– yumi (@asyuuumi) 17 أبريل 2025
بالطبع ، يمكن القيام بذلك حتى قبل إطلاق O3 و O4-Mini. قام TechCrunch بتشغيل عدد من الصور من خلال O3 ونموذج أقدم بدون إمكانيات عرض الصور ، GPT-4O ، لمقارنة مهارات تخمين المواقع للموديلات. من المثير للدهشة أن GPT-4O وصل إلى نفس الإجابة الصحيحة مثل O3 في أكثر الأحيان-واستغرق وقتًا أقل.
كان هناك مثيل واحد على الأقل خلال اختبارنا الموجز عندما وجد O3 مكانًا لا يمكن لـ GPT-4O. بالنظر إلى صورة لرأس وحيد القرن الأرجواني المثبت في شريط مضاء بشكل خافت ، أجاب O3 بشكل صحيح على أنه كان من Williamsburg Speakeasy-ليس ، كما خمن GPT-4O ، حانة المملكة المتحدة.
هذا لا يعني أن O3 لا تشوبه شائبة في هذا الصدد. فشلت العديد من اختباراتنا – تعثر O3 في حلقة ، غير قادر على الوصول إلى إجابة ، كانت واثقة بشكل معقول ، أو تطوعت بموقع خاطئ. أشار المستخدمون على X ، أيضًا ، إلى أن O3 يمكن أن يكون بعيدًا عن خصومات موقعه.
لكن الاتجاه يوضح بعض المخاطر الناشئة التي يقدمها نماذج الذكاء الاصطناعى الأكثر قدرة ، ما يسمى بالمنطق. يبدو أن هناك القليل من الضمانات المعمول بها لمنع هذا النوع من “البحث العكسي للموقع” في ChatGPT ، ولا تعالج شركة Openai ، الشركة التي تقف وراء ChatGPT ، المشكلة في تقرير السلامة الخاص بها لـ O3 و O4-MINI.
لقد تواصلنا مع Openai للتعليق. سنقوم بتحديث مقالتنا إذا استجابوا.
تم تحديثه 10:19 مساءً المحيط الهادئ: بعد ساعات من نشر هذه القصة ، أرسل متحدث باسم Openai TechCrunch البيان التالي:
“يجلب Openai O3 و O4-Mini التفكير البصري إلى ChatGPT ، مما يجعله أكثر فائدة في مجالات مثل إمكانية الوصول أو البحث أو تحديد المواقع في الاستجابة لحالات الطوارئ. لقد عملنا على تدريب نماذجنا على رفض طلبات المعلومات الخاصة أو الحساسة ، وأضاف ضماناتنا التي تهدف إلى منع النموذج من تحديد الأفراد في الصور ، والرصد الفعلي للمراقبة الفعالة للاستخدامات الخاصة بنا في الولايات المتحدة.
اكتشاف المزيد من اشراق اون لاين
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
