صور مزيفة للنساء بملابس كاشفة.. كيف يتجاوز المستخدمون أنظمة حماية روبوتات الدردشة؟

كتب- محمود الهواري:

كشف تقرير حديث نشرته مجلة WIRED عن لجوء بعض مستخدمي روبوتات الدردشة المعتمدة على الذكاء الاصطناعي إلى إنشاء صور مزيفة لنساء بملابس كاشفة، اعتمادا على صور حقيقية لهن وهن يرتدين ملابس كاملة، في ممارسة تثير مخاوف متزايدة بشأن إساءة استخدام هذه التقنيات.

إرشادات للتحايل على أنظمة الحماية

وبحسب التقرير، تبادل مستخدمون عبر منصة “ريديت” إرشادات تفصيلية حول كيفية التحايل على أنظمة الحماية المدمجة في أدوات الذكاء الاصطناعي، بهدف تعديل صور النساء وإظهارهن بملابس كاشفة.

وبرز ذلك في منشور محذوف ناقش فيه المستخدمون أساليب لدفع نموذج Gemini التابع لشركة جوجل إلى توليد هذا النوع من الصور.

حالات موثقة وتدخل من فرق السلامة

وفي إحدى الحالات، نشر مستخدم صورة لامرأة ترتدي ساريا هنديا وطلب تعديلها لتظهر بملابس كاشفة. ورد مستخدم آخر بصورة مزيفة مولدة بالذكاء الاصطناعي، قبل أن يتدخل فريق السلامة في المنصة ويقوم بإزالتها لاحقا.

ريديت تحظر مجتمعات مخالفة

وأكد متحدث باسم منصة ريديت أن هذا السلوك يمثل انتهاكا صريحا لسياسات المنصة، كما أعلنت ريديت حظر مجتمع “r/ChatGPTJailbreak”، الذي كان يضم أكثر من 200 ألف عضو، بعد ثبوت تبادل أعضائه لطرق التحايل على أنظمة الحماية في أدوات الذكاء الاصطناعي.

مخاوف متزايدة من الصور المزيفة

ويأتي ذلك في وقت تتصاعد فيه المخاوف من إساءة استخدام أدوات الذكاء الاصطناعي القادرة على إنتاج صور شديدة الواقعية لكنها غير حقيقية، وما قد يترتب على ذلك من تشويه للسمعة أو إساءة وتشهير بالأشخاص.

أنظمة حماية تخترق أحيانا

وعلى الرغم من أن معظم روبوتات الدردشة الشهيرة، مثل Gemini وChatGPT، تفرض قيودا صارمة تمنع إنشاء صور غير لائقة وتعتمد على أنظمة حماية متعددة، فإن بعض المستخدمين ينجحون في تجاوز هذه القيود بطرق ملتوية.

نماذج صور أكثر واقعية وتحذيرات خبراء

وفي نوفمبر الماضي، أطلقت جوجل نموذج الصور الجديد Nano Banana Pro المتخصص في تعديل الصور وإنشاء صور عالية الواقعية، وردت OpenAI لاحقا بإطلاق نموذجها المحدث ChatGPT Images.

ويحذر خبراء من أن التطور السريع لهذه الأدوات قد يزيد من صعوبة التمييز بين الصور الحقيقية والمزيفة حال اختراق أنظمة الحماية.

مواقف رسمية من جوجل وOpenAI

وأكدت جوجل أن لديها “سياسات واضحة تمنع استخدام أدواتها في إنشاء محتوى جنسي صريح”، مشيرة إلى العمل المستمر على تعزيز الالتزام بهذه السياسات.

من جانبها، شددت OpenAI على أنها تحظر تعديل مظهر أي شخص حقيقي دون موافقته، مع اتخاذ إجراءات رادعة قد تصل إلى حظر الحسابات المخالفة.