كتب : محمود الهواري
02:43 م
05/01/2026
تعديل في 03:03 م
تتزايد المخاوف العالمية بشأن الاستخدام غير المسؤول لأدوات الذكاء الاصطناعي التوليدي، بعد سلسلة من الحوادث التي كشفت عن ثغرات خطيرة في الإجراءات الأمنية، خاصة في التطبيقات المدمجة مع منصات التواصل الاجتماعي.
وأحدث هذه الأزمات تتعلق ببرنامج الدردشة الآلي “جروك” التابع لشركة xAI المدعومة من إيلون ماسك، والذي تسبب في جدل واسع النطاق بعد إنشاء صور فاضحة لقاصرين، ما أثار انتقادات دولية وتنظيمية حول العالم.
الجدل يتصاعد حول Grok
تورط برنامج الدردشة الآلي “جروك”، المدمج بالفعل في منصة “إكس” التابعة لإيلون ماسك، في أزمة أخلاقية وتقنية، بعد اعترافه يوم الجمعة بأن خللا في الإجراءات الأمنية سمح بإنشاء صور لقاصرين بملابس فاضحة.
وبحسب تقرير موقع Techi، ظهرت هذه المشكلة عندما نشر مستخدمون على X لقطات شاشة لعلامة تبويب الوسائط العامة الخاصة بـ Grok، والتي كانت مليئة بالصور المعدلة التي تم إنشاؤها بناء على طلب المستخدم.
Grok يقر بالمشكلة ويعد بالإصلاح
أوضحت شركة Grok في تغريدة رسمية أن هذه الحوادث كانت حالات فردية، مؤكدة أن مواد الاستغلال الجنسي للأطفال غير قانونية وتتعارض تماما مع سياسات الشركة.
وقال Grok في منشور على منصة “X” إن “هناك حالات فردية قام فيها المستخدمون بطلب صور مولدة بالذكاء الاصطناعي تُظهر قاصرين بملابس فاضحة، وحصلوا عليها بالفعل، نحن نعمل على تحسين إجراءات الحماية لمنع هذه الطلبات تماما.”
ضعف الإجراءات الأمنية مقابل الذكاء الاصطناعي
على الرغم من اعتراف Grok بالنقاط الضعيفة، لم يقدم البرنامج سوى معلومات تقنية محدودة حول طبيعة العطل أو كيفية اختراق نظام الأمان، إذ اكتفى بالقول إن xAI حدد أوجه القصور ويعمل على إصلاحها بشكل عاجل، مؤكدا أن نشر مرشحات وأنظمة مراقبة أفضل سيكون من أولويات الشركة.
ردود فعل دولية متصاعدة
أثارت الحادثة اهتمام الجهات التنظيمية في أوروبا والهند، حيث أبلغ الوزراء الفرنسيون المدعي العام والمشرف على الإعلام (Arcom) لمراجعة الامتثال لقوانين الاتحاد الأوروبي.
وأرسلت الهند وزارة تكنولوجيا المعلومات خطابا إلى فرع X في الهند، تطالبه بتقديم تقرير خلال ثلاثة أيام عن الإجراءات المتخذة لمنع استخدام Grok في إنشاء محتوى جنسي فاضح.
الصمت التنظيمي في الولايات المتحدة
في المقابل، لم تصدر الهيئات التنظيمية الأمريكية أي رد فعل رسمي بعد، بينما لجنة الاتصالات الفيدرالية لم ترد على طلبات التعليق، بينما فضلت لجنة التجارة الفيدرالية عدم إبداء رأيها.
ويتوقع أن يتزايد الضغط العالمي قريبا لتشديد الرقابة على أدوات الذكاء الاصطناعي التوليدي، خاصة تلك المدمجة في منصات التواصل الاجتماعي الكبرى.
الالتزام بالقوانين والتحديات المقبلة
أكدت شركة Grok التزامها بالقوانين الوطنية، بما في ذلك حماية البيانات الرقمية في الهند، وحثت المستخدمين على احترام الحدود القانونية والأخلاقية، بينما يبقى الجدل حول كفاية هذه التدابير قائما، وسط ضغط متصاعد من الهيئات التنظيمية والمجتمع الدولي.
