"أوبن أيه آي" تطلق نماذج ذكاء اصطناعي لرصد الانتهاكات وتعزيز الأمان

أعلنت شركة “أوبن أيه آي” الأمريكية عن إطلاق نموذجين جديدين من الذكاء الاصطناعي مخصصين لرصد الانتهاكات والمخاطر الرقمية على المنصات الإلكترونية، في خطوة تعزز توجهها نحو تطوير أدوات أكثر أمانا وشفافية في عالم التقنية.

النموذجان الجديدان يحملان اسمي gpt-oss-safeguard-120b وgpt-oss-safeguard-20b، وهما إصداران مطوران من سلسلة gpt-oss التي كشفت عنها الشركة في أغسطس الماضي.

وتتميز النماذج بأنها “مفتوحة الوزن”، أي أن بيانات التدريب والمعايير الداخلية متاحة للعامة، لكن من دون نشر الشيفرة الكاملة كما في النماذج مفتوحة المصدر، وفقا لتقرير نشرته شبكة “سي إن بي سي”.

وتتيح هذه الخطوة للشركات والمطورين تحكمًا أكبر في تصنيف المحتوى بما يتناسب مع سياساتهم الخاصة، سواء في ما يتعلق بالتحريض أو الأخبار المضللة أو السلوك العدواني عبر الإنترنت.

وتوضح الشركة أن المنصات يمكنها تخصيص النماذج لتتناسب مع طبيعة نشاطها؛ فمثلا يمكن لموقع مراجعات المنتجات استخدام النموذج لاكتشاف التقييمات المزيفة، بينما يمكن لمنتديات الألعاب استخدامه لتصنيف المنشورات التي تتناول أساليب الغش أو الاختراق.

وتعتمد النماذج الجديدة على ما تسميه الشركة “النمذجة القائمة على التفكير”، وهي تقنية تتيح للذكاء الاصطناعي شرح طريقة وصوله إلى النتيجة النهائية، مما يعزز من قابلية التتبع والمساءلة في قراراته.

ووفقًا لأوبن أيه آي، فقد تم تطوير هذه النماذج بالشراكة مع عدد من الشركات والمنظمات التقنية، من بينها “ديسكورد” و”SafetyKit” ومنظمة “ROOST” المعنية بتطوير أدوات أمان مفتوحة المصدر.

وسيتم طرح النماذج مبدئيا في نسخة بحثية تجريبية عبر منصة Hugging Face، مع دعوة الباحثين وخبراء الأمن السيبراني لاختبار قدراتها وتقديم ملاحظاتهم.

ويرى محللون أن الخطوة تمثل محاولة من الشركة لتعزيز صورتها الأخلاقية بعد الانتقادات التي طالتها جراء توسعها التجاري السريع.

وتقدر قيمة أوبن أيه آي حاليا بنحو 500 مليار دولار، فيما تجاوز عدد مستخدمي تطبيقها الشهير “شات جي بي تي” حاجز 800 مليون مستخدم أسبوعيا.

وقالت كاميل فرانسوا، رئيسة منظمة ROOST، إن مع تزايد قوة الذكاء الاصطناعي، يجب أن تتطور أدوات الأمان بنفس السرعة، وأن تكون متاحة للجميع.

ويؤكد خبراء الأمن الرقمي أن هذه النماذج قد تمثل جيلا جديدا من أدوات المراقبة الذكية القادرة على مواجهة التضليل والعنف اللفظي من دون المساس بحرية التعبير، وهو التحدي الذي تسعى كبرى شركات التكنولوجيا لتحقيق توازنه منذ سنوات.