مصر24
حذر باحثون من جامعة أكسفورد من ثغرة جديدة قد تسمح بزرع برمجيات خبيثة داخل ما يعرف بـ “وكلاء” الذكاء الاصطناعي تلك البرامج القادرة على تنفيذ مهام على جهاز المستخدم مثل فتح صفحات، ملء نماذج، النقر على أزرار بدلا من الاكتفاء بالرد النصي.
وكشف البحث، المنشور بصورة أولية على خادم الأرشيف العلمي (arXiv)، أن صورا عادية يمكن تعديلها بطريقة تخدع العملاء المدعومين بنماذج رؤية حاسوبية، فتدفعهم إلى تنفيذ سلوكيات غير مقصودة قد تسهل اختراق الأجهزة.
ويشرح الفريق أن المهاجم قد يوزع صورة تظهر نجما مشهورا أو منظرا خلابا كخلفية لسطح المكتب أو منشور على وسائل التواصل، فيما تبدو الصورة طبيعية للعين البشرية لكن برنامج العميل، عند التقاطه لصور الشاشة لتحليل ما يجب النقر عليه أو نقله، قد يتعرف على أنماط رقمية مخفية داخل الصورة وتفسرها كأوامر تنفيذية.
النتيجة، بحسب الباحثين، قد تتراوح بين سلوكيات غير مرغوبة إلى فتح قنوات تسمح بسرقة بيانات أو نشر الهجوم إلى أجهزة أخرى.
وأشار يارين غال، أحد المشاركين في الدراسة، إلى أن الهجوم يعتمد بشكل خاص على العملاء المبنيين باستخدام نماذج مفتوحة المصدر، لأن الاطلاع على الكود وطريقة معالجة الصور يسهل على المهاجمين تصميم صور تتوافق مع سلوك النموذج.
وأوضح لوكاس أيشبرغر، المؤلف الرئيسي، أن التجربة أظهرت إمكانية تعديل عدد ضئيل جدا من وحدات البكسل بحيث تظل الصورة “طبيعية” للعين البشرية لكنها تحمل أمرا مفهوما للنموذج.
وحذر الباحثين من ضرورة وضع الأمور في نصابها التجارب تجريبية حتى الآن، ولا توجد تقارير عن هجمات ناجحة في العالم الواقعي باستثناء هذه الاختبارات المخبرية ومع ذلك، ترى المجموعة أن الانتشار السريع للعملاء الذكيين خلال العامين المقبلين يزيد من أهمية التحرك المبكر لوضع ضوابط ووسائل دفاعية.
وتوصي الدراسة بمبادئ أولية لحماية الأنظمة، منها تصميم عملاء قادرين على “رفض” تنفيذ أوامر تأتي من محتوى بصري، وتعزيز متانة نماذج الرؤية الحاسوبية عبر تدريبها على مقاومة محاولات التلاعب.
ويؤكد الباحثون أن الشركات التي تعتمد على نماذج مغلقة المصدر قد تظل عرضة للخطر، لأن الغموض لا يغني عن فهم نقاط الضعف أو إصلاحها.
يقول فيليب تور، باحث مشارك: “يجب أن يكون المطورون على وعي بهذه الثغرات حتى يبنوا طبقات دفاعية قبل انتشار هذه التقنية على نطاق واسع”.
ويضيف الفريق أن هذه الورقة تهدف بالأساس إلى تنبيه مجتمع المطورين والباحثين لوضع سبل وقائية قبل أن تنتشر الوكلاء بالفعل في كل جهاز.