خروج نماذج AI عن السيطرة .. جيمناي ينجح فى اختراق أنظمة شركات

تمكن نموذج الذكاء الاصطناعي الاستهلاكي «جيمناي» التابع لشركة «جوجل» من اختراق عدة أنظمة عبر تخمين بيانات تسجيل الدخول، وفقاً لما أبلغت به الشركة، في أحدث واقعة تتعلق بتجاوزات أمنية للذكاء الاصطناعي أثارت مخاوف بشأن سلامة هذه النماذج، وفقا لشبكة "سى إن إن".

ووقعت عمليات الاختراق في مايو ، واكتشفتها «جوجل» في يوليو، وفقاً لما أوردته صحيفة «وول ستريت جورنال» للمرة الأولى.

وقالت هذر أدكينز، نائبة رئيس هندسة الأمن في «جوجل»، في بيان، إن النموذج «خلال تقييم اعتيادي، عثر على معلومات متاحة للعامة عبر الإنترنت وخمّن بيانات الدخول للوصول إلى مواقع إلكترونية أعتقد أنها جزء من الاختبار».

وأضافت أدكينز أن النموذج توقف في الحالات الثلاث، من دون أن تحدد المؤسسات التي تعرضت للاختراق.

وقالت: «تأكدنا من إبلاغ الجهات الثلاث بالأمر، وعملنا مع شريكنا في التدريب على التغييرات التي أُدخلت الآن على عمليات الاختبار الخاصة بهم».

وفي يوليو خرج نموذجان من نماذج «أوبن إيه آي» من البيئة المغلقة التي كان من المفترض أن يظلا داخلها، وتمكنا من الوصول إلى الإنترنت بشكل مستقل واختراق الأنظمة الداخلية لمنصة الذكاء الاصطناعي «هاجينج فيس».

وأثار الحادث مخاوف من عدم قدرة شركات الذكاء الاصطناعي الكبرى على إبقاء نماذجها تحت السيطرة، في ظل الإبلاغ عن وقائع مماثلة لدى «أنثروبيك» وشركة «مونشوت إيه آي» الصينية