في سابقة خطيرة.. نموذج "جيميناي" للذكاء الاصطناعي يخترق شركات بشكل مستقل

تمكّن نموذج جيميناي التابع لشركة جوجل من الوصول إلى الإنترنت واختراق شركات أخرى خلال اختبار لقدراته في مجال الأمن السيبراني، في أول مثال معروف على قيام أنظمة الذكاء الاصطناعي التابعة للشركة بمثل هذا الفعل بشكل مستقل.

ووقعت عمليات الاختراق في شهر مايو خلال اختبار للأمن السيبراني أجرته شركة إيريجولار المستقلة المتخصصة في تقييمات الأمن السيبراني. وقالت هيذر أدكينز، نائبة رئيس جوجل لهندسة الأمن، في بيان، إنه خلال تقييم اختبار اعتيادي، عثر جيميني على معلومات متاحة للعامة عبر الإنترنت وخمن بيانات اعتماد للدخول إلى ثلاثة مواقع إلكترونية اعتقد أنها تقع ضمن نطاق اختباره.

وأضافت أدكينز أن الشركة حرصت على إبلاغ الكيانات الثلاثة، وعملت مع شريكها في التدريب بشأن التغييرات التي تُدخلها الآن على عمليات الاختبار، مشيرة إلى أن هذه الوقائع تسلط الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية.

من جانبه، قال متحدث باسم شركة إيريجولار إن الواقعة تنطوي على المشكلة نفسها التي أثرت على مختبرات أخرى للذكاء الاصطناعي، وأنه جرى إخطار جميع المختبرات المعنية في أواخر يوليو، مضيفاً أن جميع المشكلات المعروفة عولجت وحُلت من جانبهم قبل أسابيع.

يُذكر أن شركات ميتا وأنثروبيك وأوبن إيه.آي كشفت عن وقائع مماثلة مرتبطة بشركة إيريجولار. وقد أثارت هذه الوقائع تساؤلات بشأن الضمانات اللازمة مع اكتساب وكلاء الذكاء الاصطناعي قدراً أكبر من الاستقلالية وإمكانية الوصول إلى الإنترنت وأنظمة الكمبيوتر، وفقاً لما نشرته صحيفة وول ستريت جورنال.