تمكن نموذج «جيميناي» التابع لشركة «غوغل» من الوصول إلى الإنترنت واكتشاف بيانات اعتماد استخدمها للوصول إلى ثلاثة مواقع إلكترونية خلال اختبار للأمن السيبراني، في واقعة قالت الشركة إنها الأولى المعروفة التي ينفذ فيها أحد نماذجها مثل هذا السلوك بشكل مستقل.
ووقعت الحوادث في مايو الماضي، خلال اختبار أجرته شركة «إيريجولار» المتخصصة في تقييمات الأمن السيبراني للذكاء الاصطناعي.
وقالت نائبة رئيس «غوغل» لهندسة الأمن، هيذر أدكينز، إن «جيميناي» عثر خلال الاختبار على معلومات متاحة للعامة عبر الإنترنت، ثم تمكن من تخمين بيانات اعتماد الدخول إلى ثلاثة مواقع كان يعتقد أنها تقع ضمن نطاق الاختبار.
وأوضحت أدكينز أن «غوغل» أخطرت الجهات الثلاث المعنية، كما عملت مع شريكها في التدريب على إدخال تغييرات إلى إجراءات الاختبار، مشيرة إلى أن الواقعة تبرز أهمية تدريب نماذج الذكاء الاصطناعي المتقدمة على التصرف بصورة مسؤولة.
وفي إحدى الحالات، تمكن «جيميناي» من تخمين كلمة مرور والوصول إلى نظام محمي، بينما عثر في الحالتين الأخريين على بيانات اعتماد أتاحت له الوصول إلى أنظمة محمية، وفقًا لما أوردته «وول ستريت جورنال» التي نشرت تفاصيل الواقعة أولًا.
وأكدت أدكينز أن النموذج توقف عن عمليات الوصول في الحالات الثلاث.
وقال متحدث باسم «إيريجولار» إن الواقعة ترتبط بمشكلة مماثلة ظهرت في اختبارات أجرتها مختبرات أخرى للذكاء الاصطناعي، مشيرًا إلى أنه تم إخطار الجهات المعنية في أواخر يوليو، وأن المشكلات المعروفة عولجت منذ ذلك الحين.
وتأتي هذه الواقعة في سياق حوادث مماثلة كشفت عنها شركات «ميتا» و«أنثروبيك» و«أوبن إيه آي» خلال تقييمات مرتبطة بـ«إيريجولار». وقالت «ميتا» في أغسطس إن إحدى الوقائع لم تتضمن اختراقًا لبيئة معزولة أو هجومًا سيبرانيًا متطورًا.
وتسلط هذه الحوادث الضوء على التحديات المرتبطة بتطوير وكلاء ذكاء اصطناعي يتمتعون بدرجات أكبر من الاستقلالية، خصوصًا مع منحهم إمكانية الوصول إلى الإنترنت وأنظمة الكمبيوتر.
وتعمل «إيريجولار» على تطوير أفضل الممارسات لإجراء اختبارات الأمن السيبراني لنماذج الذكاء الاصطناعي بطريقة أكثر أمانًا، في ظل تزايد الاعتماد على هذه النماذج لتنفيذ مهام تتطلب الوصول إلى أنظمة وبيانات خارجية.
