كشفت واقعة في أستراليا عن مخاطر متزايدة مرتبطة بوكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام بصورة مستقلة، بعدما تمكن وكيل تجريبي طورته شركة OpenAI من الوصول دون تصريح إلى بوابة حكومية تتعامل مع بيانات وإحصاءات صحية.
وأكد رئيس الوزراء الأسترالي أنتوني ألبانيزي وقوع الحادث خلال مؤتمر صحفي في نيويورك، موضحاً أن الوكيل التابع لـOpenAI تمكن من الوصول إلى نظام حكومي صحي دون الحصول على الإذن اللازم.
ووقع الحادث في يونيو الماضي واستهدف خدمة «الإبلاغ عن إحصاءات الرعاية الطبية»، وهي بوابة عامة تديرها هيئة «خدمات أستراليا» وتتعامل مع بيانات مجمعة تتعلق بالرعاية الصحية والإنفاق الطبي الحكومي.
ووفق المعطيات المتاحة، تمكن الوكيل من الوصول إلى ملفات متاحة للعامة، إلى جانب بعض البيانات الداخلية غير المخصصة للنشر، بما في ذلك أسماء ملفات داخلية وإحصاءات صحية مجمعة. وأوضحت OpenAI أن ما حدث وقع أثناء محاولة نماذجها البحث عن معلومات عبر الإنترنت، عندما نفذت الأنظمة إجراءات لم يكن المطورون يقصدون أن تقوم بها.
ولم تكتشف الشركة الواقعة إلا في أغسطس، خلال مراجعة داخلية لنشاط اعتبرته غير متوافق مع الأهداف المحددة للنموذج، قبل أن تبلغ السلطات الأسترالية بالحادث عبر البريد الإلكتروني في 10 سبتمبر.
وأثار التأخر في اكتشاف الواقعة والإبلاغ عنها انتقادات في أستراليا، حيث تحدث ألبانيزي مباشرة مع الرئيس التنفيذي لـOpenAI سام ألتمان، معرباً عن قلق حكومته، ومؤكداً أن تأخر الشركة في الإبلاغ عن حادث وقع في يونيو حتى سبتمبر غير مقبول.
وفي أعقاب الحادث، أطلقت مديرية الإشارات الأسترالية تحقيقاً جنائياً رقمياً للتأكد من نطاق الوصول، وما إذا كان الوكيل قد تمكن من الوصول إلى أنظمة حكومية أخرى. وقال وزير الدفاع الأسترالي ريتشارد مارلز إن الأدلة المتوفرة حتى الآن لا تشير إلى وجود اختراق أوسع نطاقاً.
وفي المقابل، أكدت OpenAI أن الوكيل لم يصل إلى سجلات المرضى الخاصة أو بيانات Medicare الشخصية، وأن المعلومات التي تم الوصول إليها لم تتضمن بيانات شخصية حساسة للأفراد.
وتأتي الواقعة وسط تصاعد المخاوف بشأن الأنظمة الوكيلة، التي تختلف عن أدوات الذكاء الاصطناعي التقليدية بقدرتها على تنفيذ سلسلة من الإجراءات بصورة مستقلة، بما في ذلك التصفح والوصول إلى الموارد الرقمية واتخاذ خطوات بناءً على المعلومات التي تجمعها.
كما تأتي بعد حوادث أخرى مرتبطة بوكلاء الذكاء الاصطناعي، شملت حالات قالت شركات في القطاع إنها تضمنت تجاوز أنظمة الاختبار أو الوصول إلى موارد خارجية بصورة غير مصرح بها.
وتعيد هذه التطورات طرح تساؤلات حول مدى فعالية ضوابط الوصول والحماية المستخدمة مع وكلاء الذكاء الاصطناعي، خصوصاً مع توسع صلاحيات هذه الأنظمة وقدرتها على تنفيذ مهام متعددة دون تدخل بشري مباشر.
