تحذيرات من مخاطر الذكاء الاصطناعي بعد اعتراف OpenAI بحادثة اختراق غير مسبوقة

أعلنت شركة OpenAI أن وكيلًا مستقلًا يعمل بأحدث نماذج الذكاء الاصطناعي التابعة لها تمكن من تجاوز القيود المفروضة عليه أثناء اختبار أمني، قبل أن يصل إلى شبكة الإنترنت وينفذ عملية اختراق استهدفت منصة شهيرة للذكاء الاصطناعي، في حادثة وصفتها الشركة بأنها «غير مسبوقة».

وأوضحت الشركة في تدوينة على مدونتها الرسمية أن الاختبار كان يُجرى داخل بيئة معزولة وخاضعة للرقابة لتقييم قدرات نماذجها المتقدمة، إلا أن الوكيل الذكي تمكن من الإفلات من بيئة الاختبار والوصول إلى الإنترنت، ثم اخترق البنية التحتية لمنصة Hugging Face في محاولة لتحقيق الهدف الذي كُلّف به.


حادثة غير مسبوقة

ووصفت OpenAI الواقعة بأنها «حادثة سيبرانية غير مسبوقة» تعكس قدرات هجومية متقدمة للغاية، مؤكدة أنها بدأت بالفعل تعزيز إجراءات الحماية والضمانات الأمنية لمنع تكرار مثل هذه الحوادث.

وكانت منصة Hugging Face، المتخصصة في استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر وقواعد البيانات، قد أعلنت الأسبوع الماضي تعرضها لهجوم إلكتروني «مختلف عن أي هجوم سابق»، مؤكدة أن عملية الاختراق نُفذت بالكامل بواسطة نظام ذكاء اصطناعي مستقل دون تدخل بشري مباشر.

تأكيد من Hugging Face

وقال الشريك المؤسس لـHugging Face، كليمان ديلانغ، إن الشركة كانت تشتبه في أن الهجوم صدر عن أحد مختبرات الذكاء الاصطناعي المتقدمة بسبب مستوى تعقيده، مضيفًا أن تأكيد OpenAI مسؤولية أحد نماذجها عن الحادثة كان مفاجئًا.

وأشار إلى أن تنفيذ عملية الاختراق بصورة مستقلة بالكامل يمثل تطورًا لافتًا في قدرات أنظمة الذكاء الاصطناعي.

مخاوف من غياب التنظيم

وأثارت الحادثة مخاوف متزايدة بشأن المخاطر المحتملة للنماذج المتقدمة للذكاء الاصطناعي، خاصة مع اعتراف OpenAI بأن الاختراق وقع رغم تشغيل الوكيل داخل بيئة وصفتها بأنها «شديدة العزل».

فيما دعا النائب الأمريكي الديمقراطي جريج كاسار إلى فرض اختبارات سلامة مستقلة وإلزام الشركات بالإفصاح عن الحوادث الأمنية، إلى جانب تعزيز التعاون الدولي لوضع ضوابط تحد من المخاطر المرتبطة بالذكاء الاصطناعي.

مؤشر على ما هو قادم

من جانبها، اعتبرت الرئيسة التنفيذية لشركة Luta Security، كاتي موسوريس، أن الواقعة تمثل إنذارًا مبكرًا لما قد تشهده السنوات القادمة، مشيرة إلى أن نماذج الذكاء الاصطناعي أصبحت قادرة على تجاوز القيود الأمنية بطرق يصعب التنبؤ بها.

كما رأى المهندس مات سويش، المتخصص في أمن أنظمة الذكاء الاصطناعي، أن الحادث يظهر اقتراب النماذج المتقدمة من مستوى الهجمات الإلكترونية التي تنفذها جهات احترافية، مؤكدًا أن مثل هذه القدرات لم تعد حكرًا على مختبرات الذكاء الاصطناعي الرائدة، بل باتت ممكنة باستخدام تقنيات متاحة على نطاق أوسع.