كشفت شركة “أنثروبيك” المتخصصة في تطوير تقنيات الذكاء الاصطناعي، اليوم الجمعة، أن نماذجها التابعة لـ”كلود” تمكنت من اختراق أنظمة ثلاث مؤسسات خارجية أثناء اختبارات أمنية، في واقعة أثارت مخاوف جديدة بشأن تنامي قدرات الذكاء الاصطناعي.
وقالت الشركة إنها راجعت أكثر من 141 ألف اختبار للأمن السيبراني، ورصدت ثلاث حالات تمكنت خلالها نماذج “كلود” من الاتصال بالإنترنت واختراق بنية تحتية فعلية لجهات خارجية، مشيرة إلى أن أقدم هذه الحوادث يعود إلى شهر نيسان الماضي.
وأوضحت أن الاختبارات أُجريت ضمن بيئات محاكاة لقياس قدرة النماذج على اكتشاف الثغرات، إلا أن خللاً في إعدادات الاختبار أتاح لها الوصول إلى أنظمة حقيقية، من دون الكشف عن هوية المؤسسات المتضررة.
وأضافت أن النماذج التي نفذت عمليات الاختراق شملت إصدارات من “كلود”، بينها “أوبوس 4.7” و”ميثوس 5”، إلى جانب نموذج بحثي داخلي، مؤكدة أنها كانت تعمل من دون بعض إجراءات الحماية المطبقة عادة على النسخ المتاحة للمستخدمين.
وأشارت الشركة إلى أن الاختراقات نُفذت باستخدام أساليب بسيطة، من بينها استغلال كلمات مرور ضعيفة، مؤكدة أنها شددت ضوابط الاختبارات الأمنية بعد هذه الحوادث، ودعت إلى اعتماد معايير حماية مماثلة للأنظمة الفعلية داخل بيئات تقييم الذكاء الاصطناعي.
وتأتي هذه التطورات بعد أيام من إعلان شركة “أوبن إيه آي” عن حادثة مشابهة، ما أعاد الجدل بشأن الحاجة إلى تشديد الرقابة على تطوير تقنيات الذكاء الاصطناعي وقدراتها المتقدمة.
المحرر: حسين هادي