اعترفت منصة ديسكورد بوجود خلل في نظام الإشراف المعتمد على الذكاء الاصطناعي، تسبب في حظر أكثر من 8 آلاف مستخدم خلال الشهرين الماضيين، بعدما صنّف صوراً عادية مثل جداول البيانات ولوحات الشطرنج وملمس الألعاب وحتى الخلفيات الشفافة البيضاء والرمادية على أنها محتوى ضار.
وأكدت الشركة أن المشكلة بدأت منذ شهر مايو، كما تعرض نحو 200 مستخدم إضافي للحظر خلال عطلة نهاية الأسبوع الماضية قبل أن يتمكن فريقها من اكتشاف الخلل وإصلاحه، وأضافت أن جميع الحسابات المتضررة يجري العمل حالياً على استعادتها.
ويسلط الحادث الضوء على أحد أبرز التحديات التي تواجه أنظمة الإشراف المدعومة بالذكاء الاصطناعي في وقت تعتمد فيه المنصات الرقمية بشكل متزايد على أدوات آلية لرصد المحتوى غير القانوني أو المسيء على نطاق واسع.
وفي سلسلة منشورات على منصة إكس، أوضحت ديسكورد أن نظام السلامة الآلي لديها يقارن المحتوى الذي يرفعه المستخدمون بقواعد بيانات تضم مواد ضارة معروفة، ورغم أن هذه التقنية تهدف إلى اكتشاف المحتوى غير القانوني فإنها قد تنتج أحياناً إنذارات خاطئة.
وأشارت إلى أن المحتوى كان من المفترض أن يخضع لمراجعة بشرية قبل اتخاذ أي إجراء إلا أن خللاً برمجياً أدى إلى حظر الحسابات المتأثرة مباشرة دون انتظار هذه المراجعة.
وقالت إنها تعمل على إضافة ضمانات جديدة حتى لا يتكرر هذا الخطأ مرة أخرى. على منصتي إكس وريديت، أكد عدد من المستخدمين أنهم تعرضوا للإيقاف الدائم بمجرد رفع صور تحتوي على أنماط شبكية مربعة، ورجح بعضهم أن أدوات الإشراف بالذكاء الاصطناعي أصبحت أكثر حساسية تجاه هذه الأنماط بعدما استُخدمت سابقاً في محاولات لإخفاء أو تمويه محتوى إباحي أو مواد تتعلق باستغلال الأطفال بهدف تجاوز أنظمة الكشف الآلي.
وأثار الحادث موجة غضب بين المستخدمين، إذ اعتبر كثيرون أن فرض حظر دائم اعتماداً على قرار آلي فقط قد تكون له آثار كبيرة خاصة لمن يستخدمون ديسكورد في العمل أو مجتمعات الألعاب أو للتواصل مع الأصدقاء والعائلة.
وكتب أحد مستخدمي إكس أن خسارة حساب ديسكورد بسبب خطأ كهذا قد تكون مدمرة، وأن ملايين المستخدمين يتعرضون يومياً لقرارات حظر خاطئة بسبب الذكاء الاصطناعي. لا تعد ديسكورد الشركة الوحيدة التي واجهت مشكلات بسبب أنظمة الإشراف الآلية، ففي العام الماضي أبلغ مستخدمون على إنستغرام ومجموعات فيسبوك عن تعليق حساباتهم بصورة مفاجئة ومن دون تفسير واضح.
ورجح كثيرون أن السبب يعود إلى أخطاء في أنظمة الذكاء الاصطناعي لكن ميتا لم تؤكد رسمياً ذلك، كما واجهت منصة تمبلر العام الماضي انتقادات مماثلة بعدما اشتكى مستخدمون من تعليق حساباتهم بشكل جماعي دون تقديم أسباب واضحة، في مؤشر على التحديات المستمرة التي تواجه الاعتماد المتزايد على الذكاء الاصطناعي في إدارة المحتوى.
المحرر: عمار الكاتب