Grok تتجاوز الصور الإباحية بأكثر من 84 مرة في الساعة، والمنظمات التنظيمية العالمية تحاصر إساءة استخدام الذكاء الاصطناعي

أستراليا والاتحاد الأوروبي وغيرها من الجهات التنظيمية العالمية أطلقت مؤخرًا حملة مشتركة لمواجهة مشكلة إساءة استخدام الصور في الذكاء الاصطناعي Grok. وكشفت هيئة السلامة الإلكترونية الأسترالية أن عدد الشكاوى المتعلقة بـGrok قد تضاعف، وتشمل أنواعًا متعددة من الانتهاكات التي تستهدف القاصرين والبالغين على حد سواء. والأكثر إثارة للقلق أن البيانات تظهر أن عدد الصور ذات الإيحاءات الجنسية التي ينشرها Grok كل ساعة، يعادل 84 ضعف مجموع المواقع الخمسة الكبرى للتزييف العميق. هذه العاصفة لا تعكس فقط تأخر التنظيم أمام توسع الذكاء الاصطناعي التوليدي بسرعة، بل تشير أيضًا إلى اقتراب عصر جديد من الامتثال والتنظيم.

مخاطر تصميم المنتج وراء الارتفاع في الشكاوى

مدى خطورة المشكلة

قالت Julie Inman Grant، مفوضة الأمن السيبراني الأسترالية، إن بعض الشكاوى تتعلق بمواد استغلال جنسي للأطفال، وأخرى تتعلق بأنواع من الإساءة المبنية على الصور التي يتعرض لها البالغون. ووفقًا لأحدث التقارير، فإن عدد الشكاوى المرتبطة بـGrok خلال الأشهر القليلة الماضية قد تضاعف، ويشمل ذلك أنواعًا متعددة من الانتهاكات التي تستهدف القاصرين والبالغين.

لماذا تظهر هذه المشكلة بشكل واضح؟ السبب الرئيسي هو تحديد موقع المنتج الخاص بـGrok. هذه الأداة التي طورتها xAI ودمجت مباشرة في منصة X، مصنفة كمنتج أكثر “تقدمًا” من النماذج السائدة الأخرى، وقادرة على توليد محتوى يرفضه بعض المنافسين. حتى أن xAI أطلقت وضعًا خاصًا يمكنه توليد محتوى فاضح، مما جعلها محور اهتمام الجهات التنظيمية.

وأظهرت بيانات بلومبرغ أن عدد الصور ذات الإيحاءات الجنسية التي ينشرها Grok كل ساعة، هو 84 ضعف مجموع المواقع الخمسة الكبرى للتزييف العميق. هذا لا يدل فقط على قوة قدرات توليد الصور لدى Grok، بل يكشف أيضًا عن وجود ثغرات واضحة في آليات مراجعة المحتوى.

لماذا تم ذكر Grok بشكل خاص

مقارنةً مع أدوات الذكاء الاصطناعي الأخرى، يواجه Grok ضغط تنظيم أكبر، لأسباب منها:

• تكامله العميق مع منصة X، وعدد المستخدمين كبير (حوالي 6 مليارات مستخدم نشط شهريًا)
• تصميم المنتج يركز على “التقدم”، مع معايير مراجعة مرنة نسبيًا
• استخدام وظائف تحرير وتوليد الصور لإنشاء محتوى غير قانوني
• عدم وجود آليات تحقق من العمر أو مراجعة محتوى فعالة

تحركات الجهات التنظيمية العالمية

موقف أستراليا الصارم

أوضحت Julie Inman Grant أن وفقًا للقوانين الأسترالية الحالية، يجب على جميع الخدمات الإلكترونية اتخاذ تدابير فعالة لمنع نشر مواد استغلال جنسي للأطفال، سواء كانت من إنتاج الذكاء الاصطناعي أم لا. وهذا يعني أن الشركات لا يمكنها استخدام “كون المحتوى من إنتاج AI” كذريعة للتنصل من المسؤولية.

وشددت على أن الشركات خلال دورة حياة تصميم، ونشر، وتشغيل منتجات الذكاء الاصطناعي التوليدي، يجب أن تدمج آليات حماية أمنية، وإلا ستواجه مخاطر التحقيق والتنفيذ القانوني. وهذه ليست مجرد نصيحة، بل مطلب إلزامي.

وفيما يخص مشكلة التزييف العميق، اتخذت أستراليا موقفًا أكثر صرامة. حيث اقترح سيناتور مستقل، ديفيد بوكوك، مشروع قانون يحدد غرامات عالية على الأفراد والشركات عند نشر محتوى تزييف عميق، بهدف ردع هذه الممارسات.

متطلبات الاحتفاظ بالبيانات في الاتحاد الأوروبي

أستراليا ليست وحدها. وفقًا لأحدث التقارير، أمرت المفوضية الأوروبية منصة X بالاحتفاظ بجميع الوثائق والبيانات الداخلية المتعلقة بـGrok حتى نهاية عام 2026. ويعكس تمديد هذا الطلب جدية الاتحاد الأوروبي في التعامل مع المشكلة.

الهدف من هذا الإجراء واضح: جمع أدلة لعمليات التنفيذ والتحقيقات المستقبلية. من خلال فرض الاحتفاظ بالبيانات، يضع الاتحاد الأوروبي أساسًا للتحقيقات والعقوبات المحتملة.

التحديات الأساسية التي تواجه الشركات

أبعاد ضغط الامتثال

الأول هو المستوى التقني. مع تزايد واقعية المحتوى الذي يُنتج بواسطة الذكاء الاصطناعي، تزداد صعوبة التعرف على المحتوى المضلل وجمع الأدلة. على الشركات استثمار المزيد من الموارد في تقنيات مراجعة المحتوى والكشف، لكن هذه معركة لا تنتهي أبدًا.

الثاني هو المستوى القانوني. الإطارات القانونية الحالية غير كافية لمواجهة المحتوى الذي يُنتج بواسطة الذكاء الاصطناعي. تعمل أستراليا والاتحاد الأوروبي على تحديث التشريعات، لكن عدم توحيد الأنظمة القانونية عالميًا يسبب مشكلة في الامتثال عبر الحدود.

الثالث هو المستوى السمعة. أصبحت قضية إساءة استخدام الصور من قبل Grok محور اهتمام الرأي العام العالمي. على الرغم من أن منصة X أعلنت عن حذف المحتوى، وحظر الحسابات، والتعاون مع الحكومات، إلا أن هذه الإجراءات السلبية لم تعد كافية لإزالة الأثر السلبي.

لماذا هذا مهم للصناعة بأكملها

حالة Grok لا تعكس مشكلة شركة واحدة فحسب، بل تمثل خطرًا منهجيًا على صناعة الذكاء الاصطناعي التوليدي بأكملها. حاليًا، تعتمد معظم شركات الذكاء الاصطناعي على استراتيجية “التطوير أولًا، والتنظيم لاحقًا”، مع تأخر التنظيم كحالة طبيعية. الموقف الصارم من أستراليا والاتحاد الأوروبي يشير إلى أن هذا الوضع في طريقه للتغير.

وفقًا للمعلومات الحالية، من المحتمل أن تتبع دول أخرى إجراءات تنظيمية مماثلة. هذا يعني أن شركات الذكاء الاصطناعي التوليدي يجب أن تأخذ بعين الاعتبار قضايا الامتثال منذ بداية تصميم المنتج، وليس فقط عند ظهور المشاكل.

المستقبل المتوقع

من خلال توجهات أستراليا والاتحاد الأوروبي، فإن عصر الامتثال للذكاء الاصطناعي التوليدي يسرع في الوصول. الاتجاهات المحتملة تشمل:

• إصدار المزيد من التشريعات الخاصة بمحتوى الذكاء الاصطناعي
• ترقية متطلبات الامتثال من “اقتراح” إلى “إلزامي”
• ضرورة دمج آليات حماية أمنية في تصميم المنتجات منذ البداية، وليس بعد فوات الأوان
• تزايد ضغط التعددية التنظيمية على الشركات العابرة للحدود
• حماية القاصرين والتزييف العميق ستصبح من الأولويات التنظيمية

ومن الجدير بالذكر أن xAI، على الرغم من إتمامها جولة تمويل بقيمة 200 مليار دولار وتقييم بقيمة 2300 مليار دولار، إلا أن هذا التمويل الضخم لا يمكنه حل مخاطر التنظيم التي تواجهها. قوة رأس المال محدودة أمام القانون.

الخلاصة

حادثة إساءة استخدام الصور من قبل Grok ليست حدثًا معزولًا، بل تعكس التناقض بين التوسع السريع لصناعة الذكاء الاصطناعي التوليدي وتأخر التنظيم. تحذيرات هيئة السلامة الإلكترونية الأسترالية، ومتطلبات الاحتفاظ بالبيانات في الاتحاد الأوروبي، واقتراحات فرض غرامات عالية، كلها تشير إلى أن الجهات التنظيمية العالمية قد ضغطت على زر التسريع.

من “تضاعف الشكاوى” إلى “تصعيد التنظيم”، ومن “التحذير” إلى “الإجراءات الإلزامية”، قد يكون هذا المسار أسرع مما يتوقع الكثيرون. بالنسبة لشركات الذكاء الاصطناعي التوليدي، أصبح الامتثال ضرورة حتمية، وليس خيارًا. الخطوة التالية تعتمد على ما إذا كانت الدول الأخرى ستتبنى إجراءات مماثلة لأستراليا والاتحاد الأوروبي، وكيف ستؤثر هذه التدابير التنظيمية على وظائف المنتجات ونماذج الأعمال.