الشعب يحتاج إلى رأسمالي سيء، والذكاء الاصطناعي صنع إشاعة حول خدمة التوصيل

كتابة: كوري، ديب تشاوتش TechFlow

الأسبوع الماضي حدث شيء غريب جدًا.

رئيسا شركتي توصيل الطعام الأمريكيتين، أحدهما بقيمة 27 مليار دولار، والآخر يدير أكبر منصة حجز سيارات عبر الإنترنت في العالم، لم يناما في ساعة متأخرة من ليلة السبت، وكتبا منشورات صغيرة على الإنترنت لإثبات براءتهما.

السبب هو منشور مجهول على Reddit.

الكاتب المجهول قال إنه مهندس خلفي في منصة توصيل كبيرة، وكان مخمورًا، وذهب إلى المكتبة باستخدام WiFi العام ليكشف الحقيقة.

المحتوى كان تقريبًا كالتالي:

الشركة تحلل حالة سائقي سيارات الأجرة، ثم تعطيهم “درجة اليأس”، كلما كان السائق أكثر حاجة للمال، كلما حصل على طلبات أقل جودة؛ زعم أن أولوية التوصيل في الطلبات الخارجية غير حقيقية، وأن الطلبات العادية تتأخر؛ وأن جميع “مخصصات فوائد السائقين” لم تُعطَ للسائقين، وكلها ذهبت لمحاولة إقناع الكونغرس لمواجهة النقابات…

نهاية المنشور كانت تبدو واقعية جدًا: “أنا مخمور، وغاضب جدًا، لذلك قررت الكشف عن الحقيقة.”

مُصوّرًا نفسه كـ"مبلغ عن فساد شركة كبيرة تستخدم الخوارزميات لاستغلال السائقين".

بعد ثلاثة أيام من نشره، حصل على 87000 إعجاب، وصعد إلى الصفحة الرئيسية لـReddit. كما قام بعض الأشخاص بالتقاط صور للشاشة ونشرها على X، وحصل المنشور على 36 مليون ظهور.

يجب أن نعرف أن سوق توصيل الطعام في أمريكا يضم عددًا قليلاً من اللاعبين الكبار، ولم يذكر المنشور اسم شركة معينة، لكن الجميع كان يخمن من هو.

رئيس شركة DoorDash، توني شو، لم يستطع الصمت، وغرد قائلًا إن هذا ليس من عملنا، ومن يجرؤ على فعل ذلك يُطرد. كما ردت شركة Uber على ذلك، وقالت: “لا تصدقوا كل شيء ترونه على الإنترنت.”

حتى أن شركة DoorDash نشرت بيانًا رسميًا في موقعها، ردت فيه على كل نقطة في المنشور، ورفضت محتواه. هاتان الشركتان، بقيمة سوقية تزيد عن 800 مليار دولار، تسببت منشور مجهول في إحداث أزمة علاقات عامة ليليًا.

ثم، تبين أن هذا المنشور تم توليده بواسطة الذكاء الاصطناعي.

الذي كشف ذلك هو الصحفي كيسي نيوتن من وسائل الإعلام التقنية الأجنبية Platformer.

تواصل مع مصدر المنشور، وأرسل له نسخة من وثيقة تقنية داخلية من 18 صفحة، بعنوان أكاديمي هو “AllocNet-T: High-Dimensional Temporal Supply State Modeling”.

الترجمة التقريبية: “نمذجة حالة العرض الزمني عالية الأبعاد”. كل صفحة كانت مختومة بكلمة “سري”، وموقعة من قسم ديناميكيات السوق في Uber، قسم الاقتصاد السلوكي.

المحتوى يشرح النموذج الذي يُستخدم في المنشور على Reddit لتحديد “درجة اليأس” للسائقين، وكيف يتم حسابه. يتضمن مخططات هيكلية، ومعادلات رياضية، ومخططات تدفق البيانات…

(صورة لورقة بحث زائفة، تظهر وكأنها حقيقية عند النظرة الأولى)

قال نيوتن إن هذه الوثيقة خدعته في البداية. من يضيع وقته في تزوير وثيقة تقنية من 18 صفحة لخداع صحفي؟

لكن الأمر لم يعد كذلك الآن.

هذه الوثيقة المكونة من 18 صفحة يمكن توليدها خلال دقائق بواسطة الذكاء الاصطناعي.

وفي الوقت نفسه، أرسل المبلغ عن الفساد صورة لبطاقة موظف Uber مشفرة، ليؤكد أنه يعمل هناك فعلاً.

وبفضول، قام نيوتن بإدخال صورة بطاقة الموظف إلى Google Gemini للتحقق، ووجد أن Gemini قال إن الصورة مولدة بواسطة الذكاء الاصطناعي.

السبب هو أن Google أدمجت علامة مائية خفية في محتوى الذكاء الاصطناعي الخاص بها، تسمى SynthID، لا يمكن رؤيتها بالعين المجردة، لكن يمكن للآلات اكتشافها.

الأكثر إثارة للدهشة أن بطاقة الموظف تحمل شعار “Uber Eats” (توصيل الطعام من أوبر).

أكد متحدث باسم Uber: “نحن لا نملك بطاقات موظفين تحمل شعار Uber Eats، جميع بطاقات العمل تحمل فقط شعار Uber.”

من الواضح أن هذا المبلغ عن الفساد المزيف، حتى في استهداف من يهاجم، لم يكن واضحًا تمامًا. وعندما طلب الصحفيون من المصدر تقديم حسابات على LinkedIn ووسائل التواصل الاجتماعي للتحقق أكثر، قام المبلغ عن الفساد بحذف حسابه والفرار.

في الواقع، نحن لا نريد الحديث عن قدرة الذكاء الاصطناعي على التزييف، فهذا أمر معتاد.

ما نريد مناقشته هو: لماذا يصدق ملايين الناس منشورًا مجهول الهوية؟

في عام 2020، تم مقاضاة شركة DoorDash لأنها استخدمت إكرامية كتعويض أساسي للسائقين، وخسرت 16.75 مليون دولار. كما استخدمت Uber أداة تسمى Greyball، لتجنب الرقابة. هذه أمور حقيقية.

من السهل أن تتفق مع فكرة أن المنصات ليست جيدة، وأن هذا الحكم لا شك فيه.

لذا، عندما يقول أحدهم “خوارزميات منصات التوصيل تستغل السائقين”، رد الفعل الأول ليس “هل هذا صحيح؟”، بل “بالطبع هو كذلك.”

الأخبار الكاذبة تنتشر لأنها تبدو وكأنها شيء يصدقه الناس بالفعل.

والذكاء الاصطناعي يجعل تكلفة إنشاء مثل هذه الأكاذيب تقترب من الصفر.

هناك تفصيل آخر في هذه القصة.

الاعتماد على كشف الاحتيال يعتمد على تقنية كشف العلامات المائية من Google. Google تصنع الذكاء الاصطناعي، وتطور أدوات كشف الذكاء الاصطناعي أيضًا.

لكن SynthID يمكنها فقط فحص محتوى الذكاء الاصطناعي الخاص بـGoogle. وهذه المرة، تم اكتشاف الأمر لأن المزور استخدم Gemini. لو استخدم نموذجًا آخر، ربما لم يكن الأمر ليتم كشفه بسهولة.

لذا، فإن نجاح هذه القضية لا يُعتبر انتصارًا تقنيًا، بل هو:

خطأ بسيط من الطرف الآخر.

سبق أن أجرى رويترز تحقيقًا، وأظهر أن 59% من الناس يقلقون من عدم قدرتهم على التمييز بين الحقيقي والمزيف على الإنترنت.

تغريدات توضيح رؤساء شركات التوصيل حظيت بمئات الآلاف من المشاهدات، لكن كم من الناس يصدقون أنها مجرد علاقات عامة وكذب؟ على الرغم من أن المنشور المزيف قد تم حذفه، إلا أن التعليقات لا تزال تهاجم منصات التوصيل.

الكذبة انتشرت عبر نصف الكرة الأرضية، لكن الحقيقة لا تزال تتعلق برباط الحذاء.

فكر مرة أخرى، لو أن المنشور لم يكن عن Uber، بل عن Meituan أو Ele.me، ماذا سيكون؟

ما هو “درجة اليأس”، وما هو “استخدام الخوارزميات لاستغلال السائقين”، وما هو “عدم دفع فوائد للسائقين”؟ عندما ترى هذه الاتهامات، هل يكون رد فعلك الأول هو التعاطف العاطفي؟

هل تذكر مقال “سائقو التوصيل، عالقون في النظام”؟

لذا، المشكلة ليست في قدرة الذكاء الاصطناعي على التزييف. المشكلة هي: عندما يكون الكذب مشابهًا لما يعتقده الناس بالفعل، هل يهم الحقيقة أم لا؟

الشخص الذي حذف حسابه وهرب، لا يعرف لماذا فعل ذلك، ولا يهمه.

كل ما يعرفه هو أنه وجد مخرجًا عاطفيًا، وملأه بمادة مولدة بواسطة الذكاء الاصطناعي.

وانتشت النيران. سواء كانت من حطب حقيقي أو زائف، من يهتم؟

في الحكايات، يقول بينوكيو إن أنفه يكبر عندما يكذب.

لكن الذكاء الاصطناعي لا يملك أنفًا.