أهم النقاط
قيّم المنصة بما تضخّمه، لا بما تحذفه فحسب.
خلاصة المنشورات خيارٌ بحد ذاتها. انصبّ النقاش العام حول Facebook في كثير من الأحيان على ما إذا كان ينبغي حذف منشورات بعينها. لكن أنظمة الترتيب في المنصة هي التي قررت أي المنشورات يُرجّح أن يطّلع عليها مليارات الأشخاص. والحجة المحورية للكتاب هي أن تضخيم الانتشار قادر على تشكيل الحياة العامة بقدر ما يفعل الحذف: فلا يلزم أن يخالف المنشور قاعدةً كي يبلغ جمهوراً هائلاً، ويمكن لمنشور ضار أن ينتشر على نطاق واسع مع بقائه مسموحاً به من الناحية التقنية.
يوضح نظام الشكاوى هذا الفرق. اكتشف المهندس السابق Arturo Bejar أن Facebook استبدلت طريقةً صُممت بعناية للإبلاغ عن التجارب السيئة بعملية مربكة قد تتخلّص من البلاغات بصمت. فقد تعرّضت ابنته لتحرش جنسي على Instagram، ومع ذلك لم تعتبره المنصة انتهاكاً. لم تكن المشكلة مقتصرة على قرارات الإشراف الفردية، بل تمثلت في منتج صُمم للاستماع إلى بعض الإشارات وتجاهل غيرها.
اللافت في هذا الطرح أنه ينقل السؤال من ضبط الخطاب إلى البنية التحتية. يمكن للمنصة أن تُبقي كل منشور متاحاً من الناحية التقنية، وفي الوقت نفسه تقرر أي الأصوات تحظى بمكبّر للصوت. ويشبه هذا الفرق ما بين أن تضم مكتبةٌ كتاباً إلى مجموعتها وأن يبرمج مُذيع بثّه في وقت الذروة. كلاهما يتيح الوصول، لكن أحدهما وحده يركّز الانتباه بفاعلية. كما أن هذا التأطير يتجنب الإجابة السهلة: فتضخيم الانتشار ليس خطأً في حد ذاته، ويمكن للترتيب أن يساعد الناس على العثور على مواد مفيدة. أما السؤال الأصعب فهو: ما المعايير التي ينبغي أن تحكم نظاماً يوزّع الانتباه على نطاق صناعي؟
قد تحوّل مقاييس التفاعل هدفًا للمنتج إلى خطر اجتماعي.
غيّر المقياس طريقة عرض الموجز. في عام 2018، أعلنت Facebook أنها ستمنح الأولوية للتفاعلات الاجتماعية ذات المعنى، وهي درجة تُحتسب بناءً على أفعال قابلة للقياس، مثل التعليقات والمشاركات وردود الفعل. بدا الهدف إنسانيًا: تشجيع التواصل بدلًا من التمرير السلبي. لكن النظام في الواقع كافأ التفاعلات من دون أن يقيّم نبرتها. فاحتُسب الرد الغاضب تفاعلًا، مثلما احتُسب الرد الداعم.
انتشر الغضب بسهولة. ووجدت أبحاث Facebook نفسها أن ردود الفعل السلبية ساعدت المنشورات على الانتشار. وأخبر استراتيجيون سياسيون في بولندا وإسبانيا الباحثين أنهم أخذوا يتجهون إلى مزيد من الهجمات لأن المنشورات العدوانية كانت تحقق أداءً أفضل. وأفاد أحد الأحزاب بأنه انتقل من نشر منشورات إيجابية بنسبة تقارب النصف إلى منشورات سلبية بنسبة أربعة أخماس. وقالت Facebook إن هذا التغيير خفّض الاستخدام اليومي بمقدار 50 مليون ساعة، لكن هذه التضحية لا تثبت أن المقياس حسّن تجربة المستخدمين.
هذا مثال جليّ على قانون غودهارت: ما إن يصبح المقياس هدفًا حتى يتكيّف الناس مع المقياس بدلًا من الغاية الكامنة وراءه. قد تدل التعليقات على التواصل، لكنها قد تعبّر أيضًا عن الغضب أو السخرية أو النزاع. وهذا التمييز مهم لأن مقياس المنصة لا يصف السلوك فحسب، بل يغيّر المكافآت التي تشكّله. ومن الإنصاف الإقرار بأن درجة ترتيب واحدة لا تستطيع استيعاب معنى كل تفاعل. كان الإخفاق في التعامل مع إشارة يسهل عدّها كما لو أنها تمثّل على نحو موثوق خيرًا إنسانيًا عسير القياس.
صمّموا للخصوم، لا للمستخدمين العاديين فحسب.
يتعلّم أصحاب النوايا السيئة القواعد. بُنيت أنظمة Facebook حول أنماط الاستخدام المعتادة، فيما تعلّم الانتهازيون أيّ الإشارات تكسبهم مدى انتشار أوسع. ووصف عالم البيانات السابق Jeff Allen أحد الأساليب بأنه انتشار فيروسي مصطنع: أخذ محتوى رائج من مجتمع قائم، وإعادة نشره عبر صفحة كبيرة، وترك توصيات المنصة نفسها توزّعه. وغالبًا ما كان إعداد تقارير أصلية أشد مخاطرة وأبطأ من إعادة تدوير منشور سبق أن أثبت شعبيته.
كان حجم الظاهرة لافتًا. ففي مراجعة، استحوذت 33,000 صفحة، أي نحو 0.175 بالمئة من الصفحات، على ربع مشاهدات الصفحات، بينما لم تدرّ سوى 0.14 بالمئة من إيرادات Facebook. ووجدت عينة منفصلة أن 40 بالمئة من الناشرين الكبار اعتمدوا على مواد مسروقة أو مجمّعة أو معدّلة تعديلًا طفيفًا. ولم يكن الدرس أن كل إعادة نشر خبيثة، بل إن النجاح المتوقع الذي لا يتطلب جهدًا يُذكر قد يكشف الحوافز القابلة للاستغلال في النظام.
يفترض مهندسو الأمن أن أشخاصًا لا يشاركون المصممين نواياهم سيفحصون الأنظمة ويختبرونها. وتحتاج المنصات الاجتماعية إلى العقلية الخصومية نفسها. فإذا كان تكرار النسخ يكسب المحتوى انتشارًا، فعلى المنصة أن تسأل ما إذا كانت تكافئ الانتقاء، أم الرسائل المزعجة، أم كليهما. والتحدي أن النسخ وإعادة المزج أيضًا من الممارسات الثقافية المعتادة، ولذلك قد تعاقب القواعد الفظة المبدعين الذين يعملون بصورة مشروعة. ومن الأفضل أن تفحص وسائل الحماية الأمتن أنماط السلوك والملكية والتوزيع، بدلًا من اعتبار أي إعادة نشر منفردة دليلًا على إساءة الاستخدام.
امنح فرق النزاهة صلاحيات اتخاذ القرار، لا لوحات معلومات أفضل فحسب.
كانت الأدلة تفتقر إلى سلطة تُمكّنها من إحداث أثر. وظّفت Facebook باحثين ومهندسين لدراسة المعلومات المضللة والاستقطاب وغيرهما من الأضرار. وكثيرًا ما أفضت نتائجهم إلى اقتراح حلول، لكن هذه المقترحات كان يمكن إضعافها أو عرقلتها إذا هددت النمو أو العلاقات السياسية. وكان اقتراح Carlos Gomez-Uribe بشأن الحدّ من المشاركة المفرطة (Sparing Sharing) يهدف إلى تقليص تأثير الحسابات المفرطة النشاط التي كانت تدفع التوصيات على نحو غير متناسب. غير أن Mark Zuckerberg وافق على نسخة لم تتضمن سوى خُمس التغيير المقصود في الأوزان.
ظلت الحوافز على حالها. تعاملت الشركة مع عدد المستخدمين اليوميين بوصفه مقياسًا يكاد يكون مقدسًا، فيما كان يُتوقع من فرق النزاهة معالجة الأضرار من دون تغيير جوهري في آليات النمو التي أسهمت في إحداثها. كما راجع موظفو السياسات العامة قرارات المنتجات بحثًا عن المخاطر السياسية، وكان لهم أحيانًا القول الفصل. وكانت النتيجة نمطًا متكررًا: توثّق الشركة مشكلة، وتناقش الحلول، لكنها تترك الحوافز الأساسية إلى حد بعيد من دون مساس.
الدرس التنظيمي هنا أعمق من مجرد القول إن التنفيذيين تجاهلوا الخبراء. فقد يُستمع إلى الباحثين ويُموَّل عملهم ويُشاد بهم، مع بقائهم عاجزين عن تغيير القرارات المهمة. ومن منظور الحوكمة، لا يُعدّ إبداء الرأي من دون سلطة مساءلةً حقيقية. وقد يؤدي فصل أحكام السلامة عن مصالح الضغط السياسي إلى تقليل تضارب المصالح، لكنه لن يلغي المفاضلات الصعبة أو يضمن سياسة رشيدة. والاختبار الحاسم هو ما إذا كانت الفرق المسؤولة عن الأضرار قادرة على إيقاف إطلاق منتج، أو تغيير هدف ترتيب المحتوى، أو اشتراط تقديم الأدلة قبل تفعيل تغييرات تستهدف النمو.
إبطاء آليات الانتشار الفيروسي قبل وقوع الأزمة؛ فمرشّحات المحتوى لا تستطيع مواكبته.
يمكن للاحتكاك أن يحدّ من الانتشار. غيّرت إجراءات الطوارئ (Break the Glass) التي اتخذها Facebook طريقة توزيع المنصة للمحتوى خلال الفترات عالية الخطورة. ففي ميانمار، أدى الحدّ من إعادة المشاركة إلى تقليل المنشورات التحريضية سريعة الانتشار بنسبة 25 في المئة، والصور المفبركة سريعة الانتشار بنسبة 49 في المئة. ولم يؤدّ هذا التغيير إلى تقليل مدة جلسات المستخدمين، رغم أنه خفّض التفاعلات الاجتماعية ذات المعنى بنحو 2 في المئة. وكان Facebook يخطط لإنهاء التدخل بعد الانتخابات.
جاء تفعيل مكابح الطوارئ متأخراً. قبيل انتخابات الولايات المتحدة عام 2020، استخدمت الشركة بعض التدابير للحد من نمو المجموعات والتفاعل القائم على الكراهية. وبعد الانتخابات، تراجعت عن كثير منها. ومع تزايد مجموعات Stop the Steal وتفاقم أزمة السادس من يناير، أعاد Facebook فرض قيود الطوارئ، لكن ذلك لم يحدث إلا بعد أن كانت الحركة قد نمت. وتشير أدلة الكتاب إلى أن إبطاء إعادة التوجيه والتوصيات يمكن أن يقلل مدى الوصول، من دون الاعتماد كلياً على الإشراف غير المثالي على كل منشور على حدة.
يشبه هذا هندسة السلامة في المجالات التي يكون فيها منع الخطر أكثر موثوقية من اكتشاف كل إخفاق بعد وقوعه. وقد يكون إبطاء قناة التوزيع أقل تدخلاً من حذف كلام الأفراد، كما قد يحمي النقاش المشروع من أن تطغى عليه موجات منسقة. ومع ذلك، تثير ضوابط الطوارئ أسئلة حقيقية: من يعلن وقوع أزمة؟ وكم تدوم القيود؟ وهل يستطيع المستخدمون الاعتراض عليها؟ ويُظهر مثال ميانمار أيضاً أن كلفة متواضعة على التفاعل يمكن أن تتزامن مع انخفاض كبير في انتشار المحتوى الضار.
التطبيق المترجم ليس منصة تُدار محليًا.
اللغة جزء من السلامة. توسّع Facebook بسرعة في بلدان عديدة، من دون أن يواكب هذا النموَّ عددٌ كافٍ من المشرفين والباحثين المحليين أو أنظمة الكشف المخصّصة لكل لغة. ولم يكن من السهل تكييف الأدوات الآلية القادرة على التعرّف إلى بعض أنواع المحتوى المرئي لتتعامل مع خطاب الكراهية والتحريض المرتبطين بثقافات بعينها. في ميانمار، كان متوقّعًا من أحد أوائل المراجعين الناطقين بالبِرْمية أن يغطي بلدًا يزيد عدد سكانه على 50 مليون نسمة، بينما كان المستخدمون يواجهون دعاية معادية للروهينغا ودعوات إلى العنف.
كانت لهذه النقاط العمياء عواقب. تلقّى حساب تجريبي في الهند، خلال فترة من التوتر العسكري، توصيات سريعة بمواد قومية وصور صادمة وأخبار كاذبة. كذلك أخفقت Facebook في التصدي باستمرار للاتجار بالبشر على Instagram، إلى أن هدّدت Apple بإزالة تطبيقاتها. وكثيرًا ما جاءت أقوى استجابات الشركة بعد ضغوط عامة أو تجارية، حتى حين كان الضرر الواقع على الناس واضحًا بالفعل للموظفين المحليين والمدافعين عن حقوقهم.
قد تكون الخدمة متاحة في أنحاء العالم، بينما تظل الحماية التي توفرها محلية فعليًا في الأسواق الغنية ذات الموارد الوفيرة وحدها. وهذه مشكلة في التصميم والحوكمة، لا في الترجمة فحسب: فاللغة والسياق السياسي وبُنى النفوذ المحلية تحدد ما يُعدّ تهديدًا. يمكن للأنظمة الآلية أن تساعد، لكنها لا تعوّض المعرفة بالسياق. وفي الوقت نفسه، ينطوي الإنفاذ المحلي على مخاطر خاصة به، منها ضغوط الحكومات وعدم اتساق المعايير. ويتطلب الإنصاف وجود قدرات محلية، إلى جانب ضمانات تحول دون استحواذ القوى السياسية.
قِس ما يختبره المستخدمون، بما في ذلك الأضرار التي لا تعترف بها قواعدك.
مخالفات السياسات ليست القصة كلها. وجد باحثو Instagram الداخليون أن التطبيق قد يفاقم مخاوف بعض الفتيات المراهقات بشأن صورة أجسادهن، ولا سيما من كنّ غير راضيات أصلًا عن مظهرهن أو مكانتهن الاجتماعية. وفي أحد الاستطلاعات، عزا 40 في المئة من المستخدمين الذين شعروا بأنهم غير جذابين هذا الشعور إلى Instagram. وقد تؤذي المقارنات البصرية على المنصة من دون أن يخالف أي منشور قاعدةً.
قاس Bejar الإشارة الغائبة. فقد سأل استبيان استبيان التجارب العاطفية السلبية الذي أعدّه المستخدمين عن التجارب المؤذية، لا عن المحتوى الذي يمكن الإبلاغ عنه فحسب. وفي أحد العروض، قال 51 في المئة من مستخدمي Instagram إنهم مرّوا بتجربة سيئة أو مؤذية خلال الأسبوع السابق، ومع ذلك لم يُبلّغ عن المحتوى إلا 1 في المئة منهم؛ ولم تتخذ الشركة إجراءً إلا بشأن نسبة ضئيلة من تلك البلاغات. وبين المستخدمين الذين تتراوح أعمارهم بين 13 و15 عامًا، أفاد 24 في المئة بأنهم تلقوا عروضًا غير مرغوب فيها أسبوعيًا.
يشبه هذا التمييز النتائج التي يبلغ عنها المرضى في الطب: فالمقاييس المخبرية مهمة، لكنها لا تحل محل وصف الشخص لألمه أو قدرته على أداء وظائفه أو جودة حياته. وقد تُطبَّق قواعد المنصة بدقة فيما تظل تجربة المستخدم غير آمنة أو مهينة. كما أن لاستطلاعات المستخدمين حدودًا، منها أخطاء التذكّر وصعوبة إثبات السببية. ومع ذلك، فإن تجاهل الأذى الذاتي لمجرد صعوبة قياسه يخلق نقطة عمياء منهجية. والمنهج المفيد هو الجمع بين البلاغات والاستطلاعات والأدلة السلوكية والاختبارات الدقيقة.
استثناءات الشخصيات البارزة تحوّل القواعد المحايدة إلى حماية للنافذين.
غيّرت المكانة الرفيعة طريقة تطبيق القواعد. كان نظام إكس تشيك (XCheck) لدى Facebook يُحيل بعض الحسابات البارزة إلى مراجعة إضافية قبل تطبيق العقوبات المعتادة. وقد تمنع هذه المراجعة أخطاء باهظة العواقب في التعامل مع الشخصيات العامة، لكن النظام توسّع ليشمل ملايين الحسابات، وافتقر إلى رقابة متسقة، وأخّر أحيانًا اتخاذ إجراءات حيال انتهاكات جسيمة. وخلصت مراجعات داخلية إلى أن حسابات مسيئة ومخالفين متكررين للقواعد حظوا بالحماية.
كانت العواقب ملموسة. نشر نجم كرة القدم البرازيلي Neymar صورًا حميمية لامرأة اتهمته بالاغتصاب. وبسبب المعاملة الخاصة التي حظي بها حسابه، ظلت الصور منشورة لأكثر من يوم ووصلت إلى 56 مليون مستخدم. وكانت إجراءات Facebook نفسها تقضي بحذفها، لكن الشركة أبقت حساباته نشطة. وأظهر النظام كيف يمكن للخوف من ردود فعل المستخدمين النافذين أن يجعل القواعد التي يُفترض أنها شاملة للجميع غير متساوية في الممارسة.
يمكن تبرير المراجعة الإضافية في الحالات ذات العواقب الكبيرة؛ فالأخطاء المتعلقة بقادة منتخبين أو ناشطين في مجال حقوق الإنسان قد تكون عواقبها جسيمة على نحو استثنائي. لكن الخطر يكمن في أن تتحول المراجعة إلى حصانة. ولا بدّ من معايير شفافة، وفرق عمل كافية، ومهل زمنية، وعمليات تدقيق مستقلة لضمان الحماية الإجرائية، وإلا غدت هذه الحماية امتيازاتٍ من دون أن يُلحظ ذلك. وتوضح هذه الواقعة أيضًا تفاوتًا مؤسسيًا أوسع: فكثيرًا ما تخشى المنظمات الأخطاء الواضحة التي تمس النخب أكثر من الأضرار المتفرقة التي تلحق بالمستخدمين العاديين. فالمعاملة المتساوية تتطلب أكثر من نشر قاعدة واحدة للجميع.
تعامل مع الأبحاث الداخلية بوصفها رقابةً، لا عبئًا ينبغي طمسه.
وثّق المطلعون المخاطر. انضمت Frances Haugen إلى Facebook على أمل المساعدة في التصدي للمعلومات المضللة وتعزيز الديمقراطية. وعثرت هي وموظفون آخرون على أدلة داخلية على أضرار المنتجات، واقترحوا تغييرات، ورصدوا حالات متكررة تعثّر فيها اتخاذ الإجراءات. وفي نهاية المطاف، زوّدت Haugen الصحفيين بآلاف الوثائق، من بينها أبحاث عن الصحة النفسية للمراهقين ونقاشات داخلية حول ترتيب المحتوى والنزاهة. وأسهمت تقاريرها في إظهار الفجوة بين ما كانت الشركة تعرفه وما كانت تقوله للجمهور.
ضيّق الرد نطاق التدقيق. بعدما أصبحت الوثائق علنية، قيّدت Facebook الوصول إلى الأبحاث الداخلية، وأصدرت إرشادات تحث الباحثين على الحد من جمهورهم، والتحفظ في صياغة استنتاجاتهم، وتجنب الربط بين نشاط المستخدمين على المنصة والأضرار الواقعة خارجها. وقالت الشركة إنها ما زالت تقدّر الأبحاث. لكن الضوابط الجديدة جعلت اختبار الافتراضات التي شكّلت منتجات يستخدمها مليارات الأشخاص ومشاركتها والطعن فيها أصعب على الموظفين.
لا تكون الأبحاث الداخلية آليةً للمساءلة إلا حين تصل نتائجها إلى أصحاب القرار وتصمد أمام الخلاف. فالأمان النفسي، والاحتفاظ الواضح بالوثائق، والمراجعة المستقلة، أمور تساعد المؤسسات على التعلم من الأخبار السيئة بدلًا من اعتبارها خيانة للولاء. وفي الوقت نفسه، قد تفضح التسريبات الموظفين والمجتمعات الهشة، لذا لا بد أن تقترن الشفافية بضمانات للخصوصية وتنقيح دقيق للمعلومات. ليس الهدف كشف كل ملاحظة عمل إلى أقصى حد، بل إنشاء نظام يتيح فحص النتائج غير المرغوب فيها من دون أن يتوقف ذلك على تحمّل شخص واحد مخاطر شخصية استثنائية.
يمكن لجهود السلامة أن تعزز التفاعل بعد انحسار تكاليفها قصيرة الأجل.
لم تكن المفاضلة المفترضة كاملة الصورة. كثيرًا ما تعاملت فرق Facebook مع تغييرات النزاهة بوصفها خسائر للنمو، لأن التجارب المبكرة أظهرت تراجعًا في التفاعلات أو الزيارات. تابعت دراسة داخلية لاحقة الآثار التراكمية لتدخلات النزاهة، مقارنةً بمجموعة ضابطة. ووجدت أن الاستخدام تراجع في البداية، لكن الفارق تلاشى بعد نحو ستة أشهر. وبعد قرابة عام، ارتبطت التدخلات بزيادة متواضعة وذات دلالة إحصائية في الاستخدام، ولا سيما بين المستخدمين الأصغر سنًا والأقل تكرارًا.
شكّلت النتيجة تحديًا للمسلّمات السائدة في الشركة. وقدّرت تحليلات داخلية أخرى أن جهود النزاهة زادت الاستخدام اليومي بين المستخدمين الجدد بنسبة 0.9 في المئة. لا تثبت هذه النتائج أن كل إجراء للسلامة سيعوّض تكلفته، لكنها تقوّض الافتراض القائل إن تعزيز النزاهة يضرّ بالأعمال بالضرورة. وأخّرت Facebook تعميم نتائج البحث على نطاق أوسع، لأن ما تترتب عليها كان مقلقًا.
الأفق الزمني عامل محوري. فقد ترصد تجربة قصيرة الاضطراب الناجم عن تغيير في المنتج، لكنها قد لا تكشف ما إذا كان الناس سيعودون، أو سيزداد اعتمادهم على الخدمة، أو سيدعون آخرين إليها. وهذه مشكلة مألوفة في الصحة العامة والبنية التحتية: تظهر تكاليف الوقاية فورًا، فيما لا تتجلى الأضرار التي جرى تجنبها والمنافع المستدامة إلا ببطء. وينبغي ألا يُبالغ في عرض الأدلة وكأنها تثبت أن كل تدخل في الإشراف يعزز النمو. لكنها تُظهر أن على الشركات إجراء اختبارات طويلة الأمد وقياس رفاه المستخدمين قبل إعلان السلامة والتفاعل هدفين متعارضين.
تحليل
كتاب Broken Code تحقيق صحفيّ بُني على كشف الحقائق تدريجيًا. يبدأ بقصة Arturo Bejar، المهندس الذي كان يؤمن ذات يوم بأن فيسبوك قادر على تحسين التفاعل الاجتماعي، ثم اكتشف أن نظام الملاحظات الذي صمّمه قد تحوّل إلى حاجز. وتتسع الحكاية لتشمل باحثين ومديري منتجات وجماعات ضغط والمبلّغة عن المخالفات Frances Haugen، قبل أن تعود إلى عواقب خيارات التصميم في الانتخابات والعنف السياسي واستخدام المراهقين للمنصة. ويجسّد هذا المسار أهم ما يذهب إليه الكتاب: فأضرار المنصة لم تكن مجرد مجموعة من المنشورات السيئة، بل نشأت عن أنظمة التوصية وحوافز المنتجات ونقص العاملين في مجال السلامة، وعن قرارات تحدد شكاوى مَن تستحق الاهتمام.
يبلغ الكتاب أقوى درجاته حين يربط آليات محددة بحوافز المؤسسة. فمقياس يكافئ التعليقات، ونظام توصية يتعامل مع تكرار المشاركة بوصفه علامة على الاهتمام، وثقافة عمل تقدّس المستخدمين اليوميين، قد تتفاعل فيما بينها لتضخيم مواد لم يتعمد أي مسؤول تنفيذي الترويج لها صراحةً. وهذا تفسير أجدى من الحتمية التكنولوجية أو الادعاء بأن المنصة محايدة. فالتصميم لا يحدد كل النتائج، لكنه يغيّر السلوكيات التي تصبح أكثر سهولةً وظهورًا.
وللأدلة أيضًا حدود ينبغي إبقاؤها في الحسبان. تكشف الوثائق الداخلية ما قاسه الموظفون وما خشوه، لكن بعض الدراسات ترصد الارتباطات ولا تثبت السببية، كما يصعب عزل الآثار السببية على نطاق المنصة. وتنازع الشركة في بعض جوانب ما ورد في التحقيق، فيما يشكّل أرشيف المبلّغة عن المخالفات سجلًا انتقائيًا لا تاريخًا مؤسسيًا كاملًا. لكن هذه التحفظات لا تمحو النمط المتكرر: مخاطر موثقة، وتدخلات مقترحة، ومتابعة غير متسقة. وهي تدعو إلى تجنب الزعم بأن فيسبوك وحده تسبب في الانتخابات أو الاستقطاب أو العنف.
أما الإسهام الأوسع للكتاب، فيتمثل في طرح مسألة الحوكمة. فعندما تصبح منصة خاصة قناة رئيسية للأخبار والتواصل الاجتماعي والتنظيم السياسي، تغدو خياراتها في ترتيب المحتوى أشبه ببنية تحتية عامة، مع بقائها خاضعة لمساءلة قيادة الشركة. ولا يكمن الحل الأرسخ في ابتكار مصنّف مثالي، بل في حوكمة تتيح للتدقيق المستقل الوصول إلى الأدلة، وتمنح فرق السلامة صلاحية تغيير آليات المنصة، وتقيس النجاح على مدى زمني، لا وفق مستوى التفاعل الآني وحده.
ملخص المراجعات
يقدّم Broken Code للكاتب Jeff Horwitz نظرة مفصّلة إلى ما يجري داخل فيسبوك، كاشفًا كيف أعطت الشركة الأولوية للنمو والتفاعل على حساب سلامة المستخدمين ونزاهة المحتوى. وجد القراء الكتاب غنيًا بالمعلومات، كاشفًا ومثيرًا للقلق، وأثنوا على تقارير Horwitz الدقيقة وشروحاته الواضحة للقضايا المعقدة. وأبدى كثيرون انزعاجهم من قرارات فيسبوك المتكررة بتجاهل العواقب الضارة لمنصتها. ورغم أن بعض القراء وجدوا الأسلوب جافًا أحيانًا، رأى معظمهم أنه قراءة أساسية لفهم أثر وسائل التواصل الاجتماعي في المجتمع والسياسة.
قرأ الآخرون أيضًا
المصطلحات
التفاعلات الاجتماعية ذات المعنى
التفاعل الاجتماعي المرجّحهدفٌ لترتيب المحتوى في فيسبوك استُحدث لتفضيل التفاعلات التي يُعتقد أنها تقرّب الناس بعضهم من بعض. منح النظام أوزانًا أكبر لأفعال مثل التعليقات وإعادة المشاركة مقارنةً بالإعجابات، لكنه لم يميّز بين التبادلات الداعمة والعدائية. وهكذا تعامل المقياس مع التفاعل القابل للقياس بوصفه مؤشرًا على القيمة الاجتماعية، حتى حين كان المحتوى الناتج يشجّع على النزاع.
الحدّ من المشاركة المفرطة (Sparing Sharing)
الحدّ من تأثير المستخدمين مفرطي النشاطتدخّل في موجز أخبار فيسبوك صُمّم لتقليل التأثير غير المتناسب للحسابات شديدة النشاط على توصيات المحتوى. وانطلق من أن مجموعة صغيرة من المستخدمين تولّد حصة ضخمة من التفاعل، بما في ذلك التفاعل مع المعلومات المضللة والمواد المتطرفة. خفّف التدخل من توزيع المحتوى الذي يفضّله هؤلاء المستخدمون، لكن القيادة وافقت على نسخة أضعف بكثير.
إجراءات الطوارئ (Break the Glass)
ضمانات طارئة للمنصةمجموعة من التدخلات المخطّط لها مسبقًا، كان بوسع فيسبوك تفعيلها في فترات تصاعد المخاطر، مثل الانتخابات أو التهديدات بالعنف. وشملت التدابير فرض عقوبات أشد في الترتيب، والحدّ من إعادة المشاركة أو نمو المجموعات، وتعطيل ميزات معروفة بمشكلاتها المتعلقة بنزاهة المحتوى. كان من الممكن أن تغيّر هذه الإجراءات آليات المنصة بسرعة، وغالبًا بالاعتماد على الحدّ من الانتشار الفيروسي بدلًا من انتظار الأنظمة الآلية لتتعرف على كل منشور ضار.
إكس تشيك (XCheck)
مراجعة إضافية للحسابات البارزةكان نظام التحقق المتقاطع لدى فيسبوك يحيل بعض المحتوى المنشور من شخصيات وصفحات بارزة إلى مراجعة إضافية قبل اتخاذ إجراءات الإنفاذ. وكان الهدف المعلن تفادي الأخطاء في التعامل مع الحسابات ذات التأثير الكبير. لكن النظام توسّع عمليًا على نحو غير متّسق، وشمل ملايين الحسابات، وأخّر أحيانًا العواقب على المستخدمين الذين انتهكوا قواعد المنصة أو منعها.
كورجي (CORGI)
يرصد السلوك المنسّق للحساباتأداة داخلية لدى فيسبوك لتحديد الحسابات التي بدا أنها تتصرف بتنسيق فيما بينها أو تحت سيطرة مركزية. بحثت عن إشارات مثل النشاط المتشابه على نحو غير معتاد، وإنشاء الحسابات في أوقات متزامنة، وآثار تقنية مشتركة، وتكرار الصياغات. ساعد النظام على كشف السلوك المنسّق الزائف، ونُظر في استخدامه لمواجهة عمليات التأثير الأجنبية والشبكات المحلية على حد سواء.
ممرّ المعلومات (Information Corridor)
مسارات تنقل السرديات الضارةنموذج لتتبّع انتقال الرسائل عبر المستخدمين والحسابات وميزات فيسبوك المترابطة. صنّف تحليل مؤيدي حركة «أوقفوا السرقة» المشاركين بحسب أدوار مثل مطلقي الرسائل ومضخّميها والأشخاص الذين يصلون بين مجتمعات مختلفة. وركّز النهج على تعطيل المسارات التي تنشر رسائل الحركة، لا على إزالة المنشورات الفردية بعد تداولها فحسب.
استبيان التجارب العاطفية السلبية
استبيان عن تجارب المستخدمين الضارةطريقة استبيان طوّرها Arturo Bejar لتسجيل التجارب المزعجة التي مرّ بها المستخدمون على إنستغرام، بما فيها التحرش والتعرّض لمواد مؤلمة. هدفت الطريقة إلى قياس ما لم ترصده أنظمة الإبلاغ المعتادة، لأن كثيرًا من التجارب المزعجة لم تكن تنتهك القواعد الرسمية بوضوح. وكان من الممكن أن تساعد النتائج الشركة على فهم تجارب المستخدمين الفعلية بدلًا من الاعتماد على عمليات الإزالة ومقاييس التفاعل وحدها.
نظام فيسبوك للتعلّم الآلي (FB Learner)
قالب لبناء أنظمة التعلّم الآلينظام داخلي في فيسبوك حوّل أساليب التعلّم الآلي إلى قوالب يستطيع المهندسون استخدامها من دون أن يكونوا متخصصين في هذا المجال. ساعد الفرق على إجراء التجارب وبناء الميزات المدعومة بالذكاء الاصطناعي بسرعة أكبر. وسرّعت الأداة انتشار التعلّم الآلي عبر المنتجات، بما فيها توصيات المحتوى والإشراف عليه، فيما سهّلت على الفرق نشر نماذج قد لا تفهم سلوكها فهمًا كاملًا.
الأسئلة الشائعة
ما موضوع Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets؟
- التركيز على أثر فيسبوك: يستكشف الكتاب تأثير فيسبوك في الخطاب السياسي والصحة النفسية والتفاعلات الاجتماعية، كاشفًا عواقب خوارزمياته على المجتمع.
- كشف الممارسات الضارة: يسلّط الضوء على صعوبات فيسبوك في التعامل مع المعلومات المضللة وخطاب الكراهية والتلاعب بالأنظمة، مؤكدًا التوتر بين النمو والنزاهة.
- قصص شخصية ورؤى من مُبلِّغة عن المخالفات: يروي Jeff Horwitz شهادات موظفين سابقين والمُبلِّغة عن المخالفات Frances Haugen، مقدّمًا منظورًا إنسانيًا لثقافة فيسبوك الداخلية ومعضلاته الأخلاقية.
لماذا أقرأ Broken Code للكاتب Jeff Horwitz؟
- فهم دور وسائل التواصل الاجتماعي: يُعدّ الكتاب مهمًا لاستيعاب التأثير العميق لوسائل التواصل الاجتماعي في الديمقراطية والخطاب العام، ولا سيما عبر منصات مثل فيسبوك.
- رؤية في أخلاقيات الشركات: يتعمق الكتاب في التحديات الأخلاقية التي تواجه شركات التكنولوجيا، ويشجّع على التفكير في مسؤوليات منصات التواصل الاجتماعي.
- سرد جذاب: يمزج Horwitz الصحافة الاستقصائية بسرد القصص، فيجعل القضايا المعقدة مفهومة وجذابة من خلال حكايات الموظفين الشخصية.
ما أهم الدروس المستفادة من Broken Code؟
- النمو في مقابل النزاهة: يبرز الكتاب الصراع بين أهداف فيسبوك المتعلقة بالنمو والنزاهة الأخلاقية، موضحًا كيف كثيرًا ما تُعرّض قرارات التفاعل سلامة المستخدمين للخطر.
- التأثير الخوارزمي: يناقش كيف تعطي خوارزميات فيسبوك الأولوية للمحتوى المثير، ما يؤدي إلى الاستقطاب والمعلومات المضللة، ويدعو إلى الإشراف المسؤول على المحتوى.
- الدعوة إلى المساءلة: يشدد السرد على ضرورة مساءلة شركات التكنولوجيا عن أثرها في المجتمع، ويدعو إلى الشفافية والتطوير الأخلاقي للتكنولوجيا.
كيف يتناول Broken Code المعلومات المضللة على فيسبوك؟
- المعلومات المضللة موضوع محوري: يفصّل الكتاب كيفية انتشار المعلومات المضللة على فيسبوك، ولا سيما خلال الانتخابات، وإخفاق المنصة في التعامل معها بفاعلية.
- تحديات الخوارزميات: يشرح Horwitz أن خوارزميات فيسبوك فضّلت المحتوى المثير، ما أسهم في الانتشار الفيروسي للمعلومات المضللة وأبرز الحاجة إلى إعادة تقييم أولويات المحتوى.
- جهود مكافحة المعلومات المضللة: ينتقد الكتاب مبادرات فيسبوك لمكافحة المعلومات المضللة، ويرى أنها غالبًا بطيئة جدًا وغير كافية، مؤكدًا الحاجة إلى تدابير أشد فاعلية.
ما دور الموظفين السابقين وFrances Haugen في Broken Code؟
- شهادات شخصية ورؤى مُبلِّغة عن المخالفات: يقدّم الموظفون السابقون والمُبلِّغة عن المخالفات Frances Haugen رؤى مباشرة عن ثقافة فيسبوك وعمليات صنع القرار فيها.
- نقد ممارسات الشركة: يطرحون وجهات نظر نقدية بشأن ممارسات فيسبوك، ولا سيما ما يتعلق بسلامة المستخدمين والإشراف على المحتوى، كاشفين عن خلافات داخلية.
- إضفاء بُعد إنساني على السرد: تجعل قصصهم القضايا أقرب إلى القارئ، مؤكدة العواقب الواقعية لقرارات الشركات والحاجة إلى الشفافية.
كيف يستكشف Broken Code مفهوم «الانتشار الفيروسي»؟
- الانتشار الفيروسي سلاح ذو حدّين: يناقش الكتاب كيف يشجّع تصميم فيسبوك الانتشار الفيروسي، غالبًا على حساب جودة المحتوى، ما يؤدي إلى تضخيم المعلومات الضارة أو المضللة.
- الأثر في سلوك المستخدمين: يشرح كيف يؤثر السعي إلى الانتشار الفيروسي في تفاعلات المستخدمين، مقدّمًا الإثارة على الدقة، بما يؤثر في الخطاب العام والمعايير المجتمعية.
- الحاجة إلى تصميم مسؤول: يدعو السرد إلى إعادة تقييم الحوافز التي تدفع إلى الانتشار الفيروسي، وإلى تحقيق توازن بين التفاعل وتعزيز المحتوى الدقيق.
ما المعضلات الأخلاقية التي يسلّط Broken Code الضوء عليها؟
- الموازنة بين النمو والمسؤولية: يوضح الكتاب التوتر بين أهداف فيسبوك المتعلقة بالنمو ومسؤولياتها الأخلاقية، متسائلًا عن عواقب تقديم الأرباح على السلامة.
- التلاعب بالخوارزميات: يناقش كيف يمكن للجهات الخبيثة استغلال الخوارزميات لنشر المعلومات المضللة وخطاب الكراهية، ما يطرح تحديات أخلاقية كبيرة.
- مساءلة الشركات: يؤكد السرد ضرورة مساءلة شركات التكنولوجيا عن أثرها في المجتمع، ويدعو إلى الشفافية والتطوير الأخلاقي للتكنولوجيا.
كيف يصوّر Broken Code الثقافة الداخلية في فيسبوك؟
- فلسفة «افترض حسن النية»: يصف الكتاب ثقافة من الثقة بين الموظفين، وينتقدها بوصفها مفرطة في التبسيط في مواجهة التحديات المعقدة.
- ضغوط النمو: يبرز الضغط الشديد الواقع على الموظفين لإعطاء الأولوية لمقاييس النمو، غالبًا على حساب الاعتبارات الأخلاقية.
- مقاومة التغيير: يكشف السرد عن تردد داخل الشركة في معالجة المشكلات البنيوية، ما يعرقل التقدم نحو ممارسات أخلاقية.
ما الحلول التي يقترحها Broken Code لمواجهة تحديات فيسبوك؟
- إعادة تقييم الخوارزميات: يدعو الكتاب إلى إعطاء الأولوية للجودة على التفاعل في الخوارزميات للحد من المعلومات المضللة وتعزيز حوار أكثر صحة.
- زيادة الشفافية: يدعو Horwitz إلى مزيد من الشفافية في عمليات فيسبوك، ولا سيما في الإشراف على المحتوى وصنع القرارات الخوارزمية.
- تدابير للمساءلة: يؤكد أهمية مساءلة شركات التكنولوجيا عن أثرها في المجتمع، ويشجّع على الممارسات المسؤولة.
كيف يتناول Broken Code آثار وسائل التواصل الاجتماعي في الصحة النفسية؟
- التركيز على الصحة النفسية للمراهقين: يسلّط الكتاب الضوء على الآثار السلبية لإنستغرام في الفتيات المراهقات، مؤكدًا ضرورة أن تعالج المنصات هذه المخاوف.
- نتائج الأبحاث الداخلية: يكشف عن دراسات لفيسبوك تشير إلى أن تصميم وسائل التواصل الاجتماعي يفاقم شعور المستخدمين بالنقص.
- الدعوة إلى تصميم مسؤول: يدعو السرد إلى إعادة تصميم منصات التواصل الاجتماعي بحيث تعطي الأولوية لرفاه المستخدمين وتحدّ من الآثار الضارة.
ما أهمية برنامج XCheck المذكور في Broken Code؟
- معاملة تفضيلية لكبار الشخصيات: أتاح برنامج XCheck للمستخدمين البارزين تفادي قواعد الإشراف المعتادة على المحتوى، منشئًا نظامًا من مستويين.
- إقرار داخلي بالعيوب: يكشف الكتاب عن مراجعات داخلية خلصت إلى أن XCheck مثّل خيانة لالتزام فيسبوك بالإنصاف.
- الأثر في ثقة الجمهور: يعزز XCheck الشكوك بشأن التزام فيسبوك بسلامة المستخدمين والمساواة، ويثير تساؤلات حول المساءلة.
كيف يقترح Broken Code أن تحسّن منصات التواصل الاجتماعي رفاه المستخدمين؟
- إعادة التصميم من أجل السلامة: يدعو الكتاب إلى إعادة تصميم المنصات لتقديم رفاه المستخدمين على مقاييس التفاعل، وإعادة النظر في خوارزميات المحتوى الضار.
- الشفافية والمساءلة: يؤكد ضرورة الشفافية في إدارة المحتوى وتفاعلات المستخدمين، ومساءلة الشركات عن أثرها.
- مقاربات تضع المستخدم في صميم الاهتمام: يقترح السرد اعتماد مقاربات تراعي آثار المنصات في الصحة النفسية، والعمل بفاعلية على الحد من التجارب السلبية.
تحميل PDF
تحميل EPUB
.epub مثالية لقراءة الكتب الإلكترونية على الهواتف والأجهزة اللوحية وأجهزة القراءة الإلكترونية.