غرابة المقياس الحجمي في تويتر

عندما تنطلق مئات الآلاف من التغاريد كلَّ ثانية، فإن فرصة الواحد في المليون - شاملاً ذلك السناريوهات التي قد لا تبدو أنّها مؤذيو للمستخدم - تحدث 500 مرّة يوميّاً. بالنسبة لديل هارفي، التي تترأس فريق الثقة والحماية في تويتر، هذه الاحتمالات ليست جيّدة. تقضي خبيرة الأمن أيامها بالتفكير في كيفيّة منع وقوع أسوأ الاحتمالات، وفي ذات الوقت إعطاء الصوت للناس حول العالم. بنوع من الفكاهة، تقدم إطلالة على كيفيّة حماية 240 مليون مستخدم.

عملي في تويتر

هو ضمان ثقة المستخدم

حماية حقوق المستخدم
والحفاظ على أمان المستخدمين

من بعضهم البعض

وفي بعض الأحيان، من أنفسهم

دعونا نتحدّث عما يبدو
عليه حجم تويتر.

في يناير 2009،

شاهدنا أكثر من مليوني
تغريدة كلّ يوم

على الموقع.

في يناير 2014, أكثر من 500 مليون.

كنّا نرى مليوني تغريدة

في أقل من ستة دقائق.

هذا يعادل زيادةً بنسبة %24,900

الآن,، الأغلبيّة العظمى
من النشاطات على تويتر

لا تسبب أذىً لأحد.

ليس فيها أي خطر.

وظيفتي هي أن أمنع وأقتلع
أي نشاط قد يكون خطِراً.

يبدو أمراً واضحاً، صح؟

وقد تظنون أنّه قد يكون سهلاً.

خصوصاً وأني قلت للتو
أن الأغلبيّة العظمى

من النشاط على تويتر لا تؤذي أحداً.

لماذا نضيّع الكثيرمن الوقت

باحثين عن مصائب محتملة

في نشاطات غير مؤذية؟

نظراً إلى حجم تويتر حاليّاً

فإن احتمال حدوث الواحد في المليون

هو 500 مرة يوميّاً

ينطبق ذلك على الشركات الأخرى

التي تتعامل مع أحجام مماثلة.

بالنسةِ لنا، الحالات الهامشيّة

هذه الحالات النادرة الغير محتملة الحدوث،

تحدث بشكل اعتيادي.

لنفترض أن 99,999% من التغاريد

لا تمثّل خطراً على أحد.

ليس فيها أي تهديد.

ربما أُناس يوثقون معالم رحلة

إلى الشعاب المرجانيّة الأُستراليّة،

أو يغردون عن حفلةٍ حضروها،

أو يتبادلون صور أطفال
حيوانات ظريفة.

بعد أن تستبعد هذه ال99,999%

فإن النسبة الضئيلة المتبقية

تساوي بشكل تقريبي

150,000 شهريّاً.

الحجم الهائل الذي نتعامل معه

يشكل تحدّياً

أتعلمون بالإضافة لذلك ما يجعل دوري

تحدياً من نوع خاص؟

البشر يقومون بأعمال عجيبة.

(ضحك)

ويتوجّب عليَّ أن أفهم ما يفعلون،

ولماذا، وهل هناك مخاطرة في الموضوع،

في أغلب الأحيان بدون معرفة السياق

أو الخلفيّة.

سأعرض لكم بعض الأمثلة

التي صادفتها أثناء عملي في تويتر

-هذه أمثلة من الواقع-

من حالات بدت للوهلة الأولى
واضحة ومباشرة

لكنها في حقيقة الأمر كانت

شيئاً مختلفاً كليّاً.

تمّ تغيير التفاصيل

لحماية الأبرياء

وأحياناً المذنبين.

لنبدأ بمثال سهل.

["يا،كلبة."]

إذا رأيت تغريدة تقول هذا

قد تظن في نفسك،

"هذا يبدو كإساءة."

في النهاية، لماذا سترغب أن تصلك رسالة،

"يا،كلبة."

الآن، أحاول أن أتابع الموضة

بكل مافيها من موديلات وصيحات،

ولذا أعرف أن "يا، كلبة"

هي تحيّة شائعة بين الأصدقاء،

إضافة لكونها استعارة متداولة
من مسلسل "بريكنغ باد".

سأعترف أني لم أتوقّع

أن أصادف استخداماً رابعاً.

يظهر أنّها تستخدم على تويتر

عندما يلعب الناس دور الكلاب.

(ضحك)

في الواقع، في هذه الحالة،

فإنها ليست فقط غير مؤذية،

إنها تقنياً التحيّة الصحيحة.

(ضحك)

حسناً، أن نقرر ما إذا

كان شيءٌ مؤذياً بدون معرفة السياق

هو أمر صعب حتماً.

لننظر إلى البريد المزعج.

هذا مثال على حساب متورط

بسلوك إزعاج تقليدي،

يرسل الرسالة ذاتها

إلى آلاف الناس.

على الرغم من أن هذا نموذج
جمعته مستخدمةً حسابي،

إلّا أننا نرى حسابات
تفعل ذلك كل الوقت.

يبدو قراراً واضحاً

علينا تلقائيّاً أن نفصل الحسابات

المتورطة بمثل هذا التصرّف.

يظهر أن هناك استثناءات لهذه القاعدة.

يظهر أن تلك الرسالة
قد تكون اشعاراً

طلبته أنت لتعرف
أن محطة الفضاء الدولية تحلّق من فوقك

لأنك تريد الذهاب للخارج

لترى إن كنت تستطيع مشاهدتها.

لن تحصل على تلك الفرصة

إذا قمنا بفصل هذا الحساب بالخطأ

معتقدين أنه إزعاج.

حسناً. لنرفع مستوى المخاطرة.

عودةً إلى حسابي،

مرّة أخرى يظهر تصرّفاً تقليديداً

لكن هذه المرة يرسل الرسالة مع وصلة.

هذا غالباً يدل على شيء يسمى التصيُّد،

شخص يحاول سرقة معلومات
حساب شخص آخر

عن طريق توجيههم إلى موقع آخر

من الواضح جداً أنه ليس شيئاً حسناً

نحن نريد أن، وبالفعل نقوم
بفصل الحسابات

المتورطة بمثل هذه التصرفات

إذن لماذا مستوى الخطر أعلى هنا؟

حسناً، قد يكون هذا متفرِّجا في مظاهرة

تمكن من تسجيل فيديو

لضابط شرطة
يضرب متظاهراً مسالماً

ويريد أن يُري العالم ما يحصل.

لا نريد أن نقامر

على احتمال إسكات الإعلام المهم

بتصنيفه كإزعاج وتعليقه.

هذا يعني أنه علينا تقييم
المئات من المتغيرات

عند النظر في سلوكيات الحساب،

ومع ذلك، قد نرتكب الأخطاء

ونضطر لإعادة التقييم.

الآن، بالنظر إلى نوعيّة
التحدي الذي يواجهني،

من الجوهري ليس فقط أن أتنبأ

بل أيضاً ان أُصمم دفاعات
لغير المتوقع.

وهذا ليس شـأناً يهمني فقط،

أو يهم تويتر، إنّه شأنكم أيضاً.

إنّه أمر يهمُّ أي شخص
يبني أو يبدع

شيئاً قد تظنه سيصبح رائعاً

وسيمكّن الناس من عمل
أشياءَ عظيمة.

إذن ماذا أفعل؟

أتوقف وأُفكر،

كيف يمكن لكل هذا

أن يؤدّي لخطأ فادح؟

أتخيّل الكارثة.

وذلك صعب، هناك نوع من

الصراع الداخلي المتأصل
في القيام بذلك،

كأنك تكتب وعود الزواج

في نفس الوقت الذي تكتب فيه
اتفاقيّة ما قبل الزواج.

(ضحك)

ولكن يتوجّب عليك فعل ذلك،

خصوصاً إذا كنت ستتزوّج 500
تغريدة في اليوم.

ماذا أعني بتخيّل الكارثة؟

أحاول أن أفكر كيف يمكن

لشيء حميد وغير ضار
كصورة قطّة

أن يؤدي للموت،

وما يمكن فعله لمنع ذلك.

وهذا هو المثال التالي.

هذه هي قطتي، أيلي.

أردنا أن نعطي المستخدمين القدرة

على إضافة الصور في تغاريدهم.

الصورة تساوي ألف كلمة.

يسمح لك فقط ب140 حرف.

تضيف صورةً إلى تغريدتك،

أنظر كم زاد المحتوى لديك الآن.

هناك الكثير من الأمور الرائعة
بإمكانك القيام بها

عند إضافة صورة إلى تغريدة.

وظيفتي ليست التفكير في ذلك.

إنما التفكير فيما قد يحصل بالخطأ.

كيف يمكن لهذه الصورة

أن تتسبب في موتي؟

حسناً، إليكم هذا الاحتمال.

في هذه الصورة هناك أكثر من مجرّد قطّة.

هناك معلومات جغرافيّة.

عندما تلتقط صورة بهاتفك الذكي

أو كاميرتك الرقميّة،

هناك الكثير من المعلومات الإضافيّة

مخزنة في تلك الصورة.

في الحقيقة، هذه الصورة تحتوي أيضاً

ما يعادل هذا،

وبالتحديد، هذا.

بالتاكيد، ليس من المتوقع أنّ شخصاً سيحاول

ملاحقتي والتسبب بأذيّتي

اعتماداً على معلومات مرتبطة

بصورة التقطها لقطتي،

لكنني ابدأ بافتراض أن الأسوأ سيحصل.

ولهذا السبب، عندما أطلقنا
الصور في تويتر،

قررنا أن نستثني
المعلومات الجغرافيّة.

(تصفيق)

إذا بدأت بافتراض الاسوأ

ثم العمل رجوعاً،

يصبح بإمكاني التأكّد من أن
الدفاعات التي نبنيها

فعّالة لكل من المتوقع

وغير المتوقع من المستخدمين.

وحيث أنني أقضي نهاري وليلي

في تخيّل أسوأ ما قد يحدث،

فليس من الغريب أن تكون نظرتي
للعالم سوداويّة.

(ضحك)

ليست كذلك.

الغالبيّة العظمى من التفاعلات التي أراها

-وأرى الكثير، صدقوني- هي إيجابيّة،

أناس يسعون للمساعدة

أو التواصل أو مشاركة
المعلومات مع بعضهم البعض.

إلّا أنه بالنسبة لمن يتعامل
مع حجم كبير،

ومن يتحملون مهمّة حماية الناس،

يتحتم علينا افتراض
أن الأسوأ سيحدث،

لأنّه بالنسبة لنا،
احتمال الواحد في المليون

هو احتمال جيّد جدّاً.

شكراً لكم.

(تصفيق)