העבודה שלי בטוויטר
היא להבטיח את אמון המשתמש,
להגן על זכויות המשתמש ולשמור על בטחון המשתמשים
גם זה מזה
וגם, לעתים, מעצמם.
בואו נדבר על איך נראה קנה המידה בטוויטר.
בינואר 2009,
אנחנו ראינו יותר משני מיליון ציוצים בכל יום
בפלטפורמה.
ינואר 2014, יותר מ-500 מיליון.
אנחנו ראינו יותר משני מיליון ציוצים
בפחות משש דקות.
זהו גידול של 24,900 אחוזים.
עכשיו, רובם המכריע של הפעילויות בטוויטר
לא פוגע באף אחד בשום דרך.
שום סיכון לא מעורב.
העבודה שלי היא לעקוב ולמנוע פעילויות שעשויות להיות כאלו.
נשמע פשוט, נכון?
אתם עשויים אפילו לחשוב שזה יכול להיות קל,
בהתחשב בעובדה שאני רק אמרתי שרובם המכריע
של הפעילויות בטוויטר לא פוגעות באף אחד בשום דרך.
למה לבזבז כל כך הרבה זמן
בחיפוש אסונות פוטנציאליים
בפעילות בלתי מזיקה?
בהתחשב בקנה המידה שטוויטר נמצאת בו,
סיכוי של אחד למיליון קורה
500 פעמים ביום.
זה אותו דבר בחברות אחרות
שמתמודדות עם אותו קנה מידה.
בשבילנו, מקרי קצה,
מצבים נדירים אלה שאינם צפויים להתרחש,
הם יותר כמו נורמות.
נגיד ש 99.999 אחוז מהציוצים
לא מציבים סיכון לאף אחד.
אין שום איום מעורב.
אולי אנשים מתעדים ציוני דרך מהנסיעות
כמו "ריף הלב" של אוסטרליה,
לציוצים על קונצרט שהם משתתפים בו,
או משתפים תמונות של גורים חמודים של חיות.
אחרי שאתם מוציאים את 99.999 האחוזים האלו,
האחוז הזעיר הזה של ציוצים שנשארו
בפועל יוצא בערך
150,000 בחודש.
ההיקף העצום של מה שיש לנו עסק איתו
עושה את זה למאתגר.
אתם יודעים מה עוד עושה את התפקיד שלי
למאתגר במיוחד?
אנשים שעושים דברים משונים.
(צחוק)
ואני צריכה להבין מה הם עושים,
למה, ואם יש או אין סיכון מעורב,
לעתים קרובות ללא הרבה מבחינת הקשר
או רקע.
אני הולכת להראות לכם כמה דוגמאות
שנתקלתי בהן במשך הזמן בעבודתי בטוויטר --
אלו כולן דוגמאות אמיתיות --
של מצבים שנראים במבט ראשון ברורים ומובנים מאליהם,
אבל האמת הייתה משהו
שונה לחלוטין.
הפרטים שונו
בכדי להגן על חפים מפשע
ולפעמים על האשמים.
ובכן, נתחיל מהקל.
["יואו, כלבה"]
אם הייתם רואים ציוץ שרק אומר את זה,
הייתם חושבים לעצמכם,
"זה נראה כמו פגיעה,"
אחרי הכל, למה שתרצו לקבל את ההודעה,
"יואו, כלבה."
עכשיו, אני מנסה להשאר יחסית בעניינים
למגמות ולממים האחרונים,
אז אני יודעת ש "יואו, כלבה"
גם היתה לעתים קרובות ברכה משותפת בין חברים,
כמו גם התייחסות פופולרית ל "שובר שורות".
אני מודה שאני לא ציפיתי
להיתקל במקרה השימוש הרביעי.
הסתבר שגם משתמשים בזה בטוויטר
כאשר אנשים משחקים משחק תפקידים ככלבים.
(צחוק)
ולמעשה, במקרה הזה,
לא רק שזה לא מעליב,
זו טכנית רק ברכה מדוייקת.
(צחוק)
אז בסדר, לקבוע אם כן או לא
משהו פוגעני ללא הקשר,
זה קשה בהחלט.
בואו נסתכל על דואר זבל.
הנה דוגמא של חשבון העוסק
בהתנהגות קלאסית של הפצת דואר זבל,
שליחה של אותה הודעה בדיוק
לאלפי אנשים.
בזמן שזה דגם שהכנתי באמצעות החשבון שלי,
אנו רואים חשבונות שעושים את זה כל הזמן.
נראה די פשוט.
אנחנו פשוט צריכים באופן אוטומטי להשעות חשבונות
העוסקים בסוג זה של התנהגות.
מסתבר שיש יוצאים מן הכלל לכלל הזה.
מסתבר שההודעה הזאת יכולה גם להיות התראה
שנרשמת אליה שתחנת החלל הבינלאומית חולפת מעלינו
בגלל שרצית לצאת החוצה
ולראות אם אתה יכול לראות אותה.
אתה לא תוכל לקבל את ההזדמנות הזאת
אם אנחנו בטעות נשעה את החשבון
במחשבה שזה דואר זבל.
בסדר. בואו נעלה את ההימור.
בחזרה לחשבון שלי,
שוב מפגין התנהגות קלאסית.
הפעם זה שולח את אותה הודעה וקישור.
הדבר בדרך כלל מעיד על משהו שנקרא פישינג,
מישהו מנסה לגנוב מידע מחשבון של אדם אחר
על ידי הפנייתם לאתר אחר.
די ברור שזה אינו דבר טוב.
אנחנו רוצים, ומשעים חשבונות
העוסקים בסוג כזה של התנהגות.
אז למה הסיכונים גבוהים לזה?
ובכן, זה יכול להיות גם עובר אורח בעצרת
שהצליח להקליט וידאו
של שוטר מכה מפגין לא אלים
שמנסה להראות לעולם מה קורה.
אנחנו לא רוצים להמר על
השתקה פוטנציאלית של הנאום החיוני הזה
על ידי סיווגו כדואר זבל והשעייתו.
זה אומר שאנחנו מעריכים מאות מאפיינים
כשאנחנו מסתכלים על התנהגות של חשבונות,
ואפילו אז, אנחנו עדיין יכולים לטעות
וצריכים להעריך מחדש.
עכשיו, בהתחשב בסוגי האתגרים הניצבים מולי,
זה חיוני שאני לא רק אנבא
אלא גם אעצב הגנות לבלתי צפוי.
וזה לא רק עניין בשבילי,
או בשביל טוויטר, זה גם עניין בשבילכם.
זהו עניין לכל אחד שבונה או יוצר
משהו שאתם חושבים שהולך להיות מדהים
ויתן לאנשים לעשות דברים נהדרים.
אז מה אני עושה?
אני עוצרת וחושבת,
איך כל זה
יכול להשתבש באופן מחריד?
אני מדמיינת קטסטרופה.
וזה קשה. זה סוג של
דיסוננס קוגניטיבי הגלום בעשייה של זה,
כמו כאשר אתם כותבים את נדרי החתונה שלכם
באותו הזמן עם הסכם הממון שלכם.
(צחוק)
אבל אתם עדיין צריכים לעשות את זה,
במיוחד אם אתם מתחתנים עם 500 מיליון ציוצים ביום.
למה אני מתכוונת ב"לדמיין קטסטרופה?"
אני מנסה לחשוב על איך שלפעמים
תמונה שפירה ולא מזיקה כמו תמונה של חתול
יכולה להוביל למוות,
ומה לעשות כדי למנוע זאת.
מה שהולכת להיות הדוגמה הבאה שלי.
זהו החתול שלי, איליי.
רצינו לתת למשתמשים את היכולת
להוסיף תמונות לציוצים שלהם.
תמונה שווה אלף מילים.
יש לכם רק 140 תווים.
אתם מוסיפים תמונה לציוץ שלכם,
תסתכלו כמה יותר תוכן יש לכם עכשיו.
יש המון דברים גדולים שתוכלו לעשות
על ידי הוספה של תמונה לציוץ שלכם.
העבודה שלי היא לא לחשוב על אלו.
היא לחשוב על מה יכול להשתבש.
איך התמונה הזאת
יכולה להוביל למותי?
ובכן, הנה אפשרות אחת.
יש בתמונה הזאת יותר מרק חתול.
יש מידע גיאוגרפי.
כשאתם מצלמים תמונה עם הטלפון החכם שלכם
או מצלמה דיגיטלית,
יש עוד הרבה אינפורמציה נוספת
שנשמרת יחד עם התמונה הזאת.
למעשה, התמונה הזאת גם מכילה
המקבילה של זה,
יותר בפרוט, זה.
בטח, זה לא סביר שמישהו ינסה
לעקוב אחרי ולפגוע בי
בהתבסס על מידע מהתמונה שמקושר
עם תמונת החתול שלי שצילמתי,
אבל אני יוצא מנקודת הנחה שהגרוע ביותר יקרה.
לכן, כשהשקנו את התמונות בטוויטר,
קיבלנו החלטה להוציא את המידע הגיאוגרפי החוצה.
(מחיאות כפיים)
אם אני יוצאת מנקודת הנחה הגרוע ביותר
ועובדת אחורה,
אני יכולה להבטיח שההגנות שאנחנו בונים
יעבדו עבור המקרים הצפויים
והבלתי צפויים.
בהתחשב בעובדה שאני מבלה את הימים והלילות שלי
בלדמיין את הגרוע ביותר שיכול לקרות,
זאת לא תהיה הפתעה אם השקפת העולם שלי קודרת.
(צחוק)
זה לא.
רובן המכריע של האינטראקציות שאני רואה
ואני רואה הרבה, תאמינו לי -- הן חיוביות,
אנשים מגישים עזרה
או מתחברים או משתפים מידע אחד עם השני.
זה רק שעבור אלה מאתנו העוסקים בקנה מידה,
עבור אלה מאתנו שמטרתם היא שמירה על בטחון האנשים,
אנחנו צריכים להניח שהנורא מכל יקרה,
מפני שעבורנו, סיכוי של אחד למיליון
זה סיכויי די טוב.
תודה לכם.
(מחיאות כפיים)