פייסבוק ידעה היטב כי ביטויי שנאה שהתפשטו ברשת החברתית בהודו עלולים להחמיר את האלימות האתנית במדינה, והיא לא ניצלה את משאביה כדי לבלום את התופעה - כך עולה ממסמכים פנימיים שהודלפו על ידי עובדת החברה לשעבר פרנסס האוגן ופורסמו בסוף השבוע בכלי תקשורת בארצות הברית.
"מסמכי פייסבוק", כפי שהם מכונים, כבר חשפו את התרומה של פייסבוק, כמו גם של ווטסאפ ושל אינסטגרם שבבעלותה, לקיטוב הפוליטי העמוק בארצות הברית וההשפעה על בריאותם הנפשית של בני נוער. נוסף לכך, פייסבוק נקשרה בשנים האחרונות להפצת ביטויי שנאה שהניעו מעשי אלימות במדינות מתפתחות, כמו רצח העם הרוהינגי במיאנמר.
המסמכים האחרונים, שפורסמו בין היתר בוול סטריט ג'ורנל, ניו יורק טיימס ווושינגטון פוסט, התמקדו בנוכחות של פייסבוק ווטסאפ בהודו, השוק הגדול ביותר של החברה האמריקנית מבחינת מספר משתמשים. דוח שגיבשו חוקרי החברה עצמה ביולי 2020 הראה כי נתח התוכן המסית לאלימות זינק החל מדצמבר 2019.
"שמועות וקריאות לאלימות התפשטו במיוחד בווטסאפ, שירות ההודעות של פייסבוק, בסוף פברואר 2020", דווח בוול סטריט ג'ורנל. באותה עת עימותים בין הרוב ההינדי לבין המיעוט המוסלמי הותירו עשרות הרוגים.
בוושינגטון פוסט, שציטט תזכיר פנימי בפייסבוק, דווח כי החברה יצרה כבר בפברואר 2019 חשבון פיקטיבי, של אישה בת 21 מצפון הודו, כדי להבין טוב יותר את חווית המשתמש. החשבון עקב אחר פוסטים, סרטונים וחשבונות המומלצים על ידי פייסבוק, אך חוקר של החברה גילתה שהוא קידם תכנים מזויפים ומתסיסים רבים.
"ראיתי יותר תמונות של אנשים מתים בשלושת השבועות האחרונים מכפי שראיתי בכל חיי", נכתב בדוח בן 46 העמודים, שהיה אחד המסמכים שהדליפה הוגן. "בתוך זמן קצר, ללא כל הוראה מהמשתמש, חשבון הפייסבוק הוצף בתעמולה בעד מודי ובביטויי שנאה אנטי-מוסלמים", נכתב בוושינגטון פוסט. ראש הממשלה הלאומני של הודו, נרנדרה מודי, ניהל אז קמפיין לבחירה מחדש לתפקיד.
במקביל, הודו תקפה אז אווירית בפקיסטן בתגובה לפיגוע התאבדות קטלני בחבל קשמיר. אותו חוקר, שלא זוהה, תיאר את הניסוי הזה בתור "סיוט מושלם". התוכן כלל הצהרות לאומניות על התקיפה האווירית של הודו ותמונות גרפיות, כולל של אדם שאחז בראש כרות ושתיאר את הפקיסטנים והמוסלמים בתור "כלבים" ו"חזירים".
"פייסבוק למדה בשיטתיות את מדיניותה בחו"ל, והייתה מודעת היטב לכך שבקרה חלשה יותר במדינות שאינן דוברות אנגלית חושפות את הפלטפורמה לניצול לרעה בידי גורמים שליליים ומשטרים אוטוריטריים", נכתב במסמכים הפנימיים שפורסמו בוושינגטון פוסט. המסמכים הראו כי רוב התקציב של פייסבוק למאבק בדיסאינפורמציה מוקצה לארצות הברית, אף שפחות מ-10% ממשתמשי הרשת בעולם הם אמריקנים.
דובר מטעם פייסבוק טען כי "השקענו משמעותית בטכנלוגיה לאיתור ביטויי שנאה במגוון שפות, כולל בהינדית ובבנגלית". לדבריו, בעקבות זאת, "הפחתנו השנה את כמות ביטויי השנאה שאליהם נחשפים אנשים בחצי. כיום, היא ירדה ל-0.05%. הנתון הזה הוא אחוז מהתוכן בכל המדינות". החברה טענה כי היא מרחיבתה את פעילותה לשפות חדשות המדוברות בהודו. "ביטויי שנאה נגד מיעוטים, כולל מוסלמים, עולים ברחבי העולם, ולכן אנחנו משפרים את האכיפה", אמר דובר החברה.