איראן, סין ושתי חברות פרטיות מישראל השתמשו בחודשים האחרונים בבינה מלאכותית באופן תקדימי כדי להקים ולנהל קמפיינים אוטונומיים של השפעה ברשתות החברתיות - כך לפי תחקיר שפורסם היום (שבת) ב"ניו יורק טיימס".
לפי הטען, סוכני AI פתחו בעצמם רשתות של חשבונות מזויפים, בחרו נושאים לפרסום, הפיצו מסרים פוליטיים והגיבו למשתמשים, תוך מעורבות אנושית מינימלית.
על פי גורמים אמריקניים וחוקרי אבטחה ששוחחו עם העיתון, המפעילים שילבו מודלים סיניים של בינה מלאכותית בקוד פתוח עם "סוכנים" אוטונומיים - תוכנות המסוגלות להפעיל מערכות אחרות ולהשלים משימות בכוחות עצמן.
מאות סוכנים כאלה נשלחו לפתוח חשבונות בפייסבוק, באינסטגרם, בטיקטוק וב-X, ולאחר מכן מילאו אותם במהירות בפוסטים כוזבים בנושאים פוליטיים ואקטואליים, במטרה להשפיע על דעת הקהל ולהחריף מחלוקות.
החידוש המרכזי בפעילות אינו עצם השימוש בבינה מלאכותית ליצירת טקסטים, תמונות או סרטונים מטעים - תופעה שכבר תועדה בעבר - אלא העברת כמעט כל שרשרת הפעילות לידי המערכת. לפי הדיווח, זו אחת הפעמים הראשונות שבהן סוכני AI המבוססים על מודלים סיניים מנהלים את הקמפיין משלב פתיחת החשבונות ועד לתיאום המסרים והתגובות ברשת.
ברוב המקרים, אמרו הגורמים, המפעילים השביתו את מנגנוני ההגנה שאמורים למנוע מהמודלים ליצור חשבונות פיקטיביים או לתמרן דיונים מקוונים. השימוש במודלים פתוחים מאפשר להפעיל אותם על שרתים פרטיים ולשנות את הקוד שלהם, ללא יכולתה של החברה שפיתחה אותם לזהות את הפעילות או לעצור אותה.
הקמפיינים שתוארו בתחקיר עדיין היו גולמיים ולא מתוחכמים במיוחד, אך הם עוררו את תשומת לבם של גורמי מודיעין אמריקניים, חברות טכנולוגיה גדולות ומומחי אבטחה. בדיקתם העלתה כי הקמפיינים הסיניים והאיראניים הופעלו בחסות המדינות, בעוד ששתי הפעילויות שמקורן בישראל נקשרו לחברות מסחריות פרטיות.
מבין המבצעים שנחשפו, הפעילות האיראנית הוגדרה כמדאיגה במיוחד. לפי גורמים אמריקניים וחוקרי אבטחה, הרשת כוונה לקהל בארצות הברית והשתמשה בחשבונות שנוצרו באמצעות AI והתחזו לאמריקנים רגילים המתגוררים בערים גדולות.
החשבונות תייגו עיתונאים ופוליטיקאים, הפיצו ממים פופולריים ותכנים נגד המפלגה הרפובליקנית וניסו להשתלב בשיח הפוליטי המקומי. קרוב ל-80 אלף משתמשים עקבו אחר החשבונות, שפעלו במחצית הראשונה של השנה.
על הקמפיין הסיני נמסרו פחות פרטים. גורמי מודיעין ואבטחה אמרו כי גם הוא היה בחסות המדינה והתנסה באותן טכניקות של הפעלת סוכני AI, אך לא פירטו את יעדיו, היקפו או המסרים שהפיץ.
אחד משני הקמפיינים שנקשרו לחברות ישראליות הופעל, לפי שני מקורות המעורים בפרטים, בידי IntelEye, חברה מתל אביב שהוקמה ב-2023 על ידי יוצאי NSO, חברת הסייבר ההתקפי שהוכנסה לרשימה השחורה של ארצות הברית.
גורם ביטחוני אמריקני שתודרך על פעילות החברה אמר כי היא משכה מוקדם יותר השנה את תשומת לבן של הרשתות החברתיות ושל קהילת המודיעין האמריקנית. לדבריו, סוכני הבינה המלאכותית יצרו אלפי חשבונות בפייסבוק, באינסטגרם, בטיקטוק וב-X. החשבונות הגיבו לפוסטים ולתגובות שעסקו בבחירות הקרובות בישראל, ופרסמו תכנים שתמכו בראש הממשלה בנימין נתניהו לצד תכנים שהתנגדו לו.
עם זאת, התחקיר אינו קובע כי IntelEye ניסתה לסייע לנתניהו או לפגוע בו, ואינו חושף מי הזמין לכאורה את הפעילות. החברה עצמה אישרה את השימוש בחשבונות ובמודל הסיני DeepSeek, אך דחתה את הטענה כי הפעילה קמפיין השפעה.
"IntelEye אינה מפעילה קמפיינים של השפעה", אמר לעיתון מייסד-שותף בחברה, מאור סלק. "העבודה שלנו עם DeepSeek בוצעה לצורכי מחקר הגנתי ובדיקות, כדי להבין כיצד ניתן לעשות שימוש לרעה במודלים שאין בהם מנגנוני הגנה מספקים, ולשפר את היכולת לזהות פעילות כזאת".
Meta: זיהינו גורם מסחרי שבסיסו בישראל
סלק מסר כי החברה רכשה 10,000 חשבונות ברשתות החברתיות כדי שסוכני AI ישלטו בהם, אך רק כ-1,000 מהם היו פעילים בפועל. לדבריו, החשבונות הגיבו מתחת לסרטונים ולפוסטים וניסו לפתוח בשיחות עם משתמשים אמיתיים, אך זכו להצלחה מועטה.
עוד הוסיף סלק, כי מודל הבינה המלאכותית הוא שבחר את ההנחיות ואת הנושאים שעליהם פרסמו החשבונות. בדיעבד, הודה, היה על החברה ליידע את מפעילות הרשתות החברתיות על ביצוע הניסוי.
Meta אישרה כי זיהתה את הפעילות. "נראה כי זה היה ניסיון מתואם ליצור חשבונות בלתי אותנטיים בכמה פלטפורמות", מסר דובר החברה. לדבריו, רק שיעור קטן מהחשבונות פעל בפייסבוק ובאינסטגרם, והרוב המכריע שלהם כבר הוסר באופן יזום באמצעות מערכות הזיהוי האוטומטיות של החברה.
בדוח שפרסמה בחודש שעבר הזכירה Meta גם קמפיין נפרד שניהל "גורם מסחרי שבסיסו בישראל". החברה לא חשפה את שמו ולא מסרה פרטים נוספים, אך תיארה את השימוש שלו בבינה מלאכותית כ"מערך מתוחכם למדי". ה"ניו יורק טיימס" לא זיהה את החברה הישראלית השנייה שנקשרה לפעילות.
Meta וטיקטוק כבר דיווחו השנה על שימוש גובר בבינה מלאכותית ליצירת חשבונות ותוכן בפלטפורמות שלהן. לפי Meta, ה-AI מוטמע כעת בתוך מערכות אוטומטיות היכולות "לייצר, להתאים ולהפיץ תוכן בהתערבות אנושית מינימלית". X לא הגיבה לשאלות העיתון.
"סוכנים יכולים להיות מתוחכמים למדי"
גורמים אמריקניים חוששים כי השיטה תשמש גם לניסיונות להשפיע על הבוחרים בארצות הברית לקראת בחירות אמצע הכהונה בנובמבר. רוסיה, איראן וסין כבר הפעילו בעבר קמפיינים מקוונים נגד קהלים אמריקניים, אך ההתפתחויות האחרונות עשויות להפוך מבצעים כאלה למהירים, זולים ונרחבים הרבה יותר.
"סוכנים יכולים להיות מתוחכמים למדי", הסביר קייל קרייטון, חוקר בינה מלאכותית ואבטחת סייבר במרכז לטכנולוגיות מתפתחות וביטחון של אוניברסיטת ג'ורג'טאון. לדבריו, מעבר ליכולת לפעול בהיקף עצום, הם יכולים "להשתלב בשיח ולהיראות יותר כמו משתמשים אנושיים".
למרות שהקמפיינים שנחשפו עדיין לא הפגינו יכולת שכנוע גבוהה, התחקיר מצביע על שינוי מהותי באיום: הבינה המלאכותית כבר אינה משמשת רק לכתיבת המסר הכוזב, אלא מסוגלת להקים את התשתית להפצתו, לבחור את קהל היעד, לפרסם, להגיב ולנהל את המערכה כמעט בכוחות עצמה.