אסף רוזנצוייג: דיווחים על פיצוצים עזים בצנעא, בירת החות'ים
חשבונות מזויפים, אלפי תגובות ומסרים מתוזמנים: כך פועלות רשתות ההשפעה ברשתות החברתיות
לקראת הבחירות נחשפה רשת רשתות של חשבונות שהתחזו וניסו להשפיע על השיח הפוליטי | תחקיר: מאות פרופילים מזויפים פעלו לקידום מפלגה | איך מזהים פעילות מתואמת, מדוע משתמשים בתמונות שנוצרו בבינה מלאכותית, ומה ההבדל בין קמפיין פוליטי רגיל למבצע השפעה סמוי?
רשתות השפעה צילום: אילוסטרציה. עיבוד: בינה מלאכותית
חשבון ברשת X שנושא שם ישראלי, תמונת פרופיל של אדם מחייך וכמה פרסומים על ענייני היומיום מגיב לידיעה פוליטית. כעבור דקות מופיעות תגובות דומות מחשבונות נוספים. חלקן חוזרות על אותו מסר, אחרות מחזקות את דבריו של המשתמש הראשון. מי שנתקל בדיון עשוי להתרשם שעשרות אנשים, שאינם מכירים זה את זה, מחזיקים באותה עמדה.
בחלק מהמקרים האנשים האלה אינם קיימים. תמונותיהם נוצרו באמצעות בינה מלאכותית, שמותיהם בדויים והפעילות שלהם מנוהלת בתיאום. החשבונות משמשים להפצת מסרים פוליטיים, להגברת החשיפה לפרסומים מסוימים וליצירת רושם של תמיכה ציבורית רחבה מזו שקיימת בפועל.
לקראת הבחירות לכנסת, שייערכו ביום שלישי הקרוב, התפרסמו בישראל כמה מקרים של פעילות כזאת. ביום חמישי הודיע שירות הביטחון הכללי כי במסגרת פעילות משותפת עם מחלקת הסייבר בפרקליטות המדינה ועם ועדת הבחירות המרכזית אותרו והוסרו חשבונות ששימשו לניסיונות השפעה זרה על הבחירות.
הודעת שב"כ לא כללה את מספר החשבונות המדויק, את זהות מפעיליהם או את התכנים שהפיצו. הרשויות גם לא פרסמו נתונים על מספר הישראלים שנחשפו למסרים או על השפעתם בפועל.
מאה חשבונות, 25 אלף פרסומים
דוח שפרסם המכון למחקרי ביטחון לאומי (INSS) מספק הצצה לשיטות הפעולה של רשתות השפעה זרות.
החוקרים עקבו אחר כ-100 חשבונות ברשת X שהתחזו לישראלים. בין 1 באוגוסט ל-13 באוקטובר פרסמו החשבונות כ-25 אלף פוסטים. חלקם עסקו באירועים חדשותיים בישראל, אחרים הפיצו מסרים שנועדו לעורר חוסר אמון במוסדות המדינה, במערכת הפוליטית ובתקינות הבחירות.
לפי הדוח, החשבונות הגיבו במקרים רבים לאירועים חדשותיים בתוך יום או יומיים. הם השתלבו בדיונים קיימים, בעיקר בתגובות לפרסומים של פוליטיקאים, עיתונאים וחשבונות פופולריים.
המשתמשים המזויפים הוצגו כבעלי עמדות שונות ולעיתים מנוגדות. בדרך הזאת יכלו המפעילים להשתלב בוויכוחים פוליטיים מכמה כיוונים, בלי להזדהות כגורם אחד שפועל מאחורי הקלעים.
בין הממצאים תועד גם חשבון שפרסם במשך תקופה תכנים בפרסית, ולאחר מכן שינה את זהותו והחל להציג את עצמו כמשתמש ישראלי הכותב בעברית.
חלק מהחשבונות נפתחו זמן קצר לפני הבחירות. אחרים היו חשבונות ותיקים ששינו את שמם, את תמונת הפרופיל ואת אופי הפעילות שלהם.
התגובות מגיעות בתוך דקות
אחת השיטות הנפוצות בפעילות השפעה מתואמת היא הגברה מלאכותית של פרסומים באמצעות תגובות, שיתופים וסימוני אהבתי.
דוגמה לכך פורסמה היום בתחקיר ynet שהתבסס על ממצאי ארגון "פייק ריפורטר". לפי התחקיר, מאות חשבונות פיקטיביים ברשתות X ופייסבוק פעלו לקידום מסרים המזוהים עם מפלגת נעם בראשות אבי מעוז.
חלק מהפרופילים הציגו את עצמם כחילונים או כמסורתיים מאזור המרכז. לפי ממצאי הבדיקה, רבים מהם נפתחו במהלך אוקטובר והשתמשו בתמונות שנוצרו בבינה מלאכותית.
באחד המקרים המתוארים בתחקיר הופץ פוסט של המפלגה בקבוצת וואטסאפ של פעילי רשת. בתוך פחות מעשר דקות הופיעו תחתיו תגובות אוהדות מחשבונות המזוהים עם הרשת שנבדקה.
במקרה אחר פורסמו בתוך דקות תגובות דומות לפוסט שהעלה אחד ממועמדי המפלגה בנושא סקר בחירות.
החוקרים מצאו גם חשבונות שפרסמו תמונות יומיומיות שנלקחו ממקומות אחרים באינטרנט, ככל הנראה כדי להיראות אמינים יותר. אחד הפרופילים, למשל, השתמש בתמונה של שווארמייה שהופיעה בכתבה משנת 2017.
לפי התחקיר, הפעילות הגיעה גם לעמוד פייסבוק שפנה לציבור החרדי ופרסם ידיעות חדשותיות לצד תכנים שתמכו בנעם. בתוך כעשרה ימים צבר העמוד יותר מ-3,300 עוקבים.
ממפלגת נעם נמסר בתגובה כי הטענות שקריות ומופרכות. במפלגה טענו שתומכיה פועלים באופן אמיתי וגלוי, ודחו את הניסיון לקשור אותה לחשבונות פיקטיביים.
יש להבחין בין הרשת שתוארה בתחקיר הזה לבין הרשתות הזרות שנבדקו במכון למחקרי ביטחון לאומי. לא הוצגה ראיה לקשר ביניהן, וגם לא פורסם שהחשבונות שהוזכרו בתחקיר ynet הם אלה שהוסרו במסגרת פעילות שב"כ.
כיצד מזהים חשבון מזויף?
תמונת פרופיל שנוצרה באמצעות בינה מלאכותית יכולה להיראות כמו צילום רגיל לחלוטין. גם השפה השתפרה: מערכות AI מסוגלות לכתוב בעברית תקינה, להתאים ניסוחים לסגנון מקומי ולהגיב במהירות לידיעות חדשותיות.
לכן החוקרים בוחנים בעיקר את התנהגות החשבונות לאורך זמן.
פרסום של מאות תגובות ביום, שימוש חוזר באותם משפטים, תגובות כמעט זהות שמופיעות מחשבונות שונים בפרקי זמן קצרים ושיתוף הדדי קבוע עשויים להעיד על פעילות מתואמת.
גם היסטוריית החשבון חשובה. פרופיל שנפתח לפני שבוע, מציג את עצמו כתושב עיר ישראלית ומפרסם בעיקר תגובות פוליטיות עשוי לעורר חשד. כך גם חשבון ותיק ששינה בבת אחת את שפת הכתיבה ואת הנושאים שבהם הוא עוסק.
אחד הסימנים הבולטים הוא חוסר התאמה בין זהותו המוצגת של המשתמש לבין פעילותו הקודמת. חוקרים יכולים לבדוק תמונות שכבר הופיעו באתרים אחרים, שמות משתמש ישנים ודפוסי שיתוף בין חשבונות.
עם זאת, סימנים כאלה אינם מספיקים לבדם כדי להוכיח שמדובר בחשבון מזויף. משתמש אמיתי יכול לפרסם עשרות תגובות ביום, להחליף תמונה או להביע עמדה פוליטית באופן נלהב. גם פעילים במטה בחירות רשאים לתאם פעילות ברשת.
ההבדל מתגלה בדרך כלל כאשר מצטברות ראיות לכך שמספר חשבונות מציגים זהויות בדויות ופועלים במסגרת משותפת שמוסתרת מהציבור.
לפעמים התוכן אמיתי, אבל מי שמפיץ אותו מסתיר את זהותו
לפי חוקרי המכון למחקרי ביטחון לאומי, רשתות השפעה אינן חייבות להמציא ידיעות כוזבות כדי לפעול.
אפשר להשתמש בדיווח חדשותי אמיתי, להבליט ממנו פרט מסוים ולהפיץ אותו שוב ושוב באמצעות עשרות חשבונות. בדרך הזאת ניתן להגדיל את נוכחותו בשיח הציבורי ולגרום למשתמשים להיתקל בו פעמים רבות.
השיטה יעילה במיוחד כאשר החשבונות מגיבים לפרסומים שכבר מושכים תשומת לב. במקום לנסות לבנות קהל עוקבים גדול לכל פרופיל, המפעילים מצטרפים לדיונים שמתנהלים סביב עיתונאים, פוליטיקאים ומשתמשים מוכרים.
לאחר מכן מספיק שמשתמשים אמיתיים ישתפו את הדברים כדי שהמסר יגיע לקהלים נוספים. המשתפים אינם יודעים בהכרח מי עמד מאחורי הפרסום המקורי.
הדוח מתאר גם ניסיונות ליצור קשר ישיר עם ישראלים. בין היתר אותרו פניות לפעילים פוליטיים, הצעות לסייע בהכנת כרזות ואף הצעות עבודה בתשלום. החוקרים מזהירים כי פניות כאלה עלולות לשמש גם לאיסוף מידע וליצירת קשר מתמשך עם מפעילי הרשת.
מה מותר בקמפיין פוליטי, ומה אסור ברשת X?
מפלגות מפעילות מטות דיגיטליים, מעבירות לפעילים מסרים ומעודדות אותם לשתף פרסומים. פעילות כזאת אינה מעידה כשלעצמה על ניסיון השפעה פסול.
גם התארגנות של מאות משתמשים אמיתיים כדי לקדם האשטאג או להגיב לדברים של פוליטיקאי יכולה להיות חלק מפעילות פוליטית לגיטימית, בכפוף לכללים החלים עליה.
הבעיה מתעוררת כאשר משתמשים בזהויות פיקטיביות או בפעילות מטעה כדי לייצר מצג שווא של תמיכה ספונטנית.
כללי רשת X אוסרים בין היתר על שימוש במספר חשבונות לצורך הגברה מלאכותית של פרסומים, יצירת מעורבות מזויפת, התחזות ופעילות מתואמת שמטעה משתמשים.
הפרת כללי הפלטפורמה אינה הופכת כל מקרה לעבירה פלילית. כאשר מעורבים גורמים זרים, התחזות, שימוש במידע אישי או פעולות אחרות האסורות בחוק, עשויות להתעורר גם שאלות משפטיות וביטחוניות.
ייחוס הפעילות למדינה זרה מחייב ראיות נוספות. העובדה שחשבון מפיץ עמדה התואמת אינטרס של מדינה מסוימת אינה מוכיחה שאותה מדינה מפעילה אותו.
האם הפעילות מצליחה לשנות את עמדות הבוחרים?
זו אחת השאלות שקשה יותר לענות עליהן.
חוקרי המכון למחקרי ביטחון לאומי הצליחו לתעד עשרות אלפי פרסומים, לזהות דפוסי פעילות ולבחון את התכנים שהופצו. עם זאת, הם לא מצאו עלייה ברורה בחשיפה לתכני אחת הרשתות שנבדקו ככל שהתקרבו הבחירות.
לכן אין בסיס לקבוע שהפעילות הזאת שינתה את עמדותיהם של מצביעים או השפיעה על חלוקת המנדטים.
לפי הדוח, חלק מהמסרים התמקדו בערעור האמון בעצם ההליך הדמוקרטי: הצגת הבחירות כהליך שתוצאותיו נקבעו מראש, הפצת חשדות כלפי מוסדות המדינה והחרפת עימותים בין קבוצות בחברה הישראלית.
התכנים הללו יכולים להמשיך להתפשט גם לאחר שהחשבונות שהפיצו אותם הוסרו. משתמשים אמיתיים עשויים לשמור צילומי מסך, להעביר הודעות ולהפיץ טענות בלי לדעת שהגיעו במקור מרשת חשבונות לא אותנטית.
יומיים לפני הבחירות, כאשר הרשתות החברתיות מלאות בסקרים, בפרסומי מפלגות ובהאשמות הדדיות, קשה להבחין בין פעילות פוליטית מאורגנת לבין פעילות שמתחזה לדעת קהל עצמאית. הבדיקות שכבר פורסמו מספקות דרך לזהות לפחות חלק מהמקרים: לבדוק מי עומד מאחורי החשבון, כיצד הוא פועל, ומדוע עשרות משתמשים שנראים בלתי קשורים זה לזה מפרסמים את אותו המסר כמעט באותו הזמן.
