רוכב אופנוע בן 55 נפצע בינוני מפגיעת רכב סמוך למחלף חולון. צוות מד"א העניק לו טיפול בזירה ופינה אותו לבית החולים וולפסון שבעיר כשהוא עם חבלות בראש ובגפיים
הדבר המטריד שקורה כשמחפשים את השם שלכם בבינה המלאכותית
בזמן שגוגל ו-OpenAI מנסות להשתלט על שוק החיפוש, המודלים חושפים מספרי טלפון וכתובות פרטיות של אזרחים תמימים שהפכו בן לילה למוקדי שירות לקוחות מאולתרים. מומחי אבטחה מזהירים מפני גל של "AI doxxing" ומצביעים על שיטה חדשה של עבריינים המבצעים "הרעלת תוכן" כדי להשתיל מספרי הונאה במערכות
ChatGPT צילום: OpenAI
המרוץ של חברות הטכנולוגיה להפוך צ'אטבוטים מבוססי בינה מלאכותית לכלי החיפוש החדשים של האינטרנט, חושף תופעה מטרידה במיוחד: בוטים שמספקים למשתמשים מספרי טלפון פרטיים של אנשים אמיתיים, לעיתים ללא שום קשר למה שנשאלו עליו. מומחי פרטיות, המכנים את התופעה "AI doxxing", מזהירים שמערכות כמו Gemini של גוגל ו-ChatGPT של OpenAI עלולות להפוך מאגרי מידע ישנים, מידע שנקבר עמוק ברשת או פרטים מומצאים - לנגישים לכל אחד.
אחד המקרים הבולטים הגיע ממשתמש Reddit שטען כי מספר הטלפון האישי שלו החל להופיע ב-Gemini כמספרם של עסקים שונים, מה שהוביל למבול של שיחות מאנשים שמחפשים עורך דין, מנעולן או מעצב מוצר. "זו הפרת פרטיות ודליפת מידע בקנה מידה עצום", כתב המשתמש, שתיאר כיצד הטלפון שלו הפך למוקד שירות מאולתר עבור זרים מוחלטים. לטענתו, פניותיו לגוגל לא הובילו לתגובה.
בחברת הפרטיות ClearNym טוענים כי מדובר בהתנגשות בין שנים של איסוף וסחר במידע אישי לבין מודלים שאומנו על כמויות עצומות של מידע מהרשת. "המידע הזה חוזר עכשיו כעותקים מדויקים, המצאות או אפילו כמספרי 'placeholder' עבור אנשים זרים", אמר דובר החברה ל-The Independent.
במקביל, חברות תקשורת ואבטחה מזהירות כי עבריינים שותלים ברשת מספרי שירות מזויפים כדי שבוטי ה-AI יציגו אותם למשתמשים כתוצאות אמינות. חוקרים מחברת Aurascape הסבירו כי הנוכלים עושים זאת באמצעות "הרעלת תוכן" - הצפה מכוונת של הרשת במידע שקרי שמערכות ה-AI סורקות ולומדות ממנו. "התוקפים משכתבים בשקט את האינטרנט שמערכות AI קוראות", אמר החוקר צ'י דנג. מנהל מניעת ההונאות של Virgin Media O2, מארי מקנזי, הוסיף: "פושעים יודעים שאנשים מחפשים תשובות מהירות. כלי AI יוצרים הזדמנות חדשה לגרום למספרים מזויפים להיראות אמינים לחלוטין".
מקרים נוספים מדגישים את עומק הבעיה: לפי MIT Technology Review, Gemini הציג בטעות את המספר האישי של מהנדס התוכנה הישראלי דניאל אברהם כמספר שירות של אפליקציית תשלומים. חוקרים מאוניברסיטת וושינגטון גילו גם הם עד כמה קל להוציא מידע אישי. דוקטורנטית בשם מאירה גילברט סיפרה כי חיפשה את שמה של חברתה, יעל אייגר, והבוט החזיר את מספר הסלולר הפרטי שלה. "זה היה מזעזע", אמרה גילברט. אייגר עצמה הודתה שהמידע היה קיים איפשהו ברשת, אך היה קבור עמוק. "יש הבדל עצום בין מידע שקיים טכנית אונליין לבין AI שמנגיש אותו לכל אדם באופן מיידי", אמרה.
במקביל, רוב שבל, מנכ"ל DeleteMe המתמחה בהסרת מידע, דיווח על עלייה בתלונות על צ'אטבוטים שחושפים כתובות, מספרי טלפון ושמות בני משפחה. בגוגל טענו בתגובה כי קיימים מנגנוני הגנה למניעת הופעת מידע אישי וכי בקשות להסרת מידע נבדקות פרטנית, אך משתמשים רבים טוענים שהטיפול איטי או לא קיים כלל.
