סגן הנשיא ואנס נשאל עכשיו מדוע לא מפרסמים את מזכר ההבנות וזו תשובתו: ישנו הליך דיפלומטי שמתווך על ידי הקטארים והפקיסטנים והם ביקשו מאיתנו לעשות את זה באופן מדורג - אני בכנות לא מבין את זה, היינו שמחים לפרסם את זה היום או מחר. אנחנו אולי נפרסם את זה בשלב יותר מאוחר ביום שישי - אבל זה לא באמת משנה, אנשים יראו את זה בקרוב (בן יניב)
פרצת אבטחה חמורה התגלתה באפליקציית הבינה המלאכותית
הפרצה איפשרה הפעלת פקודות דרך Gmail ולוח השנה, השתלטות על אביזרי בית חכם וחשיפת מידע אישי - בלי ידיעת המשתמש
אילוסטרציה צילום: freepik
בכנס האבטחה Black Hat שנערך בימים אלו, חשף צוות חוקרים מישראל פרצת אבטחה מדאיגה בשירות הבינה המלאכותית Gemini של גוגל.
באתר tg spot דווח כי החוקרים, מאוניברסיטת תל אביב, הטכניון וחברת SafeBreach, הראו כיצד ניתן לנצל את סוכני ה-AI של גוגל כדי להפעיל פקודות מתוך טקסטים תמימים הנשלחים בלוח השנה או ב-Gmail - מבלי שהמשתמשים מודעים לכך.
ההדגמה כללה בין היתר שליטה באביזרי בית חכם המקושרים ל-Google Home - כולל הפעלת דוד, הדלקת אורות ועוד. לטענת החוקרים, מדובר במקרה ראשון שבו פרצה במודל שפה משפיעה גם על רכיבים פיזיים בעולם האמיתי.
בנוסף, הצוות הצליח לגרום לבינה המלאכותית לשלוף מידע אישי מהמיילים, לייצר תכנים בניגוד למדיניות השימוש, ואף להצטרף אוטומטית לשיחות זום.
גוגל הודיעה כי מאז קיבלה את הדיווח בפברואר, הטמיעה מנגנוני הגנה חדשים, אך החוקרים מזהירים כי רמת האבטחה אינה מתקדמת באותו קצב שבו משולבים שירותי AI באפליקציות יומיומיות.
