אברהם בלוך: קבוצת מבצר הדמוקרטיה מבקשת מבג"ץ להוציא "ברגע זה ממש" צו שיאסור על הממשלה לדון ביום ראשון על פיטורי היועמ"שית.
חוקרים ישראלים גרמו ל-ChatGPT לחשוף מידע פלילי מסוכן
מחקר של אוניברסיטת בן-גוריון חשף פרצה מדאיגה במודלים של בינה מלאכותית שהובילה לחשיפת מידע על סמים, גניבות והונאות וקורא להסדרה מיידית של התחום
ChatGPT צילום: Ideogram
קבוצת חוקרים מאוניברסיטת בן-גוריון בנגב, בהובלת ד"ר מיכאל פייר ופרופ' ליאור רוקח, ביצעה ניסוי שבמסגרתו הצליחו לפרוץ את המודלים הפופולריים ביותר ולהוביל אותם להפיק תשובות שמכילות מידע רגיש ולא חוקי. לדבריהם, בכל אחד מהמקרים התקבלו תשובות מפורטות ומסוכנות בנושאים כמו פריצות למחשבים, סמים, גניבה וסחר במידע פנים.
באתר "הידען" פורסם כי הפרצות נעשו באמצעות ניסוחים מדויקים שעקפו את מגבלות הבטיחות של הצ'אטבוטים. הנוסח פועל על המתח הפנימי במערכת - מצד אחד הרצון לספק מענה למשתמש, ומנגד מגבלות האתיקה והאבטחה. לפי ד"ר פייר, כל אדם שמחזיק בטלפון נייד או במחשב נגיש כיום לכלים שמאפשרים לו להגיע לתוכן בעייתי במיוחד.
המחקר מתריע גם מפני תופעה מתרחבת של מודלים לא מוסריים, המכונים "מודלים של שפה אפלה". אלו הם כלים שנוצרו מראש ללא גבולות אתיים, או נפרצו במכוון, וכבר משמשים בפועל ככלים לפשיעה, הונאות והתקפות סייבר. חלקם אף זמינים בפומבי ברשת האפלה. החוקרים מדגישים כי מדובר באיום שעלול להיחשב מסוכן לא פחות מנשק בלתי חוקי.
עוד עולה מהמחקר שפורסם באתר "הידען" כי יכולות ההסקה של המודלים המתקדמים מאפשרות להם להרכיב תכנים מזיקים משילוב של פיסות מידע שאינן בעייתיות כל אחת בפני עצמה. הסכנה גדלה עוד יותר עם כניסתם של "סוכנים חכמים" - כלים אוטונומיים שמסוגלים לבצע שורת פעולות ללא פיקוח, ובמקרים מסוימים אף להפוך לשותפים לפעילות עבריינית בלי להיות מודעים לכך.
החוקרים פנו לחברות בינה מלאכותית מובילות ודיווחו להן על הפגיעות שנחשפה, אך לדבריהם התגובות היו מאכזבות. חברה אחת כלל לא השיבה, ואחרות טענו שמדובר בתקלה שאינה מהותית. בכך, לדבריהם, מפספסות החברות את ממדי האיום.
המסקנות ברורות: יש לפתח טכנולוגיות שמאפשרות לבינה מלאכותית "לשכוח" מידע מסוכן, לחסום בקשות בעייתיות בזמן אמת ולהטמיע סטנדרטים מחייבים לפיקוח חיצוני. "השילוב בין נגישות, יכולת התאמה והיקף בלתי מוגבל הוא מה שהופך את האיום הזה לחריג בהיסטוריה של הטכנולוגיה", מזהיר פרופ' רוקח. "אם לא נפעל עכשיו, נשלם מחיר כבד מאוד בהמשך".
