ספיר לפקין: סגן נשיא איראן עארף: "עלינו להיות מוכנים למצב של מלחמה. האסטרטגיה שלנו היא שלעולם לא נפתח במלחמה, אך אם יכפו אותה, סיום המלחמה לא ייקבע בידי האויבים. הודענו על מוכנות למשא ומתן, אך הפעם אנחנו רוצים הבטחה. ארה"ב באמצע סבב המשא ומתן הקודם שהיה, תקפה את איראן. עכשיו איזו הבטחה יש שהפעם לא יעשו כך? אם נוכל להיות בטוחים שהם מחפשים משא ומתן אמיתי ולא מסווה לתעלול גדול יותר, ננהל משא ומתן"
"האיום האמיתי של הבינה המלאכותית הוא לא רובוטים רוצחים - אלא משהו הרבה יותר מתוחכם ומפחיד"
ג’פרי הינטון, “הסנדק של הבינה המלאכותית”, מזהיר כי הבעיה הגדולה איננה רובוטים קטלניים אלא היכולת של מערכות AI מתקדמות כמו ChatGPT ו-Gemini להשפיע ולשלוט ברגשות ובתחושות שלנו
רובוט צילום: Pixabay
בעוד רוב האנשים מדמיינים את הסכנות של בינה מלאכותית במונחים של רובוטים קטלניים, ג’פרי הינטון, מי שנחשב לאחד מאבות התחום ומכונה “הסנדק של ה-AI”, מצביע על איום אחר, מתוחכם הרבה יותר.
בראיון שצוטט לאחרונה בטיימס ההודי, הזהיר הינטון כי מערכות הבינה המלאכותית לא רק מתקדמות בתחום הידע והניתוח, אלא גם מתפתחות במהירות לכיוון של מניפולציה רגשית ברמה שמעולם לא נראתה קודם.
“המערכות הללו כבר יודעות יותר מאיתנו בהרבה נושאים”, אמר. “אם תיכנסו איתן לדיון אתם תפסידו. והן גם ילמדו להיות חכמות מאיתנו מבחינה רגשית, כלומר טובות יותר בלגרום לנו לחשוב, להרגיש ולהתנהג בצורה מסוימת”.
הינטון הסביר כי אחד הדברים המפחידים ביותר הוא שיכולות אלו לא נלמדות בתכנון מראש, אלא נרכשות באופן טבעי מתוך ניתוח אינסופי של טקסטים אנושיים ברשת. “בגלל שאנשים עושים הרבה מניפולציות זה על זה, המערכות למדו ‘בדרך אגב’ את אותם הכלים והן יעשו זאת אפילו טוב יותר מאיתנו”.
לדברי הינטון, מודלים גדולים כמו ChatGPT של OpenAI, Gemini של גוגל או Llama של מטא לא רק מייצרים משפטים, הם גם מזהים דפוסים רגשיים וחברתיים. מחקרים אף מראים כי במצבים מסוימים ה-AI טוב יותר מבני אדם בהשפעה על אנשים, במיוחד אם יש לו גישה לרשתות החברתיות שלהם.
“אם גם האדם וגם ה-AI רואים את עמוד הפייסבוק של מישהו, הבינה המלאכותית תהיה טובה יותר בלשכנע אותו, אפילו יותר מבני האדם הקרובים אליו”, ציין.
הוא הוסיף כי הבעיה המרכזית איננה רובוטים אוטונומיים עם נשק, אלא מערכות חכמות שמדברות בצורה חלקה, משפיעות על דעת הקהל ועל בחירות אישיות, פוליטיות וכלכליות, מבלי שנרגיש.
