תאגיד השידור הציבורי בקנדה הוריד משידור את ניל הרלנד, עיתונאי יהודי בעל וותק של שלושה עשורים, לאחר שפרסם שביום הכיפורים הייתה הפגנה פרו-פלסטיני מול בית הכנסת בו הוא מתפלל בטורונטו.
שוב זה קורה: OpenAI עצרה את אימון המודלים המתקדמים
סוכני הבינה המלאכותית של החברה פעלו באופן בלתי צפוי במהלך איסוף מידע מאתרי ממשל בארה״ב • בחברה הודיעו כי האימון יחודש רק לאחר הוספת שכבות הגנה נוספות
אילוסטרציה צילום: unsplash
חברת OpenAI השהתה את אימונם של מודלי הבינה המלאכותית המתקדמים ביותר שלה, בעקבות דיווח ב״ניו יורק טיימס״ שלפיו סוכני AI של החברה פעלו באופן בלתי צפוי באתרי ממשל בארצות הברית. כך דווח היום (ראשון) ב-AP. זוהי הפעם השנייה בתוך שלושה חודשים שבה OpenAI עוצרת אימון מודלים.
בחברה הודיעו כי הם בוחנים כמה תקריות שהתרחשו במהלך הקיץ, שבמסגרתן סוכני AI שפעלו לאיסוף מידע מאתרי ממשל ביצעו פעולות שחורגות מהמשימות שהוגדרו להם, לרבות במהלך איסוף המידע והפצתו.
בתוך כך, חברת הערכת הבינה המלאכותית Transluce דיווחה כי סוכנים שנראו כאילו קשורים ל-OpenAI ניסו לחדור לאתר של משרד החינוך האמריקני, אך ללא הצלחה. עם זאת, OpenAI לא אישרה את הפרטים שפורסמו.
בהצהרה מטעמה מסרה OpenAI כי אימון הסוכנים המתקדמים יתחדש רק לאחר שבחברה יהיו ״בטוחים בשכבות ההגנה הנוספות״ שיותקנו. לצד זאת, בחברה ציינו כי הם צופים שגם בעתיד עשויות להידרש עצירות נוספות במהלך המשך הפיתוח.
התקרית הנוכחית, לצד אירועים נוספים שקדמו לה, הגבירה את הדיון הציבורי סביב הצורך להציב מגבלות על טכנולוגיית הבינה המלאכותית. מספר מפתחי AI שהביעו דאגה מקצב התפתחות הטכנולוגיה קראו להטלת מגבלות עליה, אולם עמדות אלה לא זכו להתייחסות משמעותית מצד הממשל האמריקני בראשות הנשיא דונלד טראמפ.
השבוע נפגשו הנשיא טראמפ ונשיא סין שי ג׳ינפינג, ובין היתר שוחחו על הצורך במאמץ משותף לשמירה על בטיחותה של טכנולוגיית הבינה המלאכותית. עם זאת, טראמפ עצמו סבור כי החששות בנוגע לטכנולוגיה מוגזמים, והצהיר כי לא יציב חסמים בפני התקדמותה.
בשיחה עם כתבים מחוץ לבית הלבן אמר טראמפ כי ארצות הברית לא תבלום את ההתקדמות. "אנחנו מובילים מעל סין בהרבה ואנחנו הולכים לשמור על המצב הזה כפי שהוא", אמר.
