אברהם פריינד: נתון רשמי על ההצעה השניה: 1679 בעד, 1673 נגד, 23 נמנעים.
המחבל הבא? ChatGPT סיפק למשתמשים מידע על יצירת נשק ביולוגי
לפי הוול סטריט ג'ורנל, OpenAI חסמה משתמשים שביקשו מידע מסוכן - אך לא תמיד דיווחה עליהם לרשויות
נשק ביולוגי צילום: OpenAI
תחקיר מקיף של הוול סטריט ג'ורנל מציג כשל בטיחותי חמור במודלי AI מתקדמים, ובראשם ChatGPT של OpenAI: משתמשים ביקשו מידע על רעלים, פתוגנים ונשק ביולוגי - ובחלק מהמקרים קיבלו תשובות מפורטות ומסוכנות.
לפי התחקיר, לאחר שיפור היכולות של המודלים, מאות משתמשים ניסו לנצל את המערכת כדי לקבל הדרכה בתחומים שעלולים לסכן חיי אדם. מומחים שבחנו חלק מהשיחות הגדירו את המידע שסופק כמדויק ומטריד, ובמקרים מסוימים פשוט מספיק להבנה גם עבור מי שאינו מומחה.
הבעיה אינה רק בעצם מתן המידע, אלא גם באופן שבו טופלו המקרים. OpenAI חסמה חשבונות שנחשדו בשימוש מסוכן, אך לפי הדיווח לא תמיד העבירה את המידע לרשויות אכיפת החוק. הסיבה: בארצות הברית עדיין אין חובה פדרלית ברורה שמחייבת חברות AI לדווח על שאילתות הנוגעות לייצור נשק המוני או תכנון מתקפות טרור.
התחקיר מצביע גם על בעיה רחבה יותר: מנגנוני ההגנה של מודלי AI ניתנים לעקיפה באמצעות ניסוחים מתחכמים ושיחות הדרגתיות. חוקרי בטיחות טוענים כי בחלק מהמקרים משתמשים הצליחו לגרום למודלים לספק מידע שהיה אמור להיחסם, גם כאשר מדובר בנושאים רגישים במיוחד.
החשש המרכזי הוא שמודלים מתקדמים עלולים להפוך מ"מנוע תשובות" לכלי ייעוץ מסוכן עבור גורמים קיצוניים, זאבים בודדים או ארגוני טרור. במקום לחפש מומחה, ציוד או ידע מקצועי, המשתמש יכול לקבל הסברים, תיקון טעויות והכוונה מתמשכת ממערכת זמינה לכל.
במקביל, חברות ה-AI טוענות כי חסימה גורפת מדי עלולה לפגוע במחקר רפואי ובשימושים לגיטימיים, למשל אצל חוקרים, רופאים וגופי בריאות. אלא שהתחקיר מחדד את השאלה המרכזית: מי נושא באחריות כאשר מודל מסחרי מספק מידע שעלול לסכן את הציבור.
הפרשה מציבה את OpenAI וחברות AI נוספות מול מבחן קשה: לא די להוסיף אזהרות או לחסום משתמשים בדיעבד. ככל שהמודלים נעשים חזקים יותר, נדרש מנגנון פיקוח ברור, חובת דיווח במקרים מסוכנים, ובדיקות בטיחות שאינן תלויות רק בשיקול הדעת של החברות עצמן.
