סטיבן פינקר נגד תרחישי יום הדין: "הנדסת בטיחות מפוכחת, לא רטוריקה של סוף העולם"

הפסיכולוג סטיבן פינקר מאוניברסיטת הרווארד סבור שהחשש שבינה מלאכותית תשמיד את האנושות מוגזם. לפי הדיווח ב-The Decoder, פינקר מציג את עמדתו במכתב פתוח שפרסם באתר Quillette. לדבריו, הדרך להתמודד עם הסיכונים של AI היא הנדסת בטיחות מפוכחת, ולא רטוריקה של יום הדין.

מכתב במקום עימות

המכתב ממוען לסקוט אלכסנדר, פסיכיאטר ובלוגר טכנולוגיה בעל השפעה, שהזמין את פינקר לעימות פומבי על הסיכונים הקיומיים של בינה מלאכותית. פינקר סירב, ותיאר אירועים כאלה כ"ספורט לצופים" (spectator sport). לפי הדיווח, הוא בחר לפרוש את טיעוניו בכתב.

אלכסנדר הציג את עמדתו בבלוג שלו ביוני. הוא מעריך ב-20 אחוז את הסיכוי שבינה מלאכותית תמחק את האנושות. הוא תומך גם בהרחבת מחקר הבטיחות וגם בהסכמים בינלאומיים שיאטו את קצב הפיתוח.

למה מכונת מהדקי הנייר לא משכנעת את פינקר

במרכז הביקורת של פינקר עומדים תרחישי אימה כמו "ממקסם מהדקי הנייר" (paperclip maximizer). זהו ניסוי מחשבתי מוכר בדיוני בטיחות AI, ובו מערכת שהמטרה היחידה שלה היא לייצר מהדקים מקריבה את האנושות כדי לייצר עוד ועוד מהם. לטענת פינקר, תרחישים כאלה מבלבלים בין אינטליגנציה לבין שאיפה לשלוט. הם גם מניחים שמערכת AI תתקבע באובססיביות על מטרה אחת.

זה לא חדש מבחינתו: פינקר הביע אופטימיות לגבי בינה מלאכותית גם בעבר. אבל הפעם הוא מודה בשתי טעויות. הראשונה: הוא העריך בחסר עד כמה מודלי שפה גדולים (LLM) יהפכו למסוגלים. השנייה: הוא לא צפה עד כמה בפזיזות חברות ה-AI ישחררו את המוצרים שלהן. הוא מציין שיש בכך אירוניה, כי את המרוץ הזה מובילים אנשים מאותה קהילה שמזהירה מפני הסיכונים.

הסכנות שכן מדאיגות אותו

פינקר לא מבטל את הסיכונים. הוא מתייחס ברצינות לשלושה תחומים: טרור ביולוגי, מתקפות סייבר, וסוכני AI (agents, מערכות שמבצעות פעולות באופן עצמאי) שפועלים בלי פיקוח. לדבריו, רטוריקה של סוף העולם לא תעזור בהתמודדות עם אף אחד מהם. מה שכן יעזור הוא הנדסת בטיחות מפוכחת שנשענת על שלושה עקרונות: פיקוח עצמאי, אחריות משפטית (liability) ושליטה אנושית.

המשמעות

הוויכוח בין פינקר לאלכסנדר משקף ככל הנראה פיצול רחב יותר בשיח על בטיחות AI. מצד אחד עומדים מי שרואים בבינה מלאכותית איום קיומי ודורשים להאט את הפיתוח. מצד שני עומדים מי שמעדיפים לטפל בסיכונים קונקרטיים באמצעות רגולציה ומנגנוני אחריות. אפשר להעריך שהמסגור של פינקר, שמדבר על אחריות משפטית, פיקוח חיצוני ושליטה אנושית, קרוב יותר לשפה של קובעי מדיניות מאשר לשפה של תרחישים פילוסופיים.

מעניין לא פחות שגם פינקר, שנחשב ספקן, מודה שהטכנולוגיה התקדמה מהר מהצפוי ושהתעשייה מתנהלת בפזיזות. כלומר, המחלוקת בין שני הצדדים נוגעת בעיקר לשאלה איך לטפל בבעיה ועד כמה היא חמורה, ופחות לשאלה אם יש בכלל בעיה.