סם אלטמן: "העולם צריך לקבל שכמה דברים רעים יקרו" בתמורה ליתרונות ה-AI

סם אלטמן, מנכ"ל OpenAI, אמר ש"העולם צריך לקבל שכמה דברים רעים יקרו" (the world should accept some bad things happening) בתמורה ליתרונות של הבינה המלאכותית. כך דיווח Business Insider. לפי הדיווח, אלטמן טוען שהתועלת של הטכנולוגיה גדולה מהעלויות שלה, גם אם בדרך יהיו תופעות שליליות.

אמירה שמשנה את נקודת המוצא

בשנים האחרונות חברות ה-AI הגדולות מדגישות בעיקר את מה שהן עושות כדי למנוע נזק: מנגנוני בטיחות, בדיקות לפני השקה ומגבלות שימוש. הניסוח של אלטמן מציג את התמונה מזווית אחרת. במקום להבטיח שהנזקים יימנעו, הוא מציג אותם כחלק בלתי נמנע מהתהליך, וכמחיר שהחברה כולה צריכה להסכים לשלם.

הדיווח לא מפרט לאילו "דברים רעים" בדיוק כיוון אלטמן. הדברים נאמרו ככל הנראה בשיחה עם Decoded, אך ההקשר המלא שלהם אינו ידוע. לכן קשה לקבוע אם הכוונה לתקלות קטנות יחסית, כמו שגיאות של מודלים, או לנזקים רחבים יותר, כמו פגיעה בשוק העבודה או שימוש לרעה בטכנולוגיה.

מי מחליט מה המחיר המקובל

OpenAI, החברה שמאחורי ChatGPT, היא אחת השחקניות המרכזיות בתעשייה. בשנים האחרונות היא נמצאת במרכז ויכוח ציבורי על קצב הפיתוח של AI ועל האחריות לסיכונים שלו. בהקשר הזה, דברים של המנכ"ל שלה לא נשמעים כמו הערה פילוסופית אגבית.

המשמעות היא ככל הנראה העמקה של מחלוקת קיימת. התומכים בגישה של אלטמן יטענו שכל טכנולוגיה גדולה, מהחשמל ועד הרכב, הביאה איתה גם נזקים, ושהחברה למדה לצמצם אותם תוך כדי שימוש. המבקרים צפויים לשאול שאלה אחרת: מי קובע אילו נזקים "מקובלים", ומי ישלם עליהם. חברה שמרוויחה מהטכנולוגיה היא כנראה לא הגורם הניטרלי ביותר לשקול את התועלת מול העלות.

למה זה חשוב

בכמה מדינות מתנהל בימים אלה דיון על רגולציה של בינה מלאכותית. בדיון כזה, אמירה של מנכ"ל אחת החברות המובילות בתחום עשויה לשמש את שני הצדדים. מי שמתנגד לרגולציה כבדה יוכל להצביע עליה כהודאה כנה במחיר של כל התקדמות. מי שתומך בפיקוח הדוק יוכל לראות בה הוכחה לכך שאי אפשר להשאיר לחברות עצמן את ההחלטה כמה סיכון מותר לקחת.

כך או כך, הדברים מעבירים את השיח משאלה טכנית, איך מונעים נזקים של AI, לשאלה ערכית ופוליטית: כמה נזק אנחנו כחברה מוכנים לספוג, ומי מקבל את ההחלטה הזו.