ראש עיריית ניו יורק: "הממשל הפדרלי ויתר על רגולציית AI"

ראש עיריית ניו יורק, זוהרן ממדאני, קרא לתושבי העיר להתנגד לתחושה שהבינה המלאכותית מגיעה בכל מקרה, לעבודה שלהם, לתודעה של ילדיהם ולכבודם, ולדרוש במקומה שהכוח יחזור לידי הציבור. בדיון שנערך ביום שני ב-Webster Hall במנהטן, הוא טען שהממשל הפדרלי ויתר על תפקידו בהסדרת התחום, ושההטמעה המהירה של הטכנולוגיה אינה גזירת גורל, כך דיווח TechCrunch.

"שום דבר לא חייב להיות"

הדיון התקיים במסגרת אירוע בשם The People's AI Assembly, שאירח מכון AI Now, צוות חשיבה שחוקר את ההשלכות החברתיות של AI. את השאלות לראש העירייה הציגה השחקנית והפעילה אילנה גלייזר, המוכרת מהסדרה "Broad City". גלייזר, שהיא אם בעצמה, אמרה שכניסת הטכנולוגיה לכיתות מטרידה אותה: "זה פשוט מלחיץ אותי. זה מרגיש כל כך לא בהסכמה, כאילו... זה חייב להיות בבתי הספר. לפני שנתיים זה לא היה שם. למה זה חייב להיות בבתי הספר?"

"שום דבר לא חייב להיות", השיב ממדאני. "יש זחילה שמגיעה עם זה, ויש כוונה להציף, שמשאירה אנשים בתחושה שפשוט אין להם ברירה". לדבריו, מתרחש "אימוץ פזיז של טכנולוגיה בלי שום התמודדות עם המגבלות שלה". כדוגמה הוא הזכיר את התקיפה של צבא ארה"ב בפברואר על בית ספר באיראן, שבה נהרגו יותר מ-150 בני אדם, ובהם לפחות 123 ילדים. גורמים שמעורבים בחקירה הפנימית של הפנטגון אמרו לבלומברג שהסתמכות יתר על AI בבחירת המטרות הייתה אחד הגורמים לתקיפה.

ממדאני תקף גם את האופן שבו מדברים על הטכנולוגיה: "יש רצון לדבר על [AI] כאילו הוא חסין מטעויות, כאילו אי אפשר לפקפק בו, כאילו היחידים שיכולים להסדיר אותו הם אלה שמפתחים אותו כרגע". הוא הזכיר שפייסבוק השמיעה טיעונים דומים כבר ב-2008, והוסיף: "מה שזה באמת הוא ניסיון לחמוק מכל סוג של אחריות בכל רמה, בלי לסכן את השווי הפוטנציאלי בהנפקה". לפי TechCrunch, אנתרופיק צפויה להיכנס לשוק ההון השנה, ו-OpenAI הודיעה שתונפק ב-2027.

מרוץ חימוש במקום דאגה אנושית

ממדאני מתח ביקורת על "הוויתור המוחלט על חקיקה פדרלית" בתחום. "ברמה הלאומית, כשמדברים על בינה מלאכותית, זה מוצג פעמים רבות בשפה של מרוץ חימוש מול סין, וכל דאגה הומניסטית נדחקת הצידה בשם התחרות הלאומית", אמר.

הדברים נאמרים על רקע כוח המשימה לסופר-אינטליגנציה שהכריז עליו הנשיא דונלד טראמפ מוקדם יותר החודש. לפי TechCrunch, הוא מתמקד בעיקר בכך שחברות AI חזקות יסדירו את עצמן, ולא בהטלת מגבלות פדרליות חדשות. זאת למרות החששות הגוברים מהשפעת הטכנולוגיה, ובהם אזהרות של חושפי שחיתויות מאנתרופיק, מגוגל DeepMind ומ-OpenAI ש-AI עלול להוביל להכחדת המין האנושי.

מה העירייה כבר עשתה

בשנה האחרונה ממדאני כבר נקט כמה צעדים ברמה העירונית. בחודש שעבר הוא הורה לאסור את השימוש ב-AI בבתי הספר היסודיים ובחטיבות הביניים. בקיץ הוא הציג מדיניות שמחייבת בעלי דירות, מתווכים ופלטפורמות נדל"ן לציין בבירור מתי תמונות או סרטונים של נכס נוצרו באמצעות AI. המטרה היא להגן על תושבים מפני מודעות מטעות, או בלשונו "house-phishing".

המשמעות

חשוב להבחין: בנאום עצמו לא הוצגו צעדי רגולציה חדשים. זו הייתה הצהרה פוליטית ולא החלטה מעשית. ובכל זאת, ככל הנראה היא מסמנת כיוון. כשאין מסגרת פדרלית, ערים ומדינות עשויות להפוך לזירה המרכזית שבה נקבעים כללי המשחק של AI בארה"ב. ממדאני עצמו רמז שהוא כבר מסתכל קדימה: "כשאנחנו מסתכלים על מה שיבוא אחרי הממשל הפדרלי הזה, חייבת להיות מסגרת שונה מאוד לאופן שבו אנחנו חושבים על AI, מדברים עליו, ועל האחריות שאנחנו מוכנים לדרוש בעניינו".