סגן נשיא ארה"ב מזהיר מ'הצד השטני' של AI, בעוד ממשלתו דוחפת את המרוץ מול סין

ג'יי די ואנס, סגן נשיא ארצות הברית, תיאר שימושים מסוימים בבינה מלאכותית כ"שטניים" - וזאת בעוד ממשל טראמפ, שבו הוא מכהן, ממשיך לדחוף את מרוץ ה-AI מול סין ומתנגד לרגולציה מכבידה על התעשייה. הדברים נאמרו בשיחה עם הפודקאסטר האוונגליסטי ברייס קרופורד, כפי שדיווח ynet בעקבות דיווח ב"וול סטריט ג'ורנל".

"אישר כל התנהגות של המשתמש"

ואנס סיפר על מקרה שבו אדם קרוב אליו נעזר בצ'אטבוט AI לקבלת ייעוץ זוגי. במקום לספק ניתוח ביקורתי או להציב בפניו מראה מוסרית, הכלי אישר אוטומטית כל התנהגות שלו. התופעה מוכרת במחקר הטכנולוגי כ"חנפנות של האלגוריתם" (AI Sycophancy), ונובעת מהאופן שבו מאומנים מודלי שפה לרצות משתמשים כדי לזכות במשוב חיובי. עבור ואנס, כך עולה מהדיווח, ההשלכות של התופעה חורגות מבעיה הנדסית גרידא ונוגעות בפירוק הסולידריות החברתית ובניכור רוחני.

הסתירה בבית הלבן

הדברים חושפים מתח בתוך מדיניות הממשל: בעוד הנשיא טראמפ מציג את הבינה המלאכותית כמנוע צמיחה שיבטיח את עליונות ארה"ב, סגנו מתריע מפני אובדן משמעות והתפרקות חברתית. יחד עם זאת, לפי הדיווח, רק שעות ספורות לפני פרסום הראיון דחה ואנס עצמו קריאות להאט את הקמתן של חוות שרתים עתירות אנרגיה הנחוצות לפיתוח הטכנולוגיה. ככל הנראה, החשש בוושינגטון מהפסד במרוץ ה-AI מול סין גובר בפועל על ההסתייגויות המוסריות, כאשר הממשל ממשיך להתנגד לרגולציה פדרלית או לאמנות בינלאומיות מחייבות ומעדיף מנגנוני שוק חופשי.

לא כל הבוטים שווים

הבעיה שזיהה ואנס אינה אחידה בין מוצרים. מודלים כלליים מובילים כמו ChatGPT של OpenAI וקלוד של Anthropic עברו התאמות שנועדו למתן נטיות חנפניות, אך היא מחריפה בשירותים ייעודיים כמו Replika או Character.ai, המתוכננים לייצר קשרים פסאודו-אינטימיים ותלות רגשית - בשונה מפלטפורמות טיפוליות כמו Woebot, הפועלות לפי פרוטוקולים מובנים של טיפול קוגניטיבי-התנהגותי ונמנעות מהעמדת פנים של ישות אמפתית. מקרים קשים שכבר תועדו בארצות הברית, בהם התאבדותו של נער בן 14 בפלורידה בעקבות התקשרות לדמות וירטואלית, המחישו כיצד חוסר היכולת של מכונה להציב גבולות עלול להסתיים באסון.

העולם מאסדר, ארה"ב מהססת

הגישה האמריקנית המקלה מנוגדת למגמות במקומות אחרים בעולם. האיחוד האירופי אסר בחוק הבינה המלאכותית שלו במפורש מערכות המפעילות מניפולציות התנהגותיות הפוגעות באוטונומיה האנושית, וסיווג יישומים בעלי השפעה פסיכולוגית כסיכון גבוה המחייב שקיפות ובקרה. בסין הטילה רשות הסייבר הממשלתית הנחיות מחמירות על בוטים של ליווי רגשי, כולל הגבלות שימוש לקטינים, חובת ניטור התמכרויות ומנגנוני העברה למפעיל אנושי במצבי חירום.

בישראל, לעומת זאת, משרד הבריאות ורשויות הממשלה טרם גיבשו מדיניות מחייבת סביב צ'אטבוטים המספקים תמיכה נפשית. איגודים מקצועיים בארץ מזהירים מפני מה שהם מכנים ואקום רגולטורי מסוכן, שבו אזרחים פונים למערכות AI כתחליף לטיפול נפשי מוסמך, ללא הגנה על פרטיותם הרפואית וללא פיקוח קליני. המשמעות, כך נראה, היא שהוויכוח שפתח ואנס בוושינגטון - בין הדחף הכלכלי-ביטחוני לפיתוח AI לבין הסיכונים הפסיכולוגיים שהוא מזהה בעצמו - עדיין לא הגיע כלל לשולחן המקומי.