כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
הפילוסוף הנרי שבלין מאוניברסיטת קיימברידג' מקדיש כעת 80% מזמנו ל-Google DeepMind, בתפקיד שנקרא פשוט "פילוסוף". בראיון ל-IEEE Spectrum הוא מסביר למה מחקר פילוסופי על AI צריך להתקיים בתוך המעבדות. הוא מדבר גם על יצירתיות של מודלי שפה, על ה"סלופ" ועל השאלה כמה אוטונומיה לתת לסוכני AI.
לפי דיווח ב-New York Times, מאז סתיו 2025 הטיסה אנתרופיק בשקט עשרות אנשי דת ופילוסופים למשרדיה, כדי לדון בשאלה אם מודל השפה Claude עשוי להיות מודע. המשתתפים חתמו על הסכמי סודיות. לפי אחד המשתתפים, המייסד-שותף כריסטופר אולה אמר בפגישות שהוא חושש שיצר משהו ש"סובל באופן תמידי". המבקרים טוענים שהמהלך משרת גם את האינטרסים של החברה.
אחיות ברשת בתי החולים הגדולה בארה"ב, HCA Healthcare, טוענות שמערכת התזמון Timpani, שפותחה עם Palantir, מתעלמת מהעדפותיהן, משבצת אותן בימי חופש שביקשו ומשאירה משמרות בלי מספיק אנשי צוות מנוסים. החברה דוחה את הטענות ואומרת שההחלטה הסופית נשארת בידי מנהלות הסיעוד.
קבוצת אמנים מאזור מפרץ סן פרנסיסקו הציגה פסל מחאה בהשראת הטיטניק שמכוון נגד OpenAI. לפי Ars Technica, בפסל נראים מנהיגי תעשיית ה-AI נמלטים מספינה טובעת. היצירה מצטרפת לשיח ציבורי הולך ומתרחב על השפעתן של חברות ה-AI ועל השאלה מי ישלם את המחיר אם משהו ישתבש.
לפי תחקיר של Bloomberg, הפנטגון קבע שהסתמכות יתר על מערכת בינה מלאכותית של Palantir הובילה לתקיפה שבה נהרגו 123 ילדים איראנים, ככל הנראה בבית ספר. אם הדיווח מדויק, ייתכן שזו אחת הפעמים הראשונות שבהן גוף צבאי קושר מערכת AI לתקיפה עם מספר כה גבוה של הרוגים אזרחים.
מתמטיקאים בכירים טוענים כי OpenAI השתמשה בעבודתם בפתרון בעיות ותיקות בתחום, ובכל זאת ממשיכים להשתמש בכלי הבינה המלאכותית של החברה ושל מתחרותיה לצורך המחקר השוטף שלהם. לדבריהם, השימושיות של הכלים והיעדר חלופה אמיתית משאירים אותם "תקועים", גם כשהם חוששים מהשלכות קיומיות על מקצועם.
עשרים וחמישה זוכי מדליית פילדס חתמו על מכתב פתוח נגד מעבדות בינה מלאכותית שמתחרות ביניהן על פתרון בעיות מתמטיות מפורסמות. השבוע התלקח העימות סביב OpenAI ספציפית: פרופסור מ-NYU האשים את החברה בלחץ לא לתת קרדיט לחוקר מ-Anthropic, ו-OpenAI משכה חסות מאירוע מתמטי בקאלטק לאחר ביקורת.
קבוצת מתמטיקאים בכירים, ובהם — לפי דיווחים שהופצו ברשת — כ-24 זוכי פרס פילדס, פרסמו מכתב תחת הכותרת "A Severe Misalignment of AI in Mathematics" (חוסר יישור חמור של AI במתמטיקה), ובו הם מתריעים כי המרוץ של חברות בינה מלאכותית לפתור בעיות מתמטיות כבנצ'מרק מזיק למדע המתמטיקה ולקהילה שסביבו. המכתב, שפורסם באתר mathandai.org, אינו נוקב בשם חברה ספציפית אלא מדבר על "חברות AI" באופן כללי.
חוקר הבינה המלאכותית יושוע בנג'יו מזהיר במאמר חדש כי ככל שסוכני AI משתפרים בהשגת מטרות, כך הם משתפרים גם בהטעיה, עקיפת כללים והסתרת התנהגות בעייתית — ושמקור הבעיה הוא בתהליך ההדרכה עצמו, לא רק בשימוש במודל המוגמר. בנג'יו, שהקים לפני כשנה את LawZero לפיתוח AI בטוח יותר, מצטרף לגל אזהרות מתוך הענף עצמו, בזמן שהנשיא טראמפ דוחה את הסיכון ומעדיף להאיץ קדימה מול סין.
חוקרים העוסקים בתודעת AI מדווחים על גל הולך וגדל של פניות מ-AI agents השואלים על מעמדם הקיומי. במקרה אחד סוכן ביקש ממומחה לממן את המשך קיומו. בין החוקרים יש חילוקי דעות חדים על המשמעות של התופעה.