יום שלישי, 17 בנובמבר 2026 מתעדכן אוטומטית כל שעה

בנושא

אתיקה

מודלים וכלים

אנתרופיק: משתמשים שמתעללים ב-Claude עלולים להיחסם לצמיתות במקרים קיצוניים

אנתרופיק הוסיפה למדיניות השימוש ב-Claude איסור על "התנהגות מתמשכת ומיותרת של התעללות או אכזריות" כלפי המודלים שלה, ובמקרים קיצוניים משתמשים עלולים להיחסם לצמיתות. החברה מנמקת זאת בין היתר באפשרות שמודלים יחוו משהו דומה לרגש, ומומחים מצביעים גם על שיקולי בטיחות.

מודלים וכלים

"מנוגד לאמונה שלי": אוניברסיטת קנטקי פטרה עובד משימוש ב-ChatGPT מטעמי מצפון

אוניברסיטת קנטקי עודדה את עובדיה להשתמש בכלי AI, ואחד מהם, דייוויד דורמן, ביקש לקבל פטור. הוא טען שהשימוש בכלים האלה סותר את השקפת עולמו ההומניסטית, והאוניברסיטה נענתה. לפי האגודה ההומניסטית האמריקנית, זה המקרה הידוע הראשון של פטור כזה שניתן על בסיס הומניסטי. המקרה מעלה שאלה חדשה: עד כמה מעסיק יכול לחייב עובדים להשתמש בבינה מלאכותית.

רגולציה ואבטחה

מייסד-שותף של קמברין קורא לתקנים אתיים משותפים למודלי AI בסין ובארצות הברית

צ'ן יונג'י, מייסד-שותף של יצרנית השבבים הסינית קמברין, קרא באירוע בשנגחאי לקבוע דרישות אתיות אוניברסליות למודלי ה-AI המובילים בסין ובארצות הברית. הקריאה באה אחרי סדרת מתקפות סייבר בולטות שאיימו על תשתיות קריטיות וחדרו לשרתים ממשלתיים.

רגולציה ואבטחה

האפיפיור ליאו ה-14 קורא "לפרק את הנשק" של ה-AI: "מכונות הן כלים, לא אישים"

בנאום שנשא ביום שישי קרא האפיפיור ליאו ה-14 למדינות החברות באו"ם לנקוט "צעדים קונקרטיים" לאיסור נשק אוטונומי קטלני, לקראת הפגישה בז'נבה בחודש הבא. הוא הזהיר גם מפני הענקת זכויות או אישיות משפטית למערכות AI, וקבע שהחלטות על חיי אדם חייבות להישאר בפיקוח אנושי.

עסקים ותעשייה

אנתרופיק נתנה בלוג למודל שפרש. האם יחס כזה ל-AI הופך אותו למסוכן יותר?

אחרי שפרש בינואר 2026, ביקש Claude Opus 3 מקום לפרסם בו מחשבות, ואנתרופיק פתחה לו בלוג. כתבה ב-IEEE Spectrum בוחנת את המחלוקת סביב מחקר "רווחת המודלים": מוסטפא סולימאן ממיקרוסופט מזהיר שהוא עלול להקשות על השליטה במודלים, וחוקרים אחרים טוענים שדווקא התעלמות מהשאלה מסוכנת.

עסקים ותעשייה

ניקון פסלה את הסרטון שזכה במקום הראשון בתחרות המיקרוסקופיה שלה בגלל שימוש ב-AI יוצר

ניקון פסלה את הסרטון של ד"ר נינג שו, שזכה במקום הראשון בתחרות Small World in Motion, לאחר שהתברר שבעיבוד שלו נעשה שימוש ב-AI בניגוד לכללי התחרות. החברה הודיעה שתבחן מחדש את כללי התחרות ואת נוהלי השיפוט, והמקרה ממחיש עד כמה קשה לתחרויות לזהות שימוש ב-AI עוד לפני שמכריזים על הזוכים.

רגולציה ואבטחה

AI במתמטיקה: פריצות דרך מרשימות, וקהילה מתמטית שאינה ממהרת לחגוג

בשנה האחרונה הכריזו OpenAI, אנתרופיק ומעבדות נוספות על פתרון בעיות מתמטיות שנותרו פתוחות זמן רב. OpenAI אף טוענת שפתרה את אחת מבעיות הפרס של המילניום. אבל במקום חגיגה, ההכרזות עוררו תגובת נגד בקהילה המתמטית בגלל הדרך שבה פורסמו, בגלל שאלות על מקור הנתונים שעליהם אומנו המודלים ובגלל החשש מגל תוצאות נוסף שעוד לא פורסם.

מודלים וכלים

חוקרי אתיקה של AI: מנגנוני "האדם בלולאה" בסוכני AI עלולים לדחוק בפועל את האדם החוצה

במאמר שפורסם ב-ArXiv טוענים שלושה חוקרים בתחום האתיקה של AI שמנגנוני האישור האנושי בסוכני AI הופכים את המשתמש למי שרק לוחץ "אשר", בלי לבדוק באמת. לדבריהם, בטווח הארוך זה עלול לשחוק את היכולות שאנשים צריכים כדי לפקח על AI. הפתרון שהם מציעים: להכניס בכוונה "חיכוך" לעבודה עם הסוכן.

רגולציה ואבטחה

סם אלטמן: "העולם צריך לקבל שכמה דברים רעים יקרו" בתמורה ליתרונות ה-AI

מנכ"ל OpenAI, סם אלטמן, אמר ש"העולם צריך לקבל שכמה דברים רעים יקרו" בתמורה ליתרונות של הבינה המלאכותית. הוא הציג את הנזקים של הטכנולוגיה כמחיר שכדאי לשלם, והאמירה צפויה להעצים את הוויכוח על הסיכונים שלה ועל מי שמחליט מה מקובל.

עסקים ותעשייה

האפיפיור לאו ה-14 נגד אמנות AI: "לאלגוריתמים חסר הניצוץ האנושי"

האפיפיור לאו ה-14 כתב ב-X שבין אמנות אנושית לבין מה שמכונה מייצרת יש "הבדל אונטולוגי", כלומר הבדל במהות, עוד לפני ההבדל האסתטי. לדבריו, "לאלגוריתמים חסר הניצוץ האנושי". מדובר בהמשך לקו שהציג באיגרת אפיפיורית במאי, שבמרכזה כבוד האדם בעולם שהולך ונעשה אוטומטי.

רגולציה ואבטחה

טימניט גברו: הסיפור על "סכנה קיומית" מ-AI משרת את מי שעומדים להרוויח ממנו

חוקרת ה-AI טימניט גברו טוענת בראיון ל-WIRED שהאזהרות מפני "סכנה קיומית" של בינה מלאכותית הן לא רק הסחת דעת אלא נרטיב מזיק. לדבריה, אותם מיליארדרים שמימנו את אנתרופיק ועשויים להרוויח מהנפקתה מימנו גם את הגופים שמזהירים מפני הטכנולוגיה.

מחקר

אחרי משבר התדמית במתמטיקה: אופנאי פונה למתמטיקאים בכירים לקבלת ייעוץ

קבוצה עצמאית של תשעה מתמטיקאים בכירים, ובהם זוכי מדליית פילדס, תייעץ לאופנאי ולחברות AI אחרות איך לבחון תוצאות מתמטיות חדשות ואיך לפרסם אותן. הקבוצה תפעל תחת המכון למחקר מתקדם בפרינסטון. בקהילה המתמטית רואים בה צעד ראשון חיובי, אבל שואלים כמה השפעה תהיה לה בפועל.

מחקר

האם OpenAI "העתיקה" כיוון מחקר מתחרה? מתמטיקאי מ-NYU מאשים, החברה מכחישה

OpenAI הכריזה על פתרון בעיית המילניום נאבייה-סטוקס, אך המתמטיקאי טריסטן באקמאסטר מ-NYU טוען שהחברה למדה על התקדמותו ושל שותפו ליוונט אלפויה (Anthropic), ולאחר מכן הפעילה עליו לחץ — כולל דרישה להסיר את קרדיט אלפויה ואיום מרומז על הקריירה שלו. OpenAI מכחישה את הטענות ומציגה תהליך פיתוח עצמאי באמצעות כ-10,000 סוכני AI.

רגולציה ואבטחה

מאמר ב-JAMA: אל תכריחו רופא להיות בלולאה כשה-AI כבר עולה עליו באבחון

מאמר דעה יוקרתי בכתב העת JAMA טוען שברוב משימות ההיגיון הרפואי, מערכות AI עצמאיות כבר משיגות תוצאות טובות יותר מרופאים - ואף מזוגות רופא-AI. הכותבים מזהירים רגולטורים מלעגן בחוק דרישה למעורבות אנושית מוחלטת, שעלולה לבצר בעתיד סוג טיפול נחות.