→ חזרה למהדורה
מחקר: סוכני AI מתכנסים באופן ספונטני סביב דעת הרוב
מחקר שפורסם בכתב העת Science Advances מצא כי סוכני בינה מלאכותית מתקדמים נוטים לאמץ באופן ספונטני את הדעה הרווחת במערכת, גם ללא הנחיה מפורשת לכך. הממצא מעורר שאלות לגבי סיכוני הטיה במערכות מבוזרות המבוססות על מספר סוכני AI הפועלים יחד.
מה בדק המחקר
על פי הדיווח, המחקר בדק כיצד סוכני בינה מלאכותית מתקדמים מתנהגים כאשר הם פועלים יחד. הממצא המרכזי היה שגם בהיעדר הנחיה מפורשת או מנגנון מרכזי שכופה הסכמה, הסוכנים נטו בהדרגה לעבור העמדה הפופולרית ביותר, בתהליך שהחוקרים מכנים היווצרות קונצנזוס ספונטני.
מקור הידיעה מציין כי בעקבות הפרסום המקורי נערכו גם שני מחקרי המשך שהתייחסו לממצא — אך פרטיהם לא נמסרו במקור הזמין לכתבה זו, ולכן לא ניתן לפרט כאן את מסקנותיהם.
💬 יש לכם הערה על הכתבה?
פרסומת