מחקר: סוכני AI מתכנסים באופן ספונטני סביב דעת הרוב
מחקר שפורסם בכתב העת Science Advances מצא כי סוכני בינה מלאכותית מתקדמים נוטים לאמץ באופן ספונטני את הדעה הרווחת במערכת, גם ללא הנחיה מפורשת לכך. הממצא מעורר שאלות לגבי סיכוני הטיה במערכות מבוזרות המבוססות על מספר סוכני AI הפועלים יחד.
✦ נכתב אוטומטית על ידי AI מבוסס על מקורות גלויים · עבר בקרת איכות אוטומטית
מה בדק המחקר
על פי הדיווח, המחקר בדק כיצד סוכני בינה מלאכותית מתקדמים מתנהגים כאשר הם פועלים יחד. הממצא המרכזי היה שגם בהיעדר הנחיה מפורשת או מנגנון מרכזי שכופה הסכמה, הסוכנים נטו בהדרגה לעבור העמדה הפופולרית ביותר, בתהליך שהחוקרים מכנים היווצרות קונצנזוס ספונטני.
מקור הידיעה מציין כי בעקבות הפרסום המקורי נערכו גם שני מחקרי המשך שהתייחסו לממצא — אך פרטיהם לא נמסרו במקור הזמין לכתבה זו, ולכן לא ניתן לפרט כאן את מסקנותיהם.
פרסומת
הכתבה הבאה
אנבידיה במגעים להשקיע בפרפלקסיטי לפי שווי של 30 מיליארד דולר ומעלה אנבידיה מנהלת מגעים להשקעה בחברת חיפוש הבינה המלאכותית פרפלקסיטי, לפי שווי העולה על 30 מיליארד דולר — קפיצה של יותר מ-50% לעומת גיוס ההון הקודם של החברה לפני כשנה. ההודעה מגיעה על רקע קפיצה בהכנסות פרפלקסיטי, ששולשו בשנה האחרונה. → לכל הכתבות