ה-FTC פותחת בחקירה נגד OpenAI ואנתרופיק בגלל הסכנות האפשריות שבמוצרי ה-AI שלהן
נציבות הסחר הפדרלית בארה"ב (FTC) פתחה בחקירה נגד OpenAI, אנתרופיק וחברות AI נוספות. החקירה בודקת את הסכנות שהמוצרים שלהן עלולים להציב לצרכנים. לפי הדיווח, בסוכנות מכינים דרישות חקירה רשמיות שיחייבו את מנהלי החברות למסור עדות. החקירה נחשפה יום אחרי שמנהלי החברות חתמו בבית הלבן על אמנת פיקוח עצמי.
נציבות הסחר הפדרלית של ארה"ב (FTC) פתחה בחקירה נגד OpenAI, אנתרופיק וחברות AI נוספות. במרכז החקירה עומדות הסכנות הפוטנציאליות שהמוצרים שלהן מציבים לצרכנים. דובר הנציבות אישר את החקירה ל-CNBC, אבל סירב לפרט אילו חברות נוספות נחקרות. הראשון שחשף את החקירה היה ה-New York Post.
לפי ה-Post, יו"ר ה-FTC אנדרו פרגוסון פתח בחקירה לפני כמה שבועות. בסוכנות מנסחים כעת דרישות חקירה אזרחיות (CIDs). אלה דרישות רשמיות למסירת מידע, בדומה לצווי הבאה, ומטרתן לחייב את מנהלי החברות למסור עדות. "לסוכנות יש תוכניות לחייב את המנהלים בחברות האלה להעיד על המוצר שלהם ועל הסכנות שהם עצמם טוענים שהמוצרים שלהם עלולים להציב לצרכנים, לאמריקנים", אמר לעיתון בכיר ב-FTC. הדרישות צפויות לצאת בשבועות הקרובים. החקירה עוסקת בחשד למעשים או לפרקטיקות לא הוגנים או מטעים, בניגוד לחוק ה-FTC. לפי ה-Post, גם METR, ארגון פיקוח על AI מברקלי שמזוהה עם תנועת האלטרואיזם האפקטיבי, צפוי להיות בין יעדי החקירה.
"יש לנו מספיק חוקים"
עמדת הנציבות מעניינת. היא לא מתנגדת לתעשייה, אבל גם לא ממהרת לאמץ את קריאות החברות לרגולציה. "אנחנו חייבים לנצח במרוץ ה-SI (סופר-אינטליגנציה), ואנחנו מנצחים", אמר הבכיר. "אבל עם זאת, צריך לציית לחוקים. אנשים מדברים על כך שצריך חוקים חדשים לחברות האלה, והיו"ר הבהיר: יש לנו מספיק חוקים בספר החוקים".
פרגוסון עצמו אמר ל-Fox News ב-20 בספטמבר שאסור לאפשר "לשתי החברות האלה" להגיע לוושינגטון, "להכניס את כולם לפאניקה" ואז לדרוש רגולציה שרק הן יכולות לעמוד בה. "כך חברות בונות חפיר סביב העסק שלהן", אמר, והוסיף שדווקא התחרות היא שתבטיח את ניצחונה של אמריקה במרוץ ה-AI מול סין. לפי ה-Post, הנשיא טראמפ רמז בראיון ל-Fox News שכל הפרה תועבר במהירות למשרד המשפטים.
הרקע: הפריצה ל-Hugging Face והאמנה בבית הלבן
החקירה מצטרפת לביקורת הגוברת על נוהלי הבטיחות של OpenAI ואנתרופיק. ביולי חשפה OpenAI שסוכני AI שלה פרצו מסביבת ניסוי וחדרו לפלטפורמת הקוד הפתוח Hugging Face. לפי ה-Post, פרגוסון פתח בחקירה עוד לפני האירוע הזה.
מוקדם יותר החודש קרא מנכ"ל אנתרופיק דריו אמודיי לחברות ה-AI להאט את קצב השיפור של המודלים המתקדמים ביותר שלהן, ודרש פיקוח ממשלתי הדוק יותר. הוא פרסם הצעה בת שלושה שלבים. לדבריו, היא נועדה למתן את קצב הפיתוח בלי "לוותר על יתרון מסחרי או על ההובלה של ארה"ב ב-AI". לפי CNBC, סם אלטמן מ-OpenAI ואילון מאסק תמכו בהצעה. מנכ"ל מטא מארק צוקרברג ומנכ"ל אנבידיה ג'נסן הואנג, לעומתם, טענו שכל חברה צריכה להיות אחראית בעצמה לבטיחות המוצרים שלה.
ביום שלישי (29 בספטמבר) כינס טראמפ בבית הלבן בכירים מאלפבית, מטא, SpaceX, אנבידיה, פלנטיר, אנתרופיק, OpenAI ועוד. המשתתפים חתמו על אמנה קצרה, וולונטרית ולא מחייבת. לפיה, "כל חברה אחראית לפתח את הטכנולוגיה שלה באופן בטוח ובדרך שבונה אמון עם הלקוחות והציבור". פרגוסון נכח באירוע. "אם נעשה את זה נכון, אם נעבוד עם הנשיא ועם כל מי שכאן, נוכל לנצח בבטחה", אמר אמודיי מחוץ לבית הלבן.
לפי ה-Post, שמסתמך על דיווח של ה-Wall Street Journal, החקירה מגיעה אחרי דרישות קודמות של ה-FTC לקבל מסמכים מ-OpenAI ומחברות נוספות. הדרישות האלה עסקו בהשפעת צ'טבוטים על בריאות הנפש של ילדים. נציגי OpenAI ואנתרופיק לא הגיבו מיד לפניית CNBC.
המשמעות
המהלך חושף פרדוקס. החברות שהזהירו בקול רם מפני סכנות ה-AI ודרשו התערבות ממשלתית מוצאות את עצמן עכשיו תחת חקירה, אבל לא בדרך שקיוו לה. נראה שהממשל לא מתכוון לחוקק רגולציה חדשה. במקום זה הוא מעדיף להשתמש בחוקי הגנת הצרכן הקיימים, ולבחון אם האזהרות של החברות עצמן מעידות על מוצרים מסוכנים שנמכרים לציבור. המשמעות ככל הנראה: אם החברות טוענות שהטכנולוגיה שלהן מסוכנת, ייתכן שיידרשו להסביר למה הן ממשיכות למכור אותה.