חוק הבטיחות של ניו יורק ל-AI יוצא לדרך: OpenAI ואנתרופיק יידרשו להירשם ולדווח על תקריות
מדינת ניו יורק פתחה פורטל רישום למפתחות מודלי AI גדולות, לקראת כניסתו לתוקף של חוק RAISE ב-1 בינואר 2027. החוק מחייב חברות עם הכנסות שנתיות של יותר מ-500 מיליון דולר לפרסם מסגרות בטיחות, לדווח על תקריות בטיחות חמורות בתוך 72 שעות ולפרסם דוחות שקיפות. על הפרות ייגבו קנסות של עד 3 מיליון דולר.
מדינת ניו יורק נערכת לאכוף את אחד מחוקי הבטיחות המשמעותיים בארה"ב בתחום הבינה המלאכותית. ביום שלישי פתחה המדינה פורטל רישום, ומפתחות גדולות של מודלי frontier, כלומר המודלים המתקדמים ביותר בשוק, כמו OpenAI ואנתרופיק, יצטרכו להירשם בו עד 1 בינואר 2027. באותו מועד ייכנס לתוקף חוק RAISE, חוק הבטיחות והשקיפות של המדינה.
מה החוק דורש
החוק חל על מה שהוא מגדיר כ"מפתחות frontier גדולות": חברות שההכנסות השנתיות שלהן עולות על 500 מיליון דולר. לפי TechCrunch, הן יחויבו בשלושה דברים עיקריים:
- לפרסם באתר שלהן מסגרת בטיחות, כלומר מסמך שמפרט כיצד הן מזהות ומנהלות סיכונים במודלים שלהן.
- לדווח על תקריות בטיחות חמורות בתוך 72 שעות.
- לפרסם דוחות שקיפות פומביים על המודלים.
על היישום ועל הפיקוח על המעבדות הגדולות יהיה אחראי משרד חדש בשם Office of Digital Innovation, Governance, Integrity, and Trust (DIGIT). הקנס על הפרה ראשונה יכול להגיע למיליון דולר, ועל הפרות נוספות עד 3 מיליון דולר. המדינה רשאית לפתוח בהליכי אכיפה גם נגד חברות שלא יירשמו בפורטל, אבל דובר מטעמה סירב לפרט כיצד זה ייעשה.
הוקול: "המרוץ אל צוק ה-AI"
המושלת קתי הוקול בחרה בנימה חריפה. "ענקי הטכנולוגיה אומרים לנו שהחזון שלהם ל-AI הוא בלתי נמנע", אמרה בתדריך לעיתונאים. "הם אומרים לנו להצטרף או להישאר מאחור... שכל נזק אגבי שווה את המחיר, כל עוד אנחנו מנצחים במרוץ אל צוק ה-AI". לדבריה, ניו יורק בונה "מודל לאומי לרגולציה חכמה ושקולה של AI, מודל ששם קהילות לפני תאגידים ואנשים לפני טכנולוגיה חזקה".
באותו יום השיקה הוקול גם את New York Center for AI Responsibility and Research באוניברסיטת בינגהמטון, שהיא חלק מהאוניברסיטה הממלכתית של ניו יורק (SUNY). המרכז יעריך באופן עצמאי את הבטיחות, האבטחה והתפקוד של מערכות AI מתקדמות, ויעבוד עם DIGIT על בחינת מסגרות הבטיחות שהחברות יגישו. הוקול הכריזה עליו לראשונה בינואר, עם 55 מיליון דולר בתרומות ובהון.
חלק ממגמה רחבה יותר
חוק RAISE אינו חוק ה-AI הראשון של ניו יורק. בשנה שעברה החלה המדינה לאכוף חוק שמחייב מפעילי "בני לוויה" מבוססי AI להזכיר למשתמשים באופן קבוע שהם משוחחים עם בוט, ולעשות מאמץ סביר לזהות מחשבות אובדניות ופגיעה עצמית. באוקטובר חתמה הוקול על חוק נפרד שנועד להגן על קטינים בשיחות עם צ'טבוטים. החוק מגביל אינטראקציות מטעות שמתחזות לאנושיות, תגובות מניפולטיביות רגשית או חנפניות, ועידוד של התאבדות או של הפרעות אכילה. הוא ייכנס לתוקף ב-1 ביוני 2027.
גם מדינות אחרות פועלות בכיוון דומה. בקליפורניה נכנס בינואר לתוקף חוק SB 53, שמחייב מעבדות frontier לפרסם מסגרות בטיחות, להגן על חושפי שחיתויות ולדווח על תקריות חמורות בתוך 15 ימים. באילינוי ייכנס לתוקף בתחילת 2027 חוק SB 315 עם דרישות דומות, ובנוסף לכך ביקורות ציות עצמאיות.
המשמעות
מבחינת החברות הגדולות, המשמעות המעשית היא ככל הנראה עומס ציות שהולך ומצטבר. חלון הדיווח של 72 שעות בניו יורק קצר בהרבה מ-15 הימים שקליפורניה מאפשרת, ולכן חברות שפועלות בשתי המדינות יצטרכו כנראה להתאים את נהלי הדיווח שלהן לדרישה המחמירה מביניהן. החשיבות של רף ההכנסות היא שהחוק מכוון לשחקניות הגדולות ביותר, וחברות קטנות ומעבדות מחקר נשארות מחוצה לו.
במבט רחב יותר, כשאין חקיקה פדרלית מקיפה, נראה שהמדינות עצמן קובעות בפועל את כללי המשחק לתעשיית ה-AI האמריקאית. שאלה פתוחה היא איך ייראו הליכי האכיפה בפועל, כי בשלב זה המדינה עדיין לא פירטה אותם.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות