אחיות ב-HCA נגד מערכת התזמון של Palantir: "עוקפים שיקול דעת קליני באמצעות אפליקציה"

אחיות ברשת בתי החולים הגדולה בארצות הברית, HCA Healthcare, מתלוננות שמערכת תזמון מבוססת AI, שפותחה יחד עם Palantir, מייצרת להן יותר עבודה ולא פחות. לטענתן היא גם עלולה לפגוע בטיפול בחולים. כך עולה מתחקיר שפרסם WIRED, שבו רואיינו אחיות מכמה מדינות בארה"ב.

50 בקשות, ורובן נדחו

אמבר רצלוף היא אחות בטיפול נמרץ בפלורידה. בארבעת החודשים האחרונים ביקשה לעבוד ב-50 משמרות מסוימות של 12 שעות. לדבריה, ביותר ממחצית המקרים שיבצה אותה המערכת במשמרות אחרות, ולא פעם בשלושה ימים רצופים. היא לא מצפה לקבל תמיד את מה שביקשה, אבל לפי הספירה שלה המערכת מכבדת את ההעדפות שלה הרבה פחות טוב ממה שעשו המנהלים כשהשיבוץ נעשה ידנית.

המערכת נקראת Timpani, על שם כלי ההקשה שמחזיק את הקצב בתזמורת. HCA פיתחה אותה עם Palantir ומאז 2023 הטמיעה אותה בכ-130 מתוך 190 המתקנים שלה. היא בנויה על Palantir Foundry, פלטפורמה לאחסון ולניתוח נתונים שמגיעים מכל מחלקות הארגון.

"אף אחד לא מרוצה מ-Timpani", אומרת רצלוף, וחמש אחיות ממתקנים אחרים שדיברו עם WIRED תיארו תמונה דומה. לדבריהן, המערכת פועלת כמעט בלי פיקוח. הן טוענות שהיא משבצת שוב ושוב מעט מדי אחיות, או מעט מדי אחיות ותיקות, במיוחד בימי ראשון. לפי עדותן היא גם מתעלמת מבקשות לרווח בין משמרות, לעבוד בלילות ובסופי שבוע או לקבל ימי חופש מסוימים.

רצלוף בת 34, יש לה עשור של ניסיון ליד מיטת החולה, והיא מובילה באיגוד האחיות National Nurses United. היא מספרת על משמרות שבהן כל ארבע עמיתותיה היו זוטרות וחסרות ניסיון. מכיוון שהייתה האחות הוותיקה היחידה, נאלצה לדחות את הטיפול בחולים הקשים ביותר כדי להדריך את החדשות במקרים הקלים יותר. "אנחנו עוקפים שיקול דעת קליני ואת הממד האנושי של הרפואה באמצעות אפליקציה", היא אומרת.

"ימים אדומים" שכבר אינם מוגנים

לפי HCA, המערכת משבצת אחיות בממוצע ב-1% מימי החופש שביקשו, שמכונים "ימים אדומים". לי בארקר, אחות של HCA במיזורי, אומרת שהמספר אולי נראה נמוך, אבל לפני Timpani שיבוץ ביום אדום פשוט לא קרה במתקן שלה. פחות משנה אחרי שהמערכת הוטמעה, כמעט כל אחות שם שובצה לפחות פעם אחת ביום שבו הייתה אמורה להיות בחופש. בארקר עצמה דחתה תור לרופא בגלל מחלה כרונית, אחרי שלא הצליחה להחליף משמרת שנפלה על יום אדום.

לדברי האחיות, הן מבזבזות היום יותר זמן על החלפת משמרות ועל ערעורים. הן גם מעריכות שיותר עמיתות מודיעות שלא יגיעו למשמרת, אף שמי שעושה זאת יותר מכמה פעמים בשנה מסתכנת בפיטורים.

HCA: ההחלטה הסופית אנושית

הרלו סאמרפורד, דובר HCA, אומר שמנהלות הסיעוד ולא Timpani מקבלות את החלטות השיבוץ הסופיות. לדבריו, הטענה שהמערכת "נועדה לצמצם כוח אדם על חשבון הטיפול בחולים" מציגה את הדברים באופן מטעה. הוא מוסיף שהחברה ממשיכה לשפר את הכלי לפי משוב מהאחיות.

National Nurses United מייצג כ-10,000 מתוך כ-100,000 האחיות ב-HCA. לפי ראשי האיגוד, החברה דחתה את בקשותיהם לקבל מידע על הטכנולוגיה. ביולי הגישה אנג'ליק ראסל, לשעבר מנהלת מדעי נתונים ב-HCA, תביעה שבה טענה שפוטרה כנקמה על כך שהעלתה חששות לגבי Timpani. לטענתה, החברה מחקה באופן שגרתי נתונים שהמערכת משתמשת בהם כדי לבנות את המשמרות. לדבריה המחיקה מנעה ביקורת על איכות התוצאות, וייתכן שגם הפרה כמה חוקים בתחום הבריאות. HCA עדיין לא הגישה תגובה רשמית לבית המשפט, וראסל סירבה להגיב.

למה זה חשוב

המקרה ממחיש פער שחוזר בהטמעות AI בארגונים: מדד מצרפי כמו "1% מימי החופש" יכול להיראות טוב בדוח, ובכל זאת להסתיר שינוי משמעותי בחוויה של כל עובד. בבית חולים זו כנראה לא רק שאלה של שביעות רצון, כי הרכב הצוות במשמרת משפיע על הטיפול עצמו. הטענה שנתונים נמחקו ושאיגוד העובדים לא מקבל מידע מעלה גם שאלה של שקיפות. כשאי אפשר לבחון איך האלגוריתם מקבל החלטות, ההצהרה ש"האדם מחליט בסוף" קשה לבדיקה.