דיווח: ממשל טראמפ נעזר ב-AI כדי לשלול טיפול רפואי מקשישים

ממשל טראמפ מפעיל ניסוי שבו כלי בינה מלאכותית משמשים כדי לשלול טיפול רפואי מקשישים, כך לפי דיווח באתר Ars Technica. האתר מכנה את הניסוי "הרסני" ומצביע על הבעיה המרכזית: לספקים הפרטיים שמפעילים את מערכות ה-AI יש, לדבריו, "תמריץ לדחות כמה שיותר תביעות".

מה ידוע

לפי הדיווח, ספקים חיצוניים מפעילים מערכות AI שמשמשות לדחיית בקשות לטיפול רפואי של האוכלוסייה המבוגרת. ככל הנראה, הממשל העביר לספקים האלה חלק מההחלטה אם לאשר טיפולים. הטענה המרכזית בכתבה נוגעת למבנה התמריצים: אם הספק מרוויח מכל טיפול שלא אושר, המערכת שהוא בונה כנראה תיטה לדחות בקשות, ולא להעריך כל מקרה לגופו.

הרקע: מי מחליט על טיפול

בארצות הברית, הביטוח הרפואי הציבורי לבני 65 ומעלה הוא Medicare. אחד הכלים הנפוצים בעולם הביטוח האמריקאי הוא "אישור מוקדם" (prior authorization): לפני שמטופל מקבל בדיקה, ניתוח או טיפול, מישהו מטעם המבטח צריך לאשר שהוא הכרחי. ביטוחים פרטיים משתמשים במנגנון הזה כבר שנים, והוא נחשב לאחד המקורות העיקריים לתסכול של מטופלים ורופאים, בעיקר כשההחלטות מתקבלות בתהליך אוטומטי ובקנה מידה גדול.

המעבר לקבלת החלטות בעזרת AI מעלה שאלות שכבר עלו בעבר, כשמבטחים פרטיים הואשמו בשימוש באלגוריתמים לדחיית תביעות: מי אחראי כשהמודל טועה, עד כמה רופא אנושי באמת בודק את ההמלצה של המערכת, והאם למטופל יש דרך מעשית לערער.

למה זה חשוב

כנראה המשמעות החשובה ביותר נוגעת לאוכלוסייה עצמה. קשישים הם הקבוצה שזקוקה לטיפול רפואי בתדירות הגבוהה ביותר, ורבים מהם מתקשים לנהל הליכי ערעור ארוכים מול מערכת בירוקרטית. דחייה שגויה עלולה לגרום לעיכוב בטיפול או לוויתור עליו.

הסיפור ממחיש גם בעיה רחבה יותר בשילוב AI במערכות ציבוריות: היעילות של מודל תלויה במה שמגדירים לו כ"הצלחה". כשההצלחה נמדדת בחיסכון, מערכת שמאשרת פחות טיפולים תיראה, מבחינת מי שמפעיל אותה, כמו מערכת שעובדת טוב. לכן ההחלטה איך לשלם לספקים עשויה להשפיע על התוצאות יותר מאיכות הטכנולוגיה עצמה.

ככל הנראה, הניסוי הזה יהפוך למבחן לשאלה אם ממשלות יכולות להפקיד בידי AI החלטות שמשפיעות ישירות על בריאות האזרחים, ובאילו מנגנוני פיקוח ושקיפות צריך ללוות אותן.