באידו משחררת בקוד פתוח את Unlimited OCR 2: מודל שמפענח מסמך של מאה עמודים בבקשה אחת

ענקית הטכנולוגיה הסינית באידו שחררה בקוד פתוח את Unlimited OCR 2. זה מודל לזיהוי ופענוח טקסט במסמכים (OCR, Optical Character Recognition), והוא מחזיק 3 מיליארד פרמטרים. לפי הדיווח, המודל מסוגל לפענח מסמך של מאה עמודים בבקשה אחת, בלי לפרק אותו לחלקים. הוא מופץ ברישיון MIT, אחד הרישיונות המתירניים שיש בעולם התוכנה החופשית.

מה המודל עושה

מערכות OCR ממירות תמונות של מסמכים, כמו סריקות, קובצי PDF או צילומים, לטקסט שמחשב יכול לקרוא ולעבד. מסמכים ארוכים הם אתגר מוכר בתחום. מודלים רבים מעבדים עמוד אחד או כמה עמודים בכל פעם, ומי שמפעיל אותם צריך לחלק את המסמך ואחר כך לחבר את התוצאות מחדש. Unlimited OCR 2 נועד לאפשר פענוח של מסמך בן מאה עמודים בבקשה בודדת.

לפי הדיווח, הרכיב הטכני המרכזי הוא מנגנון attention בשם SR-SWA. מנגנון attention הוא החלק במודל שקובע לאילו חלקים של הקלט לשים לב בכל שלב. לפי המקור, SR-SWA שומר על עלות החישוב של כל שלב בתהליך הפענוח (decoding) כמעט קבועה. בשורה התחתונה, הוספת עמודים לא אמורה לייקר כל שלב חישוב בנפרד. זה ההבדל לעומת מודלי שפה רגילים, שבהם העלות עולה ככל שהטקסט מתארך. המקור לא מפרט איך המנגנון בנוי. השם מרמז ככל הנראה על גרסה של sliding window attention, טכניקה מוכרת שבה המודל מתמקד בכל רגע ב"חלון" מוגבל של הטקסט ולא בכולו.

על הציון: ככל הנראה מספר של החברה עצמה

לפי הדיווח, המודל קיבל ציון 77.1 במדד MarathonDocBench, שמיועד ככל הנראה לבדיקת פענוח של מסמכים ארוכים. חשוב לסייג: ככל הנראה זו תוצאה שבאידו עצמה פרסמה, ובשלב זה לא נמצאה לה בדיקה בלתי תלויה. בחומרים שבידינו גם אין השוואה מפורטת למודלים מתחרים. לכן קשה לדעת כרגע איפה המספר הזה ממקם את המודל ביחס לחלופות. בתחום ה-AI מקובל שחברות מציגות תוצאות על מדדים שהן בחרו, והתמונה האמיתית מתבררת בדרך כלל רק אחרי שמפתחים וחוקרים חיצוניים בודקים את המודל בעצמם.

למה זה חשוב

הנקודה הבולטת בהשקה היא השילוב בין גודל המודל לרישיון. 3 מיליארד פרמטרים זה גודל צנוע במונחים של היום. מודל בסדר גודל כזה אפשר בדרך כלל להריץ על חומרה סבירה, בלי תשתית ענן יקרה. אם זה אכן המצב כאן, ארגונים יוכלו לעבד מסמכים רגישים, כמו חוזים, תיקים רפואיים או דוחות כספיים, על שרתים משלהם ובלי לשלוח אותם לשירות חיצוני.

רישיון MIT מאפשר שימוש מסחרי, שינוי והפצה כמעט בלי מגבלות. המשמעות היא שחברות יכולות לשלב את המודל במוצרים שלהן בלי לשלם תמלוגים. ההחלטה של באידו מצטרפת למגמה רחבה בקרב חברות טכנולוגיה סיניות, שמשחררות יותר ויותר מודלים בקוד פתוח ומתחרות בכך על לב המפתחים מול החברות האמריקאיות.

היכולת לעבד מסמך ארוך בבת אחת רלוונטית במיוחד למערכות שמזינות מודלי שפה (LLM) בתוכן ממסמכים, למשל מערכות חיפוש ושאלות-תשובות על מאגרי מסמכים ארגוניים. בתהליכים כאלה, פענוח שגוי של טבלה או של עמוד בודד עלול לפגוע בכל התוצאה. לכן ההערכה היא שהמבחן האמיתי של Unlimited OCR 2 יהיה בשימוש בפועל, על מסמכים אמיתיים ומבולגנים, ולא רק על מדד אחד.