llama.cpp משחררת גרסה 1.0.0 ומתחייבת ל-API יציב למפתחי AI מקומי

צוות llama.cpp ב-Hugging Face שחרר ב-13 בנובמבר 2026 את גרסה 1.0.0 של הספרייה, שלוש שנים וחצי אחרי שהפרויקט נולד, והתחייב שמעתה כל שינוי ששובר תאימות יסומן בקפיצה של מספר הגרסה הראשי. באותה הזדמנות שוחררה גם גרסה 1.0.0 של ggml, ספריית הטנזורים שמשמשת כמנוע החישוב של llama.cpp. על ההודעה הרשמית חתומים גאורגי גרגנוב, יוצר הפרויקט, דניאל בווניוס ומרווה.

llama.cpp היא ספריית open source שכתובה ב-C/C++ ומאפשרת להריץ מודלי שפה, כולל מודלים מולטי-מודליים, על המחשב של המשתמש במקום בענן: ממחשב ביתי ועד שרתים ארגוניים. היא עושה זאת בין היתר בעזרת quantization, דחיסה של המודל כך שייכנס לזיכרון של חומרה רגילה. לפי הצוות, אפליקציות רבות כבר נשענות על הספרייה, ולכן "API גמיש אך יציב הוא עליון בחשיבותו".

מה מתחייבים בפועל

החידוש אינו יכולת חדשה אלא כללי משחק ברורים למי שבונה על הספרייה. הפרויקט מאמץ semantic versioning, שיטת מספור גרסאות שבה כל ספרה אומרת משהו:

• MAJOR (הספרה הראשונה) עולה רק כשיש שינוי ששובר את ה-API הציבורי ב-C.
• MINOR עולה כשנוספים יכולת חדשה, תמיכה במודל, עדכון backend או תוספת ל-API, בלי לשבור קוד קיים.
• PATCH עולה כשמתקנים באג בלי לגעת ב-API.

הכללים חלים על כל הפרויקטים של ggml-org שמשתמשים בשיטה, והם מכסים גם שינויי ABI, כלומר תאימות ברמת הקובץ המקומפל. הצוות כותב שככל שהאימוץ יגדל, הוא "יקפיד יותר" להבליט את הגבולות האלה בפני מי שתלוי בספרייה.

כיסוי חומרה ומודלים

לפי ההודעה, llama.cpp תומכת כיום ביותר מ-150 וריאנטים של ארכיטקטורות מודלים ובכל השיטות המקובלות של speculative decoding, טכניקה להאצת יצירת הטקסט. הצוות מתחייב ל"תמיכה רציפה בכל ארכיטקטורות המודלים". ggml עצמה מתוכננת לרוץ "כמעט על כל חומרה קיימת" באמצעות backends ייעודיים, שכל אחד מהם יכול להיטען כספרייה דינמית בזמן ריצה.

את הבדיקות האוטומטיות מריץ הפרויקט על תשתיות של Hugging Face (HF Buckets ו-HF Jobs), ואת החומרה לבדיקות מספקות אנבידיה, AMD, Qualcomm, Arm, IBM ו-Intel. הספרייה מופצת ב-Docker, ב-Debian, ב-Homebrew, ב-conda-forge, ב-MacPorts, ב-Winget וכ-XCFramework ל-iOS ול-macOS, ויש גרסאות מוקדמות מוכנות ל-Linux, ל-macOS, ל-Windows, ל-Android ול-iOS.

הצוות מתייחס גם לשימוש בכלי AI בכתיבת הקוד של הפרויקט עצמו: הוא משלב LLM בתהליך הפיתוח "באופן שקול", ומציב בראש סדר העדיפויות את איכות הקוד, השליטה בארכיטקטורה וההבנה של פרטי המימוש.

מי שרוצה להתנסות בלי לכתוב קוד יכול להוריד את אפליקציות Llama ל-macOS ול-Windows, שההודעה מפנה אליהן ושנבנו בידי הצוות של llama.cpp ו-Hugging Face.