איך לבדוק שה-AI לא ממציא: מדריך לזיהוי הזיות, אימות מקורות וחשיפת תמונות וסרטונים מזויפים

אם השתמשתם ב-ChatGPT, Claude או Gemini יותר מכמה פעמים, כנראה כבר נתקלתם בזה: תשובה מנוסחת להפליא, בטוחה בעצמה, עם פרטים ומספרים — ופשוט לא נכונה. פסק דין שלא קיים. ציטוט של מחקר שאף אחד לא ערך. תאריך של אירוע שהוזז בשנתיים. ובצד השני של אותו מטבע: תמונה של “אירוע חדשותי” שנוצרה בשלוש שניות, או סרטון שבו מישהו אומר משהו שמעולם לא אמר.

המדריך הזה מיועד לכל מי שמשתמש ב-AI כדי ללמוד, לכתוב, לקבל החלטות או פשוט לצרוך מידע — ולא רוצה להיות זה שמעביר הלאה שטות בביטחון מלא. הוא לא דורש ידע טכני. מה שהוא כן דורש: כמה הרגלים קבועים שלוקחים דקה או שתיים, ומונעים טעויות שעולות הרבה יותר.

בסוף המדריך תדעו לזהות את סימני האזהרה של תשובה מומצאת, להריץ בדיקת אימות בשלושה שלבים, לחקור מקור לפני שאתם מצטטים אותו, ולבדוק תמונה, סרטון או הקלטה חשודים בכלים שזמינים לכולם.

למה AI ממציא בכלל (ולמה זה חשוב להבנה)

מודל שפה לא “יודע” עובדות בצורה שבה אנציקלופדיה יודעת. הוא מנבא את המילה הבאה הסבירה ביותר על סמך כמויות עצומות של טקסט. כשהשאלה שלכם נוגעת למשהו שהוא ראה הרבה — למשל מי כתב את “הארי פוטר” — הניבוי שלו מדויק. כשהיא נוגעת למשהו נדיר, מקומי, חדש או ספציפי מאוד — למשל סעיף מסוים בתקנות עירייה מסוימת — הוא ממשיך לנבא באותו ביטחון, אבל עכשיו הוא ממלא חורים.

התוצאה נקראת “הזיה” (hallucination): תוכן שנשמע נכון, מנוסח נכון, ופשוט לא מעוגן במציאות. הנקודה החשובה להבין היא שהמודל לא “משקר” ולא “מנסה לרמות”. הוא לא מבחין בין מה שהוא יודע ומה שהוא משלים. לכן הביטחון של הניסוח אומר לכם אפס על נכונות התוכן.

מכאן נגזר הכלל הבסיסי של כל המדריך: ככל שהשאלה ספציפית, עדכנית או ישראלית יותר, כך הסיכוי להזיה גבוה יותר — ובדיוק שם צריך לבדוק.

סימני האזהרה: איך מריחים הזיה תוך עשר שניות

לפני כל אימות מסודר, יש כמה דפוסים שחוזרים שוב ושוב בתשובות מומצאות. כשאתם רואים אחד מהם, הדליקו נורה אדומה:

פרטים מדויקים מדי על דברים שקשה לדעת. “המחקר נערך על 1,247 משתתפים בשנת 2019 באוניברסיטת חיפה”. מספר כזה ספציפי לגבי מקור שלא הוצג לכם — חשוד. הזיות אוהבות מספרים מדויקים כי הם נשמעים אמינים.

ציטוטים ישירים במירכאות. כשהמודל “מצטט” אדם, ספר או פסק דין מילה במילה בלי שנתתם לו את הטקסט — ברוב המקרים הציטוט מומצא או משוחזר בערך. גם אם הרוח נכונה, המילים לא.

שמות שנשמעים נכון. “פרופ’ דוד לוי מהטכניון”, “פסק דין ע”א 4521/18”. השמות והפורמטים נראים אמיתיים בדיוק כי המודל למד איך דברים כאלה נראים. זה לא אומר שהם קיימים.

עקביות שמתפרקת בשאלה חוזרת. שאלתם שוב באופן מעט שונה וקיבלתם תאריך אחר, שם אחר, מספר אחר. עובדה אמיתית לא זזה.

“כידוע” ו“מקובל לחשוב”. ביטויים שמבקשים מכם לא לשאול מאיפה זה בא.

תשובה חלקה מדי לשאלה שאמורה להיות מסובכת. אם שאלתם על מחלוקת משפטית או מדעית וקיבלתם תשובה חד-משמעית בלי “תלוי” — משהו כנראה הושמט או הומצא.

טיפ שלא כולם מכירים: שימו לב מה המודל לא אומר. מודלים טובים, כש-מפעילים אותם בלי חיפוש ברשת, לא באמת יודעים מה קרה בחודשים האחרונים. אם קיבלתם תשובה עדכנית ובטוחה על משהו שקרה לאחרונה, בדקו האם הכלי באמת חיפש ברשת (בדרך כלל תראו את זה מסומן בתשובה) או שהוא פשוט “השלים”.

שיטת שלושת השלבים לאימות תשובה

זו השגרה שכדאי לאמץ לכל תשובה שאתם מתכוונים להסתמך עליה. היא לוקחת בין דקה לחמש דקות, תלוי כמה חשוב לכם.

שלב 1: בקשו מהמודל להפריד בין ידיעה להשערה

עוד לפני שאתם בודקים בחוץ, תגרמו למודל לסמן בעצמו איפה הוא לא בטוח. זה עובד הרבה יותר טוב ממה שנדמה, כי מודלים “יודעים” בערך מה לא עבר להם הרבה בטקסט האימון — הם פשוט לא מתנדבים לספר.

עברו על התשובה שנתתם לי עכשיו ודרגו כל טענה עובדתית בנפרד:
- "בטוח" — עובדה מוכרת ונפוצה שאתם בטוחים בה
- "סביר" — כנראה נכון אבל כדאי לאמת
- "לא בטוח" — ייתכן שהשלמתם או הערכתם

אל תשנו את התשובה. רק סמנו. ואם יש טענה שאתם לא יכולים לעמוד מאחוריה בכלל, כתבו זאת במפורש.

ברוב המקרים תגלו שהמודל מסמן בעצמו בדיוק את המספרים והשמות שהיו חשודים. את מה שסומן “לא בטוח” מוחקים או בודקים, ואת “סביר” בודקים אם זה חשוב.

שלב 2: שאלו מחדש בניסוח אחר, בשיחה חדשה

פתחו שיחה חדשה (חשוב — לא באותה שיחה, כדי שהמודל לא “ייצמד” לתשובה הקודמת) ושאלו את אותה שאלה בניסוח שונה. אם קיבלתם את אותם פרטים — זה סימן טוב. אם הפרטים השתנו — לפחות אחת מהתשובות מומצאת, ואולי שתיהן.

עוד יותר טוב: שאלו כלי אחר. אם ChatGPT אמר X, שאלו את Claude או Gemini. שלושה מודלים שאומנו בנפרד ומסכימים על פרט ספציפי — זו ראיה סבירה. שלושה שנותנים שלוש גרסאות — פרט שצריך מקור חיצוני.

שלב 3: אמתו מול מקור ראשוני

לכל טענה שחשובה לכם באמת — מספר, תאריך, חוק, ציטוט — מצאו את המקור המקורי. לא כתבה שמצטטת אותו, אלא הדבר עצמו: אתר הכנסת לחוק, אתר בית המשפט לפסק דין, המאמר המדעי עצמו, הודעת החברה הרשמית.

אפשר לבקש עזרה מהמודל גם בזה, אבל בצורה נכונה:

אני רוצה לאמת את הטענה הבאה: [הטענה].
אל תאשרו ואל תכחישו. במקום זה, תגידו לי:
1. איזה סוג מקור ראשוני היה מכריע כאן (חוק, מאמר, דוח רשמי, הודעה לעיתונות)?
2. איפה סביר שהמקור הזה מתפרסם רשמית?
3. מה בדיוק לחפש שם כדי לאשר או להפריך?

הפרומפט הזה עוקף בעיה נפוצה: אם תשאלו “זה נכון?” המודל נוטה לאשר את מה שכבר אמר. כשאתם מבקשים ממנו רק לכוון אתכם למקור, הוא לא צריך “להגן” על התשובה.

שימו לב לכלי חיפוש ברשת: ChatGPT, Claude ו-Gemini יכולים כיום לחפש ברשת (בהתאם לתוכנית ולהגדרות שלכם). כשהם עושים זאת, התשובה בדרך כלל מגיעה עם אזכור של המקורות שנמצאו. זה שיפור גדול — אבל לא פתרון קסם: המודל עדיין יכול לסכם מקור לא נכון, לצטט מאתר לא אמין, או לערבב שני מקורות. לחצו על המקור וקראו בעצמכם את המשפט הרלוונטי. אם המקור לא אומר את מה שהמודל אמר שהוא אומר — זו הזיה מסוג חדש, מסוכנת יותר כי היא באה עם “הוכחה”.

מקורות מומצאים: הבעיה הכי נפוצה ואיך תופסים אותה

ביקשתם מהמודל “תן לי מקורות” וקיבלתם רשימה של מאמרים, ספרים ופסקי דין עם שמות מחברים, שנים ואפילו מספרי עמודים. הנה מה שקורה בפועל בחלק גדול מהמקרים: המקורות לא קיימים. או שהמחבר קיים אבל לא כתב את זה. או שהמאמר קיים אבל אומר משהו אחר.

זה הסוג הכי מסוכן של הזיה, כי הוא נראה בדיוק כמו עבודה מחקרית רצינית. סטודנטים הוגשו לוועדות משמעת בגללו, ועורכי דין נקנסו בבתי משפט אחרי שהגישו כתבי טענות עם פסקי דין מומצאים.

הבדיקה של מקור מחולקת לשתי שאלות:

האם המקור קיים? חפשו את הכותרת המדויקת במירכאות במנוע חיפוש. מאמר אקדמי חפשו ב-Google Scholar. פסק דין ישראלי חפשו במאגר פסקי הדין של הרשות השופטת או במאגרים המשפטיים. ספר חפשו בקטלוג הספרייה הלאומית. אם אחרי שתי דקות אין זכר למקור — הוא כנראה לא קיים.

האם המקור אומר את מה שנטען? זו הבדיקה שרוב האנשים מדלגים עליה. מקור אמיתי שמצוטט לא נכון גרוע ממקור מומצא, כי הוא עובר את הבדיקה הראשונה. פתחו את המקור וחפשו את הטענה הספציפית.

טיפ מעשי: אם יש לכם את המקור עצמו (PDF של מאמר, טקסט של חוק), העלו אותו לשיחה ובקשו מהמודל לענות רק על סמכו:

מצורף המסמך. ענו על השאלה הבאה אך ורק על סמך מה שכתוב בו.
לכל טענה שאתם מביאים, ציינו את המשפט המדויק מהמסמך שממנו היא נלקחה, בציטוט.
אם התשובה לא נמצאת במסמך, כתבו "לא מופיע במסמך" ואל תשלימו מידע מבחוץ.

כשהמודל עובד על טקסט שאתם נתתם לו, שיעור ההזיות יורד דרמטית — ואתם יכולים לבדוק כל ציטוט בשניות עם Ctrl+F.

בדיקת תמונות: מה באמת עובד ב-2026

תמונות שנוצרו ב-AI כבר לא נראות “מוזרות”. השלב שבו אפשר היה לזהות אותן לפי שש אצבעות או טקסט ג’יבריש ברקע כמעט חלף. אבל יש עדיין שיטות שעובדות, בסדר של יעילות:

חיפוש תמונה הפוך — הכלי הכי חשוב. לפני כל ניתוח ויזואלי, בדקו מאיפה התמונה באה. ב-Google Lens (בכרום: לחיצה ימנית על תמונה ← “חפש תמונה עם Google”) או ב-TinEye תראו איפה עוד התמונה הופיעה ומתי. אם “תמונה מהאירוע של אתמול” הופיעה לראשונה לפני שלוש שנים בהקשר אחר לגמרי — סגרתם את העניין. ואם תמונה דרמטית לא מופיעה בשום מקום חוץ מהפוסט שקיבלתם — זה חשוד בפני עצמו. אירוע אמיתי מצולם על ידי הרבה אנשים מהרבה זוויות.

חפשו זוויות נוספות. אם באמת התרחש משהו, יהיו עוד תמונות וסרטונים ממקומות שונים. תמונה “בלעדית” אחת של אירוע גדול היא דגל אדום.

בדקו את הפרטים שקשה לזייף. מודלי תמונה עדיין מתקשים עם: טקסט קטן על שלטים ומדים (מתקרב לעברית? כמעט תמיד מתפרק), השתקפויות עקביות במראות ובמים, צללים שמגיעים מאותו כיוון אור, תכשיטים ואביזרים סימטריים (עגיל אחד שונה מהשני), ידיים שאוחזות חפצים באופן פיזיקלי הגיוני, ורקעים שחוזרים על עצמם בצורה חשודה.

חפשו Content Credentials. יותר ויותר כלים (בהם מחוללי התמונות של OpenAI ו-Adobe) מטביעים בתמונה מטא-דאטה בתקן C2PA שמעיד שהיא נוצרה ב-AI. אפשר לבדוק את זה באתר Content Credentials על ידי העלאת הקובץ. Google מטביעה סימן מים בלתי נראה (SynthID) בתמונות מ-Gemini. חשוב להבין את המגבלה: היעדר סימון לא מוכיח שהתמונה אמיתית — צילום מסך או שמירה מחדש מוחקים את המטא-דאטה, וחלק מהכלים לא מטביעים כלום. אבל נוכחות סימון היא הוכחה חד-משמעית שהתמונה נוצרה או נערכה ב-AI.

היזהרו מ“גלאי AI” אוטומטיים. יש עשרות אתרים שמבטיחים לזהות אם תמונה נוצרה ב-AI. דיוקם לא יציב, הם נכשלים על תמונות מדחוסות, ונותנים תוצאות סותרות זו לזו. השתמשו בהם לכל היותר כרמז נוסף, אף פעם לא כפסק דין.

ואפשר לגייס את המודל עצמו לעזרה — ChatGPT, Claude ו-Gemini כולם מסוגלים לנתח תמונה שאתם מעלים:

העליתי תמונה. אל תגידו לי אם היא אמיתית או מזויפת — אתם לא יכולים לדעת בוודאות.
במקום זה, תארו לי בפירוט:
1. אילו אלמנטים בתמונה נראים לא עקביים פיזיקלית (צללים, השתקפויות, פרופורציות, טקסט)?
2. מה בתמונה היה קל במיוחד לזייף ומה היה קשה?
3. אילו שאלות הייתם שואלים על ההקשר (מי צילם, מתי, איפה עוד פורסמה) לפני שהייתם מאמינים לה?

הניסוח “אל תגידו לי אם היא מזויפת” חשוב: בלי זה המודל נוטה לתת פסק דין בטוח שאין לו בסיס.

סרטונים והקלטות קול: הזיוף שקשה לתפוס

וידאו ואודיו מזויפים (דיפפייק) הם הקטגוריה שמתקדמת הכי מהר, וגם זו שמנוצלת הכי הרבה להונאות — בין השאר שיחות טלפון ב“קול” של קרוב משפחה שמבקש כסף בדחיפות. (על ההיבט הזה יש הרחבה במדריך ההגנה מהונאות ב-/guides.)

בסרטונים, חפשו: אי-התאמה בין תנועת השפתיים לצליל (במיוחד בעיצורים כמו ב’, פ’, מ’ שמצריכים סגירת שפתיים), מצמוץ לא טבעי או היעדר מצמוץ, קצוות פנים “מרוחים” בעיקר ליד השיער והלסת כשהראש מסתובב, תאורה על הפנים שלא תואמת את הרקע, ותנועות ידיים שנעלמות או מתפרקות כשהן חוצות את הפנים. הקפיאו את הסרטון בכמה נקודות ותתבוננו בפריימים בודדים — זיופים נראים הרבה יותר גרועים כשהם עומדים.

באודיו, חפשו: נשימות שחסרות או שנשמעות זהות בכל פעם, קצב דיבור אחיד מדי בלי היסוסים ו“אה” טבעיים, הגייה מוזרה של שמות פרטיים ומילים נדירות, ורקע אקוסטי שלא משתנה בכלל לאורך ההקלטה.

אבל השיטה החזקה ביותר היא לא ויזואלית — היא הקשרית:

• מי פרסם את זה ראשון? חשבון שנפתח לפני שבוע או גוף תקשורת עם היסטוריה?
• האם הסרטון הופיע במקורות נוספים בלתי תלויים?
• האם הדובר בסרטון הגיב או הכחיש?
• למה הסרטון הזה הגיע דווקא אליכם, דווקא עכשיו, ומה הוא מבקש מכם להרגיש או לעשות?

לגבי הונאות קול ספציפית, יש טיפ אחד ששווה יותר מכל הטכנולוגיה: קבעו עם המשפחה הקרובה מילת קוד. משהו שרק אתם יודעים. שיחה דחופה שמבקשת כסף ולא יודעת את המילה — מנתקים ומתקשרים חזרה למספר המוכר.

טעויות נפוצות

להסתמך על הביטחון של הניסוח. זו הטעות מספר אחת. מודל שכותב “ללא ספק” ומודל שכותב “אולי” מדויקים באותה מידה בערך. הניסוח משקף סגנון, לא ידע.

לשאול “זה נכון?” באותה שיחה. המודל יטה לאשר את עצמו. תמיד בדיקה חוזרת בשיחה חדשה, רצוי בכלי אחר.

לעצור בבדיקה שהמקור קיים. מקור אמיתי שמצוטט לא נכון עובר את הבדיקה הזו וגורם נזק גדול יותר. פתחו וקראו.

להתייחס לחיפוש ברשת כאל אימות. כשהמודל מביא קישורים, הוא בחר אותם וסיכם אותם — ושתי הפעולות האלה יכולות להיות שגויות. הקישור הוא נקודת התחלה לבדיקה שלכם, לא סופה.

להאמין לגלאי AI. לתמונות, לטקסט, לסרטונים — הכלים האוטומטיים האלה נותנים תחושת ביטחון שאין לה כיסוי. גלאי טקסט במיוחד ידועים בסימון שגוי של כתיבה אנושית, בייחוד של מי שכותב בשפה שאינה שפת אמו.

לבדוק רק את מה שנראה חשוד. ההזיות המסוכנות הן דווקא אלה שנראות סבירות לגמרי. בדקו לפי החשיבות של ההשלכות, לא לפי תחושת הבטן.

לשתף “רק כדי לשאול אם זה אמיתי”. ברגע ששיתפתם, הזיוף התפשט. שאלו קודם, שתפו אחר כך — או לא בכלל.

לשכוח שגם אתם יכולים להיות המקור להזיה. אם נתתם למודל הנחה שגויה בשאלה (“למה החוק שעבר בשנה שעברה אוסר על X?”), הוא כנראה יבנה עליה תשובה שלמה במקום לתקן אתכם. נסחו שאלות פתוחות: “האם יש חוק שמסדיר X? אם כן, מה הוא קובע?”

סיכום וצ’קליסט להתחלה

הרעיון המרכזי של המדריך פשוט: AI הוא נקודת התחלה מצוינת ונקודת סיום גרועה. הוא מכוון אתכם, מארגן, מנסח ומציע — אבל האימות נשאר אצלכם, וככל שההשלכות גדולות יותר, כך הבדיקה צריכה להיות יסודית יותר.

הצ’קליסט הזה מספיק לרוב המצבים. הדפיסו, שמרו, או פשוט תרגלו אותו עד שהוא נהיה טבעי:

לפני שמסתמכים על תשובה:

• יש בה שמות, מספרים, תאריכים או ציטוטים ספציפיים? כל אחד מהם צריך בדיקה.
• ביקשתי מהמודל לסמן בעצמו מה בטוח ומה השערה?
• שאלתי שוב בשיחה חדשה או בכלי אחר וקיבלתי אותה תשובה?
• לטענות שחשובות לי — מצאתי את המקור הראשוני וקראתי את המשפט הרלוונטי במו עיניי?

לפני שמצטטים מקור:

• חיפשתי את הכותרת המדויקת ומצאתי שהמקור קיים?
• פתחתי את המקור ווידאתי שהוא אומר את מה שנטען?
• אם יש לי את הטקסט — העליתי אותו למודל וביקשתי תשובה עם ציטוטים מתוכו בלבד?

לפני שמשתפים תמונה או סרטון:

• הרצתי חיפוש תמונה הפוך וראיתי מתי ואיפה זה הופיע לראשונה?
• חיפשתי זוויות או מקורות נוספים לאותו אירוע?
• בדקתי Content Credentials (וזכרתי שהיעדרם לא מוכיח כלום)?
• שאלתי את עצמי מי מרוויח מזה שאני אאמין ואשתף?

ההרגל הכי חשוב מכולם: כשמשהו גורם לכם לרצות לשתף מיד — זו בדיוק הנקודה לעצור לדקה ולבדוק. הדחיפות היא הכלי של מי שמזייף. הזמן הוא הכלי שלכם.

מדריכים נוספים שמשלימים את הנושא — על הגנה מהונאות, על מחקר וכתיבה עם AI ועל שליטה בפרטיות — תמצאו ב-/guides.