גוגל פותחת לכל הציבור את SynthID: אתר לבדיקה אם תמונה, וידאו או אודיו נוצרו ב-AI
גוגל השיקה אתר שבו כל אחד יכול להעלות תמונה, סרטון או קטע אודיו ולבדוק אם נוצרו בבינה מלאכותית. הכלי מבוסס על SynthID, טכנולוגיית סימני המים הדיגיטליים של החברה, ומזהה גם תוכן ממודלים של חברות אחרות שתומכות בה, כמו OpenAI ואנבידיה.
גוגל השיקה אתר חדש שמאפשר לכל אחד לבדוק אם תמונה, סרטון או קטע אודיו נוצרו בעזרת בינה מלאכותית. הכלי מבוסס על SynthID, טכנולוגיית סימני המים הדיגיטליים של החברה. עד עכשיו הוא היה פתוח רק לקבוצה מצומצמת של עיתונאים, אנשי מדיה וחוקרים, שקיבלו גישה לניסוי בכנס Google I/O בשנה שעברה. עכשיו הוא זמין בכל העולם, ולפי Ars Technica מדובר בגרסה משופרת שמזהה תוכן של גוגל, של OpenAI ושל יצרנים נוספים.
איך זה עובד
גוגל הציגה את SynthID לראשונה ב-2023. הטכנולוגיה מטמיעה בתוכן שנוצר ב-AI סימן מים דיגיטלי שהעין והאוזן לא קולטות, ואת הסימן הזה אפשר לזהות בהמשך. המודלים הגנרטיביים של גוגל מסמנים כך את מה שהם יוצרים, ובהם מודל התמונות Nano Banana, מודל הווידאו Veo ומודל המוזיקה Lyria. גם כלים כמו Gemini, Flow, ProducerAI ו-Vids מסמנים את התוכן שהם מייצרים.
לפי TechCrunch, האתר מקבל מגוון רחב של פורמטים:
- תמונות: JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF ו-GIF
- וידאו: MP4, MOV ו-WEBM
- אודיו: WAV, MP3, OGG, FLAC, AAC ו-M4A
גוגל כבר שילבה את בדיקת SynthID באפליקציית Gemini ובדפדפן Chrome. לדברי החברה, משתמשים שולחים כיום כמיליון בקשות אימות ביום.
לא רק גוגל
הנקודה החשובה בהשקה היא שהכלי לא מוגבל לתוכן של גוגל. גם OpenAI, אנבידיה וחברת האינטרנט הדרום־קוריאנית Kakao תומכות ב-SynthID, כך שהאתר יכול לזהות תוכן שנוצר בכלים שלהן. ל-OpenAI יש גם אתר בדיקה משלה. על פי דיווחים, גם אפל צפויה להוסיף תמיכה בקרוב.
עם זאת, השוק עדיין לא מאוחד. למיקרוסופט ולמטא יש תקנים משלהן לסימון ולאימות של תוכן. בנוסף, TechCrunch מציין שכלי הזיהוי האלה לא חסינים לטעויות, ולעיתים קרובות הם לא מצליחים לזהות אפילו תוכן שנוצר במודלים של החברות שפיתחו אותם.
למה זה חשוב
ככל שקשה יותר להבחין בין תמונה אמיתית לתמונה מיוצרת, או בין קול אמיתי לקול משובט, גדל הצורך בכלי בדיקה שפתוחים לכולם ולא רק למומחים. ההשקה מעבירה את SynthID מכלי ניסיוני לאנשי מקצוע לשירות שכל אחד יכול להשתמש בו, למשל לפני שיתוף תמונה ויראלית ברשתות החברתיות.
ככל הנראה, ערך הכלי יגדל ככל שיותר יצרני מודלים יאמצו את הטכנולוגיה. הצטרפות של OpenAI ואנבידיה, ושל אפל אם תתממש, יכולה לקרב את SynthID למעמד של תקן דה־פקטו בתעשייה.
אבל יש לכלי מגבלה מובנית: SynthID מזהה רק תוכן שסומן מראש. תוכן ממודלים שלא משתמשים בטכנולוגיה, כולל מודלי open source שכל אחד יכול להריץ בעצמו, כנראה לא יזוהה. לכן תוצאה שלילית באתר לא מוכיחה שהתוכן אמיתי. היא אומרת רק שלא נמצא בו סימן המים של SynthID. המשמעות לקוראים היא שהכלי יכול לעזור באימות תוכן, אבל הוא לא מחליף בדיקה ביקורתית של המקור.