מישהו שולח לכם תמונה ושואל: האם זה אמיתי? אתם פוזלים אל הידיים. אתם סופרים את האצבעות. אתם מגדילים את טקסט הרקע כדי לראות אם הוא ג'יבריש. לפני שנתיים זה עבד. כיום זה בעיקר כבר לא עובד.
הנה הדבר שכמעט אף אחד לא מספר לכם: הדרך האמינה ביותר לבדוק תמונה אינה להסתכל עליה כלל. היא לקרוא את הקובץ.
הגרסה בשורה אחת
בקשו את הקובץ המקורי, ולא צילום מסך. קבצים מקוריים נושאים לרוב מטא-דאטה שמצהירה בגלוי מה יצר אותם. צילומי מסך והורדות מרשתות חברתיות אינם נושאים דבר, מכיוון שכל פלטפורמה מסירה את המידע הזה.
מדוע ההסתכלות על התמונה הפסיקה לעבוד
הסימנים החזותיים שכולם למדו ב-2023 — שש אצבעות, אוזניים נמסות, שילוט מעוות, עור פלסטיק — היו תוצרים של דור מודלים ספציפי. הם תוקנו. מודלי תמונות נוכחיים מרנדרים ידיים בצורה נכונה, מאייתים מילים כהלכה, ומפיקים מרקם עור ששורד הגדלה (זום).
מה שנשאר הוא בעיקר תחושת בטן: תמונה שתאורתה קצת יותר מדי טובה, קצת יותר מדי סימטרית, פנים שהם מעט יותר מדי אחידים. האינסטינקט הזה שווה משהו, אבל הוא אינו הוכחה, והוא נכשל קשות בצילומי סטודיו מקצועיים, שגם הם מוארים היטב וסימטריים. דיוקנאות סטודיו אמיתיים רבים מוגדרים בטעות כ-AI. תמונות מחוללות רבות עוברות חלק.
מה הקובץ יודע
קבצי תמונה נושאים יותר מאשר רק פיקסלים. בהתאם למה שיצר אותם, הם יכולים לשאת גם תיעוד של אופן יצירתם. ישנם שלושה סוגים ששווה להכיר.
1. C2PA, או Content Credentials
זה הסוג הרציני. C2PA הוא תקן מקור חתום קריפטוגרפית המגובה על ידי Adobe, OpenAI, Microsoft, Leica ו-Sony. כשקובץ נושא אותו, המניפסט מתעד את השרשרת: איזה מכשיר או מודל יצר את התמונה, ומה נעשה בה לאחר מכן. מכיוון שהוא חתום, הוא מוגן מפני שינויים — אי אפשר לערוך אותו בשקט כפי שניתן לערוך נתוני EXIF.
זה עדיין רחוק מלהיות אוניברסלי. אך כשהוא קיים, זו התשובה החזקה ביותר שתקבלו מקובץ.
2. סוג המקור הדיגיטלי של IPTC
שדה מטא-דאטה שנשמע משעמם שעושה משהו ספציפי מאוד: הוא מצהיר כיצד התמונה נוצרה. הערך trainedAlgorithmicMedia פירושו, בלשון פשוטה, “מודל גנרטיבי יצר את זה.” סוכנויות ידיעות ומאגרי תמונות משתמשים בו כדי לתייג דימויי AI. אם מצאתם אותו, סיימתם — הקובץ אומר לכם זאת ישירות.
3. טביעות אצבע של מחוללים
זה האהוב עלי, כי זה כמעט קומי בנגישותו. Stable Diffusion כותב את הפרומפט המלא לתוך קובץ ה-PNG. לא רמז ולא דגל — הטקסט המדויק שמישהו הקליד, יחד עם הגדרות הדגימה ומספר הצעדים. Midjourney, DALL·E, Firefly ו-NovelAI נוטים להשאיר את שמם בשדה Software או CreatorTool.
אם מעולם לא הסתכלתם, שווה לעשות זאת פעם אחת רק כדי לראות את זה. קחו PNG ישר ממחולל תמונות, פתחו אותו בכל מציג מטא-דאטה, וקראו את הפרומפט בחזרה.
המכשול, והוא מכשול גדול
כל זה שורד אך ורק בקובץ המקורי. העלו תמונה לאינסטגרם, X, וואטסאפ, דיסקורד או סלאק והמטא-דאטה מוסרת בדרך פנימה. צלמו צילום מסך ויצרתם קובץ חדש לחלוטין ללא שום היסטוריה. שמרו אותו מחדש בעורך ורוב המידע נעלם גם הוא.
כך שבפועל: אם חבר מעביר לכם צילום מסך, מטא-דאטה לא תגיד לכם דבר. אם תוכלו להשיג את הקובץ כפי שיצא מהמצלמה או מהמחולל, הוא לרוב יגיד לכם הכל. זה כל המשחק — לבקש את המקור.
לקרוא את זה בלי להתקין דבר
תוכלו להדביק קישור ישיר לתמונה ב-בודק תמונות ה-AI שלנו והוא יקרא את מניפסט ה-C2PA, את סוג המקור של IPTC, טביעות אצבע של מחוללים ונתוני EXIF של המצלמה, ואז יראה לכם בדיוק מה מתוכם הוא מצא. אם מוטמע פרומפט יצירה, הוא מציג לכם את הפרומפט.
הוא בנוי במכוון כדי לתת אחת מארבע תשובות, ואחת מהן היא “אינני יודע”. אם לקובץ אין מטא-דאטה, הוא אומר זאת בגלוי במקום להמיר שתיקה לאחוז בטוח. אני מעדיף להגיש לכם שום דבר מאשר להגיש לכם מספר שאינני יכול להגן עליו.
מה לגבי הכלים שמדרגים את הפיקסלים?
הם קיימים, וחלקם באמת סבירים. אבל הם חולקים מצב כשל שחשוב יותר מהדיוק המפורסם בכותרות שלהם: כשם שטועים, הם טועים בביטחון עצמי מופרז, ואין דרך לבצע ביקורת על הנימוק. אתם מקבלים 87% ומשיכת כתפיים.
מטא-דאטה היא מסוג שונה. היא אינה הסתברות — היא טענה, המצורפת לקובץ, שניתן לבדוק. זו הסיבה שבנינו את חלק המטא-דאטה ראשון. לא מפני שזיהוי פיקסלים הוא חסר ערך, אלא מפני שתשובה ניתנת לאימות וניחוש סביר הם מוצרים שונים, וערבוב ביניהם הופך את שניהם לפחות אמינים.
סדר פעולות מעשי
- בקשו את הקובץ המקורי. לא צילום מסך, לא העברה. צעד יחיד זה קובע האם כל השאר בכלל אפשרי.
- קראו את המטא-דאטה. C2PA, סוג מקור IPTC, שם המחולל, פרומפט מוטמע. התאמה כאן היא כמעט חד-משמעית.
- בדקו את המקור, ולא את הקובץ. איפה זה פורסם לראשונה? האם לחשבון יש היסטוריה? בצעו חיפוש תמונות הפוך (Reverse image search). מקוריות במובן הרגיל מנצחת לרוב פורנזיקה.
- רק אז, ורק אז, הסתכלו על התמונה. השתמשו באינסטינקט שלכם כמכריע במקרי שוויון, ולא כפסק הדין.
הסיום הכנה
אין כיום שום כלי — כולל שלנו — שיכול להסתכל על צילום מסך שרירותי ולספר לכם באופן אמין האם מכונה יצרה אותו. כל מי שמוכר את הוודאות הזו מוכר יותר מדי. מה שאתם כן יכולים לעשות הוא לבדוק האם הקובץ מודה בכך, ולהשתפר בהשגת קבצים שעדיין יכולים להודות.
זו תשובה פחות מספקת מאשר באנר אדום גדול של 'AI DETECTED'. היא גם במקרה נכונה, בשאלה הספציפית הזו ההבדל הזה קריטי.
