כלים לזיהוי דיפ פייק הם חשובים, אבל הם לא יעבדו אם לא תפקחו עיניים | Machine Learning Israel
מאת אורי אליאבייב, 17 בדצמבר 2019
בתקופה האחרונה אנחנו שומעים לא מעט על תחום ה-DeepFake ועל יכולתם של אלגורתמים מסוימים לזייף קטעי וידאו ברמת דיוק גבוהה למדי, ולמעשה ליצור תוכן שלא הוסרט מעולם. תוסיפו לכך את העובדה ש"חסמי הכניסה" ירדו באופן משמעותי (היום לא צריך צוות של חוקרים מומחים ועלויות הפיתוח זניחות יחסית) ותקבלו קרקע פוריה ללא מעט זיופים.
ההתקדמות הטכנולוגית הזו גרמה ללא מעט גופים וחברות ברחבי העולם להבין כי חוקי המשחק השתנו. כל אותם גופים הבינו כי עליהם למצוא פתרונות טכנולוגיים שיוכלו לסייע להם בתהליך אימות המידע שמגיע אליהם – משימה קשה הרבה יותר מאשר "רק" ליצור את התוכן המזויף.
בדיוק לשם כך התאגדו להן יחדיו כמה מהשחקניות הגדולות ביותר בעולם הטכנולוגיה (אמזון, מיקרוסופט ופייסבוק) לצד גופי תקשורת מהשורה הראשונה (BBC והניו יורק טיימס לדוגמה) והשיקו אתגר זיהוי של תוכן וידאו מזויף. כל החברות העלו כמות גדולה של קטעי וידאו מזויפים ואמיתיים, והן מזמינות מומחי AI מכל העולם שינסו לבנות מודלים מתקדמים שידעו לחזות בדיוק רב ככל שניתן אילו סרטונים מפוברקים ואילו אותנטיים.
נכון לכתיבת שורות אלה יש לא פחות מ-340 צוותים מרחבי העולם שמתחרים באתגר ומעוניינים לקטוף את הפרס הראשון: חצי מיליון דולר. כן, קראתם נכון – חצי מיליון דולר למי שיצליח לקבוע אם סרטון הוא אמיתי או לא. אם זה לא מספיק, יש עוד חצי מיליון דולר שיחולקו לשאר הצוותים שידורגו גבוה באתגר.
אין ספק שמדובר במאמץ מרשים, שמטרתו לספק מענה לבעיה שהולכת להיות משמעותית ביותר בתקופה הקרובה. עם זאת, האם זה מה שיציל אותנו ממגפת הפייק ניוז שבה אנחנו נמצאים? האם הפיתוח הטכנולוגי הזה הוא הוא מה שיעזור לנו או לגופי המידע לקבל גרסה כמה שיותר נאמנה למציאות אותה אנחנו צורכים? לא בדיוק.
במיוחד באתגרים מסוג זה, חשוב להבין מה מנסים לפתור ומה לא נצליח לפתור. ברשותכם אחלק – בצורה גסה מאוד יש לציין – את תחום הפייק ניוז לשלושה סוגים עיקריים: הראשון מדבר על תוכן מונפץ לחלוטין והוא זיוף ברור ומוסכם לכל הדעות – וידאו של טראמפ אומר משהו שלא אמר מעולם, סרטון של ביבי מבצע פעולה כלשהי שלא התרחשה מעולם וכו'; הסוג השני מתייחס לאמירה לא נכונה עובדתית שאפשר לסתור – ביבי ראה את החיילים הבריטים כשהיה ילד למשל (יאמר לזכותו שגם זה פייק כי הוא לא באמת אמר את זה); הסוג השלישי, ואולי החביב עלי במיוחד, הוא דברים שהם פייק אבל אי אפשר להוכיח אותם בצורה ישירה והם עמומים יחסית עבור האדם הפשוט (מתנגדי חיסונים, כדור הארץ שטוח וכו'). כפי שאתם יכולים בוודאי לדמיין, האתגר הנ"ל בא לפתור את הסוג הראשון של פייק ניוז, ואותו בלבד. לעניות דעתי, זה הסוג האחרון שאנחנו צריכים לדאוג ממנו.
שני הסוגים האחרים הם קשים יותר כי הם מצריכים הכרת עובדות ויכולות לעקוב אחרי קו חשיבה לוגי. הערעור על האמת והנזק המשמעותי עלולים להגיע מהם. את הסוג הראשון, זיוף תוכן באמצעות אלגוריתם, יותר קל לפתור (או להתחיל לפתור) כי פשוט צריך לתת פול גז על כיוון אחד מאוד ברור שמוגדר בצורה מתמטית יפה מאוד. שני הסוגים האחרים טעונים פוליטית, חברתית, כלכלית ועוד. להתמודד איתם על מנת לעשות שינוי של ממש בחברה ולהעניק לאנשים כלים פרקטים להבדיל בין אמת לשקר זה כנראה מסובך יותר מאשר לאמן מודל AI מתקדם.
מעל כל אלה, ישנו גם השכנוע העצמי, שהרי כל אדם רוצה להאמין בסרטון כלשהו. אם תתאמצו טוב, תוכלו בוודאי לגלות אם סרטון הוא מזויף או לא: המבט הפוזל בעיניים, חוסר האחידות באוזניים, הרקע הלא ברור של התמונה ועוד אלמנטים נוספים שיעזרו לכם בחקר האמת, זאת בתנאי שתרצו בכלל לחשוב על כך.
באתגר הנ"ל, הסרטונים יהיו מאוד מהונדסים לשם התחרות ולא בהכרח ישקפו את הדרך בה סרטונים מסוג זה יגיעו למערכות העיתונים או לפיד שלכם. הרי אם מישהו ירצה להשפיע על דעת הקהל וליצור סרטון כזה הוא בוודאי ילטש את כל נקודות התורפה של הסרטון או יצור סצנה מורכבת בה קשה לשם לב לפרטים (הקלטה בשחור לבן, צילום מרוחק של סמטה חשוכה וכו'). באופן זה, ברגע שהסרטון יגיע לפיד שלכם הוא יהיה ברמה מספקת כדי לשכנע אתכם בכל מה שתרצו להאמין בו – וזו המטרה האמיתית שלו. יצרני הסרטונים המזויפים לא דואגים אם הווידאו הצליח לשטות באלגוריתם מתוחכם או בעורך מיומן, הם רוצים שהוא יהיה מספיק טוב כדי לעבור את "מבחן הפיד" – זה שבו סרטון נחשב "מוצלח" אם הוא מצליח להיחשב אמיתי כחלק מגלילה תמימה בפיד שלכם.
חשוב לי להדגיש כי אני לא יוצא נגד האתגר הזה, הוא מאוד חשוב ויעזור לנו להתמודד בצורה טובה יותר עם פייק ניוז ושימוש לרעה בטכנולוגיה. עם זאת, עלינו להשקיע לא מעט משאבים וכסף בחינוך והקניית כלים פרקטים לבחינת האמת. לא פילוסופיה גבוה או דברים ברומו של עולם, אלא כלים מעשיים שיעזרו לכולנו להבין איפה הטכנולוגיה נמצאת היום וממה עלינו להיזהר.
פורסם לראשונה בהארץ
תגיות: AI, AI ethics, BBC, DeepFake, new york times, אמזון, אתיקה AI, דייפ פייק, מבחן הפיד, מיקרוסופט, פייסבוק, פייק ניוז