טכנולוגיית האפקטים המיוחדים זכתה לפריחה של ממש בעשורים האחרונים, כאשר CGI עברה מגס ופרימיטיבי באופן ראודני לכמעט לא ניתן להבחין בין המציאות. כעת, כאשר יצירת דימויים מדויקים הופכת לנפוצה יותר ויותר, מומחים פוליטיים ומומחים בתחום המשפט הפלילי כאחד צופים פאניקה סביב מה שמכונה טכנולוגיה 'מזויפת עמוקה', שיש בה כדי לסבך עוד יותר את הדיון הבינלאומי המתמשך בנושא 'חדשות מזויפות'. אך מהו בדיוק 'זיוף עמוק' וכמה איום הטכנולוגיה הזו תיצור בעתיד?
טכנולוגיה מזויפת עמוקה (המסוגננת לעיתים כ- 'זיוף עמוק') מתייחסת לתמונות מסונתזות ו / או על גבי תמונות ו / או סרטונים שנוצרו על ידי בינה מלאכותית באמצעות תמונות וסרטונים קיימים. באמצעות למידת מכונה, טכנולוגיה זו יכולה ליצור תיאורטית צילומים משכנעים של אדם המבצע מעשה שמעולם לא התרחש בחיים האמיתיים.
אוון וויליאמס, מהנדס תוכנה מקצועי ואמן אפקטים חזותיים, הציע הסבר פשוט.
'זוהי דרך להשתמש במערכת תוכנה אוטומטית להחלפת פניו של אדם בסרטון בפנים אחרות שהן הרבה יותר אוטומטיות ומשכנעות ממה שהיה אפשרי בטכנולוגיה קודמת,' אמר ויליאמס. Oxygen.com .
מורגן גייזר וסיפור אניסה ווייר
וויליאמס ציין כי סרטים רגילים, פופולריים כמו 'פארק היורה' ו'בלייד ראנר: הגמר האחרון 'השתמשו בתוכנת מחשב לסצינות מסוימות בדרכים שעשויות היו להיות קודמות לזיופים עמוקים:' בתעשיית הקולנוע זה באמת נפוץ. נניח שיש לך דמות שצריכה לבצע פעלול ואתה מעדיף שהפנים שלהם יהיו גלויות. הפיתרון הקלאסי היה שאתה רואה אותם רק מאחור, או שהשיער שלהם יהיה בפנים שלהם, כך שלא תוכל לדעת שזה כפול. אבל יש היסטוריה מעורבת למדי של יוצרי סרטים שמשתמשים במחשבים בכדי לשים את פניו של שחקן על פני כפול פעלולים. '
'פעם זה היה תהליך ידני מאוד,' המשיך וויליאמס. ״עכשיו, בטכנולוגיה מזויפת עמוקה, אתה מאכיל מחשב בשני דברים: תחילה את הסרטון שאתה עומד להחליף, ואז חבורה של תשומות פנים שאתה מחליף. עליכם לקבל דימויים של אדם שמביע הבעות פנים שונות ומזוויות שונות. אתה יוצר ספרייה של איך הפנים של האדם הזה יכול להראות במצבים שונים ואז המחשב עובר ומסתכל על הסרטון. זה גם לא צריך התאמה מדויקת. זה יכול לשטוף ולהשתנות מה שיש לו בספריה כדי להתאים למה שהוא צריך. מה שבעבר דרש מעשרות אמנים מאות שעות לנסות לבצע אפקט ממש מסובך עכשיו הוא רק לחיצת כפתור. '
פן של הטכנולוגיה הזו שמאחישה אנשים מודאגים הוא שאדם לא בהכרח צריך להגיש את פניו ברצון כדי שתהליך זה יבוצע, בהתחשב בכמה תמונות קיימות ברשת של רוב האנשים - במיוחד ידוענים ואישים פוליטיים.
משוגע אחד קורבן לקטוף קרח
'יש מספיק תמונות של כל ידוען בכמות זווית מספקת שתוכל ליצור את הספרייה הזו [ללא הסכמה],' אמר ויליאמס. 'יש צורך בכמות מסוימת של עבודה לשם כך, אבל עבור כל דמות פופולרית שולית הדברים האלה יהיו קיימים. התחושה שלי היא שזה פחות סביר שזה יהיה אפשרי עבור אדם רגיל. '
הסרטונים המזויפים העמוקים הראשונים הופיעו בפורומים של Reddit בסוף 2017, לפי Variety . משתמש טען כי השתמש במחשב שלו כדי ליצור סרטוני פורנוגרפיה מציאותיים ביותר של ידוענים שונים העוסקים בפעילות מינית שמעולם לא התרחשו בחיים האמיתיים. המשתמש טען שהוא האכיל את המחשב שלו באלפי תמונות של הכוכבים, שמהם AI יכול היה למצוא את הבעות הפנים והתנועות המתוארות. אפליקציה שמשמשת יוצרים מזויפים עמוקים וששותפה ב- Reddit הורדה בסופו של דבר למעלה מ 100,000 פעמים. (Reddit בסופו של דבר ימשיך לאסור תוכן מסוג זה ואמר שהוא מפר את מדיניותם בנושא 'פורנוגרפיה לא רצונית'. על פי The Verge .)
הריאליזם שמדיום זה יכול להשיג כרגע מוטל בספק אצל וויליאמס.
'אם אי פעם צפית באחד מהזיופים העמוקים האלה ... יש שם מידה מסוימת של מוזרות,' אמר וויליאמס. ״הם לא מלוטשים. זה כנראה ישתפר ויהיה טוב יותר, במיוחד בגלל שהוליווד יש אינטרס להפוך את זה לאוטומטי ולא לשלם לאמנים יקרים. '
באופן דומה, וויליאמס ניחש שלמרות את הבהלה סביב פורנו מזויף עמוק הגישה התרבותית המשתנה סביב טבעם של דברים כמו פורנו נקמה או תמונות עירום שהודלפו פירושם שייתכן שאנשים שיוצרים אמצעי תקשורת מסוג זה יגונו ולא יחגגו אותם, אפילו לא בתעשיית הבידור למבוגרים.
מורות שמנהלות קשרים עם תלמידים
'זה לעולם לא יהיה מיינסטרים', תיאוריה וויליאמס. 'לאחר ' ההתרחשות 'הדבר קרה ברדיט, אנשים הצליחו לשנות את השיחה ולומר, 'זו לא שערוריה, זה פשע מיני'. אז אני פשוט לא רואה שזה הופך לשערורייה כמו שאנשים חושבים שזה יהיה. אנשים יכולים גם למצוא די בקלות את הפורנו המקורי שממנו נוצר הזיוף העמוק, כלומר קל למדי להפחית אותו. '
אבל זה לא רק גורם לדאגה כי זה יכול לשמש ליצירת פורנו מפורסם של סלבריטאים. אנשים מודאגים גם מההשלכות הפוליטיות.
מומחים פוליטיים החלו לכתוב על ריבוי הזיופים העמוקים בשנת 2018. מאמר של אפוטרופוס מנובמבר אותה שנה צוין התפשטות ויראלית של סרטון המתאר כביכול את הנשיא דונלד טראמפ מעודד את מדינת בלגיה לסגת מהסכם האקלים בפריז. זה זירז דיון גדול יותר אודות הפוטנציאל של ממשלות שונות להשתמש בטכנולוגיה זו בקמפיינים של דיסאינפורמציה המונית, שיחה שכבר נפתחה הודות לחקירה המתמשכת בנוגע למעורבות רוסיה בבחירות לנשיאות ארצות הברית ב -2016.
הבהלה סביב זיופים עמוקים אף היוותה השראה למערכת המערכת של קבוצת בלומברג מדיה להכתיב אופציה מנוסחת בנושא.
מה ג'ייק האריס עושה עכשיו
'עדויות וידאו הפכו לעמוד התווך של מערכת המשפט הפלילי ... דווקא בגלל שסרט נראה כמו תיעוד כה מהימן של נאומו או מעשיו של מישהו. זיופים עמוקים עלולים לגרום לחשד בראיות כאלה, ' הם כתבו ביוני 2018. 'אם כן, אתגר מכריע יהיה זיהוי וקריאת זיופים אלה - אם הדבר אפשרי.'
וויליאמס הסכים שטבעם של זיופים עמוקים מאיים על תפישותינו 'מציאות' בכל הקשור לראיות וידאו, אך ציין כי הביצה המשפטית הזו אינה ייחודית לנוף הדיגיטלי העכשווי שלנו.
״זה בערך מסתכם ברעיון הזה שאנשים יש את הסרטון הזה שווה לאמת, מה שמעולם לא היה המקרה. ידענו את זה מרודני קינג ואילך. או, תחשוב על אריק גארנר : אנשים חשבו [הקצין שהרג אותו] חף מפשע ולא משנה איזה סרט וידאו מהאירוע חוזה. לי [הרבה מהפחדים סביב זיופים עמוקים] נראים מופרכים במקצת. '
וויליאמס פירט כמה תקריות אחרות שלא היו מעורבות בטכנולוגיה מזויפת עמוקה שהראו את דרכי הווידאו שעברו מניפולציה באומץ כדי להטות את דעת הקהל בעניין, כמו ההסרה השנויה במחלוקת של ג'יימס אוקיף את אקורן ושערורייה שקשורה לאחרונה דוקטור סרטון המתאר כביכול את כתב CNN ג'ים אקוסטה שתוקף עובד בבית הלבן .
המסקנה האולטימטיבית של וויליאמס הייתה שההיסטריה סביב זיופים עמוקים מנופחת מעט.
'מה שאני רואה שקורה הוא שזה יעבוד בשני הכיוונים. אם יוצא סרטון והוא אמיתי, אנשים יטענו שהוא מזויף. אם יוצא סרטון וזה מזויף, אנשים יטענו שהוא אמיתי. כל מקרה מניח כמות מסוימת של אמת שהוקצתה לווידיאו [עצמו]. קשה לדעת לאיזה כיוון הכל ילך. אם הקלטת פיפי למעשה יצא, למשל, אתה יודע בדיוק מה יקרה: חצי מהאנשים היו אומרים, 'זה שוורים - לא, זה איזה שחקן!' וחצי מהאנשים היו אומרים, 'הנה זה! זה אמיתי!' אז שום דבר לא באמת ישתנה. זה נוטה להיות מה שקורה עם טכנולוגיה חדשה: הדברים לא משתנים כמו שאנשים חושבים. '
[צילום: SAUL LOEB / AFP / Getty Images]
