אל תסמוך על אף אחד: מה מאיים על רשת עצבית שגורמת לזייפות פורנו

אל תסמוך על אף אחד: מה מאיים על רשת עצבית שגורמת לזייפות פורנו
אל תסמוך על אף אחד: מה מאיים על רשת עצבית שגורמת לזייפות פורנו

וִידֵאוֹ: אל תסמוך על אף אחד: מה מאיים על רשת עצבית שגורמת לזייפות פורנו

וִידֵאוֹ: אל תסמוך על אף אחד: מה מאיים על רשת עצבית שגורמת לזייפות פורנו
וִידֵאוֹ: Meet the Spy 2023, יוני
Anonim
Image
Image

דמיטרי קורקין

פורנו מזויף, שבו כוכב הסרט "וונדר וומן" גל גדות קיים לכאורה יחסי מין עם אחיו החורג, שעלה השבוע לרשת, התגלה כלא רק מזויף, אלא מזויף שנוצר באמצעות בינה מלאכותית.

מחבר הסרטון, משתמש אנונימי של רדיט עם הכינוי "זיוף עמוק", אישר בראיון לסגן כי השתמש ברשת העצבים כדי "לפוטושופ" את פניה של גדות לגופה של שחקנית פורנו. הזיוף, באופן כללי, מורגש, וזיופים עמוקים לא תכננו להרוויח עליו כסף - לדבריו, הוא רק רצה לבדוק כמה קל יהיה לעשות זאת באמצעות AI. ויש לו חדשות רעות עבורנו: להכין פורנו מזויף "בבית" היה קל מאוד.

הבעיה, באופן כללי, היא לא בזיופים בפורנו: הדרישה לתמונות ולסרטונים שבהם שחקנים ושחקניות כמו סלבריטאים מקיימים יחסי מין הייתה, היא ותהיה בקרב פטישיסטים ואוהבי סנסציה. קווי הדמיון החיצוניים עם הכוכבים בתעשיית הפורנו עושים קריירה שלמה - תופעה זו אפילו הולידה כותרת יוצאת דופן מסוגה בעיתונות הצהובה: "הכפיל פורנו הגמד של גורדון רמזי נמצא מת במחילת גירית."

אבל אם ייצור מוקדם יותר דרש זמן, משאבים ומיומנות כלשהי, אז רשת עצבית שהוכשרה לרתך פנים לתמונה מפשטת מאוד את המשימה. רובוטים עובדים, לא בני אדם, ורובוטים נהיים חכמים מדי פעם, מה שאומר שזיופים ייראו יותר ויותר אמינים. זיוף עמוק של משתמשים הבהיר שהוא אסף את תוכנת ה- AI שלו מאלמנטים מאולתרים שנמצאו בספריות קוד פתוח, וצילם תמונות וסרטונים במניות ציבוריות ובאירוח כמו יוטיוב. במילים פשוטות, כל הכלים ליצירת זיופי פורנו מונחים מתחת לאפו לא רק אצלו, אלא גם אצל מיליוני אנשים ברחבי העולם.

וזה, בקפדנות, אפילו לא חדשות. עוד בשנת 2003, הזהירו מומחים באוניברסיטת אורגון לבריאות ומדע כי זיופי שמע "קלים להכנה וקשים לזיהוי." עד שנת 2017 התגשמה התחזית, והופיעו זיופים של הקלטות קוליות שנוצרו על ידי רשתות עצביות, שקשה מאוד להבדיל בין אלה האמיתיים. לאחר האודיו, הווידיאו גם הצטבר. התפתחות עובדי אוניברסיטת וושינגטון מסנכרנת את הבעות הפנים של האדם עם נאומו: בסרטון עם ברק אובמה שהוגדר למשל, האמיתי הוא רק שמע, התמונה נוצרת על ידי התוכנית. שלבו זה את זה - ועכשיו מוכנים סרטונים מזויפים, בהם, למשל, פוליטיקאי ליברלי ידוע "מתוודה" על אהדתו להיטלר.

נדרש לא מעט דמיון כדי לדמיין לאיזה סוג של שימוש לרעה הופעתה של בינה מלאכותית שכזו יכולה להוביל - על רקע הצ'אט-בוט של מיקרוסופט, שהטרולים מטוויטר הפכו לגזען בתוך פחות מיממה, ייראה כמו מתיחה חמודה. וכמובן, לא גל גדות, טיילור סוויפט או ג'ניפר לורנס מלכתחילה מאיימות על טכנולוגיות מזויפות בפורנו. הם עשירים מספיק כדי להעסיק צבא של מומחי IT המכירים בזיופים, וצי עורכי דין שיציף תביעות לכל מי שמנסה להשתמש בזיופים אלה למטרותיהם.

לא, בני תמותה בלבד יהפכו לקורבנות של אלגוריתמים חדשים ולא מזיקים. ניתן להשתמש בזיופים דיגיטליים לנקמת פורנו, סטריבר ברשת, בריונות ברשת, סחיטה ומניפולציה של אנשים שאפשר להציע בקלות ואינם עוקבים במיוחד אחר החדשות מתחום הטכנולוגיות המתקדמות ("בתך צולמה, העבר בדחיפות כסף, אחרת כולם יעשו זאת תראה אותו"). ואנחנו לא בהכרח מדברים על פורנו: ניתן להפעיל זיופים גם באינטרנט לצורך תעמולה פוליטית והסתה לשנאה.

"אבל זה מפלצתי!" כן, מפלצתי, והקודן המזויף לא אשם בכך.כמו שהאקרים לפעמים פורצים למערכות בנקאיות לא במטרה לגנוב כסף, אלא כדי להצביע בפני מחלקת אבטחת הסייבר על פערי אבטחה, כך ה- AI שהומצא על ידי מתכנת אנונימי פשוט מעמת אותנו עם העובדה: עידן זיוף דיגיטלי אינו סיפור אימה דיסטופי ברוח "מראה שחורה", אלא המציאות הקרובה. זה עדיין לא הובן על ידי האתיקה המודרנית (האם זיופי פורנו יכולים להיחשב כפגיעה בפרטיותם של אנשים אחרים?), או על ידי החוק החל. אבל בזה אנחנו איכשהו צריכים לחיות בשנים הקרובות. המשמעות היא שנצטרך לפתח תרופת נגד מלית כזו.

אוצרי המילון של קולינס כינו את המונח "חדשות מזויפות" כביטוי לשנת 2017, ובכך הדגישו כי המשתמש הממוצע אוהב קליקבייט ומפרסם מחדש כותרות מרעישות מבלי לבזבז זמן על מנת לאמת את מקוריות המידע. בינתיים, חדשות מזויפות יכולות להשפיע על תוצאות הבחירות והמשאלים. וזה גם חלק מהמציאות החדשה בה אנחנו כבר קיימים ובה נצטרך ללמוד להיות פחות קלים דעת.

המדיה החברתית כבר הפכה את האינטרנט לבית של קירות זכוכית שבהם מיליוני אנשים יכולים לצפות בחייכם מדי יום - גם כשאתם לא רוצים. עכשיו ברור שלבית הזה עדיין אין דלת: כל אחד יכול לנסות לפלוש למרחב האישי שלך, באמצעות AI כדי לדפוק את הפנים שלך לסרטון פורנו או לסרט שר הטבעות. הפרטיות מתה, אך לא רק האח הגדול בדמות שירותי ביון ותאגידים גלובליים אשם בכך, אלא אנו עצמנו.

עולם הזיופים הדיגיטליים מתקרב, אך זו לא סיבה לבהלה, פרנויה, סירוב להשתמש באינטרנט או דרישות לאסור רשתות עצביות. זו סיבה לחשוב על היגיינת רשת ועל אתיקה חדשה, שבה היא תיחקן אחת ולתמיד כי שימוש בתדמית של מישהו אחר ליצירת זיוף דיגיטלי הוא בזוי ולא חוקי. הזמנים בהם אנשים האמינו ללא תנאי בכל מה שהם אומרים בטלוויזיה (גם אם הם אומרים כי "לנין היה פטרייה") מסתכלים. באותו אופן, נכשיר את עצמנו בהדרגה לא לקחת את המילה שלהם לכל מה שכתוב באינטרנט.

פופולרי על ידי נושא