גורמים בסין ביצעו "שיבוט" באמצעות בינה מלאכותית של סטודנטית אוקראינית בת 21 כדי ליצור קמפיין פרו ממשלתי במדיה החברתית.
סטודנטית אוקראינית הלומדת כעת באוניברסיטת פנסילבניה בארה"ב גילתה את ההפתעה הלא נעימה הזו, זמן קצר לאחר שפתחה ערוץ אישי ביוטיוב.
הצילומים שלה שימשו בינה מלאכותית סינית כדי ליצור דמות מזויפת של אישה רוסייה המפרסמת לכאורה תוכן שמאדיר ומרומם את המשטר הקומוניסטי הסיני. הנה הפרטים.
הרשמה לניוזלטר השבועי
כל מה שחשוב לדעת – במייל אחד.
הישארו מעודכנים עם חדשות שניתן לסמוך עליהן.
בערך חודש לאחר שפתחתי את ערוץ היוטיוב שלי, התחלתי לקבל הודעות מאנשים שאמרו שהם ראו אותי באינטרנט מדברת מנדרינית והם חושבים שזאת לא אני, ומישהו גנב את הזהות שלי.
הסטודנטית האוקראינית אולגה לויאק רצתה ליצור קהל באינטרנט. אבל לא בצורה כזו. הסטודנטית בת ה-21 אומרת שהתמונה שלה נלקחה וסולפה באמצעות בינה מלאכותית כדי ליצור אישיות אחרות בפלטפורמות של רשתות חברתיות סיניות. זאת רק אחת מהכפילות הדיגיטליות המוצגת כאישה רוסייה בשם נטשה. היא דוברת סינית שוטפת ורוצה להודות לסין על תמיכתה ברוסיה.
ראיתי שזה ממש דמות עם הפנים שלי מדברת מנדרינית וברקע אני רואה את הקרמלין ואת מוסקבה, אני מדברת על דברים כמו כמה נהדרות הן רוסיה וסין, ואני גם, כלומר הכפילה שלי, מפרסמת מוצרים רוסיים שונים.
לחשבונות המזויפים עם דמותה של לויאק יש מאות אלפי עוקבים בסין, הרבה יותר מאשר ללויאק עצמה. הם גם מכרו מוצרים בעשרות אלפי דולרים. חלק מהפוסטים אף כוללים גילוי נאות האומר כי ייתכן שהם נוצרו באמצעות בינה מלאכותית. הפנים של לויאק מייצגות מספר גדל והולך של נשים רוסיות צעירות ברשתות חברתיות סיניות. המלכודת היא שאף אחת מהכפילות האלה לא קיימת במציאות.
מומחים אומרים שהן נוצרו על ידי בינה מלאכותית באמצעות סרטונים מהאינטרנט של נשים אמיתיות, לעתים קרובות ללא ידיעתן. האווטרים כמו של לויאק מביעים את אהבתם לסין ואומרים שהם רוצים לתמוך ברוסיה במלחמה על ידי מכירת מוצרים מארץ מולדתם. סין ורוסיה הן שכנות טובות. הידידות בין רוסיה וסין תימשך לנצח. ואז היא ממשיכה ומפרסמת את הסוכריות הרוסיות שלה, ואתה ממש יכול ללכת לכאן ואתה יכול לקנות את הסוכריות שהיא מפרסמת.
מומחים אומרים שהסרטונים המשתמשים באוואטרים המזויפים מציגים לעתים קרובות מוצרים לגברים סינים רווקים. אם הדמות המשוכפלת מוצגת כאישה רוסייה, היא תאמר דברים כמו: אני באמת רוצה למצוא בעל סיני ואני באמת רוצה לנסוע לסין ולגור שם כל חיי ולהקים שם משפחה כי המדינה הזאת כל כך נהדרת.
הרבה אלמנטים של תעמולה ראיתי שם. ג'ים צ'אי הוא המנכ"ל של Xmov, חברה המפתחת טכנולוגיית AI מתקדמת אבל אינה מעורבת במצב בעייתי כמו של לויאק. הוא אומר שטכנולוגיה שיוצרת דיפ-פייק כמו זה נפוצה מאוד בסין. למשל כדי לייצר אדם דיגיטלי דו-מימדי משלי אני רק צריך לצלם סרטון של 30 דקות של עצמי, ואז אחרי שסיימתי לצלם אני מעבד מחדש את הסרטון. כמובן, שזה נראה מאוד אמיתי, ואם תשנה את השפה, הדבר היחיד שאתה צריך להתאים הוא את סנכרון השפתיים. למעשה הטכנולוגיה היחידה בשימוש כאן ב-AIGC היא סנכרון שפתיים.
הסיפור של לויאק שופך אור על הסיכונים של יישומים בעלי פוטנציאל בלתי חוקי או לא אתי של בינה מלאכותית. השימוש בטכנולוגיה דיפ-פייק מגביר את החששות לגבי האופן שבו בינה מלאכותית יכולה להוסיף לסוגיות של מידע שגוי, חדשות כוזבות וזכויות יוצרים. בינואר סין פרסמה טיוטת הנחיות לסטנדרטיזציה של תעשיית הבינה המלאכותית והציעה ליצור יותר מ-50 תקנים לאומיים ותעשייתיים עבור AI עד 2026. על חוק הבינה המלאכותית…
באירופה, חוק הבינה המלאכותית החדש של האיחוד האירופי מטיל חובת שקיפות קפדנית על מערכות בינה מלאכותית בסיכון גבוה. עדיין ממשלות רבות ברחבי העולם מתאמצות להדביק את הקצב של יישומי בינה מלאכותית, ויש אנשים, כמו לויאק, שנופלים בין הכיסאות.
זו לא הפעם הראשונה שאנחנו רואים טכנולוגיה סינית משתמשת בדיפ-פייק כדי להפיץ תעמולה של המק"ס. מקרים אחרים כוללים סרטונים מסוימים בטיק-טוק שמקדמים את הנרטיב של בייג'ינג דרך דמויות ששונו באמצעות בינה מלאכותית.
• לעוד תכנים ועדכונים הרשמו לערוץ הטלגרם שלנו: לחצו כאן
• מצאתם טעות? יש לכם שאלה? תגובה? פנו אלינו דרך הטלגרם או דרך המייל
