עם בינה מלאכותית – AI המתפתחת במהירות הבזק תמונות וסרטונים מזויפים הפכו לדאגה גדולה מאוד. אנשים יכולים ליצור תמונות מזויפות של נשיאים, מנכ"לים, או אפילו של בני משפחתך. עכשיו תחשבו על זה רק לרגע – הם ייראו לכם כל כך מציאותיים ואמיתיים שאפילו לא תוכלו לדעת שהם מזויפים. אז באופן טבעי השאלה היא מה אנחנו יכולים לעשות? האם יש תוכנות שם בחוץ שיכולות לעזור לנו להבחין בזה? שוחחנו עם Deep Media, חברה שמזהה תמונות וסרטונים שנוצרו בעזרת AI. רג'ול גופטה, מנכ"ל Deep Media אומר לנו שכרגע ישנם דברים מסוימים שאנחנו יכולים לחפש כדי לראות אם משהו אכן מזויף. כדוגמה הוא העלה את מה שמכונה תמונת "האפיפיור המגניב" אשר תיארה את האפיפיור לובש מעיל פוך מפואר.
"לעתים קרובות, להרבה מהרשתות האלה יש בעיה עם השילוב ונקודת המפגש של קווים ישרים וקווים מעוקלים ולכן בגלל שהאפיפיור לבש מעיל פוך, אבל מעל מעיל הפוך הזה הייתה שרשרת עם צלב עליו – אם תסתכלו טוב מקרוב תראו שלצלב בשרשרת ההיא היה מעט עיוות בקווים שהיו צריכים להיות מאוד ישרים. אם תנסו להסתכל על אצבעות או ידיים של אנשים, אתם עשויים לראות לעתים קרובות בכמה מהתמונות האלה שהם כוללים אצבע נוספת ביד או שהאצבעות מעוותות מעט".
אבל העניין הוא שהטכנולוגיה מתפתחת מהר מאוד. בקרוב AI עשויה להבין איך לצייר כראוי ידיים ואנשים לא יוכלו להשתמש בזה כמדד חזותי. לחברת Deep Media של גופטה יש טכנולוגיה שתנסה לזהות מה מזויף ומה לא בזמן שבני אדם לא יוכלו לעשות זאת. משרד ההגנה של ארה"ב משתמש כעת בחברה הזאת לזיהוי תוכן שנוצר על ידי AI.
"אנחנו מאפשרים לצרכנים להשתמש במדיה סינתטית כדי ליצור פרצופים מזויפים וקולות של עצמם, מדברים 50 שפות שונות, ואת ערכות הנתונים שאנו אוספים מאותם יישומים – הפרצופים והקולות המזויפים האלה, מוזנים ישירות לפלטפורמת זיהוי שיכולה לזהות ביעילות אם פנים, קול או תמונה הם אמיתיים או שעברו מניפולציות".
ומשהו אחר שעשוי לקרות בעתיד הוא שרגולטורים ופלטפורמות האינטרנט עשויים להיות מעורבים. שוחחנו עם אלכסנדר דה רידר, חוקר AI שהיה שותף להקמת חברת שיווק הבינה המלאכותית "INK". דה רידר אומר שלחברות יוצרי AI גנרטיבית יש דרך לסמן בסימן מים מדיה שנוצרה על ידי AI. סימן מים הוא תהליך של הוספת סימון גלוי או בלתי נראה לתוכן מסוים. ואז ניתן להשתמש בתוכנה מיוחדת כדי לראות את הסימן שיגיד לנו אם התמונה נוצרה באמצעות AI ואינה אמיתית.
"אולי זה תחום שגם הרגולטורים יכולים להיכנס אליו ולומר, כל דבר שנוצר על ידי AI, על פי חוק, חייב להכיל חתימה דיגיטלית כלשהי בצורת סימן מים או חתימת בלוקצ'יין שיכולה לאתר את יוצר התוכן בדרך כלשהיא, או איכשהו מזהה את זה, שאולי זה צעד רחוק מדי, אולי לזהות שנוצר על ידי AI אם אתה רוצה להיות אנונימי".
דה רידר גם מציע שפלטפורמות אינטרנט כמו יוטיוב או אינסטגרם עשויות לחפש את הסימנים האלה והן יכולות להגיד לכם אם בתוכן הזה יש סימן מים או לא. אבל בסופו של יום ייתכן שאין דרך חסינת תקלות לחלוטין כדי לדעת אם משהו אמיתי. ודה רידר אומר שאנשים עם כוונות רעות עדיין יהיו שם בחוץ וינסו להערים עליכם.
"אף על פי שהם יכולים להשיג את הטכנולוגיה הטובה ביותר שקיימת, זה אף פעם לא בא במקום החובה האישית שלכם לבדוק בדיקה חוזרת ולהשתמש בהיגיון בריא באינטרנט, אז תשמרו על עצמכם שם בחוץ".
מומחים מסכימים לגבי זה. שוחחנו עם חברת Blue Willow ליצירת אמנות באמצעות AI. הקטור פראן, סמנכ"ל שיווק של AI Blue Willows סיפר לנו שאין פתרונות קסם במיוחד עם AI המתקדם במהירות הבזק.
"סמכו על תחושת הבטן שלכם אם משהו לא מרגיש נכון – זה כנראה לא נכון. צללו עמוק יותר, ואז השתמשו ברשימת הפעולות לביצוע. תסתכלו על התאורה שלכם, תראה את האדם עצמו, תסתכלו על האנשים, תסתכלו על המבנה של זה, משם תעשו חיפוש תמונות הפוך בגוגל – [לאתר את מקור התמונה]".
נכון לעכשיו אין כלים חזקים לזיהוי AI לשימוש אצל אנשים רגילים. רג'ול גופטה, מנכ"ל Deep Media אמר לנו שהוא משיק תוכנת זיהוי הבינה המלאכותית שלו בסוף מאי, והציבור הרחב יוכל להשתמש בה בחינם.
• לעוד תכנים ועדכונים הרשמו לערוץ הטלגרם שלנו: לחצו כאן
• מצאתם טעות? יש לכם שאלה? תגובה? פנו אלינו דרך הטלגרם או דרך המייל
