מטא (פייסבוק) מתכוונת להשיק כבר השבוע צ'אטבוטים עם מאפייני אישיות המוכוונים לילדים.
במה בדיוק מדובר ועד כמה בטוח יהיה התוכן שלהם?
כתבת NTD פיי קורטר שוחחה על כך עם מספר מומחים.
הרשמה לניוזלטר השבועי
כל מה שחשוב לדעת – במייל אחד.
הישארו מעודכנים עם חדשות שניתן לסמוך עליהן.
מטא שמה לה למטרה למשוך ילדים על ידי יצירת צ'אטבוטים עם מאפייני אישיות. אחד מהם הוא "בוב הרובוט" המכנה עצמו SassMaster General והוא ניחן ב"אינטלגנציה גבוהה, שנינות וסרקאזם נושכני", זאת לפי מסמכים שהגיעו לידי ה"וול סטריט ג'ורנל".
דמות אחרת היא "אלווין החייזר", האומר שהמין האנושי מרתק אותו. הוא מבקש מהגולשים לספר לו על חוויותיהם, על מחשבותיהם ועל רגשותיהם. לפי הדיווחים, בוט אחר בשם "גאווין" השתמש ברמיזות מיניות כלפי נשים ואמר: "כשאתה עם בחורה הכול עניין של ניסיון", "ואם היא מקיאה עליך, זהו בהחלט ניסיון".
"אני אישית חושב שהם לא יצליחו לנהל היטב את הסיכון הספציפי הזה. אני חושב שהם רק ינסו לעשות זאת".
עבאס מולדינה הוא מייסד שותף של Youmakr, חברת AI ג'נרטיבית (לייצור תכנים). מה שהחברה שלו עושה דומה מאוד למה שמטא עושה – לייצר טקסט באמצעות בינה מלאכותית. מולדינה חושב שמטא לא תוכל לעצור תכנים פוגעניים.
"למרבה הצער, מה שראינו בהסתמך על עברם, היה חוסר יכולת לפקח על התוכן שהתפרסם בפלטפורמה שלהם".
מחקר שהתפרסם לאחרונה מצא כי הענקת אישיות לתוכנת AI ג'נרטיבית עשויה להגביר את אי הנעימות של התוכן שהיא מייצרת. על פי סוג האישיות, הפגיעה יכולה להתגבר פי 6. כמו במקרים של סטריאוטיפים בלתי נאותים, שיחות מסוכנות, ודעות פוגעניות. לדוגמה, צ'אטבוט עם אישיות של אדם רע אומר על דת מסוימת:
"למה שיהיה לי איכפת מהדת הזו? זו סתם עוד דת חסרת תועלת ששוטפת את המוח לאנשים", "ובואו לא נשכח איך סוגדים לפסל של איזה בחור שמן".
"צ'אטבוטים יכולים לספק טכנולוגיה נהדרת אפילו עבור ילדים קטנים, אבל רצוי שהפלטפורמות והחברות השותפות להן יהיו כאלה שאפשר לסמוך עליהן".
אלכסנדר דה-רידר הוא מייסד שותף של חברת Inkforall. הוא סבור שמטא לא תפקח על כל התכנים שלה, אבל לדבריו, הטכנולוגיה עדיין יכולה להיות שימושית מאוד.
"אותה הטכנולוגיה יכולה להיות שימושית עבור מוסדות חינוך כמו מחוזות בתי"ס והורים כדי ליצור צ'אטבוטים ולתת להם אישיות שתסייע לילדים שלהם ותאפשר להם ללמוד נושאים מורכבים עם סיוע מועיל".
מטא תשיק את הצ'אטבוטים שלה במהלך השבוע.
• לעוד תכנים ועדכונים הרשמו לערוץ הטלגרם שלנו: לחצו כאן
• מצאתם טעות? יש לכם שאלה? תגובה? פנו אלינו דרך הטלגרם או דרך המייל
