האם שימוש בצ'טבוטים עלול להחריף מצבים אובדניים ולגרום לנזקים נוספים? האם כלי רכב אוטונומיים כבר מהווים סכנה בדרכים? היכן התגלו לאחרונה פרצות במערכות הצבעה ממוחשבות? ומדוע אנחנו שומעים על תופעות כאלה בעיקר בדיעבד, רק לאחר שהחל שימוש נרחב בחידושים כאלה ואחרים?
מאת עמית לוי, עיתונאי טכנולוגיה, לשעבר עורך בשבועון למנהלי מחשוב
החברים שאיתם הילד מסתובב – האם צ'טבוט AI צריך להדאיג אתכם?
בארה"ב מתבררת כעת תביעה שהוגשה נגד החברות Character.AI וגוגל, על רקע התאבדותו של נער בן 14 (Sewell Setzer).1 בתביעה טוענת אימו כי לאינטראקציה המתמשכת עם צ’טבוט מבוסס בינה מלאכותית (Artificial Intelligence) הייתה השפעה שלילית על מצבו הנפשי של הנער. יחסיו של הנער עם הצ’טבוט אשר תוכנן לחקות בן אנוש, כולל רגשות, היו בעלי אופי רומנטי ומיני. התביעה הוגשה גם נגד גוגל בטענה שהיא השתתפה בפיתוח הטכנולוגיה של Character.AI.
למערכות בינה מלאכותית כאלה יש היבט ממכר באופן פוטנציאלי והן מתאפיינות בטשטוש הגבולות בין האמיתי לווירטואלי. כאשר מעורבים בכך ילדים ונוער (שכיום "דבוקים למסכים" ממילא יותר מתמיד) או אנשים במצבי מצוקה, קל להבין את הסכנות.
בתחילת 2024 התפרסם דוח ממשלתי בארה"ב, שבו נטען כי אינטליגנציה מלאכותית עלולה להציג איום ברמה של הכחדת האנושות!2 זוהי אולי דעה קיצונית מדי, אך בינתיים, מגוון מוצרים מציבים עובדות וסכנות בשטח שיש להתמודד איתן, בין שאלה מוצרים בולטים מאוד כגון צ'טג'יפיטי (ChatGPT) ובין שזהו מוצר ידוע פחות כמו הצ’טבוט של Character.AI. עד שהדברים יתבהרו, קרן האו"ם למען הילד (יוניצו"ף – UNICEF) מציעה מאמר על הסיכונים וההזדמנויות של Generative AI אשר עשוי לעניין הורים.3
מערכות נהיגה אוטונומית – (עדיין) לא בשלות לכביש?
רכב אוטונומי (Autonomous car) הוא עדיין חזון רחוק, מבחינת שילוב נרחב בכבישי ארצנו. אך כלי רכב רבים כבר עושים שימוש ביכולות שונות מתחום זה, המספקות אוטומציה חלקית בנהיגה. האם מערכות אלה לא הגיעו מהר מדי לכביש? האם הן בשלות מספיק מבחינה בטיחותית?
לפי דיווח של סוכנות הידיעות רויטרס4, המנהל הלאומי לבטיחות בדרכים בארה"ב (NHTSA) פתח בחודש שעבר בחקירה של תוכנת הנהיגה האוטומטית של טסלה (Tesla). החקירה נפתחה בעקבות ארבעה מקרים של תאונות שבהן מערכת זו הייתה מעורבת, כולל מקרה אחד שבו נהרג הולך רגל באריזונה. מדובר רק בתאונות שדווחו עד כה וה-NHTSA מעוניין לשמוע על מקרים נוספים, ככל שהיו.
התוכנה מותקנת ב-2.4 מיליון מכוניות. היא נקראת אמנם Full Self-Driving, אך טסלה מציינת ששימוש בה בכבישים מחייב פיקוח מצד הנהג. כלומר מבחינתה, לא מדובר בתוכנה להשגת מצב של "מכונית אוטונומית". כמו כן, התאונה הקטלנית שדווחה התרחשה ב-2023, כך שסביר שטסלה שיפרה את המערכת מאז. בכל התאונות שהזכרנו היו תנאי ראות לקויה ונקודה זו נוגעת בהיבט מעניין של יתרון הנהג האנושי על התוכנה: היכולת להבין באמת את מה שאנו רואים.
האם תצביעו בעד מערכת בחירות ממוחשבת?
על רקע הבחירות בארה"ב, סוכנות הידיעות בלומברג פירסמה לאחרונה כתבה הטוענת כי מכונות ההצבעה בארה"ב בטוחות מתמיד.5 סביר להניח שהן אכן משתפרות מבחינה זו, אך הדבר אינו אומר שהן בטוחות לגמרי או בטוחות מספיק, כשם ששיפור האבטחה בעולם המחשבים במשך עשרות שנים לא הפך את המחשבים לבטוחים לגמרי. למרות היותם בשימוש נרחב הרבה יותר מאשר מכונות הצבעה, סורקי הצבעות ושאר עזרים לבחירות ממוחשבות ("בחירות דיגיטליות") או אפילו בחירות דרך האינטרנט.
הידיעה של Bloomberg News אופיינית לנטייה להציג את המערכות האלה כבטוחות מאוד. אך אם מסתכלים קצת רחוק יותר מאור הזרקורים שממנו נהנים מקורות כאלה, ניתן למצוא מידע המשלים את התמונה וחושף את מה שפחות ממהרים להזכיר: פרופסור למדעי המחשב והנדסה מאוניברסיטת מישיגן בשם J. Alex Halderman, החוקר תחום זה, גילה כמה פרצות במכונות ההצבעה בארה"ב. אתר האוניברסיטה פרסם כמה מממצאיו באוקטובר השנה, באופן הממחיש את הדברים, עם תיאור כל "באג" טכני ולצידו הפתרון.6
בכדי לממש סיכונים כאלה ומעבר להזדמנות שכבר קיימת (הפרצות) דרושה גם מוטיבציה ודרושים משאבים שונים. שניהם עשויים להיות קיימים אצל גורמים, אשר ממילא משקיעים הון עתק בקידום מועמדים לבחירות. עוד היבט טכני המחמיר את הסיכון, הוא בעובדה שבחירות מתקיימות לעתים על פני מיקומים גאוגרפיים רבים ומרוחקים, תוך מעורבות של לא מעט אנשים וחברות – וודאי במדינה גדולה כמו ארה"ב. זהו פתח משמעותי להרחבת יעדי התקיפה האפשריים (ה-Attack surface).
מעבר להיבט הקריטי של דיוק בתוצאות הבחירות ומניעת הונאת בחירות, מחשוב של תהליכי בחירות עלול להציג חסרונות גם בהיבטים של עלויות, מורכבות (גם עבור המצביעים), תקלות ועוד.
חשדהו וכבדהו
בכל הנוגע ל-AI, כלי רכב אוטונומיים, מכונות הצבעה וטכנולוגיות חדשניות נוספות, יהיו כנראה תמיד בעלי אינטרסים אשר מעדיפים לראות פרסום נרחב של היתרונות ופחות (אם בכלל) פרסום כשלים וחסרונות. מה זה אומר מעשית עבור האדם הממוצע? בפשטות – לפני שימוש אישי בטכנולוגיות כאלה, כדאי להכיר את הסיכונים והחסרונות שלהן.
תמונה: Dieter Fettel / Pixabay
מקורות:
[1] Florida mother files lawsuit against AI company over teen son's death: "Addictive and manipulative"
[2] AI could pose ‘extinction-level’ threat to humans and the US must intervene, State Dept.-commissioned report warns
[3] Generative AI: Risks and Opportunities for Children
[4] US probes Tesla's Full Self-Driving software in 2.4 mln cars after fatal crash
[5] How US Voting Machines Became Safer Than Ever
[6] Four election vulnerabilities uncovered by a Michigan Engineer
הרשמה לניוזלטר השבועי
כל מה שחשוב לדעת – במייל אחד.
הישארו מעודכנים עם חדשות שניתן לסמוך עליהן.
• לעוד תכנים ועדכונים הרשמו לערוץ הטלגרם שלנו: לחצו כאן
• מצאתם טעות? יש לכם שאלה? תגובה? פנו אלינו דרך הטלגרם או דרך המייל
