עוד בנושא החששות סביב הטכנולוגיה: אחד החלוצים בפיתוח בינה מלאכותית התפטר ממשרתו בגוגל ואמר שהוא מתחרט על עבודתו. בואו נשמע את דבריו של ג'פרי הינטון בנוגע לאיום הנשקף מבינה דיגיטלית.
"הדברים האלה למדו מאיתנו על ידי קריאת כל הספרים שנכתבו מאז ומעולם כולל את כל מה שמקיאוולי כתב אי פעם, כלומר, איך לתמרן בני אדם. אם הם הרבה יותר חכמים מאיתנו, הם ידעו היטב איך לתמרן אותנו ולא נצליח אפילו להבין מה קורה".
בנאום שנשא בכנס שהתקיים ב-MIT השבוע, ג'פרי הינטון אמר כי הוא מוצא שהפיתוחים האחרונים בתחום הבינה המלאכותית מפחידים. מדען המחשבים הבריטי, ידוע כחלוץ בתחום הבינה המלאכותית. עבודתו פורצת הדרך בלמידת מכונה ורשתות עצבים הניחה את הבסיס לרוב טכנולוגיית הבינה מלאכותית הנוכחית. בחודש שעבר התפטר הינטון מעבודתו כסגן הנשיא וכחבר במחלקת ההנדסה בגוגל. בציוץ שפרסם בטוויטר הוא כתב שהתפטר כדי לדבר באופן חופשי על סכנות הבינה המלאכותית. בריאיון נוסף, התייחס הינטון למה שהוא כינה: "האיום הקיומי הנשקף מהטכנולוגיה הזאת".
"אבל אם אתם חושבים על האיום הקיומי, האיום הקיומי הוא שהדברים האלה ישתלטו עלינו ויחסלו את כולנו".
הוא נתן דוגמה ואמר שבוטים אינם כמו אינטליגנציה ביולוגית אנושית, הם יכולים לפעול טוב יותר מהמוח האנושי.
"הם יכולים להיות הרבה יותר טובים מהסיבה שניתן לשכפל עשרות אלפי העתקים של אותו מודל, שכולם זהים, מאחר שהם דיגיטליים. וכאשר אחד מהם לומד משהו כל ההעתקים ידעו את זה גם. זה כאילו שהיו לך 10 אלפי בני אדם וכל פעם שמישהו מהם לומד מיומנות חדשה, כל האחרים יודעים את זה באופן אוטומטי. וזה מפחיד למדי".
החששות שלו זכו לתמיכה בקרב רבים אחרים בתעשייה. אחרי ש-Open AI השיקה את הגרסה החדשה של צ'אט בוט GPT במארס האחרון, אנשי מפתח רבים בתחום הטכנולוגיה חתמו על מכתב פתוח האומר שהתוכנה הזאת מציבה סיכונים משמעותיים לחברה ולאנושות.
"אפשר לדמיין נער מתבגר שרק בשביל להנות קצת, נותן לצ'אט בוט לתכנת מתקפה על משרד ממשלתי המעניק שירות חיוני או להפעיל התקפת סייבר על משרד ממשלתי חיוני. זה אולי לא יהיה סוף העולם, אבל זה עלול לגרום לנזק רציני".
הינטון הצביע על היבט ייחודי נוסף של בינה מלאכותית והוא היכולת שלה ליצור טקסטים ודימויים כוזבים, שייראו כה אמינים שאף אחד לא יוכל להבחין בין האמיתי למזויף. הוא דחק באנושות לשתף פעולה כדי להתמודד עם האויב החיצוני הזה.
• לעוד תכנים ועדכונים הרשמו לערוץ הטלגרם שלנו: לחצו כאן
• מצאתם טעות? יש לכם שאלה? תגובה? פנו אלינו דרך הטלגרם או דרך המייל
