ש:
מדוע אנשים מודאגים מהבינה המלאכותית?
ת:שינוי אינו קל, ואנשים רבים מתקשים להסתגל אליו. זה נכון במיוחד לגבי שינוי טכנולוגי. פרופסור הרווארד קלסטוס ג'ומה הנודע כתב ספר בנושא שנקרא "חדשנות ואויביה: מדוע אנשים מתנגדים לטכנולוגיות חדשות." הספר מתאר את המתח בין חדשנות לסדר החברתי, מתוך 600 שנות היסטוריה. ההשפעה של הטכנולוגיה מטרידה במיוחד כשמדובר בבינה מלאכותית.
לא כולם פוגעים בהתקדמות זו. ריי קורצוויל, מחבר הספרים "הסינגולריות קרובה" ו"עידן המכונות הרוחניות ", הוא לא פחות מאוונגליסט המקדם את היתרונות של גנטיקה, ננו-טכנולוגיה ורובוטיקה (מונח המשמש לבינה לא ביולוגית). אבל אלה אותם נושאים - וקורצוויל אותו אדם - שגרמו לדאגה רבה בשנת 2000 עבור ביל ג'וי, המדען הראשי בסאן מיקרוסיסטמס.
ג'וי כתב על דאגותיו במאמר המפורסם עתה במגזין Wired בשם "למה העתיד לא צריך אותנו." הוא האמין שעצם המין האנושי עומד על כף המאזניים. בהתייחסו לתחרות של ההיסטוריה האבולוציונית, כתב ג'וי, "מינים ביולוגיים כמעט ואינם שורדים מפגשים עם מתחרים עילאיים." פריצות דרך מדעיות שגורמות למכונות שעולות על בני אדם מגיעות עם סיכונים משמעותיים. חזיונות של עתיד דיסטופי עולים במוחכם.
נניח שמדענים מסוגלים לפתח מכונות עם אינטליגנציה-על מלאכותית (ASI), רמת אינטליגנציה גבוהה יותר מבני-אדם. ג'וי אומר שאחד משני דברים עשוי להתרחש: או שהמכונות יורשו לקבל החלטות בעצמם, או שאנשים ישמרו עליהם שליטה. מה קורה אם אתה מוסר את הכוח למכונות? מה יכול להיות שהתוצאות?
ביל ג'וי אינו היחיד שמעורר דאגות. גורו הטכנולוגי, אלון מאסק, אמר, "בעזרת בינה מלאכותית אנו מזמנים את השד." הוא כינה אותו "האיום הקיומי הגדול ביותר שלנו." הפיזיקאי סטיבן הוקינג אמר למשתתפים בכנס טכנולוגי כי "איננו יכולים לדעת אם אנו נעזרים עד אינסוף על ידי AI, או שהוא מתעלם ממנו ומורכב בצדדים, או שמושמד על ידי זה. "והוא אמר למגזין Wired, " אני חושש שה- AI עשוי להחליף את בני האדם לגמרי. "
האם הפחדים הללו מוצדקים? סרטי מדע בדיוני כמו "התעלות", שם דמותו של ג'וני דפ מתקשרת עם אינטליגנציה מלאכותית ומעוררת הרס, מזכירים את תחזיותיו של קורצוויל כיצד בני אדם יכולים להתמזג עם מכונות. דמיונות משתוללים בכל הדרכים בהן הבינה המלאכותית עלולה להשתבש. מה קורה כאשר המכונות משתלטות?
שתי דוגמאות בחיים האמיתיים ממחישות עד כמה דאגה לבינה מלאכותית עשויה להיות מובנת. בשנת 2007 תותח רובוט נהרג תשעה בני אדם ונפצע 14. חלק מהנשק הצבאי המתקדם בוחר אוטומטית ביעדים שלהם, אך מחכים לאדם שיצליח להפעיל את ההדק. מי קיבל את ההחלטות כאן? בשנת 2016, רובוט ביטחון של 300 קילו הפיל והדרס פעוט בן שש עשרה חודשים. מי היה בשליטה במקרה זה: אדם או מכונה?
הסיבה שאנשים מסוימים חוששים מהבינה המלאכותית היא שהסיכונים הם אמיתיים. השאלה הבאה: כיצד ננהל סיכונים אלה?
