ש:
מדוע חברות מסוימות שוקלות להוסיף "בקרות משוב אנושי" למערכות AI מודרניות?
ת:חברות מסוימות העובדות עם טכנולוגיית AI מתקדמת פועלות להנהלת בקרות אנושיות למערכות אלה, ומעניקות למידת מכונות וכלי למידה עמוקה פיקוח אנושי ישיר. גם חברות אלה אינן שחקניות קטנות - DeepMind של גוגל ו- OpenAI של אלון מאסק הן שתי דוגמאות לחברות מרכזיות שמתחילות להתקדמות בתחום הבינה המלאכותית. עם זאת, התוצאות נבדלות זו מזו - למשל, DeepMind היה נושא למחלוקת בגלל חוסר נכונותה הנתפסת לספק נתונים מרכזיים לציבור, בעוד ש- OpenAI פתוחה הרבה יותר, ובכן, על עבודתה בשליטה על בינה מלאכותית.
אפילו דברים רבים כמו ביל גייטס שקלו את הנושא, גייטס אומר שהוא אחד מהרבים המודאגים מהופעתה של אינטליגנציה-על מלאכותית שעלולה במובנים מסוימים לחרוג משליטה אנושית. מאסק מצידו גם הציג שפה מדאיגה באשר לאפשרות של "AI נוכלים".
זו כנראה הסיבה הדחופה ביותר לכך שחברות פועלות ליישום בקרות אנושיות על AI - הרעיון כי ייחודיות טכנולוגית כלשהי תביא לטכנולוגיה חיונית סופר עוצמתית שבני אדם פשוט לא יכולים לשלוט בה יותר. מאז שחר השאיפות האנושיות, שמנו כלים למקום כדי להבטיח שנוכל לשלוט בכוחות שאנו מחזיקים - בין אם מדובר בסוסים עם מושכות ורתמות, חשמל בחוטי בידוד, או כל סוג אחר של מנגנון בקרה, שיש לנו השליטה היא פונקציה אנושית מולדת, ולכן יש בה כל תחושה בעולם שככל שהבינה המלאכותית מתקרבת יותר לפונקציונליות אמיתית, בני האדם מפעילים בקרות ישירות משלהם כדי לשמור על כוח זה בסימון.
עם זאת, הפחד מרובוטים אינטליגנטיים אינו הסיבה היחידה לכך שחברות מיישמות בקרות אנושיות על למידת מכונות ופרויקטים של AI. סיבה עיקרית נוספת היא הטיית מכונות - זהו הרעיון שלעיתים קרובות מערכות בינה מלאכותית מוגבלות באופן בו הם מעריכים את הנתונים המדוברים - כך שהם מגבירים את כל ההטיה הטמונה במערכת. רוב אנשי המקצוע העוסקים בלימוד מכונות יכולים לספר סיפורי אימה על מערכות IT שלא הצליחו להתייחס לקבוצות משתמשים אנושיות כאחד - בין אם זה היה שונות מגדרית או אתנית, או איזושהי כישלון אחר של המערכת להבין באמת את הניואנסים של החברות האנושיות שלנו כיצד אנו מתקשרים עם אנשים.
במובן מסוים, אנו עשויים להפעיל מערכות בקרות אנושיות מכיוון שאנו חוששים שהם עשויים להיות חזקים מדי - או לסירוגין, מכיוון שאנו חוששים שהם עלולים לא להיות מספיק חזקים. בקרות אנושיות עוזרות למקד מערכי נתונים של למידת מכונות כדי לספק דיוק רב יותר. הם עוזרים לחזק רעיונות שהמחשב פשוט לא יכול ללמוד בעצמו, גם בגלל שהמודל לא מספיק מתוחכם, מכיוון שה- AI לא התקדם די רחוק, או בגלל שיש דברים שנמצאים רק במחוז ההכרה האנושית. בינה מלאכותית היא דבר נהדר עבור כמה דברים - למשל, מערכת מבוססת תגמול וציון אפשרה לבינה מלאכותית לנצח שחקן אנושי במשחק הלוח המורכב ביותר "גו" - אך לדברים אחרים, מערכת מבוססת תמריצים זו היא לגמרי לא מספק.
על קצה המזלג, ישנן מספר סיבות משכנעות לגרום למשתמשים אנושיים להיות מעורבים ישירות באופן בו פרויקטים של בינה מלאכותית עובדים. אפילו מיטב טכנולוגיות הבינה המלאכותית יכולות לחשוב הרבה על עצמן - אך ללא מוח אנושי ביולוגי ממשי שיכול לעבד דברים כמו רגשות ומובנים חברתיים, הם פשוט לא יכולים לראות את התמונה הגדולה בצורה אנושית.
חברת למידת מכונות מיומנת יכולה לסייע באיזון זה עם שילוב של מומחים לעסקים ולנושאים ומפתחי למידת מכונות עם הכישורים לפתור בעיות עסקיות גדולות.
