ש:
מדוע מומחים אומרים כי AI "יהרוס את האותנטיות הדיגיטלית"?
ת:למידת מכונות ובינה מלאכותית משנים במהירות תעשיות רבות, ומעצבות מחדש את הדרכים בהן אנו חושבים על התקדמות טכנולוגית. אבל הם גם מעורבים דיכוטומיות ומניגודים מעניינים בנוגע לאופן שבו אנו מתייחסים למחשבים ולמכשירי הסמארטפון שלנו או לממשקים חדשים אחרים שבאים במקרה.
אחת השאלות הגדולות בנושא בינה מלאכותית היא כיצד היא תשפיע על "האותנטיות" - או כיצד אנשים מאמתים ומאשרים את המציאות הקיימת, ב"מרחב הבשרים "או בעולם הדיגיטלי. כשאתה באמת בוחן כיצד זה עובד, אתה רואה סתירה אינהרנטית בין מגבלות הטכנולוגיה שלנו לבין הדרכים בהן אנו סומכים על הטכנולוגיה העומדת לרשותנו.
אחת הדוגמאות הטובות ביותר ניתן למצוא במאמר Wired שפורסם לאחרונה ומראה כיצד אנשים עם בינה מלאכותית ומשאבי למידה במכונה מסוגלים לצלם תמונה של סוס זז ולהטמיע פסי זברה בתהליך שהמחבר מכנה "זברה".
זה מסודר וחדש, אבל זה גם יכול להוות בעיה. כשאתה רואה זברה על מסך דיגיטלי, איך אתה יודע שמדובר בזברה ולא רק סוס עם פסי זברה שמונחים עליו בחוכמה על ידי איזה אדם בעל ידע טכני?
זה אולי נראה כמו שאלה תיאורטית, אבל אותם סוגים של שאלות הולכים לחול במהרה על החדשות שאנו מקבלים בצורה דיגיטלית - מפוליטיקה וכלכלה וכלה בדת, וכל זה מסתמך על היכולת שלנו לנפות מידע, לבדוק ולבדל בין אמת לבדיה, בין מיתוס למציאות. ככל שכלי בינה מלאכותית חדשים מציעים דרכים רבות יותר לתמרן תמונה ווידאו, זה הולך להיות קשה הרבה יותר.
דוגמא מצוינת נוספת היא טכנולוגיות קול חדשות. במאמר לפני מספר שנים, סיקרנו פרויקט IT מופץ שלקח את קולם של אנשים מפורסמים ובנינו מנועי מודלים קוליים שיכולים לגרום לאנשים המפורסמים האלה לומר הכל מעבר לקבר.
שוב, זו טכנולוגיה מסודרת ומעניינת - זה נראה כמו דרך מהנה להשתמש בטכנולוגיות לעיבוד דיבור. אבל זה באמת יציג בעיה כשאנחנו מבצעים את הקפיצה מטכנולוגיית קול דיגיטלית אנלוגית ובלתי מעובדת לקול סינטטי וטרומיומי חדש. איך תדע מי מדבר איתך - בטלפון, בטלוויזיה או ממש באוזן?
באופן ספציפי, הרעיון לשנות אודיו, תמונה ווידיאו בדרכים מתוחכמות יכול להעצים את כמה מהרעיונות המוערכים ביותר שלנו כחברה. איך אנשים יסמכו על מה שהם שומעים ורואים בעולם הפוליטי? מה בנוגע לחוק - האם למאשימים בפשעים יהיו ערעורים מסוגים חדשים על בסיס שינוי ראיות?
דרך נוספת להבין כמה מהבעיות הללו היא להסתכל על כתיבת מדע בדיוני - החל מ"פרנהייט 451 "של ריי ברדבורי ועד" 1984 "של ג'ורג 'אורוול ומעבר לו, מספרי הסיפורים של גילאים קודמים הזהירו אותנו שוב ושוב שאפשר להשתמש בטכנולוגיה לשני שימושי. ומטרות בעייתיות. אחת הסיבות לכך שמומחים וראשי חברות IT רבים כל כך קוראים "לבינה מלאכותית ניתנת להסביר" ופאנלים אתיים היא שהם מבינים את הנושא - שאם לא נשלט על טכנולוגיות ביסודיות, לא נוכל לבטוח בהם באף גורם מידה. במקום לעזור לנו להשיג את המטרות שלנו, הם עלולים לפגוע בנו, בחלקם על ידי גרימת סוגים של כאוס חברתי שקיים כאשר איננו יכולים באמת להתמודד עם האמת והמציאות. עם זאת, חלק מהחדשות הטובות הן שטכנולוגיות כמו blockchain, המספקות אימות טרנזקציות, עשויות לעזור כאשר הן מיושמות על רשומות דיגיטליות.
