האם אתה יכול לסמוך על AI? האם עליכם לקבל את ממצאיו כתקפים באופן אובייקטיבי ללא עוררין? הבעיה היא שאפילו תשאול ה- AI עצמו לא יביא תשובות ברורות.
מערכות AI פעלו בדרך כלל כמו קופסה שחורה: נתונים הם קלט, ונתונים פלטים, אך התהליכים שהופכים נתונים אלה הם תעלומה. זה יוצר בעיה כפולה. האחת היא שלא ברור אילו ביצועי האלגוריתמים הם האמינים ביותר. השני הוא שהתוצאות האובייקטיביות לכאורה יכולות להיות מוטות לפי הערכים וההטיות של בני האדם שמתכנתים את המערכות. זו הסיבה שיש צורך בשקיפות בתהליכי המחשבה הווירטואליים בהם משתמשים במערכות, או "AI מוסבר."
הצו האתי הפך להיות חוקי עבור כל אחד הנתון ל- GDPR, שמשפיע לא רק על עסקים הממוקמים באיחוד האירופי אלא על כל מי שיש לו קשרים עם אנשים או ארגונים שם. הוא מכיל מספר הוראות בנושא הגנת נתונים המרחיבות על אזרחי האיחוד האירופי "הזכות שלא להיות כפופה אך ורק לקבלת החלטות אוטומטיות, למעט במצבים מסוימים" ו"זכות לספק מידע משמעותי על ההיגיון הכרוך בהחלטה. . "
