האם ai יכול להיות הטיות?

לקידום הטכנולוגיה יש פוטנציאל לדמוקרטיזציה של הגישה למידע והזדמנות. עם זאת, כאשר במקרים מסוימים משתמשים בו בדרכים המחזקות את התפיסה כי בחברה שלנו אנשים מסוימים שווים יותר מאחרים.

זה מה שראינו משבע המקרים הבאים שבהם בינה מלאכותית (AI) משמשת במכוון כדי להחריג קטגוריות מסוימות או בהן היא פשוט משקפת את ההטיה המוטמעת על ידי מתכנתיה האנושיים עם השפעה מפלה.

הטיה ביוטי AI

היופי עשוי להיות בעיני המתבונן, אך כאשר אותה השקפה סובייקטיבית יכולה לתכנת AI, יש לך הטיה בתוכנית. רחל תומאס דיווחה על פרק אחד כזה בתחרות יופי של beauty.ai בשנת 2016. התוצאות הראו כי גוונים בהירים יותר דורגו אטרקטיביים יותר מאלו החשוכים.