האם האקרים משתמשים ב- ai לצורך כוונות זדוניות?

אנשי מקצוע מאבטחת סייבר בוחנים אינטליגנציה מלאכותית (AI) בהתלהבות ובייאוש כאחד. מצד אחד יש לו פוטנציאל להוסיף שכבות הגנה חדשות לחלוטין לנתונים ותשתיות קריטיות, אך מצד שני, הוא יכול לשמש גם כנשק רב עוצמה כדי לסכל את ההגנות הללו מבלי להשאיר עקבות.

כמו כל טכנולוגיה, גם ל- AI יש נקודות חוזק למינוף וגם חולשות שניתן לנצל. האתגר של מומחי האבטחה של ימינו הוא להקדים צעד אחד לפני הרעים, שצריך להתחיל בהבנה ברורה של איך בדיוק ניתן להשתמש ב- AI כנשק נתונים פוגע.

פריצת AI

ראשית, אומר ניקול קובי, Wired, עלינו להכיר בכך שבדיוק כמו כל סביבת נתונים, ניתן גם לפרוץ AI עצמה. בלב כל תהליך אינטליגנטי יש אלגוריתם, והאלגוריתמים מגיבים לנתונים שהם מקבלים. חוקרים כבר מראים כיצד ניתן להערים על רשתות עצביות לחשוב שתמונה של צב היא למעשה תמונה של רובה וכיצד מדבקה פשוטה על שלט עצירה יכולה לגרום למכונית אוטונומית לנסוע היישר לצומת. מניפולציה מסוג זה אינה אפשרית רק לאחר פריסת ה- AI, אלא גם כאשר היא מתאמנת, מה שעשוי לתת להאקרים את היכולת לעורר כל מיני הרס מבלי שייאלצו לגעת בתשתית של מיזם הלקוח.