"לטעות זה אנושי; כדי לאבד דברים באמת צריך מחשב. "ויליאם א. ווהן עשה את התצפית הזו עוד בשנת 1969. מתן שליטה למערכת אוטומטית גורמת למערכת להשתבש ולגרום נזק קשה לפני שהיא נבדקת.
אוטומציה אינה חדשה, אך היא הופכת לנפוצה בהרבה בזכות שילוב מערכות דיגיטליות ופיזיות. החלק האוטומטי בקנה מידה הוא יעילות רבה. אבל החיסרון של הסתמכות על מערכת להגדיר-ושכח-זאת היא שמישהו עלול להיכשל בהגדרתו כראוי.
עם מערכת שפשוט עוברת ללא התערבות ושום דרך לעצור את המכונות, אתה יכול להשפיע על הרס. לפיכך, טק יכול ליצור את הסיטואציה המתוארת ב"החניך של הקוסם ", כאשר מה שנראה שמקל על החיים למעשה יוצא מכלל שליטה.
