לא חסרים סיפורים שבהם בני אדם נבונים סוגרים את העיניים, או הראש, למציאות ולהגיון ועושים את מה שהאלגוריתם אומר להם לעשות. הנה פריי (Hannah Fry) פותחת כתבה שלה ב-The Guardian עם סיפור כזה שבו נהג כמעט נוהג מעבר לצוק מפני שה-GPS שלו התעקש שהוא כן בדרך הנכונה. היא מביאה סיפורים נוספים, כולל דיווח על תוכנה שפעמים רבות קיצצה בקצבאות של זכאים להן, והגדילה עבור אחרים, פעמים רבות ובאפן שהתברר כאקראית, אבל בית המשפט התעקש לא להכיר בטעויות:
| The algorithm was junk. The data was riddled with errors. The calculations were so bad that the court would eventually rule its determinations unconstitutional. It had, effectively, been awarding benefits at random. And yet, when dressed up as a slick and glossy new computer programme, the algorithm brought with it an air of authority that was difficult to argue against. |
בעבר למדנו לסמך על "מומחים", גם אם מה שהגדיר את המומחיות היתה בסך הכל שלט נוצץ בדלת או אותיות לפני השם. היום אנחנו יודעים להיות ספקניים כלפי בני אדם, אבל עדיין מתקשים להטיל ספק במה שמחשב פולט, ועם ה-AI זה נעשה יותר ויותר קשה.
