אולי קל יותר פשוט להגיד שזה קסם

סידני פוסל כותב על כיצד "הקופסה השחורה" של האלגוריתמים יוצר מצב שבו יוצרי אתגוריתם זה או אחר יכול להכחיש אחריות להטיות למיניהן שמתגלות. פוסל מביא דוגמה מאמזון שמסוגלת לסרב גישה למשלוח תוך יום לכתובות מסויימות, ולתרץ את זה לפי מרחק ממחסן, כאשר בעצם מדובר בהעדר רצון להכנס לשכונות עוני. למי שיטען שיש כאן הטייה גזעית אפשר להשיב שהאלגוריתם באמת עיוור צבעים:
Algorithms interpret potentially millions of data points, and the exact path from input to conclusion can be difficult to make plain. But the effects are clear. This is a very powerful asymmetry: Anyone can notice a change in search results, but it’s extremely difficult to prove what caused it. That gives algorithm designers immense deniability.

Algorithms Are People

להבדיל מהקופסה השחורה במטוס שמציאתו חושף את מה שבאמת אירע, הקופסה השחורה שבאלגוריתם מהווה דרך להגיד שזה "מעבר לבינה שלנו".

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *