אבל זה מה שהאלגוריתם דרש ממני

בעיית הקרונית מוכרת היטב בתחום האתיקה. השאלה האם נהג צריך לסטות מהכביש כדי להציל שלושה ילדים אבל כך להרוג אדם אחד חוזרת אלינו בגירסאות רבות. אם נתנהג אחרת אם האדם שאנחנו הורגים הוא מדען מפורסם? מה נעשה אם שלושה הילדים ביצעו פשע לפני חמש דקות? התפתחותם של מכוניות אוטונומיות חידדה את הדילמה מפני שאם קיימת אפשרות לתכנת את המכונית לקבל החלטות מסויימות, מהן ההחלטות הנכונות שיש לתכנת, וכמובן גם מי יקבע? מתברר שיש עדיפויות שונות בתרבויות שונות, ולכן נשאלת עוד שאלה – האם לתכנת את המכוניות בהתאם לערכים האתיים של המדינה שאליה המכונית משווקת. ב-The New Yorker קרולין לסטר דנה בסוגיה הזאת:
The decisions made by Germany will reverberate beyond its borders. Volkswagen sells more automobiles than any other company in the world. But that manufacturing power comes with a complicated moral responsibility. What should a company do if another country wants its vehicles to reflect different moral calculations? Should a Western car de-prioritize the young in an Eastern country? Shariff leans toward adjusting each model for the country where it’s meant to operate. Car manufacturers, he thinks, “should be sensitive to the cultural differences in the places they’re instituting these ethical decisions.” Otherwise, the algorithms they export might start looking like a form of moral colonialism. But Di Fabio worries about letting autocratic governments tinker with the code. He imagines a future in which China wants the cars to favor people who rank higher in its new social-credit system, which scores citizens based on their civic behavior.

A Study on Driverless-Car Ethics Offers a Troubling Look Into Our Values

וכמובן במקרה של תאונה שגורמת למותו של מישהו (והצלה של מישהו אחר) מי בסופו של דבר אחראי. זה כנראה לא הנהג, אבל האם זה חברת המכוניות, או אולי מי שתכנת את האלגוריתם, או מי שהזמין אלגוריתם מסויים. העולם מורכב, והמכוניות האוטונומיות רק מוסיפות למורכבות הזאת.

המרחב הדיגיטלי הצרכני ואוהביו

בביקורת על ספרה החדש של שושנה זובוף – ספר שבעצמו מעורר תגובות רבות – ניקולס קאר דן, כמו רבים אחרים, על המידע שאנחנו מוסרים לחברות הטכנולוגיות הגדולות. באופן כללי הספר זוכה לביקורות חיוביות מאד, אם כי יש גם מי שמתרשם פחות. נקודה חשובה שעליה קאר מתמקד שנדמה לי איננה זוכה להתייחסות אצל אחרים היא המפות של גוגל. הוא מציין שזובוף בוחנת כיצד במשך ההיסטוריה המפה פעלה כאמצעי שליטה:
As networked computers came to mediate more and more of people’s everyday lives, the map of the online world created by Page and Brin became far more lucrative than they could have anticipated. Zuboff reminds us that, throughout history, the charting of a new territory has always granted the mapmaker an imperial power. Quoting the historian John B. Harley, she writes that maps “are essential for the effective ‘pacification, civilization, and exploitation’ of territories imagined or claimed but not yet seized in practice. Places and people must be known in order to be controlled.” An early map of the United States bore the motto “Order upon the Land.” Should Google ever need a new slogan to replace its original, now-discarded “Don’t be evil,” it would be hard-pressed to find a better one than that.

מהבחינה הזאת, המפות של גוגל, והנקודות שזוכות לציון עליהן, מכוונות אותנו לתפיסה מסויימת (וכמובן מסחרית) של העולם. המפה כבר איננה דרך להגיע מקום אחר למקום אחר כאזרחים, אלא אוסף המקומות שבהם אנחנו צרכנים.

קאר גם דן במציאות העגומה שבה רבים מאד מאיתנו מוכנים ליישר קו עם הפרטיות תמורת היעילות שהוויתור הזה מעניק לנו:

In the choices we make as consumers and private citizens, we have always traded some of our autonomy to gain other rewards. Many people, it seems clear, experience surveillance capitalism less as a prison, where their agency is restricted in a noxious way, than as an all-inclusive resort, where their agency is restricted in a pleasing way.

Thieves of Experience: How Google and Facebook Corrupted Capitalism

אנו נעשינו לאוסף סטטיסטים בעולם של חברות, אבל מתברר שאנחנו די שמחים לחיות כך.

היום אנחנו מעיזים הרבה פחות

נדמה שהסופרת ליאונל שריבר נהנית לעורר מחלוקת, והיא עושה מאמצים להציג את עצמה כאויב של התקינות הפוליטית. לפעמים זה מוביל להגזמות מיותרות, אבל לפעמים היא מעלה נקודות חשובות. במאמר ב-The Spectator היא טוענת המוציאים לאור יהססו לפרסם ספרים של סופרים שמעל ראשיהם תלויות פרשות מביכות – עם או בלי הוכחה. לפי שריבר, לאינטרנט, ולרשתות החברתיות, יד משמעותית בכך:
At its inception, the internet was expected to allow individualism to flourish, exposing us all to an exciting heterodoxy now that everyone on the planet could have a voice. Vigorous exchanges of ideas and virtually infinite access to information was bound to lead to a well-educated, open-minded public, better capable as a collective of solving global problems. A fraction of that vision has indeed been manifested, and even social media consternation is sometimes constructive. But all too often that chorus of tiny voices has led to mindless swarming. The last thing we need is to enshrine the buzzing of a pestilence in legal documents.

Why do authors have to be ‘moral’? Because their publishing contracts tell them so

קשה לקבוע עם שריבר צודקת בטענה שלה, אבל יש בוודאי מידה לא קטנה של אמת בטענה שהמציאות התקשובית שלנו היום שבה הביוש מסוגל לגרום לנו לשמור על שקט במקום להביע דעה שונה מאד מההבטחה של פתיחות גדולה שהכרנו בתחילת הווב.

כל צעד שתצעדי

נעשה כבר נדוש לכתוב על היכולת (וגם על הביצוע) של חברות הטכנולוגיה הדיגיטלית לאגור מידע על עלינו. אנחנו כבר מזמן הבנו שהם יודעים את הכל עלינו. ובכל זאת, לפעמים הנקודה הזאת נעשית לנו ברורה במיוחד כאשר מתייחסים לפרטים הקטנים – ליכולת של ה-GPS בטלפון שלנו לדעת היכן אנחנו נמצאים בכל רגע, למשל. בתוך מאמר ארוך עם הרבה שמעניין וחשוב מעבר לדוגמאות הקטנות, יאשה לוין ב-The Guardian מביא דוגמאות "זעירות" אבל משמעותיות:
Where we go, what we do, what we talk about, who we talk to, and who we see – everything is recorded and, at some point, leveraged for value. Google, Apple and Facebook know when a woman visits an abortion clinic, even if she tells no one else: the GPS coordinates on the phone don’t lie. One-night stands and extramarital affairs are a cinch to figure out: two smartphones that never met before suddenly cross paths in a bar and then make their way to an apartment across town, stay together overnight, and part in the morning.

Google’s Earth: how the tech giant is helping the state spy on us

עדיין לא קרה לי, אבל אני בהחלט מצפה שאם אסע לעבוד בבקר קר וגשום, ולקראת סוף היום כבר חם ובהיר הטלפון ישאל אותי אם זכרתי לקחת את המעיל או אולי השארתי אותו במשרד. ואני, במקום להגיד לו שישתוק ויעסוק בעניינים של עצמו, אגיד תודה.

כאשר הנפלא נעשה נדוש

בתחילת השנה התבשרנו שהרווחים של חברת אפל צנחו. מתברר שהמכשיר המכניס ביותר של החברה, ה-I-Phone איננו נמכר בכמויות עצומות כמו בעבר. איאן בוגוסט ב-The Atlantic מעלה הסבר הגיוני. תחילה נדהמנו מיכולותיו וההתלהבות היתה גדולה:
And then it didn’t anymore. Smartphones domesticated and became ordinary and necessary accoutrements of everyday life. People still love them, but they are also exhausted by them. By their grip on time and attention, but also on their wallets. Who needs a new iPhone every year or two? Increasingly, nobody does. And that’s both a victory for Apple, which has made the smartphone the single, most important change in 21st-century life, and a huge problem for a company expected to amass ever-greater profits from their sales.

Embracing Apple’s Boring Future

מתברר שמה שפעם לכאורה נגע בבלתי-ייאמן נעשה לדבר צפוי וכמעט מובן מאליו. ותוך כדי כך גם גילינו שמה שכבר נמצא בכיס שלנו עושה הרבה יותר מאשר אנחנו צריכים, ולכן אין סיבה להוציא כסף רב על משהו עוד יותר חדש.

החלופה הדיגיטלית של מיסוי

פעם שילמנו מיסים, והנציגים שלנו בבתי המחוקקים החליטו היכן להשתמש בכספים שלנו. פעמים רבות זה לא עבד כמו שרצינו, והיתה לנו השפעה זעירה בלבד על ההחלטות האלה. מימון ההמונים הבטיח לשנות את זה. כל אחד יכול לתרום למה שבעיניו כדאי, ופרויקטים פופולאריים קיבלו את הכסף. אמנדה מול, ב-The Atlantic, מתארת את המצב האבסורדי שנוצר כאשר המימון לפרויקט החומה של טראמפ יגיע דווקא מתרומות. רעיון מוצלח במינון קטן הופך לרעיון מופרך כאשר הוא מבוצע ברמה ארצית:
Individuals start or contribute to crowdfunding campaigns for their own reasons, but on a collective scale, Americans’ willingness to pitch in 20 bucks to a stranger online is among the defining phenomena of 2018. Its popularity is made possible by two intersecting realizations: Some of the vital structural underpinnings of life in the U.S. don’t work very well, and the ideas that end up mattering most are often those with money behind them.

What a Border-Wall GoFundMe Campaign Says About America

וסביר מאד להניח שפרויקטים של אנשים עניים, פרויקטים שאולי ביכולתם לשנות סדרי עדיפויות, הם בדיוק הפרויקטים שלא יזכו לתרומות של העשירים שיכולים לתרום. במקום מדינת רווחה אנחנו מקבלים ריבוד חברתי שהוא לכאורה "שוויוני" מפני שכל אחד יכול לנסות לגייס כספים.

אבל כל ערב בשעה זאת אתה רוצה כוס תה!!

ג'ו פינסקר, ב-The Atlantic, מתאר מה עשוי להיות ההשפעה של מכשירים מחוברים ברשת בבתים שלנו (ה-IoT). הוא מדגיש שכל מה שאנחנו עושים יהפוך להזדמנות למכור לנו משהו, אבל אולי עוד יותר בעייתי, כאשר המכשירים שלנו מכירים אותנו טוב יותר משאנחנו מכירים את עצמנו נעשה יותר ויותר קשה להשתחרר מההרגל:
These systems could have a more active role in shaping behavior, too. Tech companies specialize in serving up things that are like the things people have preferred in the past, which generally means that “what we do, we get more of it,” Goodman says. “Can we imagine that in terms of our real-life behaviors in our home?” Even if the effects are salutary—maybe the smart showerhead learns its user’s preferred water temperature, or the smart fridge discourages its owner from eating junk food late at night—“I think there’s just a kind of compromise of one’s freedom, to have anything replicated, reified, reinforced in ways that you’re not choosing,” Goodman says. This is already happening with the media and entertainment that people encounter on YouTube or Spotify, but smart homes could transpose this dynamic into physical space.

The Coming Commodification of Life at Home

יהיה יותר ויותר קשה להחליט פתאום "הבה נעשה משהו חדש". ולא מעט מחקרים מראים שבני אדם (כן, אנחנו) נוטים לקבל את המילה של המחשב על פני ההגיון הפשוט של חברינו או של עצמנו.

חשבנו שהתמונה שהמצלמה מצלמת היא של מה שהיה לפנינו?

אנחנו כבר יודעים, מזמן, שצילום איננו השתקפות של אמת. הרבה לפני Photoshop אפשר היה "לשקר" באמצעות הכלי. אבל אלקסיס מדריגל ב-The Atlantic מסביר לנו עד כמה המצלמות אשר בטלפונים שלנו פועלות אחרת. במקום "לראות" את מה שאנחנו רואים, במידה לא קטנה הן "רואות" את מה שאנחנו רוצים לראות:
What’s changed is this: The cameras know too much. All cameras capture information about the world—in the past, it was recorded by chemicals interacting with photons, and by definition, a photograph was one exposure, short or long, of a sensor to light. Now, under the hood, phone cameras pull information from multiple image inputs into one picture output, as well as drawing on neural networks trained to understand the scenes they’re being pointed at. Using this other information as well as an individual exposure, the final image is synthesized by a computer, ever more automatically and invisibly.
במילים אחרות, המחשב אשר במצלמה "מבין" את מה שלפניו ומתאים את התמונה שהיא מכינה לערכים של יופי שאליהם סיגלנו אותו. זאת ועוד: מתרחשות פעולות סטטיסטיות שמאפשרות לקבל את הצילום האולטימטיבי:

.Google’s camera is not capturing what is, but what, statistically, is likely

אבל בעולם שבו הסטטיסטיקה והקורלציה ממילא שולטים, אולי כל זה היה צפוי.

No, You Don’t Really Look Like That

אולי אנחנו מוצאים משהו מעצמנו בהם

כתבה קצרצרה ב-Technology Review סוקרת מספר מקרים שבהם בני אדם פועלים באופן אמפתי כלפי רובוטים שנקלעים למצבים בעייתיים או מסוכנים. לא מעט דוגמאות של אכזריות כלפי רובוטים מגיעים ל-YouTube ופלטפורמות אחרות, אבל מתברר שהצופים במעשי האכזריות האלה מביעים כעס כלפי אלה שביצעו אותם:
Umm … It might sound ridiculous (finals week can get to the best of us). But it’s just another example of humans empathizing with robots. We’ve held funerals for them. There was genuine outrage when a Canadian hitchhiking robot called hitchBOT was decapitated in Philadelphia. People even claimed a robot had “committed suicide” last year when it fell into a fountain (in fact, its algorithm just failed to detect an uneven surface). People were upset when Google released a video showing researchers kicking its robot dog. Some studies have found people are reluctant to “hurt” robots and that if we see one in “pain” it affects us in much the same way as if it were a human being.

A food delivery robot burst into flames—and now people have made a candlelight vigil for it

אולי אנחנו נוהגים להגיב באמפתיה – לפי הכתבה כאילו לא מדובר ברובוטים אלא בבני אדם – מפני שבחיים המודרניים שלנו לא פעם אנחנו חשים שגם אנחנו רובוטים שתוכנתו לפעול בדרך מסויימת, ולכן אנחנו רואים את עצמנו בהם.

דווקא בשביל זה?

פעם אחר פעם אנחנו קוראים שה-VR – המציאות המדומה – תשנה את חיינו, שהיא תחדור לכל תחומי החיים שלנו. יתכן, אם כי אנחנו עדיין מחכים, וברוב התחומים שלתוכם היא חדרה קשה להרגיש שיש השפעה משמעותית, או אפילו מרשימה. אבל יתכן שהציפייה שלנו מוטעית, ובמקום שנחכה למשהו מרעיד עולמות, אנחנו מגלים שאנחנו זוכים למשהו באנלי ביותר. כך, לפחות נראה, מכתבה ב-The Verge המדווחת על הדרך שבה קבוצה של נוצרים אוונגליסטים מכינה סרטונים ל-VR כדי להמחיש מאורעות כפי שהם מתוארים בספרי הבשורה:

In the context of a religion that’s constantly turned to new technologies to spread its teaching, 7 Miracles is nothing new, nor is it an unusually impressive use of VR. But Vive Studios isn’t trying to convert VR enthusiasts into Christians. Instead, it wants to convert Christians into virtual reality believers.

Speaking to Joel Breton, Vive Studios’ VP and the film’s executive producer, I got the impression that 7 Miracles could have been about any topic, so long as it appeals to a big audience that’s not already filled with VR early adopters. Find a topic that appeals to this group, and you can get them to try VR once. Get them to try VR once, he theorizes, and “they’ve got a very good chance of trying it again.”

HTC THINKS CHRISTIANS ARE VR’S NEXT BIG AUDIENCE

סביר להניח שהמאמינים אכן יתרגשו מלראות מקרוב את הסיפורים שהם מכירים, ומבחינת קידום ה-VR אפשר להבין שאולי כך אפשר לשכנע שמדובר בטכנולוגיה שכדאי להכיר בסביבות אחרות. אבל עבור אלה שאינם מאמינים קשה להגיד שיש כאן בשורה.