אלגוריתם – על קצה ה…

כך או כך, אנחנו שבויים בידי האלגוריתם

קרן האו כותבת על הנסיונות של מהנדסים ב-YouTube לשכלל את אלגוריתם ההמלצות של האתר. המצב מוכר – ליד הסרטון שבו אנחנו צופים מופיעה רשימה של הצעות לצפייה נוספת (וגם בסיום הצפייה באיזור הסרטון עצמו). ל-YouTube אינטרס שנמשיך לצפות בעוד ועוד סרטונים, כך שאפשר להגיש לנו עוד ועוד פרסומות. חוקרים רבים טוענים שלמערכת ההמלצות נטייה להקצין ולהגיש לנו סרטנים שהם שנויים במחלוקת. רבים קוראים ל-YouTube לטפל בבעיה. וכך כנראה מנסים לעשות באמצעות מספר ניסויים. האו כותבת על הנסיונות האלו, ועל מחקר פנימי שנערך ב-YouTube והתגובות אליו:

Several experts who reviewed the paper said the changes could have perverse effects. “In our research, we have found that YouTube’s algorithms created an isolated far-right community, pushed users toward videos of children, and promoted misinformation,” Jonas Kaiser, an affiliate at the Berkman Klein Center for Internet & Society, said. “On the fringes, this change might […] foster the formation of more isolated communities than we have already seen.” Jonathan Albright, the director of the digital forensics initiative at the Tow Center for Digital Journalism, said that while “reducing position bias is a good start to slow the low-quality content feedback loop,” in theory the change could also further favor extreme content.

YouTube is experimenting with ways to make its algorithm even more addictive

צריכים להודות שיש כאן בעייתיות – יכול להיות שהורדה באחוז הסרטונים הבעייתיים שיוגשו לצופים יוביל להגשת יותר סרטונים שמשתמשים ירצו לראות. ויותר קליקים אומר יותר כסף. אישית, אינני יודע אם יש פתרון אופטימלי.

אולי קל יותר פשוט להגיד שזה קסם

סידני פוסל כותב על כיצד "הקופסה השחורה" של האלגוריתמים יוצר מצב שבו יוצרי אתגוריתם זה או אחר יכול להכחיש אחריות להטיות למיניהן שמתגלות. פוסל מביא דוגמה מאמזון שמסוגלת לסרב גישה למשלוח תוך יום לכתובות מסויימות, ולתרץ את זה לפי מרחק ממחסן, כאשר בעצם מדובר בהעדר רצון להכנס לשכונות עוני. למי שיטען שיש כאן הטייה גזעית אפשר להשיב שהאלגוריתם באמת עיוור צבעים:

Algorithms interpret potentially millions of data points, and the exact path from input to conclusion can be difficult to make plain. But the effects are clear. This is a very powerful asymmetry: Anyone can notice a change in search results, but it’s extremely difficult to prove what caused it. That gives algorithm designers immense deniability.

Algorithms Are People

להבדיל מהקופסה השחורה במטוס שמציאתו חושף את מה שבאמת אירע, הקופסה השחורה שבאלגוריתם מהווה דרך להגיד שזה "מעבר לבינה שלנו".

בשבח המגע האנושי

מערכת ההמלצות של Netflix לכאורה כבשה את השוק. באופן כמעט קסמי המנויים זוכים לעוד ועוד סרטים ש-"כדאי" להם לראות. וכמעט אין סוף לקטגוריות השונות שאליהן אפשר להתחבר. אבל מה לעשות אם באמת מבקשים חוויה קולנועית אחרת? מתברר שאין תחליף להתערבות אנושית. דיוויד סימס כותב על מערכת ההמלצות של ה-Criterion Collection:

“We’re really trying to think about this in terms of people making something for people. There is literally nothing automatic about this site. When the carousel changes, a human being changed it that morning,” Becker said.
“How do we keep this audience connected?” he continued. “With the idea that somebody is presenting and proposing these films to you in some coherent way.” Coherence is a feature that none of the massive streaming companies can claim, even as they add more and more original titles to their archives. It may be the thing that helps set Criterion apart.

A Streaming Service for Cinephiles

לא לפני הרבה שנים היללו את מערכות ההמלצה האלגוריתמיים כדרך להביא את המשרת הפרטי של העשירים אל העמך. מתברר שאניני טעם (אם עדיין יש דבר כזה) עדיין זקוקים למגע אנושי.

קל יותר לסמוך על המחשב

כבר לפני יותר מ-50 שנה ג'וזף וייצנבאום הראה לנו, דרך התוכנה שלו ELIZA שבני אדם נטייה לסמוך על מה שהמחשב אומר לנו – אפילו בעניינים אישיים. כתבה ב-Quartz שמדווחת על מחקר חדש מראה לנו שמעט מאד השתנה מאז. לפי המחקר שנערך באירופה, כרבע מהאוכלוסייה מעדיף שהחלטות של מוסדות השלטון יהיו בידי הבינה המלאכותית מאשר בידי הפוליטיקאים. לעומת זאת:

The study also found that respondents expected governments to reduce the disruption that technology might have on their lives with regulation, limits on automation, and support for people affected by job losses. This “highlights the paradox in which we live,” the authors wrote. “People are disillusioned with governments, yet at the same time ask them to tackle the societal and economic negative effects that emerging technologies might have.”

A surprising number of people trust AI to make better policy decisions than politicians

מתברר שאיננו סומכים על הפוליטיקאים, אבל בכל זאת מבקשים מהם לטפל בכמה מההשפעות השליליות של הטכנולוגיה. אולי זה הרע שבני העולמות האפשריים.

באיחור, אבל בכל זאת מבורך

ידוע שבמשך שנים פייסבוק איפשר למפרסמים לכוון פרסומות הקשורות לדיור ולמשרות עבודה לאוכלוסיות מסויימות – אנשים לבנים, למשל. בחודש מרץ דווח על החלטת בית משפט שסוף סוף שמה קץ לנוהג הזה:

Civil rights advocates have warned for years that Facebook’s ads violated anti-discrimination laws because advertisers were able to use that data to exclude African Americans, women, seniors, people with disabilities and others.
The Justice Department allowed a lawsuit to proceed last year over Facebook’s objections, arguing that the company can be held liable for ad-targeting tools that deprive people of housing offers.

Facebook agrees to overhaul targeted advertising system for job, housing and loan ads after discrimination complaints

זה איננו אומר שהנוהג באמת ייפסק, אבל לפחות ברור יותר לכולם (ולבתי המשפט) שאלגוריתמים אינם בהכרח אובייקטיביים. וטוב שהיום קשה יותר להאשים את האלגוריתם.

כנראה שמדובר בהטיה בלתי-נמנעת

אין זה סוד שחברי הקונגרס האמריקאי אינם מומחים גדולים בטכנולוגיה דיגיטלית. בגלל זה הם מתקשים להבין את ההסברים שהם מבקשים מאנשי הטכנולוגיה שמעידים מולם. אבל גם בגלל זה אותם אנשי טכנולוגיה לא צריכים להתאמץ לתת הסבר ממצה. אלקסיס מדריגל מדווח על הפגישה של מנכ"ל גוגל עם חברי הקונגרס, ומנסה להסביר למה פיצ'אי איננו רוצה למסור תשובה ברורה ומקיפה לשאלה של למה גוגל מקשרת ליותר כתבות מהעיתונות הליברלית מאשר לשמרנית:

Here’s what Pichai cannot say: The “mainstream media” are far better resourced, and their ideals of informational quality are much closer to the ones that Google’s machine rankings prefer. Mainstream media organizations have tens of thousands of skilled journalists. The organizations that Republicans compare The New York Times to are a fraction of the size, have far less training in the field, and often don’t even aspire to journalistic norms. The right-wing-media ecosystem has grown tremendously, but—with important exceptions—not through the kind of fact-based reporting that mainstream media have long valued.

Without the ability to simply lay that out, for obvious political reasons, Pichai could not realistically respond to the Republican attacks.

What Google CEO Sundar Pichai Couldn’t Explain to Congress

אם היה מספר את ה-"אמת", או לפחות להסביר את המצב האמיתי, אנשי הקונגרס הרפובליקנים היו טוענים שיש בהסבר שלו הוכחה להטיה, ואפילו להטיה מכוונת.

בידי היוצר, או בידי המתבונן?

בשנים האחרונות הוצפנו ב-"אמנות" שנוצרה על ידי אלגוריתמים. וכמו עם שחמט וגם גו, נשאלת השאלה "המותר האדם מהמחשב?". היכולת של מה שמכונה הבינה המלאכותית ליצור משהו שמעורר הערכה אסתטית על בקרב בני אדם מכריחה אותנו לשאול האם רק אנחנו מסוגלים ליצור אמנות. כתבה ב-The Verge מביאה מספר דוגמאות של אמנות אלגוריתמית שאפשר לחשוב שהוכנו על ידי בני אדם. הכתבה מצטטת אוצר של תערכוה של אמנות אלגוריתמית ששואל מה כבר מייחד את האדם:

Kalyanaraman suggests that art made with AI demonstrates that computers may deserve credit as creative actors. The type of machine learning used by White and his peers works by sifting through large amounts of data and then replicating the patterns it finds. Kalyanaraman suggests that this is similar to the process by which humans learn art, but that our “mysticism” surrounding the notion of creativity stops us from seeing the parallels. “If a machine can make humanly surprising, stylistically new kinds of art, I think it is foolish to say well it’s not really creative because it doesn’t have consciousness,” he says.

What algorithmic art can teach us about artificial intelligence

אבל כאשר אנחנו צופים בשקיעת שמש מדהימה יש לנו תגובה אסתטית, ואיננו טוענים (לפחות לא ברצינות) שהטבע הוא "אמן". האסטתיות היא משהו שאנחנו חווים, לא משהו שהיוצר בהכרח מכניס לתוך ה-"יצירה" שלו. כאשר המחשב יתחיל להגיד לנו מה מוצא חן בעיניו מבחינה אסתטית ומה לא … אז אולי נצטרך לשאול על הייחוד שלנו.

רק העריכה? אולי בקרוב גם הכתיבה!

ביאנה בוסקר, ב-The Atlantic מדווחת על סופרת אלמונית שהתחילה לכתוב על הטלפון החכם שלהם והפכה לסנסציה והיום גורפת כסף רב. נושא ה-fan fiction שהיה נקודת הזינוק של הכותבת הוא נושא מרתק, אבל ההיבט שבמיוחד מעניין בכתבה הוא הקשר ההדוק שהכותבת מקיימת עם הקוראים שלה – עד למצב שבו היא משנה את מה שהיא כותבת כדי להתאים לציפיות שלהם. מתברר, אבל שלא מדובר רק במשוב של קוראים. החברה/אפליקציה שדרכה היא כותבת מנסה לפענח את הציפיות של הקוראים באמצעים טכנולוגיים כך שתמיד יהיה אפשר להתאים לרצונות ולציפיות שלהם:

“I had feedback every day, all day,” Todd said. “I always just felt like a puppet master playing with everybody’s emotions and doing this with the characters.” Wattpad is going even further by analyzing data on its stories—including sentence structure, vocabulary, readers’ comments, and popularity—in an effort to deduce exactly what makes a book succeed. In time, it may try to automate the editing process.

The One Direction Fan-Fiction Novel That Became a Literary Sensation

וכמובן אין צורך לעצור בתהליך העריכה. נדמה שלא רחוק היום שבו האלגוריתם יידע לתוך את הספר בעצמו, מותאם באופן מדוייק לקוראים כך שאפשר להבטיח מראש שיהיה רב-מכר.

באל(גוריתם) נשים את מבטחנו

לא חסרים סיפורים שבהם בני אדם נבונים סוגרים את העיניים, או הראש, למציאות ולהגיון ועושים את מה שהאלגוריתם אומר להם לעשות. הנה פריי (Hannah Fry) פותחת כתבה שלה ב-The Guardian עם סיפור כזה שבו נהג כמעט נוהג מעבר לצוק מפני שה-GPS שלו התעקש שהוא כן בדרך הנכונה. היא מביאה סיפורים נוספים, כולל דיווח על תוכנה שפעמים רבות קיצצה בקצבאות של זכאים להן, והגדילה עבור אחרים, פעמים רבות ובאפן שהתברר כאקראית, אבל בית המשפט התעקש לא להכיר בטעויות:

The algorithm was junk. The data was riddled with errors. The calculations were so bad that the court would eventually rule its determinations unconstitutional. It had, effectively, been awarding benefits at random. And yet, when dressed up as a slick and glossy new computer programme, the algorithm brought with it an air of authority that was difficult to argue against.

We hold people with power to account. Why not algorithms?

בעבר למדנו לסמך על "מומחים", גם אם מה שהגדיר את המומחיות היתה בסך הכל שלט נוצץ בדלת או אותיות לפני השם. היום אנחנו יודעים להיות ספקניים כלפי בני אדם, אבל עדיין מתקשים להטיל ספק במה שמחשב פולט, ועם ה-AI זה נעשה יותר ויותר קשה.