כנראה שמדובר בהטיה בלתי-נמנעת

אין זה סוד שחברי הקונגרס האמריקאי אינם מומחים גדולים בטכנולוגיה דיגיטלית. בגלל זה הם מתקשים להבין את ההסברים שהם מבקשים מאנשי הטכנולוגיה שמעידים מולם. אבל גם בגלל זה אותם אנשי טכנולוגיה לא צריכים להתאמץ לתת הסבר ממצה. אלקסיס מדריגל מדווח על הפגישה של מנכ"ל גוגל עם חברי הקונגרס, ומנסה להסביר למה פיצ'אי איננו רוצה למסור תשובה ברורה ומקיפה לשאלה של למה גוגל מקשרת ליותר כתבות מהעיתונות הליברלית מאשר לשמרנית:

Here’s what Pichai cannot say: The “mainstream media” are far better resourced, and their ideals of informational quality are much closer to the ones that Google’s machine rankings prefer. Mainstream media organizations have tens of thousands of skilled journalists. The organizations that Republicans compare The New York Times to are a fraction of the size, have far less training in the field, and often don’t even aspire to journalistic norms. The right-wing-media ecosystem has grown tremendously, but—with important exceptions—not through the kind of fact-based reporting that mainstream media have long valued.

Without the ability to simply lay that out, for obvious political reasons, Pichai could not realistically respond to the Republican attacks.

What Google CEO Sundar Pichai Couldn’t Explain to Congress

אם היה מספר את ה-"אמת", או לפחות להסביר את המצב האמיתי, אנשי הקונגרס הרפובליקנים היו טוענים שיש בהסבר שלו הוכחה להטיה, ואפילו להטיה מכוונת.

בידי היוצר, או בידי המתבונן?

בשנים האחרונות הוצפנו ב-"אמנות" שנוצרה על ידי אלגוריתמים. וכמו עם שחמט וגם גו, נשאלת השאלה "המותר האדם מהמחשב?". היכולת של מה שמכונה הבינה המלאכותית ליצור משהו שמעורר הערכה אסתטית על בקרב בני אדם מכריחה אותנו לשאול האם רק אנחנו מסוגלים ליצור אמנות. כתבה ב-The Verge מביאה מספר דוגמאות של אמנות אלגוריתמית שאפשר לחשוב שהוכנו על ידי בני אדם. הכתבה מצטטת אוצר של תערכוה של אמנות אלגוריתמית ששואל מה כבר מייחד את האדם:

Kalyanaraman suggests that art made with AI demonstrates that computers may deserve credit as creative actors. The type of machine learning used by White and his peers works by sifting through large amounts of data and then replicating the patterns it finds. Kalyanaraman suggests that this is similar to the process by which humans learn art, but that our “mysticism” surrounding the notion of creativity stops us from seeing the parallels. “If a machine can make humanly surprising, stylistically new kinds of art, I think it is foolish to say well it’s not really creative because it doesn’t have consciousness,” he says.

What algorithmic art can teach us about artificial intelligence

אבל כאשר אנחנו צופים בשקיעת שמש מדהימה יש לנו תגובה אסתטית, ואיננו טוענים (לפחות לא ברצינות) שהטבע הוא "אמן". האסטתיות היא משהו שאנחנו חווים, לא משהו שהיוצר בהכרח מכניס לתוך ה-"יצירה" שלו. כאשר המחשב יתחיל להגיד לנו מה מוצא חן בעיניו מבחינה אסתטית ומה לא … אז אולי נצטרך לשאול על הייחוד שלנו.

רק העריכה? אולי בקרוב גם הכתיבה!

ביאנה בוסקר, ב-The Atlantic מדווחת על סופרת אלמונית שהתחילה לכתוב על הטלפון החכם שלהם והפכה לסנסציה והיום גורפת כסף רב. נושא ה-fan fiction שהיה נקודת הזינוק של הכותבת הוא נושא מרתק, אבל ההיבט שבמיוחד מעניין בכתבה הוא הקשר ההדוק שהכותבת מקיימת עם הקוראים שלה – עד למצב שבו היא משנה את מה שהיא כותבת כדי להתאים לציפיות שלהם. מתברר, אבל שלא מדובר רק במשוב של קוראים. החברה/אפליקציה שדרכה היא כותבת מנסה לפענח את הציפיות של הקוראים באמצעים טכנולוגיים כך שתמיד יהיה אפשר להתאים לרצונות ולציפיות שלהם:

“I had feedback every day, all day,” Todd said. “I always just felt like a puppet master playing with everybody’s emotions and doing this with the characters.” Wattpad is going even further by analyzing data on its stories—including sentence structure, vocabulary, readers’ comments, and popularity—in an effort to deduce exactly what makes a book succeed. In time, it may try to automate the editing process.

The One Direction Fan-Fiction Novel That Became a Literary Sensation

וכמובן אין צורך לעצור בתהליך העריכה. נדמה שלא רחוק היום שבו האלגוריתם יידע לתוך את הספר בעצמו, מותאם באופן מדוייק לקוראים כך שאפשר להבטיח מראש שיהיה רב-מכר.

באל(גוריתם) נשים את מבטחנו

לא חסרים סיפורים שבהם בני אדם נבונים סוגרים את העיניים, או הראש, למציאות ולהגיון ועושים את מה שהאלגוריתם אומר להם לעשות. הנה פריי (Hannah Fry) פותחת כתבה שלה ב-The Guardian עם סיפור כזה שבו נהג כמעט נוהג מעבר לצוק מפני שה-GPS שלו התעקש שהוא כן בדרך הנכונה. היא מביאה סיפורים נוספים, כולל דיווח על תוכנה שפעמים רבות קיצצה בקצבאות של זכאים להן, והגדילה עבור אחרים, פעמים רבות ובאפן שהתברר כאקראית, אבל בית המשפט התעקש לא להכיר בטעויות:
The algorithm was junk. The data was riddled with errors. The calculations were so bad that the court would eventually rule its determinations unconstitutional. It had, effectively, been awarding benefits at random. And yet, when dressed up as a slick and glossy new computer programme, the algorithm brought with it an air of authority that was difficult to argue against.

We hold people with power to account. Why not algorithms?

בעבר למדנו לסמך על "מומחים", גם אם מה שהגדיר את המומחיות היתה בסך הכל שלט נוצץ בדלת או אותיות לפני השם. היום אנחנו יודעים להיות ספקניים כלפי בני אדם, אבל עדיין מתקשים להטיל ספק במה שמחשב פולט, ועם ה-AI זה נעשה יותר ויותר קשה.