ה-"מציאות" איננה מה שהיתה פעם

פרנקלין פואר מדווח על ההתקדמות המהירה ביישומי בינה מלאכותית שמאפשרת כבר היום לשלב את פרצופיהם של מפורסמים על הגוף של שחקני פורנו וכך ליצור סרטונים מזויפים שהם בכל זאת נראים אמיתיים ומצליחים לשכנע באמיתותם. אם חשבנו שכבר היום קשה להבחין מה אמת ומה fake news, בעתיד המאד קרוב יהיה הרבה יותר קשה. בין היתר זה יהיה מפני שאנחנו נוטים להאמין למראה עיניים:
In other words, manipulated video will ultimately destroy faith in our strongest remaining tether to the idea of common reality. As Ian Goodfellow, a scientist at Google, told MIT Technology Review, “It’s been a little bit of a fluke, historically, that we’re able to rely on videos as evidence that something really happened.”

The Era of Fake Video Begins

פואר חושש מאד, ואולי אפילו יותר מדי, מהיכולת של הכלים של מציאות מדומה לטשטש עד בלי גבול את יכולת ההבחנה הזאת, אבל אין ספק שאנחנו צועדים לקראת עידן שבו יהיה קשה להסכים על "מציאות" אובייקטיבית.

דוחסים את היסודות – ושואלים מה לא בסדר

כתבה ב-The Guardian בוחנת את הנסיונות של הדור אחרון ללמד רובוטים – בתחום רכישת השפה וביצוע מבחר פעולות. אין זה מפתיע שהמלאכה הרבה יותר קשה מאשר רבים חשבו. מתברר שמילים תלושות אינן נרכשות, ויש צורך שאלו יהיו קשורות לתקשורת משמעותית. גם זה איננו מפתיע. במסגרת הכתבה מובאות דבריה של קתי הירש-פאסק, פרופסורית בתחום התפתחות הילד, שטוענת שבדומה לתעשיית האוכל המהיר בחינוך חשבו (בטעות, כמובן) שמספיק למלא ילדים ב-"תוכן" כדי שילמדו. בהמשך יש לה הערה חשובה בנוגע למתרחש בבית הספר:
Hirsh-Pasek’s mission was to change the way we thought about learning, especially for the poorest kids. “We had this vision that it was so important to get the basics into poor kids,” she told me. “We thought we should drop recess – even though we know being physical helps kids learn, helps build better brains. And we thought we should just do reading and maths, and cut out the arts and all this superfluous stuff like social studies.

How babies learn – and why robots can’t compete

אכן, יש עדיין לא מעטים שמשוכנעים שהפסקות הין בזבוז זמן בבית הספר מפני שצריכים לנצל כל דקה בכיתה ל-"תוכן". לכן מבטלים את ההפסקות, וכאשר הילדים לא לומדים, מסיקים שזה מפני שהמורים לא טובים.

הכלים שמשלימים אותנו

אנדי קלארק נחשב אחד ממדעני הקוגניציה המובילים. רעיונותיו מצביעים על המגבלות של הבינה המלאכותית – "מוח" שאיננו מחובר לגוף ואיננו מכיר את העולם דרך הגוף. ברובד "פשוט" יותר התפיסה של קלארק גם מראים לנו שהכלים הקוגניטיביים שלנו באמת מרחיבים את היכולות שלנו:
He believes that the mind extends into the world and is regularly entangled with a whole range of devices. But this isn’t really a factual claim; clearly, you can make a case either way. No, it’s more a way of thinking about what sort of creature a human is. Clark rejects the idea that a person is complete in himself, shut in against the outside, in no need of help.

The Mind-Expanding Ideas of Andy Clark

רעיונות כאלו אינן חדשות. הם מופיעים בספרות החינוכית בצורה זאת או אחרת כבר יותר מעשרים שנה. אבל תמיד נעים לראות שאנשים שבחזית המדע מבטאים אותם.

כאשר משתמשים ברגש כנשק

רבים, אולי רבים מדי, מתייחסים לפרשה של שימוש במידע של משתמשי Facebook על ידי Cambridge Analytica. לא מעט זעם נשפך על Facebook שלכאורה בדגה בבעלי החשבונות שלא תיארו לעצמם שהמידע האישי שלהם ישרת מטרות פוליטיות – ובמיוחד מטרות פוליטיות מנוגדות לדעותיהם. אחרים מזכירים לנו שאין סיבה להיות מופתעים. איתן צוקרמן (Ethan Zuckerman) הוא אחד מאלה. הוא מציין שמדובר במצב מוכר היטב. אבל הוא גם מחדד נקודה שמצביעה על השינוי המשמעותי שרשתות חברתיות ואיסוף המידע האישי חוללו:
Tribalism, manipulation, and misinformation are well-established forces in American politics, all predating the web. But something fundamental has changed. Never before have we had the technological infrastructure to support the weaponization of emotion on a global scale.

This Is So Much Bigger Than Facebook

יכול להיות שבאמת אין חדש, אבל קנה המידה השתנה, וזה משנה את הכל.

אולי מתגמשת כאן מגמה?

דן כהן כותב שהוא מנסה לחזור לכתיבה בבלוג שלו. הוא רוצה להיות משוחרר, כמה שיותר, מהפלטפורמות כמו Facebook ו-Twitter שאמנם מעניקות מרחב להבעה עצמית, אבל משתמשות במידע של "חבריהן" למטרות שלהן. כהן כותב אחרי הפרסום על השימוש במידע אישי אצל Cambridge Analytics, וברור שהפרשה הזאת משפיעה עליו. הוא גם מודע לכך שקשה לאנשים פרטיים, בבלוגים אישיים, להתמודד מול הפלטפורמות הגדולות:
It is psychological gravity, not technical inertia, however, that is the greater force against the open web. Human beings are social animals and centralized social media like Twitter and Facebook provide a powerful sense of ambient humanity—the feeling that “others are here”—that is often missing when one writes on one’s own site. Facebook has a whole team of Ph.D.s in social psychology finding ways to increase that feeling of ambient humanity and thus increase your usage of their service.

Back to the Blog

לכאורה מזמינים אותנו להיות חלק ממפעל אנושי רחב היקף – ומשקיעים הון כדי להבטיח שנעשה זאת. רצוי לא להתפתות.

הגברת הזרות – בעזרת האוטונומיות

בדרך כלל כאשר אנחנו קוראים על חדירת מכוניות אוטונומיות לתוך הערים שלנו מספרים לנו על שיפור הבטיחות, על חסכון הזמן (נוכל לעבוד בזמן הנסיעה) ועוד. איאן בוגוסט, שעוקב אחר התהליך הזה מבקש לבחון את השינוי בקשר שלנו למכוניות. בעבר, גם אם לא היה לנו ברור כיצד הן פועלות, לפחות ידענו שכאשר מסובבים את המפתח המנוע מופעל, וכשמתחילים לנסוע אנחנו בשליטה. אבל עם מכוניות אוטונומיות זה עשוי להשתנות.
When I reported on Uber’s Tempe autonomous test fleet last November, I observed how different the cars made the city feel. Standing on a median not unlike the one Herzberg allegedly stepped off into the path of Uber’s Volvo SUV, the entire relationship between humans and automobiles seemed to shift—the very texture of urban life is altered when a person cannot look a driver in the eye to gauge their intentions, or when a two-ton machine is run by an array of sensors and computers, whose decisions are foreign to human reasoning.

Can You Sue a Robocar?

מתרחש שינוי משמעותי בקשר שלנו למכונית ולסביבה. יתכן שיהיה שיפור ברמת הבטיחות, אבל הוא יגיע במחיר של זרות, של התרחקות מהתחושה שאנחנו מבינים את העולם.

בעתיד לא תהיה, כנראה, אופציות אי-שם באמצע

הרבה כבר נכתב על צעדי המעקב הענקיים של ממשל סין. ללא ספק מדובר במשהו שהרבה מעבר לסתם "חדירה לתחום הפרט". נוצר מצב שבו הפרט מפנים שלאן שהוא פונה מישהו מסתכל עליו ובודק את מעשיו. בסופו של תהליך הפרט מפנים את המעקב ואמור להפוך לשוטר של עצמו. רנה צ'ון סוקר את התכנית בקווים כלליים ומסביר שלטווח הרחוק המטרה היא חלוקת האוכלוסייה לממושמעים או שוררים, בלי שטח אפור באמצע:
A hugely ambitious new government program called the “social credit system” aims to compile unprecedented data sets, including everything from bank-account numbers to court records to internet-search histories, for all Chinese citizens. Based on this information, each person could be assigned a numerical score, to which points might be added for good behavior like winning a community award, and deducted for bad actions like failure to pay a traffic fine. The goal of the program, as stated in government documents, is to “allow the trustworthy to roam everywhere under heaven while making it hard for the discredited to take a single step.”

China’s New Frontiers in Dystopian Tech

קשה להחליט מה בעייתי יותר – מטרות התכנית והפעלתה, או העובדה שנכון לעכשיו נדמה שאזרחי סין מיישרים קו איתה ומרצונם ה-"חופשי" משנים/מתאימים את התנהגותם.

לא על העבודה לבדה

הדגש שמערכות חינוך שמות על למידה לשם רכישת מקצוע והפרנסה די מובן. ללא ספק יש לזה מקום בכל מערכת חינוכית. ובכל זאת, הדגש הזה מגמד את כל הדגשים האחרים. נדמה שכבר מזמן נטשו את רכישת ההשכלה לשם ההשכלה, וקשה למצוא מערכות חינוך שרואה מספיק קדימה להבין שבעידן של טכנולוגיות מתקדמות שעות הפנאי הולכות ומתרבות. צו השעה הוא "הכשרה" לניצול איכותי של הפנאי. סטוארט ווטלי כותב על זה ב-Democracy Journal:
In the meantime, many people might resent the idea of more leisure for more people because they believe that everyone has a duty to contribute to society through traditional employment. But paid labor is only one part of our larger political economy, the health of which depends just as much on cultural and artistic expression, civic engagement, and the kind of social and human capital that is developed during well-spent leisure time
In a technologically “disrupted” future, work may or may not matter anymore. But leisure most certainly will.

The Future of Leisure

כבר די הרבה זמן אני טוען שהתפתחות הרובוטיקה יוצרת מצב שבו אנחנו עשויים לעבוד פחות ופחות, ואוכלוסייה שלא תדע כיצד למלא את הזמן הפנוי שנוצר תהווה בעיה חברתית רצינית. טוב לראות שגם אחרים אומרים את הזה.

הקצנה זוחלת (ולפעמים דוהרת)


זיינפ טופקי (Zeynep Tufekci) כותבת על בדיקות שהיא, וגם אחרים, ערכו ב-YouTube. אחרי חיפוש אחר סרטונים בעלי גישה די מתונה היא מצאה שמנוע ההמלצות של האתר התחיל להגיש לה סרטונים בעלי גישה יותר ויותר קיצוני. חיפוש סרטונים על צמחונות, למשל, הובילו לסרטונים על טבעונות. חיפוש סרטונים על ריצות קלות הובילו לסרטונים על מרתוני-אולטרה. וזה כמובן גם היה המצב בנוגע לנושאים פוליטיים שתמיד התפתחו מהמתון עד הקיצוני. היא כותבת:
What we are witnessing is the computational exploitation of a natural human desire: to look “behind the curtain,” to dig deeper into something that engages us. As we click and click, we are carried along by the exciting sensation of uncovering more secrets and deeper truths. YouTube leads viewers down a rabbit hole of extremism, while Google racks up the ad sales.

YouTube, the Great Radicalizer

טופקי איננה טוענת שראשי YouTube (או מנהלי חברת האם Google) קושרים קשר כדי להקצין כל דבר. היא רואה בזה תוצאה כמעט בלתי-נמנעת של תפיסה שמבקשת להמשיך לגרום לנו להקליק על עוד ועוד סרטונים כדי להגדיל את הכנסות החברה מפרסומות. גם כך, מדובר במצב מאד בעייתי.

יחי ההבדל הגדול


לאחרונה הנושא של התמכרות לטלפונים ניידים עלה שוב לכותרות. יתכן שזה בעקבות הידיעות על יותר ויותר אנשי עמק הסיליקון שמגבילים את הגישה של ילדיהם לכלים האלה. יש, בוודאי, מבחר סיבות. בגלגול העדכוני ביותר המבצע Truth About Tech מבקש לפעול בדרך דומה למסע פרסום נגד עישון אצל בני נוער לפני כעשרים שנה. אנא קמניץ מציינת שמדובר במטפורה לא מוצלחת ולא נכונה:
When it came to tobacco, the solution was simple: Quit or don’t start smoking. That’s not the case here. Phones, tablets and other devices that have caused so much concern have more in common with cars than with cigarettes; unlike tobacco, they are essential tools that can be used in a healthy way.

Your Kid’s Phone Is Not Like a Cigarette

אין עוררין על כך שיש סכנות אשר בשימוש מופרז בכלים דיגיטאליים, וללא ספק החברות הגדולות משכללים את הכלים שלהם על מנת לעודד שימוש מופרז. אבל יש גם היבטים חיוביים מאד לכלים האלה, והתעלמות מההיבטים האלה איננה מועילה לפיתוח של גישה בריאה כלפיהם.
css.php