אמן ומעצב משחקים, חבר מערכת אוטופיה דיגיטלית.
בטיול בין-ערביים על רציפי לונדון פגשתי אישה. בילינו יחד את הלילה. למחרת הסכמנו שזה לא סתם סטוץ ושנתראה שוב, כשאחזור אל לונדון ממסעותיי בלב ים. הזמן עבר, כמה סבבי שירות על ספינתי, כמה ביקורים בלונדון, כמה וכמה דייטים ונודע לי שהיא בהריון. הרווחתי מספיק כסף ורכשתי לנו בית – מקום מנוחה לעצמי שיכיל גם את אהובתי וילדי הקט. הם עברו למשכננו הצנוע ושם הם ממתינים בקוצר רוח לשובי – זמינים כל אימת שאני חוזר, פעם אחר פעם, ממסעותיי הימיים. בני תמיד מקשיב לסיפורים שלי, כשאני בוחר להקדיש לו זמן, ודרך הסיפורים, אני מעצב את דמותו לעתיד.
…
השיח הציבורי סביב רובוטים ובינה מלאכותית תמיד היה נבואי: צופה את ההגעה הגדולה שלהם, עלייתם לבמה העולמית, כקו פרשת מים שעדיין לא הגיע, אבל שייסחוף אותנו ברגע שהטכנולוגיות, השווקים והרגולציות יבשילו ויאפשרו זאת, וכמובן ישפיע דרמטית על החברה, לכשסוף סוף יגיע. בין אם זה בעתיד הרחוק או ממש מעבר לפינה, אלו שחוזים את הרובוטים וסוכנים מלאכותיים דומים, מדמיינים אותם כמשרתינו או ילדינו, שבבוא העת עלולים להתקומם נגדנו במרד עבדים או ברצח אב. בחזיונות אחרים הרובוטים הם שותפים, משתלבים בחברה האנושית, או הופכים לגופים מארחים עבור מוח ונפש אנושיים בגופם של הרובוטים, כך שהאדם ימשיך להתקיים גם אחרי שגופו לא מאפשר זאת עוד.
השיח הזה במתכונתו הפופולרית נוכח בראש ובראשונה ביצירות המדע הבדיוני, בכיכובם של רובוטים ואינטיליגנציות מלאכותיות כמו דאטה מסדרת הטלוויזיה "מסע בין כוכבים", סקיינט והטרמינייטורים מ"שליחות קטלנית" או הסוכן סמית' מ"המטריקס"; נוכחות ציבורית משמעותית נוספת מיוצגת בשורה ארוכה של נסיונות הנדסיים ספקולטיביים ומופלאים, דוגמת מחשב העל "כחול עמוק" (Deep Blue) של IBM, הרובוטים ספוט ואטלס של חברת Boston Dynamics וסופיה של Hanson Robotics.
בשנים האחרונות חזון חדש עבור מקומם החברתי והפילוסופי של רובוטים ובינה מלאכותית בחברה האנושית הולך וצובר פופולריות, חזון שמייעד אותם לתמיכה רגשית וחברות עמוקה עם בני האדם (ראו את "חייו ומותו של פארו" מאת ד"ר עמרי הרצוג).
קשה להצביע על הסיבות למגמה הזו שכן, כמו רעיונות רבים אחרים, יש לה שורשים עמוקים ועתיקי יומין בחשיבה האנושית, דוגמה אחת מני רבות היא סיפור פיגמליון וגלתיאה מהמיתולוגיה היוונית, אך יש רבות אחרות. האם החזון של רובוטים חברותיים הוא תגובה ליחסים הלעומתיים בין בני אדם ורובוטים כפי שהוצגו במדיה ובתקשורת של המאה האחרונה? או שאולי זו ההתנסות המוחשית שלנו עם בוטים ברשת ובמרחבים מקוונים, יחסים שהופכים יותר ויותר לעומתיים, בפועל? אולי ההשראה לחזון נובעת מהפיתוחים החדשניים באלגוריתמיקה של "שפה טבעית" (NLP) המעניקים לרובוטים שפה וקול יותר ויותר אנושיים? אפשרות אחרת היא שהחזון מופץ על ידי חוקרים בדיסציפלינה האקדמית העולה של אינטראקציית אדם/מחשב (HCI)? ואולי החזון בכלל לא קשור לרובוטים אלא משקף כניעה לתחושות הניכור החברתי, ניכור אנושי מבני אדם, בעידן הדיגיטלי? בין כך או כך או כך, ההתרגשות והעניין סביב האפשרות שמחשבים יספקו שירותים רגשיים לבני אדם נמצאים במגמת עלייה.
ניתן לראות זאת בניסויים טכנולוגיים חדשניים ובסיקור התקשורתי שלהם (1), שם נשאלות שאלות על האופן שבו החברה העתידית תסתגל לנוכחותם של רובוטים כנועים ומביעי-רגש, וכיצד חברות מסחריות וחוקרים יכולים לעצב רובוטים כך שיהיו אטרקטיביים יותר מבחינה רגשית, או יבצעו אף יותר עבודה רגשית עבור בני אדם. הספקנים מבקשים מאיתנו לשקול כיצד הופעתם של רובוטים בעלי כישורי-רגש עלולה לפגוע בפרנסתם ומקומם בחברה של בני אדם שמלאכתם כרוכה בעבודה רגשית, או לחלופין כיצד ידעכו כישוריהם הרגשיים של בני אדם (2) לכשיתרגלו לקבל שירותים כאלו ממכונות ומחשבים חכמים ורגישים, לכאורה.
מגמה זו זוכה ליותר ויותר ביטוי ביצירות ספקולטיביות ובמדע הבדיוני העכשווי, דוגמת הסרט "היא" (Her) (2013, במאי: ספייק ג'ונז), בו הגיבורים האנושיים מתאהבים בסמארטפון המתקדם שלהם, או "רובוט ופרנק" (Robot and Frank) (במאי: ג'ייק שרייר, 2012, שגם היה הסרט הפותח בפסטיבל הסרטים הבינלאומי אוטופיה) שבו קשיש מפתח מערכת יחסים מורכבת עם רובוט התמיכה הרגשית שלו. פרק משנת 2013 של סדרת הטלוויזיה "מראה שחורה" (Black Mirror) תאר מערכת יחסים של אישה עם תחליף בינה מלאכותית של אהובה המת; 7 שנים שידור הפרק, בשנת 2020, בוצע ניסוי המדמה זאת בחיים האמיתיים, כשיוצרי הסרט התיעודי Meeting You הפיקו תחליף אינטראקטיבי במציאות מדומה לבנה המת של אם דרום קוריאנית (3).
הם כבר כאן
לרוב המשתתפים בשיח זה יש הרבה מה להרוויח מאופיו הספקולטיבי, צופה פני עתיד, במקום להתמודד עם העבר וההווה. הסיבה הפשוטה הינה שיש פחות חיכוך בספר הבלתי מיושב, פחות גלים ב"אוקיינוס הכחול", הדמיון הפרוע אינו כפוף לחובת ההוכחה. עבור הספקנים, זו דרך למשוך תשומת לב ולעורר אמוציות באמצעות פחד מהלא נודע. עבור המצדדים זו דרך לתהילה ציבורית ו(הרבה) מימון, שלל ההבטחות העתידניות אינן נדרשות לאחריות ממשית על המציאות הקיימת. כאימרה המוכרת של השקעה בעמק הסיליקון, הדבר הגרוע ביותר שיכול לקרות למוצר טכנולוגי חדשני הוא הוא אשכרה לצאת לשוק.
אבל למרות שזה עשוי להיות רווחי להשאיר את הרובוטים הרגשיים בממלכת העיצוב הספקולטיבי, זה פשוט לא מה שקורה במציאות. רובוטים רגשיים הם כבר עכשיו חלק מהחברה והם חלק ממנה במשך עשורים רבים, הפכו למצרך תרבותי ואפילו קלישאה, הם פשוט לא נראים כפי ששלל סוכני עתיד היו רוצים שתדמיינו אותם.
האישה שפגשתי ברציפי לונדון היא דוגמא מצוינת. בחיי היומיום איני יורד ים וגם אין לי בית בלונדון, אבל במשחק המחשב Sunless Sea (שפותח על ידי Failbetter Games ויצא לראשונה ב-2015) אני חי חיים נוספים, של ימאי עם מגורים בבירה הבריטית. המשחק מלא בדמויות בדיוניות, כולן מגיבות למעשים שלי, עם אישיות ואג'נדות בדיוניות משלהן, אבל הכל בשירות הרפתקת הימאות הגדולה שלי. האג'נדה של אהובתי הבדיונית הייתה, הינה ותמיד תהיה, לנחם אותי בכל פעם שאחזור מהפלגה מסוכנת בים הפתוח.
תמיכה רגשית היא כבר כיום אחד מהשימושים הנפוצים ביותר של בינה מלאכותית, והיא הייתה כזו מזה עשורים רבים, בעיקר באמצעות הפונקציה המשחקית של NPCs, דמויות בלי שחקן (Non-Player Characters), שתוכננו כדי לאכלס מרחבים דמיוניים ודיגיטליים ולספק שירותים למבקרים האנושיים בהם. אלו הם לרוב תפקידים אשר במונחים אנושיים היינו מגדירים כעבודה רגשית, דוגמת הוראה, הדרכה, ליווי, אימון, תרפיה, אירוח, חברות ואף משפחה חלופית. אנחנו פוגשים את הפונקציה הזו במשחקי מחשב בפרט, באינטרנט בכלל, וגם בכמה וכמה צעצועים אלקטרוניים; דה-פקטו בכל מרחב, בפרט דיגיטלי, בו אנו מצפים שיגרמו לנו להרגיש טוב.
ההבנה שהפונקציה הרובוטית הזו היא בהחלט לא עתידית אלא כבר מושרשת היטב בחברה, אינה מחכה לפריצת דרך טכנולוגית וקסומה אלא כבר עוצבה ופותחה לאורך דורות של שימוש פעיל, חושפת משהו עמוק יותר על אותם רובוטים: התיאור של בינה מלאכותית תומכת-רגש כסוג של טכנולוגיה פורצת דרך הוא שקר. למעשה מדובר בסוג של בדיה ספרותית, המוגדרת לא על ידי מידת החיות שבה אלא על-ידי השירותיות שאנחנו בודים עבורה ולפיכך מצפים ממנה לספק. רובוטים אינם מוגדרים על ידי מורכבות מתמטית פנימית כלשהי או מידת הקירבה שלהם לאותה "בינה מלאכותית כללית" (AGI) הנחשקת על ידי מהנדסים חנונים, אלא ע"פ מקומם בסדר החברתי בין בני האדם בעולם, הסיפורים שאנו מספרים עליהם, התפקידים אליהם ליהקנו אותם ואשר אותם הם משחקים.
שיחה עם אלייזה
אליזה (ELIZA) באה לעולם באמצע שנות ה-60. "הפסיכיאטרית האלקטרונית" (כך כינה את התוכנה המשורר דוד אבידן בספרו המפורסם), המטפלת הממוחשבת הסמלית, הפכה מאז למיתוס תרבותי (ראו מאמרו של ערן הדס על "הבוטית ששינתה את חיי").
התסריטים הפשוטים שהריצה במעבדת המחקר של MIT הם כשמם – תסריטים, יותר סיפור ודמיון אנושי מאשר אינטואיציה או בינה מלאכותית – תסריטים וסיפורים שלא היו עוברים את מבחן טיורינג כיום – אלייזה מתוסרטת מדי מכדי להיחשב בינה מלאכותית אמיתית. ובכל זאת, חלק מהמיתוס שהתהווה סביב תוכנת השיחה הוא שהמזכירה של היוצר של אלייזה ביקשה ממנו לצאת מהחדר, כך ע"פ סיפור האגדה, כשניהלה שיחה טיפולית אינטימית עם התוכנה הממוחשבת. אלייזה לא הולידה שימוש נרחב ברובוטי שיחה כמטפלים ישירים, אבל טכניקות התגובה המתוסרטות שלה מצאו דרכן לסוכנים דיגיטליים רבים אחרים, הבולטים כיום בעיקר באינספור הצ'טבוטים שמברכים אותנו לשלום עם הגעה לדפי אינטרנט עסקיים או המעניקים מענה ראשוני כלשהו, מספקים מעט מאוד שירות פונקציונלי בפועל אך מוסיפים פנים ידידותיות יותר, לכאורה, לריקנות המרחב הדיגיטלי המסחרי (לדוגמא קצת אחרת קיראו את "ביטוח חיים", סיפורו הקצרצר של אלכס אפשטיין בגליון זה).
צורות אחרות של רובוטים רגשיים פרצו למיינסטרים עם עלייתם של משחקי מחשב מסחריים. אמנם ניסויים משחקיים מוקדמים כגון טניס לשניים (Tennis for Two, ויליאם היגינבות'אם, 1958) ומלחמת חלל! (Spacewar!, סטיב ראסל, 1962) עוצבו בתבנית של ספורט תחרותי ומשחקי קופסא, בהם שני שחקנים אנושיים מתחרים אחד בשני. אך למוצרים המסחריים שבאו בעקבותיהם, ועוצבו עבור פלטפורמות כמו מכונת הארקייד, הקונסולה הביתית והמחשב האישי, היה עניין רב בעיצוב שיאפשר הנאה של לקוח בודד ממשחק עצמאי.
כיוון שתחרות ומאבק הם מניעים מצוינים גם עבור שחקן יחיד, לוהקו סוכנים דיגיטליים במרחב המשחק לתפקידי יריבים מסוגים שונים. הסוכנים הרובוטיים הללו נוצרו לא כשותפים שווים אלא כפופים לשירותו של השחקן בן האנוש, מיועדים להנאתו. מעמד הסוכנים נקבע ע"פ הסיפור ופעמים רבות בהיררכיה ברורה מתחת לבן האדם: רוחות הרפאים של פקמן אינן תואמות את הזריזות של השחקן, הגומבות המטומטמים במשחקי סופר מריו נמעכים תחת מגפו של האינסטלטור הצורר, וגלי החפ"שים האינסופיים של דום נועדו לשחיטה. כולם פועלים לפי תסריטים הגורמים לנו להרגיש חזקים, מיומנים ובשליטה מלאה. אינספור היריבים המשחקיים הם הצורה הפופולרית ביותר של דמויות NPC עד היום, אך הפנים הרבות והמגוונות שלהם הן רק עוד ועוד סיפורים בדיוניים, מיליוני סקינים העוטפים מיליוני תחרויות למתחרה אנושי יחיד ובודד, מיליוני גרסאות של סוליטר.
מטמגוצ'י לסימס
דמויות NPC מספקות גם קשרי רעות וחברות, מהוות תחליף לחברים טובים וגם להורים, ילדים ובני משפחה אחרים, וכמובן גם חוברים אל השחקן במשחקי מסע והרפתקה כשותפים בחבורה, כמלווים ואחים לנשק. טרנד הטמגוצ'י (Tamagotchi) של אמצע שנות ה-90 הוא בין המפורסמים ביותר מסוג זה. הצעצוע/משחק שווק לילדים אך הפך לאייקון תרבותי, "חיות מחמד" דיגיטליות המוחזקות על מחזיקי מפתחות זעירים ושזקוקות לתשומת לב קבועה אבל קלה מאוד על מנת לפרוח ולשגשג, ואף עלולות "למות" אם אינן "מטופלות" כראוי – אך בלחיצת כפתור ניתן להקימן מהמתים.
הפונקציה הבסיסית הזו התפתחה ובאה לידי ביטוי בטרנדים גדולים נוספים: פרבי (Furby) הייתה בובת רובוט תגובתית שלא דרשה טיפול ולא יכלה למות, אבל פעלה לפי תסריט שגרם לה להיראות כאילו היא אט-אט לומדת לדבר אנגלית (היא נוצרה בארה"ב ועוצבה עבור השוק האמריקאי) לאחר תקופת שהייה עם בעליה; הסימס (The Sims) היא סדרת משחקי מחשב פופולרית בה השחקנים דואגים לאנשים וירטואליים: יוצרים עבורם בית וקריירה נהדרים, המבוססים באופן רופף על סגנון החיים הבורגני-משפחתי האמריקאי, עם "בית-עם-גדר-לבנה". יצורי הסימס הם ישויות רובוטיות לימינליות, באמצע הדרך בין בנות-חסות לבין ייצוג של השחקנית עצמה. אלו דמויות שהשחקנית נדרשת לדאוג להן, להגן עליהן ולתכנן את דרכן בחייהם הווירטואליים בעולם המשחק, אך הן גם מייצגות במציאות הבדיונית את השחקנית עצמה. הם נפרדים-לא-נפרדים מהשחקנים, ובכך שחקנים יכולים להרגיש גם אכפתיות אליהן וגם הזדהות איתן. הקשר המורכב והמתוחכם, בשילוב פנטזיית הניידות המעמדית במעלה הסולם החברתי-כלכלי, הפכו את הסימס למשחק המחשב הנמכר ביותר בהיסטוריה עת השקתו.
בנוסף לילדים או חוסים, דמויות NPC רבות מעניקות הנחייה וחונכות לשחקנים אנושיים. לא פעם משחקי הרפתקאות מסבירים את אופן ההתנהלות וכללי המשחק, כאשר השחקן המתחיל נמצא בנעליו של גיבור צעיר, דרך דמות ללא-שחקן (NPC) של שועל קרבות ותיק ומנוסה. במסורת משחקי תפקידים שולחניים דוגמת מבוכים ודרקונים, משחקי מחשב נוטים למקם את השחקן האנושי היחיד במסגרת של חבורת הרפתקאות, כאשר שאר החברים הם מלווים רובוטיים. בדרך כלל אף אחד מבני הלוויה הווירטואליים לא יהיה מיומן ומוכשר כמו דמותו של השחקן ובמיוחד לא במונחים של צמיחה – הסוכנות הסטטית שלהם משתקפת במערך היכולות שלהם, בעוד הסוכן האנושי הדינמי גדל במיומנות ובכוח. הם יישארו עם השחקן לכל אורך ההרפתקה או ככל שסיפור המסגרת ידרוש זאת, סיפור שבסופו של דבר נועד לאדם המשחק, והרובוטים ימלאו את תפקידם ברקע מסעו האישי של השחקן בן האנוש.
מערכות היחסים הללו נהיו יותר נפוצות ויותר עמומות עם עלייתם של משחקים מקוונים מורכבים, בהם כל שחקן יושב לבדו במרחב הפיזי שלו, ופוגש במרחב המשחק הדיגיטלי המשותף גם בני אדם וגם NPCs, כולם מיוצגים באופן דומה: אני כשחקן יכול לשתף פעולה עם קבוצה של בני לוויה אנושיים ובינות מלאכותיות, כנגד קבוצה שונה של בינות מלאכותיות, או בני אדם, או שניהם גם יחד. חברי משחק אנושיים אולי נדמים כנחשקים יותר, אבל למען האמת זה לרוב פחות משנה עבור השחקן מי או מה באמת מניע את הדמויות שעל המסך שמולו; מה שחשוב הוא תועלת משחקית וסיפורית. ללא קשר להיותן של הדמויות הדיגיטליות האחרות במשחק מופעלות ע"י בני אנוש אחרים "באמת" או יצירים מלאכותיים גרידא, אלו גם אלו משרתים פונקציות דומות עבור השחקן שבבית.
קוביות לוויה (Companion Cubes)
משחק המחשב פורטל משנת 2007 מכיל רבים מתפקידי ה-NPC שהוזכרו לעיל, מבצע סאטירה אודות תפקידן ובו בזמן עושה בהן שימוש ומשמר את תפקידן במשחק. ה-NPC הראשית במשחק מוצגת כרובוטית של ממש, בינה מלאכותית בשם GLaDOS, מערכת הפעלה תבונית שמנהלת את המעבדה בה השחקנית מוצאת את עצמה בתחילת המשחק. GLaDOS מדריכה את השחקנית בסדרה של "ניסויים" ומלמדת כיצד לשחק את המשחק, כאשר היא מדברת כפי שמדברים אל ילד או חניך. כל שורה של GLaDOS מתוסרטת מראש ובכל זאת היא מגיבה לביצועים של השחקנית, כשהגישה שלה מכוונת ישירות לאגו האנושי, מעניקה מחמאות ומטיחה עלבונות. ככל שהשחקנית מתקדמת בסיפור המשחק, GLaDOS מתגלה לא כמנטורית אלא כיריבה; לתגלית הזו יש משמעות סיפורית, אך היא נטולת משמעות מעשית במשחקיות עצמה, הדינמיקה במשחק נשארת זהה. השינוי קורה בדיוק כאשר השחקנית סיימה ללמוד את כללי המשחק, אין לה עוד צורך בהדרכה ובמקום זאת היא תהנה מעימות ותחושת התגברות על יריבה ראויה.
ה-NPCs האחרים במשחק הם שומרים (Sentries) וקוביות לוויה (Companion Cubes). השומרים הם יריבים רובוטיים שנועדו לתקוף את השחקנית. הם יקבלו את פניה בברכות מנומסות בקול ידידותי, ומייד יחלו לירות מטח חסר תועלת של כדורים; הם חסרי יכולת לחלוטין וקלים להבסה.
קוביות הלוויה לעומת זאת הן עניין אחר, קופסה גדולה עם צורת לב מצוירת בצדה. זו רק קופסה, אילמת לחלוטין, שלא עושה כלום ושום דבר, חוץ מזה שהיא מיועדת לתפקיד בת-לוויה. השחקנית לוקחת איתה קוביות לוויה, לפעמים משתמשת בהן כמשקולות לפתרון חידות בסגנון "חדרי בריחה", ומשליכה אותן כאשר הגיע הזמן להמשיך הלאה. דרך המטאפורה הבוטה שבבדיחת הגיימינג הזו, משחק המחשב פורטל מבהיר שפונקציית הליווי של הקוביה היא בדיונית לחלוטין ונועדה להרגיע את השחקנית בעוד הוא חוצה את החלל הריק והמלאכותי של המעבדה בה מתרחש המשחק. נדרשת מהשחקנית עוד קצת מחשבה בכדי לזהות שגם השומרים, הרובוטים הפטפטניים יותר במשחק, אינם שונים בפועל מהקוביות. אלו גם אלו, כולם תסריטים, כולם בדיוניים.
…
עד כה לא ניסיתי לערער על יעילותן של הבדיות הללו, בגרסת החזון הספקולטיבי או בקיומן הנוכחי. רובוטים בעלי כישורים רגשיים עשויים בהחלט להפיג מעט מהבדידות של דיירי בתי אבות, וקוביות הלוויה במשחק המחשב פורטל בהחלט הפיגה מעט מבדידותי שלי, במסע המשחקי שלי דרך האתגרים השונים במשחק. עשרות שנים של ידע עיצובי הובילו את יוצרי המשחק ללעוג בגלוי לתופעה, מבלי לאבד דבר מהאפקט הממשי שלה בעולם המשחק; חיים שלמים של משחק עם דמויות NPC גרמו לי להיות פתוח ונכון לקסמן.
ובכל זאת, אני חושד במידת היעילות של הסיפורים הבדיוניים האלו. כפי שבתקווה הובהר עד עכשיו, פחות אכפת לי מהפוטנציאל המדומיין של רובוטים ספקולטיביים ויותר מההשפעה הממשית שיש לרובוטים ממשיים על החברה הממשית, בעת הזו; ולמיטב הבנתי, בד בבד עם העלייה ההיסטורית של שלל יישומונים המציעים רעות ולוויה וחברות רובוטית, חלקם מתוארים במאמר זה, אנו רואים גם את הופעתה של "מגפת הבדידות" (4), הנחשבת בחלקים מהעולם כמשבר בריאות ציבורי.
ככל שתעשיות שלמות לומדות כיצד לנצל את הפירוד החברתי לצרכיהן, אנו צפויים לראות עוד ועוד (רו)בוטים מביעי-רגש וכנועים-רגשית בחברה, עטופים בהבטחה לרעות וחברות דיגיטליות ודאגה מלאכותית. נהיה מוכנים יותר לבואם של אלה אם ניקח אותם כמות שהם: לא עיצוב והנדסה חדשים ופלאיים אלא סיפור ישן, כזה שסופר לנו שוב ושוב במשך עשרות שנים. טוב נעשה אם נשאל מדוע אורזים שוב את אותם סיפורים ישנים, ומוכרים לנו אותם כטכנולוגיה חדשה ומעוררת השראה.
הערות שוליים ומחשבות נוספות
1 // דוגמה אחת מני רבות לכך, PBS, ג'קי סנו, 2019. ועכשיו עם רגש: רובוטים עם איניליגנציה רגשית כבר בדרך אלינו. האם אנחנו מוכנים לכך? (This time, with feeling: Robots with emotional intelligence are on the way. Are we ready for them?).
2 // Slate, כריסטין רוזן, 2016, האם אנחנו צריכים לעשות קבלנות חוץ לעבודה רגשית לרובוטים? (Should We Outsource Emotional Labor to Robots?).
3 // רויטרס, מינ-וו פארק, 2020. אם דרום-קוריאנית מקבלת איחוד סוחט דמעות במציאות מדומה עם ביתה המתה (South Korean mother given tearful VR reunion with deceased daughter).
4 // מגזין הארוורד, ג'ייקוב סוויט, 2021, מגיפת הבדידות, הפסיכולוגיה והעלויות החברתיות של הבידוד בחיי היום-יום (The Loneliness Pandemic, The psychology and social costs of isolation in everyday life).