צלילת עומק | רובוטים לא יחליפו אותנו!

כולנו נמות. לפני-כן, הרבה מאיתנו נחווה בחיינו עקומת פעמון של יכולת ההשפעה שלנו על העולם. נולדנו, תמכו בנו, גידלו אותנו. פיתחנו עצמאות, התחלנו להבין את יסודות העולם שסביבנו, למדנו מקצועות וכישורים. התמקצענו, התבססנו, התנוונו, ודור חדש יגדל עם כישורים מותאמים יותר לעולם החדש, בעוד שאנחנו אט-אט נאבד את היכולות שלנו.

ההבנה הזו הייתה המקור לחרדות רבות סביב הגעתו של "דור חדש". לדוגמא, ב"טוטם וטאבו" (1913) מזהה פרויד את המיתוס הנפוץ של הרג האב. בעוד שפרויד רואה את האגרסיה של ילד נגד הורה, ראוי לשים לב שגם במיתוס של אדיפוס, המגורש מהעיר בינקותו על ידי אביו, וגם במיתוס של כרונוס, אבי האלים שמנסה לאכול את ילדיו, המאבק מתחיל באלימות האב כנגד ילדו.

סטורן (כרונוס) טורף את אחד מבניו (Saturn Devouring His Son), מאת הצייר הספרדי פרנסיסקו דה גויה, ציור קיר שבוצע בביתו בטווח התאריכים 1819-1823

בעת החדשה המיתוס של אלימות האב נגד הילד דעך לטובת סיפורים אודות הגולם שקם על יוצרו. החל מסיפור הרובוטים המקורי כמובן, המחזה "הרובוטים האוניברסליים של רוסום" (קארל צ'אפק, 1921) (עוד על כך ב"מה זה רובוט?" – מאמרו של אורי אביב), "הגולם" של בשביס-זינגר (1969), Player Piano, ספרו הראשון של קורט וונגוט (1952) ובמובנים רחבים יותר, הסרט "ירח" (Moon) מאת דנקן ג׳ונס (2009), יצירות ספקולטיביות רבות עסקו בחשש פן עבודתנו הקשה היא-היא שיוצרת את התנאים להחלפתנו המוחלטת.

הרובוט הוא אובייקט הייצוג האידיאלי עבור פחד זה כיוון שהוא מוגדר, לפחות באסוציאציה המיידית ביותר שלנו, כמכונה המסוגלת לבצע מגוון רחב של פעולות שאדם מסוגל ומיועד לעשות. מכונות שמחליפות כוח אדם אנושי בעבודה ספציפית אינן דבר חדש, וודאי שלא כזו שהוכרה בתקופתה כקשה במיוחד, מסוכנת במיוחד, משעממת במיוחד או כזו שיעילות מרבית בה תוביל להכנסות גבוהות במיוחד או חיסכון עצום בהוצאות, אחרי הכל: טחנות רוח השתלבו ואף החליפו את עבודתם של הטוחנים, מנועי קיטור מסוגים שונים החליפו ידיים עובדות במפעל, כספומטים החליפו פקידי בנק ומחשב היה תפקיד של בן אנוש (לרוב, אשה) בפירמות ראיית חשבון, סוכנויות ביטוח שלא לומר מעבדות ומכוני מחקר ופיתוח, רק עד לפני כמה עשרות שנים.

מחשב(ת) אנושי(ת) בפעילות לצד מכונת חישוב ומיקרוסקופ, 1954, מטעם ארגון NACA (National Advisory Committee for Aeronautics, וועדת הייעוץ הלאומית לאווירונאוטיקה, אחד הארגונים שקדמו להקמת סוכנות החלל NASA).

בעוד שכל אחד מהשינויים האלו הביא חששות מוצדקים, ובסופו של דבר תהפוכות פוליטיות וכלכליות, לצרכינו במאמר זה התכונה המבחינה אותן מהעיסוק הנוכחי ברובוטים היא שכל המכונות הללו אינן מערערות על היחס בין אמצעי הייצור לבין הפועל. פקיד בבנק אולי יפוטר בגלל שהכספומט ממלא כעת את תפקידו, אבל הכספומט לא יגדל את ילדיו, יתנה אהבים בזוגתו, ילבש את בגדיו, יאכל עם משפחתו או ילך במקומו למשחק הבייסבול או למפגש אגודת הידידים של האופרה.

תכלית

הגבול שאותו מכונות באשר הן אינן חוצות, אך הרובוטים מצפצפים עליו, הוא אם כך טלאולוגי, מעוגן בתכלית. תכליתו של הרובוט כפי שנוצר, כפי שהיא מקובלת בחברה, ועוד כשתכליתו קשורה בהחלפת האדם (בעבודה או תפקיד ספציפיים), שהרי היא קשורה בתכליתו של האדם עצמו.

אנחנו חוששים שמא אנו יוצרים מכונה שתשלול מאיתנו סוכנות, תחליט במקומנו על תכלית העולם; לא רק כיצד ראוי ונכון ואופטימלי לבצע את עבודתנו, להוציא אל הפועל את משלח ידנו, שזו הרי תרומתנו לקהילה ומקומנו בחברה, אלא אולי, חלילה, יהיו לרובוט תועלות אחרות ותכלית נוספת, נאמר בנוגע לעונה הבאה של קבוצת הבייסבול או האופרה, או לגבי גידול ילדינו.

אקס מאכינה (Ex Machina) בימוי: אלכס גרלנד, 2015

החשש ב"אקס מאכינה" (Ex Machina, בימוי: אלכס גרלנד, 2015) הוא שרובוטיות מין תחלטנה שהן מעוניינות בשחרור מאדוניהן; החשש ב"בלייד ראנר" (Blade Runner, בימוי: רידלי סקוט, 1982) וגם ב"האם אנדרואידים חולמים על כבשים חשמליות" (Do Androids Dream of Electric Sheep, ספרו המפורסם של פיליק ק. דיק מ-1968 עליו מבוססת יצירת המופת הקולנועית) הוא שהרובוטים (אנדרואידים במקרה דנן) יחליטו שהם רוצים לחיות מעבר לתפקידם השימושי ויידרשו להחליט בעצמם אילו חוויות לחוות ולחיות; החשש בסרט "ירח" הוא שהרובוטים (אם לדייק, שיבוטים) ימלאו את כל התפקידים שלנו, בזמן שאנו מתים ואיננו עוד. לא ימלאו רק את תפקידנו בהפעלת המכונות במפעל, אלא תפקידנו כהורים, מאהבים, חברים ואולי גם שחקני בייסבול חובבים או תפקידנו באגודת הידידים של האופרה. מכאן החשש שמציג וונגוט ב"Player Piano" כי אחרי שהרובוטים יחליפו את כל העובדים-כולם לא יהיה כלל מי שיחליט מהי בעצם מטרתה של החברה האנושית.

ירח (Moon), 2009, בימוי: דאנקן ג'ונס, סרט הנעילה לפסטיבל סרטי המד"ב, אוטופיה 2009

מאיפה מגיע החשש הטלאולוגי הזה, חרדת המשמעות ותפישת המשמעות? רובוטים, בדומה לכל מוצר מלאכותי אחר, מיוצרים עם משמעות, תכלית, טלאולוגיה, חיצונית. ז'אן פול סרטר השתמש בהבחנה הבאה בכדי להסביר את הטלאולוגיה המיוחדת שהוא מייחס לבני אדם: "קיום קודם למהות". סרטר טוען לדוגמא שהסכין נוצרה על בסיס תבנית שתוכננה למטרה מסוימת. לכן לסכין יש מהות הקודמת לקיום. חשבו על מהות הסכין, למשל לחתוך קרטון, או סטייק, או לפצוע ולהרוג חיילי אויב, ועל פי המהות המיועדת, יצרו את החפץ. האדם, לפי סרטר, לא נוצר לפי תבנית כזו, ולכן רק הוא עצמו יכול לקבוע את מהותו. הרובוט, בניגוד לאדם, תוכנן לפי מהות חיצונית, למה שמהותו, הטלאולוגיה שלו, תהיה שונה?

התשובה הנאיבית היא טכנולוגית. מה אם הטכנולוגיה פשוט כל כך מורכבת, והיא יוצרת תודעה כל כך מורכבת, שזו תהיה מסוגלת לכפור בייעוד שניתן לה. בעוד שהאפשרות הזו קיימת טכנית, סיפורי המדע הבדיוני הטכנולוגיים שחוקרים אותה ברצינות נוטים לענות שתחת תנאים כאלה, ההבדל בין בני אדם לרובוטים מאבד ממשמעותו. רובוטים אולי יהיו יצור שונה פיזיולוגית מבני האדם, אבל הם אינם נפרדים בזכויותיהם, וודאי שבשוויון, זה לצד זה. כך למשל "האם אנדרואידים חולמים על כבשים חשמליות" קורא תיגר על האובססיה האנושית להבחין בין "מלאכותי" לבין "טבעי" והסרט "אקס מאכינה" מזמין אותנו להרגיש אמפתיה לא עם בני האדם המנצלים אלא עם הרובוטיות, המנוצלות.

תשובה מורכבת יותר נמצא כשנעמיק בשאלת הפחד הקדמון של הורה מילדיו. אחד המאפיינים של פחד זה הוא נטייתו שלא להתגשם כקונפליקט אמיתי. מערכות היחסים בין הורים לילדים הן כמובן מורכבות מאוד, אבל נדמה שבמקרה הנפוץ הורים וילדים רואים אחד את השני אמנם כחלקים נפרדים אך ביחידה אחת בעלת אינטרסים משותפים, לאורך עיקר חייהם. העובדה הזו מהותית לקיום האנושי וכרוכה לחלוטין בתפיסה הפוליטית שלנו עד כדי שאחד הטקסטים הראשונים שהצדיק את זכות השלטון של מלכים, "פטריארכה: על זכותם הטבעית של המלכים" (1680, סר רוברט פילמר, Robert Filmer) טען שהזכות לשלטון מגיעה ישירות מאדם וחווה, ועברה בירושה (דרך האבות ולא האמהות, לטענתו), עד שהגיעה לשלטונות המלוכה של ימיו.

פטריארכה: על זכותם הטבעית של המלכים (Patriarcha, or The Natural Power of Kings) (1680, סר רוברט פילמר, Robert Filmer)

אם-כך, למרות שהמיתוסים שלנו מזהים קונפליקט בין הורה לילד, מנגנונים חברתיים כמו ירושה, חינוך, תא משפחתי, דואגים לסדר זאת כך שאינטרס הילד יתיישב עם אינטרס ההורה. הסדר זה מהותי לקיום החברתי האנושי והוא בין אלו המדרבנים את המשך הילודה לדור הבא כיוון שאיש לא היה בוחר להביא ילדים לעולם אם היה מאמין שאלו עלולים לחתור תחתיו, כפי שחשש ליוס, מלך תבי, מבנו אדיפוס. מעניין לזכור שאדיפוס הורג את אביו בשגגה דווקא בגלל שלא הכיר מלכתחילה את אביו, כלומר ליוס "נענש" בסיפור דווקא בגלל שהוא לא מקיים את חובותיו לתא המשפחתי.

רצח ליוס על ידי אדיפוס (The Murder of Laius by Oedipus), מאת הצייר הצרפתי ג'וסף בלאן, 1867

חרדת המשמעות שאנו חשים מפני הרובוטים מבוססת בין השאר על החשש מעימות פוטנציאלי, אותו עימות שלרוב אינו ממומש בין הורים וצאצאיהם, אך קיים גם קיים כחשש וחרדה הנוכחים תמידית ומעיבים על יחסינו, עם הרובוטים. מה הם אם כן המנגנונים החברתיים שעלולים לייצר עימות, עלולים להוביל לכך שמהותם של הרובוטים תהיה לעומתית, לא נהיה יחידה ("משפחתית") אחת בעלת אינטרסים משותפים אלא תכליתם תהיה מנוגדת לשלנו. אציע שתי אפשרויות אך כמובן שקיימים הסברים אפשריים רבים נוספים:

פתרוניזם (Solutionism)

בספרו "To Save Everything, Click Here" (פורסם ב-2013) מציג העיתונאי וחוקר הרשת יבגני מורוזוב (Evgeny Morozov) תפישה בשם Solutionism, הרעיון שכל בעיה ניתנת לפתרון טכנולוגי. חלק מהבעיה שתפישה זו מהדהדת היא נטייתו של הציבור הרחב, בוודאי לפני עשור ומעלה, לקבל עם מעט מאוד ביקורת והתנגדות פתרונות טכנולוגיים חדשניים לבעיות קשות ומהותיות, או לפחות כך הן מוצגות. הציבור לא היה ממש מודע לקיומן של רוב הבעיות האמורות או לצורך האקוטי בפתרונן, אבל הוא שמח ומרוצה על כך שהיו וכעת אינן, ומקבל עם אפס ביקורת והתנגדות את השינויים החברתיים המוצגים כרצויים ומבורכים, המלווים לרוב את פתרון הבעיות, שכאמור, כלל לא היה מודע להיותן בעיות.

כשאנחנו בוחנים את השיווק של מוצרים המציגים עצמם כעתידניים, כמו המכונית האוטונומית או טרנד המטא-וורס העכשווי, הם מוצגים לנו דרך היכולת לפתרון בעיות חברתיות אדירות: המטא-וורס (של פייסבוק/מטא, למשל) יאפשר לנו להתחבר ולתקשר אחד עם השני טוב יותר מאי-פעם, המכוניות האוטונומיות (של טסלה, אולי) יהיו הסוף לתאונות הדרכים, לעמידה בפקקים וחשוב מכל – לצורך בחיפוש המייאש והאינסופי אחר חניה, כל אחד יוכל להשתמש במכונית בדיוק כשהוא זקוק לה, ולא שניה מעבר לכך (1) (2).

כיוון שאנו חיים בחברה בה תהליכים כאלה כבר התרחשו, פתרונות כאלו כבר יושמו, ובפרט עברנו כמה סבבים של חזון והתפכחות בעשורים האחרונים, סיגלנו בכל זאת מידה של חשדנות טבעית כיוון שאנו יודעים שהפתרונות האלה, כשהם הופכים לחלק בלתי נפרד מחיינו, מתגלים פעמים רבות כבעלי תכלית העוינת לנו. כשהתחלנו להשתמש בפייסבוק, חשבנו שנוכל לשמור על קשר ולהתעדכן בחייהם של חברים. אף אחד לא הציג את האפשרות שחברה כמו קיימברידג׳ אנליטיקה תאסוף נתונים אודותינו ותבצע בנו מניפולציות שיווקיות ופוליטיות בדיוק מופתי, מפחיד ומכעיס (3). כשהתחלנו להשתמש ביוטיוב חשבנו שנראה סרטונים קצרים שמעניינים אותנו. אף אחד לא העלה על הדעת שהאלגוריתם יפענח את הנישה הפוליטית המדויקת שלנו ויגיש לנו עוד ועוד סרטונים בעלי אופי יותר ויותר קיצוני ומקצין (4). כשרובוט משווק לנו כפתרון לבעיה אנחנו מיד חשדניים, אנו חוששים שמאחורי ההסבר המיידי לקיום שלו, מאחורי הפתרון הנוח, עלול להסתתר מניע אחר.

מתוך סדרת האנימציה פיוצ'רמה (Futurama)

בעלות

אם העולם יתמלא ברובוטים שמבצעים את כל העבודות שלנו, למי תהיה הזכות ליהנות מפירות העבודה? זהו מצב שאנחנו לא צריכים לדמיין כיוון שהוא מתרחש באופן מעגלי כבר מאות שנים. האנרכיסט הרוסי פיוטר קרופוטקין (Peter Kropotkin) כתב בספר "כיבוש הלחם" (1892) על האופן שבו כל ההישגים הטכנולוגיים של יזם, מנכ"ל או בעל הון ספציפי, מתגמדים אל מול ההישגים הטכנולוגים שהאנושות העמידה לפניהם ושהיו הכרחיים עבור הצלחתם-הם.

אילון מאסק (Elon Musk), בהשוואה להיסטוריה של התפתחות הטכנולוגיה, התרומה הטכנולוגית של כל יזם ומשקיע היא כמעט אפסית.

המהפכה התעשייתית בת מאות שנים. כמעט כל מי שהשתתף בה, וחידש והגביר וייעל את אפשרויות הייצור שלנו, מת מזמן. אבל המפעלים שמילאו את העולם והכפילו באלפי אחוזים את כמויות הייצור האפשריות אינם משרתים באופן שוויוני את כל בני האדם שעל כדור הארץ. הבעלות מתחלקת לפי כללים שנראים שרירותיים לחלוטין, בפרספקטיבה היסטורית רחבה מספיק. אלו תנאי החברה אליה אנחנו חוששים להכניס רובוטים, ובמידה רבה של צדק.

רובוטים שיוצרו על ידי תאגידים בכמויות שיאפשרו להחליף את כח העבודה כנראה יהיו בבעלות פרטית של בעלי הון. כל מי שידו אינה משגת לקנות ולהפעיל רובוט (או כפי שמסתמן, כמות מספקת של רובוטים), יישאר מאחור ויאבד כל יכולת להיאבק על מקומו בחברה. בעיה זו נחזתה ב-1970 על ידי הפילוסופית חנה ארנדט בספרה "על האלימות" (On Violence) בו היא מסבירה שלא ניתן באמת לדכא חברה רק על ידי אלימות, כיוון שהאלימות הדכאנית חייבת להחזיק בהצדקה מסוימת, אחרת האנשים הנדרשים להפעיל את אלימות הדיכוי (שוטרים, חיילים), יסרבו להפעיל אותה. הסייג שהיא מעלה לטיעון זה הוא בדיוק האפשרות שצבא רובוטים יגרום לכך שמיעוט קטן יחזיק במונופול על אלימות ולא יזדקק לשום הצדקה, כיוון שיוכל לצאת למלחמה במידת הצורך. אם רובוטים יהיו בליבה של מהפכה תעשייתית נוספת, הגיוני מאוד לחשוש שחלוקת התוצרים והכח תהיה אף יותר ריכוזית מקודמותיה.

האם המסקנה האפשרית היחידה היא חשש מוחלט מפני כל קידמה טכנולוגית? אנו באוטופיה סבורים שלא. בדיוק כפי שהורים מסוגלים לחיות בשלום ובאהבה ובקשרים חיוביים של שיתוף ועזרה עם ילדיהם, בני האדם מסוגלים להביא רובוטים אל עולם שמוכן עבורם ומאפשר חיים של הדדיות וצמיחה שישרתו את כל הקשורים בדבר. על מנת שזה יקרה, נצטרך להבין שהצעד הכי חשוב לקראת אוטופיה ממוכנת המבוססת על עבודת רובוטים הוא כלל אינו טכנולוגי, אלא ארגון צודק יותר של החברה האנושית.

זהירות! רובוטים בהמשך הדרך!