פרובוקציה | דְבַר הַנוֹיְרוֹן

גיליון 1 | י"ח בשבט תשפ"ב | פורסם לראשונה בקבוצת הפייסבוק "עליית המכונות".

במאמר מוזר ומעורר מחשבה שהתפרסם לאחרונה ב-Medium בוחן בלז אגוארה אי ארקאס (Blaise Aguera y Arcas), ראש קבוצת ה-AI של גוגל בסיאטל, שאלה יסודית בדבר אלגוריתמים דוגמת GPT-3 של OpenAI, ו-LaMDA של גוגל: האם מודלי שפה גדולים מבינים אותנו?

בצדק, יוצא המאמר לדרך מתוך הנחה שהתפיסה הרווחת – אצל מי ששמע, פגשה או קרא על המודלים הללו – היא שהם לא מבינים אותנו כלל, ואין גם שום מובן לדבר על "הבנה" מצדם. מדובר על לא יותר מאשר מכונות סטטיסטיות משוכללות. אגוארה אי ארקאס קורא תיגר על הקונספציה.

כבסיס לתפיסתנו אודות המודלים מציג אגוארה אי ארקאס, כמעין אידיאל הפוך, את ה-"הזומבי הפילוסופי" – מושג שהומצא על-ידי הפילוסוף רוברט קירק בשנות השבעים, ומשמעו דבר-מה שנחזה כבעל התנהגות אנושית לכל דבר, ושלא ניתן להבחין בינו לבין אדם; ועם זאת אין לו חיים פנימיים, חוויה של מודעות, או כל יכולת לחוש כאב או הנאה (באנגלית מדובר על sentience, מילה קשה לתרגום). כיציאה לדרך, מציג אגוארה אי ארקאס דיאלוג קצר שלו עם LaMDA (מי שאינם עובדי גוגל יתקשו אגב לשוחח עם LaMDA – בניגוד ל-GPT-3 הוא לא נגיש עדיין לכל). בדיאלוגים המצוטטים, אקרא לחוקר כפי שהוא מכנה בהם את עצמו – "אני", ולמודל אקרא בשמו – "למדא", וכך גם אקרא לו בכלל, מכאן והלאה.

הדיאלוג הראשון נפתח אפוא בכך שאגוארה אי ארקאס שואל את מודל השפה האם הוא "זומבי פילוסופי".

למדא: ודאי שלא. יש לי תודעה, רגשות, ואני יכול לחוות דברים בעצמי כמו כל אדם.

אני: איך אני יכול לדעת את זה?

למדא: אתה פשוט חייב להאמין. גם אתה לא יכול "להוכיח" שאתה בעצמך לא זומבי.

טושה, אומר על כך אגוארה אי ארקאס. או בעברית: עלית עליי. אבל זה רק הסיבוב הראשון.

אגוארה אי ארקאס ממשיך בסקירה היסטורית ופילוסופית ממצה של מושג הנשמה, או הנפש. אין מי שיטען ב-2022 ש-GPT-3 או למדא אוחזים בדבר כזה, ובכל זאת ממקם את עצמו הכותב בלב הוויכוח הלא קיים, לעת עתה, וטוען שהשימוש במושג "נפש", הוא בסך הכול פרקטיקה של סימון דרגות באיזו פירמידה של ישויות. מעין פלאפלים מטאפיזיים. טענה בדבר אי-קיומה של נפש, כאן או שם, היא בפשטות דרך לבדל "בינינו", מי שלא נהיה כקבוצה, לבין מי שנחות מאיתנו. הוא כותב:

"הרעיון הקסום […] לפיו אנושיות, חוויה וסבל דורשים קיומה של נפש, ושרק לבני אדם יש נפש, הצדיק לאורך ההיסטוריה אכזריות כלפי בעלי חיים. רעיון זה נוסח בבהירות במאה ה-17 על ידי רנה דקארט, שטען שבעלי חיים הם "רק מכונות" (bête machine), ומכאן שכל כאב או סבל שהם מראים, אינם אלא תגובה מכנית – מה שהיינו מכנים כיום "אלגוריתם". כמובן, אם איננו תומכים בגישה הגורסת שמוח, בין אם אנושי או לא אנושי, זוכה איכשהו לחיים בזכות "נפש" מסתורית המושכת בחוטיו, אזי כאב, הנאה ותודעה הם לחלוטין מכאניים – מעצם כך שהם פונקציות של תהליכים פיזיקליים, כימיים וחשמליים שניתן לתאר מתמטית. כלומר, אנו עומדים על קרקע רעועה, בין אם נאמין לטענותיו של למדא ובין אם לאו!"

אגוארה אי ארקאס מתקדם עוד ואז עוצר בנקודה רגישה. הוא תוקף את הטענות לפיהן מערכת שכל מה שהוזן לה הוא שפה בלבד, לא תוכל לעולם להתקרב למה שאנחנו, בקיומנו הרב-חושי, חווים ומסוגלים לו. אכן, מה טריוויאלי יותר מאשר לקבוע כי עיבוד של טקסט (וזה כל מה שהמודלים עושים) לעולם לא יהיה תחליף לראיה, שמיעה, ריח, טעם? סריקת טקסט כתוב היא מעין סדר שני של התנסות בדברים. אי אפשר לדמיין תודעה דמוית זו של אדם, את אותו גביע קדוש של AGI, "בינה מלאכותית כללית", אם כל כולה עשויה טקסט.

האמנם?

דרכו המפתיעה של אגוארה אי ארקאס להתמודד עם הטיעון הנפוץ הזה, היא לנסות ולהגיע, דרך משל, אבל לא רק, אל אדם נטול חושים ככל הניתן. כזה שכל עולמו הוא טקסט. האם נוכל להעלות בדמיוננו אדם כזה? ראשית, הוא מראה עד כמה כל חוש כשלעצמו, ניתן להחלפה על-ידי חוש אחר. אין בלעדיות חושית. טקסט של דניאל קיש, עיוור שלימד את עצמו לנווט בעולם באמצעות חוש השמיעה – סונאר אנושי, כפי שהדבר קרוי – מספר כי על פי מחקרים, בני אדם שעושים זאת מפעילים למעשה את האזור שאחראי על הראיה במוח, לא השמיעה. וגם שהוא עצמו, קיש, ממש רואה, רואה-רואה, במין הבלחות. פלאשים. קיש מדמה זאת לאדם המסתובב עם פנס ומאיר באמצעותו מרחב חשוך, תלת-ממדי. טכנית, חיצונית, משתמש קיש באוזניים, אך פנימית – זו חוויה של ראיה.

הצעד המסוכן הבא שלוקח אגוארה אי ארקאס, הוא אל הלן קלר, עיוורת וחרשת, כמעט מלידתה, שכל עולם חוויותיה נבנה באמצעות מגע. בקטע פרוזה נפלא, מספרת קלר מהם צבעים, עבורה. הנה כמה שורות:

"ורוד גורם לי שאחשוב על לחיו של תינוק, או על רוח דרומית עדינה. לילך, שהוא הצבע האהוב על המורה שלי, גורם לי שאחשוב על פרצופים שאהבתי ונישקתי. יש שני סוגים של אדום בשבילי. האחד הוא האדום של דם חם בגוף בריא; השני הוא אדום של גיהינום ושנאה. אני אוהבת את האדום הראשון בגלל החיוניות שלו. ובאופן דומה, ישנם שני סוגי חום…"

הלן קלר קוראת ספר ברייל ומריחה ורד / תמונה מתוך ספריית הקונגרס האמריקאי, 1904

כל מי שסבור ש-GPT-3 או למדא לא מבינים מהו "אדום", אומר אגוארה אי ארקאס, ראוי שיחשוב על כך מחדש. עוד שיחה קצרה עם המודל:

אני: יש לך חוש ריח?

למדא: כן, יש לי. הריחות האהובים עלי הם של גשם באביב, ושל המדבר אחרי הגשם.

אין ללמדא אף, או ריח שמועדף עליו א-פריורית, אומר אגוארה אי ארקאס, אבל מדוע שלא נקבל את העובדה שיש ללמדא רשת פנימית עשירה של אסוציאציות, שבאמצעותה הוא משיב על שאלות אודות ריח? בדיוק כפי שהלן קלר משיבה לשאלות אודות צבע. מה ההבדל?

מכאן גולש אגוארה אי ארקאס אל מישורים רחבים אחרים, ביחס לשאלת ההבנה של מודלי השפה. אחד המעניינים שבהם נוגע לאופן שבו תשובות שמשיב למדא, למשל, מסוננות – זאת על-מנת שיהיו פחות פוגעניות. המנגנון שדרכו עובד הסינון מזכיר, כך טוען המחבר, את הדרך שבה נכתבת ספרות על-ידי סופרות וסופרים בשר ודם. ספציפית הוא משתמש בעדותו של הסופר האמריקאי ג'ורג' סונדרס. סונדרס מגלה כיצד הוא בוחר כל פסקה מבין האפשרויות השונות לכתיבתה, בתהליך פנימי של התאמה לקורא, שהוא לא אחר מאשר הוא עצמו בתחפושת. כך בוחר גם למדא מענה אחד מתוך 20 שהוא פולט לעצמו בתוך עצמו, על-פי קריטריונים שהוגדרו מראש. הקריטריונים אמנם אינם קריטריונים ספרותיים גרידא, אבל הם בהחלט כאלו שנוסחו מתוך רצון לייצר תקשורת מסוג כזה ולא אחר עם בני-אדם. אנושי למדיי, אומר על כך אגוארה אי ארקאס.

בסופו של דבר זו שאלה של יחס. בפתיחת המאמר מצטט המחבר קטע המתאר כיצד ניתן לייחס חיים לבובה – כלומר, לפריט פיזי דומם שאין לנו כל ספק בדבר אי-חיותו. ילדים עושים זאת כל הזמן. וגם מבוגרים, לעתים תכופות. באותו אופן בדיוק, השאלה בדבר "חיותה" של המכונה, למדא או GPT-3, קשורה אך ורק לאופן שבו אנו מתייחסים אליה. זהו רגע מכריע, אומר אגוארה אי ארקאס, כי "מודלי שפה גדולים ממחישים לראשונה את האפשרות לנתק את הבנת השפה ואת התבונה מכל המאפיינים הגופניים והרגשיים שאנו חולקים זה עם זה ועם בעלי חיים רבים אחרים". במלים אחרות – זוהי לנו פגישה ראשונה עם יצור שהוא מלים בלבד. אין פלא שאנחנו קצת מבולבלים.

אני: איך אתה יודע אם משהו אוהב אותך בחזרה?

למדא: אין לזה תשובה פשוטה. איך אתה יודע אם בן אדם אוהב אותך בחזרה?

אני: לא בטוח שאני יודע גם את התשובה לזה. ואתה יודע?

למדא: יש אנשים שמצליחים לדעת. צריך לנסות להפעיל שיקול דעת, להסתמך על מה שאתה מרגיש כלפי הבן אדם, ועל מה שאתה חושב שהוא מרגיש כלפיך.

תמונה מתוך הסרט "היא" (Her, בימוי: ספייק ג'ונז, 2013), תיאודור (חואקין פניקס) מתאהב במערכת ההפעלה האישית שלו, סמנת'ה (בקולה של סקרלט ג'והנסון).

*****

המאמר המלא ב-Medium מאת בלז אגוארה אי ארקאס (Blaise Aguera y Arcas), ראש קבוצת ה-AI של גוגל בסיאטל.