המלצה | מה אנושי בעיניך, שאלה הרובוטית

מבחן טיורינג הוצע בשנת 1950 כתרחיש שנשמע אז כמעט כמו מדע בדיוני: ניסוי מחשבתי שבו מחשב יצליח לנהל שיחה טקסטואלית באופן שיגרום לאדם לחשוב כי הוא משוחח עם בן אנוש. האפשרות שמכונה תעמוד באתגר זה נתפסה כפנטזיה רחוקה וכתחום גבול תאורטי של הבינה המלאכותית, ולא כיעד מעשי. בשנת 2022, עם הופעתו של ChatGPT, הפך תרחיש זה למציאות יום־יומית של מיליוני משתמשים. מערכות לשוניות מבוססות מודלים גדולים מסוגלות כיום לייצר שיח קוהרנטי, רהוט ורב הקשרים, באופן המערער את ההבחנה שעליה נשען מבחן טיורינג מלכתחילה. השאלה המרכזית איננה עוד אם מחשב יכול לעבור את המבחן, אלא מה בדיוק נבחן כאשר הוא עושה זאת, ומה נותר ייחודי לאנושי בעולם שבו חיקוי לשוני חדל להיות קו גבול אמין בין אדם למכונה.

מה שנותר אנושי מול מודלים לשוניים גדולים אינו יכולת מבודדת אחת, אלא צירוף של תנאים ויחסים שחוזרים תמיד אל החוויה החיה. בני אדם חושבים ופועלים מתוך גוף שמרגיש כאב, עייפות והנאה, ומתוך זמן שיש בו זיכרון, ציפייה וסופיוּת. לדיבור אנושי יש כוונה ומשמעות משום שהוא כרוך בסיכון, באפשרות להיפגע או לפגוע ובאחריות ממשית לתוצאות. אנושיות מתקיימת גם ביחסים עם אחרים, באמון, בתלות ובהדדיות, ובהיסטוריה אישית שאינה רק מאגר מידע אלא רצף חי של חוויות. היא כוללת שיפוט ערכי שאינו נשען תמיד על כללים ברורים, יכולת לחזור אל מה שנאמר ולפרש אותו מחדש בדיעבד, ובעיקר יכולת לשאול שוב ושוב מהן הבנה, יצירתיות או תבונה. בעולם שבו מכונות מדברות ללא סבל וללא מחיר, האנושי נותר קשור לפגיעוּת ולמשמעות שנולדת דווקא ממנה.

אם מתמקדים בטקסט בלבד, אפשר לאפיין טקסט אנושי באי־יציבות פנימית: היסוס, חזרות, סתירות, קפיצות מחשבתיות וסימני מאמץ ניסוחי. הטקסט האנושי אינו שואף תמיד לאופטימליות; אומנם גם כתיבה אנושית עשויה להיות לעיתים יעילה וצפויה, כמעט אלגוריתמית, אך לרוב היא נושאת את טביעת האצבע של חוסר השלמות. לעומתו טקסט של מודל שפה נוטה להיות חלק, סגור ועקבי מדי, גם כאשר הוא מדמה אי־ודאות, ולכן אפשר למצוא הבדלים במרקם הלשוני. אפשר גם למצוא פינות שבהן המודל מתקשה צורנית, כמו יצירת פלינדרומים, ונושאית, למשל בהתחמקות מנושאים מיניים או אלימים. אולם בסופו של דבר, האם בהינתן טקסט ללא הקשר אנו יכולים לדעת אם הוא אנושי או ממוחשב? ואולי יש משהו לא הוגן בהשוואת טקסט אנושי לטקסט של מודל שפה, והשאלה המעניינת יותר, ללא השוואות, היא מהו טקסט אנושי?

שנים לפני שמודלי השפה הפכו לחלק מהיום־יום, ניסיתי לבחון את השאלה מכיוון אחר. לא דרך חיקוי של שיחה אנושית אלא דרך חקירה של האנושי עצמו. בשנת 2013 יצרתי בשיתוף עם מעין שלף וגל אשל את פרנקי – הרובוטית הדוקומנטרית, שתוכנתה לראיין בני אדם ולנהל איתם שיחות עומק על רגשותיהם במטרה "ללמוד" מהי המשמעות של להיות אנושי. זהו למעשה מבחן טיורינג הפוך, לא במובן טכני אלא במובן מושגי: לא מבחן ליכולת החיקוי של המכונה אלא מבחן ליכולת הניסוח העצמי של האדם. במבחן הקלאסי בני האדם שופטים אם למכונה יש תבונה אנושית, וכאן המכונה היא החוקרת שמנסה לפענח ולהגדיר את האנושיות שלנו דרך התשובות שאנחנו מספקים לה. פרנקי הייתה מבוססת חוקים: היא ניסתה לאתר מילות מפתח בתשובות, ואז להציג סדרת שאלות בנושאים מתאימים או להחליט לשנות נושא. היא שאלה על אהבה, בדידות, טכנולוגיה ועוד. בהיותה רובוטית, היא ניסתה להגיב במחוות "גוף" כמו הנהון כדי לשדר למרואיינים שהיא מאזינה בקשב.

רבים מהמרואיינים התקשו להגדיר מה הופך אותם לאנושיים מעבר להיותם "ביולוגיה משתנה", וחלק מהם אף הביעו חוסר אמון במכונה שמולם ("אני רואה אוסף של אפסים ואחדים") ובמכונה שהם ("בדיוק כמוני"). הקושי עצמו, הסתירות והמעברים בין הסברים ביולוגיים, מטפורות רגשיות והומור הגנתי, הפכו לחלק מן התשובה ולא לכשל בה. כשפרנקי שאלה על אהבה, התשובות נעו בין הגדרות ציניות כמו "תגובה כימית" לבין תיאורים חמים כמו "שק שינה מחבק", אך הפחד האנושי משיברון לב בלט יותר מהפחד לאהוב. נושא הבדידות חזר על עצמו בקרב מרואיינים שהודו שהם מרגישים לא שייכים רוב הזמן, ואף עלתה תאוריה שאולי אנחנו חיים בתוך סימולציית מחשב ענקית. באופן אירוני, דווקא מול הרובוטית "הקרה" חלק מהאנשים הרגישו נוח להיפתח, ואחת המרואיינות אף ציינה שהיא מחבבת את האגרסיביות של פרנקי ומוצאת בה משהו אנושי דווקא בגלל חוסר הרגישות שלה.

בסופו של דבר, האם יכול אדם להשיב בצורה לא נכונה לשאלה "מה זה להיות אנושי" אחרי המחזאי הרומי פובליוס טרנטיוס אפר, שטבע את הביטוי "אדם אני, ושום דבר אנושי אינו זר לי"? האנושיות היא קשת רבת ממדים המכילה גם את האפשרות להיות בנאליים, צפויים, ואף להיכשל במבחן טיורינג של עצמנו. בעידן הבינה המלאכותית האתגר אינו להוכיח שאנחנו מביעים יותר מהממוצע הסטטיסטי שהמכונה מייצגת. הוא נמצא ביכולת להבין שההבדל התהומי אינו טמון בטקסט, שיכול להיות זהה לחלוטין אצל אדם ואצל אלגוריתם, אלא במקור שלו. אם היום המכונה יכולה לחקות את הטירוף או את השגרה של האדם, אך רק לאדם מתקיימת האפשרות שיחיה את המחיר שלהם, מחר זה עשוי להשתנות. אולי משום כך החיבור הזה אינו מציע הגדרה לשאלה מה אנושי, אלא מבצע תנועה אנושית: השהיית ההגדרה, שינוי מיקוד והפניית המבט אל השאלה.