פרובוקציה | תגובה למכתב הקפאת AI – מכתב פנטסטי במיוחד

במרץ 2023 התפרסם מכתב גלוי של עשרות אלפי מדענים ואנשי טכנולוגיה, שקראו כולם לעצור את כל המחקרים מסביב לעולם שמטרתם לקדם את פיתוח הבינה המלאכותית בכל צורה שהיא. במכתב הציגו אנשי המדע והטכנולוגיה את טיעוניהם נגד הפיתוח של מערכות AI, כמו Chat-GPT, Dall-E ואחרות. בתגובה, החלטנו במערכת אוטופיה להציג גם אנחנו את טיעונינו, בשם המילה הכתובה, הכלכלה, הרגולציה והיצירתיות האנושית. והפעם: היצירתיות האנושית

על המכתב הפתוח לעצירת הניסויים ב-AI חתומים, נכון לרגע זה [דצמבר 2023 – א"א], שלושים ושלושה אלף, שבע מאות ותשע שמות. את השם שלי לא תמצאו שם, למרות שהתלבטתי, בימים הראשונים, באמת, אם לצרף אותו אליו. אני צנוע מאוד: הקול שלי הוא כנראה לא מה שהיה מכריע את הכף, אבל לרגע הייתה תחושה באוויר שזה הדבר הנכון לעשות, עבור כל מי שיש לו זיקה כלשהי לתחום. כמו להוסיף לייק לפוסט הכי "מדויק". וזה לא סתם "כולם" – על המכתב חתומים, בין השאר, יהושע בנג'יו, מהגדולים שבחוקרי הבינה המלאכותית, סטיב ווזניאק, ממייסדי אפל, ועוד שורה של דמויות מרכזיות בתחום, כמו סטיוארט ראסל, אנדרו יאנג ועימאד מוסטקאי. אפילו כמה סלבז עם שמות קצת יותר מוכרים, כמו אילון מאסק ופרופ' יובל נח הררי.

Future of Life Institute, Pause Giant AI Experiments: An Open Letter

אז למה אני לא שם? קודם כל, לא רק אני לא בחרתי להתבדל מהטרנד. באופן מפתיע ממש, אליעזר יודקובסקי, אחד הקולות הכי עקביים ודומיננטיים שתומך בהפסקה המוחלטת של פיתוח ה-AI – לא חתום עליו; וכמוהו נעדרים עוד כמה דמויות מרכזיות במאבק הזה, שעוסקות ללא הרף באזהרה מפני הסיכונים שעלולה להביא איתה הבינה המלאכותית.

אבל זו לא חובה להיות דווקא בצד רואה השחורות של יודקובסקי כדי להרגיש שהמכתב הזה אולי אומר המון דברים נכונים על הנייר, אבל במובן מסוים – הוא מתקיים רק על אותו נייר. כמו בעולם דמיוני. לגמרי. תיבת תהודה. למעשה, לא רק שרבים מהחתומים עליו המשיכו לקחת חלק, במלוא הכוח, בפיתוח של מודלים של AI, אלא אפילו יזמו בעצמם פרויקטים. אילון מאסק, למשל, הכריז, במקביל לחתימה שלו על המכתב, על הקמת סטארט אפ חדש של בינה מלאכותית. יד ימין חותמת על מסמך שאומר את ההפך ממה שיד שמאל מצייצת.

המכתב הזה, אם כן, מהווה מעין קריקטורה של דילמת האסיר: כל מי שחתום עליו דורש שכל האחרים, כל עשרות אלפי חוקרות וחוקרים בכל העולם, יפסיקו לפתח את המודלים שלהם, בתמורה לזה שגם הוא, הקטן או הגדול, במעבדה שלו, יעצור.

האיום ברור: "למרות שאני מאמין באמת ובתמים ובעומק לבי שיש סיכון עצום בפיתוח מודלים של AI, כמו שאני מצהיר כאן במכתב הגלוי הזה, אני רוצה להדגיש כי אם לא יתקבלו דרישותיי פה אחד, על ידי כל מי שעוסק בתחום, אמשיך אני בעצמי במלוא המרץ".

זה כשלעצמו מעיד בצורה הטובה ביותר על הגישה המנותקת באופן קיצוני מהמציאות שעולה מהמכתב. בניגוד לנשק גרעיני, למשל, ולפיתוחים טכנולוגיים סבוכים אחרים, הבינה המלאכותית מתקיימת, כבר עכשיו, בעולם מבוזר לחלוטין. עולם שבו, לצד ענקיות כמו OpenAI, או גוגל, מתקיימים מודלים פתוחים, יוזמות עצמאיות קטנות וקוד שנכתב בחדרים שכורים, בשולי ערים בהודו, בצרפת, בארצות הברית, ובישראל.

זאת לא רומנטיקה – זאת המציאות.

לכן, הקריאה לעצור את פיתוח הבינה המלאכותית ולהכפיף אותו ואת תוצריו, באופן מיידי, לרגולציה דרקונית, גם אם למטרות טובות – היא קריאה לשים את המוטיבציה האנושית "on hold" והלכה למעשה לחזק עוד יותר את החזקים במגרש. כי הרי, מי ייתן את הטון בהחלטות הרגולטיביות? הכסף של השחקניות הגדולות כמובן, שיחסום את השחקנים הזעירים. יש עוד אינספור דוגמאות לכך. אפילו במה שקורה סביב הרגולציה על בינה מלאכותית באירופה כיום.

אבל אפילו אם בחרתי שלא לצרף את שמי לנייר, המכתב הזה הוא עדיין בעל ערך, בדיוק כמו יצירת מדע-בדיוני טובה  – הוא מפנה זרקור אל נושא מהותי שבלעדיו אולי לא היה מדובר בצורה רצינית מספיק: הסיכונים בפיתוח הבינה המלאכותית. חלק מאותם סיכונים הם ממשיים כבר היום. אבל כמו יצירות רבות בז'אנר, גם המכתב הזה הולך הכי רחוק שאפשר עם העולם שהוא בורא, וחורג אל פנטזיה גמורה. שם הוא נשאר. כך שאת החתימה (היקרה!) שלי, אשמור בינתיים למכתבים אחרים.

אולי כאלה שיכתבו המכונות עצמן.