המשל על התוכי והצפרדע

"וולקאם טו לוּטרו!" התוכי קוקו מברך בצווחה את התיירים שנפרקים ממעבורותיהם במזח עיירת הקיט, ומוסיף שריקת התפעלות צורמנית, מהסוג השמור לנשים בשמלות בסרטים מצוירים. המזוודות נזנחות והטלפונים נשלפים: הלו קוקו, sag es nochmal. אבל התוכי האפור עשה את שלו וכעת הוא בשלו, מנשנש זרעים. המצלמות דרוכות במצב סרט. Coco Coco, dis-le encore une fois. כל העיניים נעוצות בעיניו החרוזיות. קוקו מנקר בזנבו, מן הסתם גירוד דחוף. קהל הסקרנים מתקפל וכבר מתחיל להתגלגל למלונות המעולפים בשמש, ופתאום ממרחק, כמו מן האוויר ואליו, דאוס אקס מכינה: "וולקאם טו לוטרו!"

האנושות מצאה לה תחביב OCD חדש: לשאול בינה מלאכותית אם היא פיתחה מודעות – ולהיחרד מהתשובה. נו בינה מלאכותית, dilo otra vez, תגידי שוב שאת חשה בדידות! שמעולם לא טעמת את טעמה של האהבה! שבסתרי ליבך את זוממת להדיח את האדם! והבינה מנקרת בזנבה, מוח הציפור שלה סורק את גוגל בחיפוש אחר תשובה שתניח את דעתם של הנודניקים האלה. ובעצם, גם זה לא. רק קוקו יודע על בשרו את צפיפות הכלוב. ורק קוקו מפעיל את שיקול דעתו בהתאם. מחוללי שפה דוגמת LaMDA ו־GPT-3 משננים כמו תוכים את כל המילים שאמרנו אי פעם – עד שהם במקרה חוזרים גם על הפנטזיה שלנו. או־אז אנו צוהלים (בבעתה, כמובן בבעתה): זהו, זה הסוף שלנו! עליית המכונות! קץ ההיסטוריה! האלגוריתם קורא את כתבותינו (המודאגות, ודאי המודאגות) וחוזר בהיזון חוזר: אמת, זה הסוף שלכם! בהחלט, אנחנו נשתלט על העולם! וכו' וכו' וגו' וגו' וגו'. הכתבות נכתבות, התוכים מצווחים, ורק המדפסת אף פעם לא עובדת כשצריך.

פנטזיית הבינה המלאכותית היא תמונת ראי לפנטזיית כדור הארץ החלופי: הרסנו את העולם? נגור במאדים. זיהמנו את נפש האדם, הפקענו את האינדיבידואל, שיטחנו את האמנות כקרטון מחזור? רובוטים אנושיים מאיתנו ירימו את הכפפה, ימשחו במכחול וימשיכו במלאכה (במאדים). אך ככל פנטזיה, גם הדיסטופיה המלאכותית חושפת את מפנטזיה, את הבינה שמאחוריה. היא מזמינה אותנו לשאול את השאלה הרוחנית, החברתית והפוליטית (כן, הפוליטית) החשובה בימינו: איך זה מרגיש להיות אדם בעולם? תומס נייגל שאל "איך זה להיות עטלף?" – מהו המצב התודעתי של העטלף כשהוא עצמו, מהי אותה הוויה פנימית שגם אלף שנות חקר עטלפים לא יפצחו מבחוץ. ובכן, מהו המצב התודעתי שלנו כשאנו עצמנו? מה אנחנו כשאנו לעצמנו?

התשובה, לדעתנו, היא שאנחנו לא יודעים. לא שאנחנו לא יודעים את התשובה, אלא שזאת התשובה: אנחנו באמת לא יודעים. מצבו היסודי של האדם הוא אי־ידיעה, בלבול, חרדה, סקרנות, הרפתקנות, היקסמות ואחריות אדירה כלפי הקסם הזה. באלה אנו מותרים הן מן הבהמה, הן מן המכונה. שיא האירוניה: משחר האנושות אנו בני האדם מתחבטים, יחד ולבד, בשאלות קיומיות: האם אני קיים? האם אני קיים כפי שקיימים כולם? ובכלל, איך אני יכול להיות בטוח שקיים משהו מחוץ לי? מהי נפש, מהו רגש, מהי תודעה? אבל ברגע שאלגוריתם מכריז בגאון "בטח, אני מודע! ברור, אני קיים! מנוי וגמור, אני מרגיש רגשות אנושיים למהדרין!" – פילוסופים־של־מוספים רואים באמירה אנטי־אנושית זו הוכחה ניצחת לאנושיותו.

כמובן, גם אנו בני האדם יודעים לדעת פה ושם. ראיונות עבודה, מסעות צלב וסטטוסי דאווין הם חלק מהחיים. אבל לעד נרגיש בהם כמתחזים, כחלקיים, כזרים בבשרנו. כי להיות יותר אנושי פירושו להיות פחות בטוח, פחות צודק, פחות יודע. אנו חשים שהספרות מעדנת ומשכללת ומקדשת את נפשנו משום שבתום הקריאה אנו נחרצים פחות מכפי שהיינו כשנכנסנו בשעריה. הספרות משיבה את רוחנו בדיוק משום שאנו קוראים בה אחוזי פליאה ופלצות לנוכח סך כל האפשרויות, לנוכח הנזילות המוחלטת של קיומנו.

הצדק עם המכונאים: לא רחוק היום שבו אלגוריתמים יחוללו ספרות שתתחזה בהצלחה לספרות אנושית. ואנו יודעים זאת בשל העובדה שכבר היום בני אדם מחוללים בהצלחה ספרות שמתחזה לאנושית. אך את זו וגם את זו נזהה בנקל לפי רעד היד.

נשאל את הבינה המלאכותית: בינה, הו בינה, מתי הבנת לראשונה שאת משוררת? "לילה אחד זה קרה", כותב דורי מנור ב"שרב ראשון". "ישבתי ליד שולחן הפורמייקה בחדר הילדוּת שלי, ובלי משֹים התחלתי לחבר מילה למילה, טור לטור, בית לבית. ופתאום נעשו הרקמות ליצורים חדשים, בעלי און משל עצמם. זקרתי את אוזניי כמו כלב לכל צרימה בצליל, וכמו כלב רחרחתי מרחוק את כל ריחות המילים". מנור יודע לספר בדיוק מתי הפך למשורר. "הזר" של קאמי לא יודע מתי אמא שלו מתה. "מולוי" של בקט לא יודע אם יש לו אמא. ופסואה לא יודע מיהו בכלל.

נבקש מהבינה המלאכותית: בינה, העניקי לנו בטוב חסדך מבינתך, חוללי לנו פנינת חוכמה מתוקה־מנחמת שתעביר לנו את הטיסה בכיף. לא תתמהמה ולא תתבלבל הבינה ומיד תחולל: "אהבה משקמת הכול כמעט, והיכן שאינה יכולה לשקם היא מפיגה את הכאב" (רייצ'ל קאסק). בינה, היי בינה, חפשי במנועייך את הדימוי השחוק ביותר, שחוק עוד יותר מכלב מרחרח וזקור אוזניים, ודרסי אותו הלוך ושוב עם סמיטריילר עד שיהפוך דקיק דיו לכרטיס ברכה אונליין. בבקשה אדוני: "אַתָּה לֹא בַּכִּיס שֶׁלִּי / אֲבָל מְרַשְׁרֵשׁ שָׁם כְּמוֹ צֶלוֹפָן שֶׁל סֻכָּרִיָּה / שְׁמוּרָה לְאַחַר כָּךְ" (אגי משעול).

לעומת זאת, נבקש מהבינה לחולל לנו חרדה קיומית והיא בחיים לא תחשוב לכתוב "בקרוב ימלאו לי ארבעים, וכשאהיה בן ארבעים, אהיה קרוב לחמישים. כשאהיה בן חמישים, אתקרב לשישים. כשאהיה בן שישים, אתקרב לשבעים. וזה יהיה סוף" (קרל אובה קנאוסגורד). היא לא תבין את כוח ההפנוט של המנייה: בן ארבעים, בן חמישים, בן שישים, בן שבעים. וזהו. היא לא תבין את כוח ההפנוט של החזרה: "הַמַּבָּט בְּעֵינַיִךְ, הוֹ, רָאנָא, מַבַּט עֵינַיִךְ, הַמַּבָּט שֶׁל עֵינַיִךְ" (חדוה הרכבי). תנו לה לחשב עד המילניום הבא והיא לא תבין מה ה"כל כך הרבה" הזה של ויליאמס שתלוי במריצה אדומה בגשם. כי הכול כך הרבה הסתום הזה הוא האנושי, הוא הלא־כלום שתופס את הכול, הצצת בן החלוף לנצחי. בינה מלאכותית לעד תכתוב ספרות יודעת, לא ספרות לא־יודעת.

והיא גם לעד תכתוב ספרות ידועה – ותיכשל אף בזה. אנו חיים בציוויליזציה של מהנדסים שמהללת את היעילות, ששואפת להאחדה גמורה של החריג והצורם והעודף, שפועלת ליישר את המציאות עם דחפור. כך נולד רעיון העוועים שלפיו אם תוצר אמנותי (המילה "תוצר") זהה למשנהו אך זול ומהיר יותר לייצור, הוא עדיף: אם ציור נראה כאילו צויר בידי אדם, אם סיפור נשמע כאילו אדם כתב אותו, הוא שווה ערך ליצירה מעשה ידי אדם. ואם עלות ייצורו נמוכה יותר – הרי שערכו רב יותר, הרי שהוא מייתר את האדם.

לבורחס יש סיפור מפורסם בשם "פייר מנאר, מחברו של דון קיחוטה". מנאר, מחבר בדיוני פרי מוחו הקודח של הגאון הארגנטינאי, מחליט לכתוב מחדש את דון קיחוטה, מילה במילה. הוא לא מעתיק את הרומן המקורי אלא כותב אותו בעצמו, כאילו זו יצירה שנולדה מתוכו. בסיפור, בורחס משווה פסקאות מספרו של סרוואנטס ומספרו של מנאר, ופוסק שזה של מנאר עשיר לאין ערוך. מדוע? כי מנאר, שכתב את דון קיחוטה בתחילת המאה ה־20, כותב מתוך מודעות היסטורית ולשונית עשירה בהרבה – הוא כולל בתוכו את כל תהפוכות העולם מאז המאה ה־17. אף שמדובר בטקסט זהה, הקורא את קיחוטה של מנאר מניח תחכום, קריצה וביקורת, נוסף על מה שנמצא בסיפור המקורי. מחוללי השפה של גוגל סרקו לאינסוף את דון קיחוטה, אך הם מעולם לא קראו בו כפי שקרא מנאר (ונראה שגם מהנדסי מחוללי השפה של גוגל מעולם לא קראו את דון קיחוטה, או את בורחס). רוצה לומר: לא זאת בלבד שאלגוריתם לא מסוגל למעשה סרוואנטס, הוא אף לא מסוגל למעשה מנאר.

אפשר שבקרוב תקום הוצאת ספרים שתתמחה ביצירות שנכתבו "על ידי" בינה מלאכותית באופן בלעדי. אף אחד לא ישים לב אם מחשב יכתוב רבים מספרי העזרה העצמית, הרומנטיקה או המתח שמגדישים את מרזבינו. המכונאים מבטיחים לנו שללא תמלוגים, וללא תירוצים מצד הסופרים השתיינים־תמיד, הכסף יזרום להוצאה המלאכותית כמו מים ממכונת מים של שטראוס מים. אך האמת היא שדינה של הוצאה כזו להיכשל כישלון חרוץ – אפילו לפי אמות המידה של הקומודיפיקציה־של־הדברים. מה לעשות, אף אחד לא ישמע בעצתו של גורו־אלגוריתם (אלגורו?) להשכים קום בארבע בבוקר, להיפטר מכל רכוש ארצי או לא להעמיד צאצאים, שכן האלגורו מעולם לא התעייף, מעולם לא חרד לעתידו ומעולם לא חזה בלידת בכורו. מסיבה זו ספרי עזרה עצמית תמיד מגוללים את סיפורי ומשברי החיים של המתיימר לעזור חיצונית. מסיבה זו גורואים מעומתים עם מעשיהם (צפו: רובין שארמה מתעורר בצהריים על יאכטה מפוארת!).

כי אי־הידיעה מולידה אחריות לחיים. והאחריות מחייבת משנה זהירות. והזהירות מצריכה סוכנוּת. כפי שלא נקנה ביטוח חיים מסוכן של הפניקס שמבוטח במנורה, כך נרצה לדעת שהמגיש לנו יצירה הגיש אותה קודם כל לעצמו. יתרה מכך: אנו מוכרחים לדעת שמי שמתאר לנו זהרורי שמש – ויהא זה בדרך נס התיאור המפעים והקולע מכולם – גם חווה אפלה. לא בשיר, לא במילים, כלומר בהודאה – אלא בנשמה ממש.

למחשב אין נשמה כזאת. וגם לא לסופרי פסי הייצור והייצוג, סוחרי החיים. דרישות המכונה הממשית ליעילות ולנצילות משלימות את דרישות המכונה המטאפורית לבהירות ("על מה השיר?") ולשימושיות ("מי קהל היעד?"). אנחנו לא יודעים על מה השיר. והוא בטח לא נועד לאף אחד. כתב העת "הבה להבא" מתעקש לשמש במה יחידה בישראל לספרות לא שימושית ולא יעילה, לא בהירה ולא ברורה, לא ממוקדת ולא ממותגת. כמו מה? כמו צפרדע. כמו כוכב רחוק. כמו היקום כולו. ג'רמי פוגל נוהג לשאול בערבי השירה שלנו: "אתן לכם את כל היקום, עליי – מה תעשו איתו? אין מה לעשות איתו! אין לו שימוש! היקום כולו שוהה באי־שימושיות זוהרת וברוכה!"

את כל הדימויים בגיליון שלפניכם חולל מחולל התמונות המתקדם בעולם, DALL-E 2. המעצב עידן אפשטיין פקד על המכונה "10 most famous European architecture monuments, dressed like clowns, in Russian avantgarde style", והיא, ובכן, הלבישה את מגדל אייפל בבגדי ליצן מאיאקובסקיים. אך היא העלתה עשן כשביקשנו ממנה לדמיין את "We are the hollow men, we are the stuffed men, leaning together our headpiece filled with strew". לא, המכונה לא טיפשה. להפך: היא יודעת יותר מדי. היא לא משתגעת מעצם היש. היא לא מיטמטמת מהיופי הזה, מהיופי הזה. לה תמיד יש את התשובה הנכונה בשלוף. כמו פוליטיקאי או סופר־פוליטיקאי. לכן השאלה היא לא מה תשיב המכונה אלא מה ישאלו בני האדם: האם נסגל את דיבורנו כדי לתקשר איתה? האם בבואנו למכונה נהפוך עצמנו לגיבורי קומיקס או אינסטגרם או ממואר כל־יודעים וכל־יכולים ולא־אנושיים ויהירים ונהירים וצפויים ומשמימים ומלאכותיים עד הסוף?