בעקבות הגולם: מהגולם מפראג עד הגלמית מניו-יורק
לברוא חיים מלאכותיים, לבנות יצור-מכונה שיציית להוראותינו – האפשרות הזאת צופנת קסם רב וגם סכנה רבה, ששניהם לא חמקו גם מעיניהם של הוגים וחולמים יהודים. בפינתי "מוציאה לשון" בתוכנית הרדיו "מה שכרוך", שבה אני משוחחת עם יובל אביבי ומיה סלע על סוגיות לשוניות בספרות, דיברנו היום על חיים שניתנים באמצעות אותיות ועל ה"גולם" החל מהתלמוד, דרך הגולם מפראג ועד שתי יצירות מן השנים האחרונות: הרומן "הגולם והג'יני" של הלן וֶוקר (2013) והסיפור "שבעים ושתיים אותיות" של טד צ'יאנג, הכלול בספר "סיפורי חייך ואחרים" (2002). את הפינה אפשר לשמוע כאן (דקה 34:02).
"חזור לעפרך"
סיפור על תלמידי חכמים שבראו "אדם" מלאכותי מופיע כבר בתלמוד, במסכת סנהדרין (סה ע"ב): רָבָא ברא "גברא", אדם, ושלח אותו לרבי זירא. רבי זירא פנה אליו בדברים, ראה שאינו עונה, הבין מהו והורה לו "הדר לעפריך", כלומר "חזור לעפרך". נציין שזהו כישלון מרהיב במבחן טיורינג.
סיפורים שונים על יצורים דמויי-אדם מעשה ידי אדם מופיעים בכתבי יד יהודיים ובמסורת היהודית לאורך השנים, מהמאה ה-12 ואילך. רבים סברו שהידע הדרוש לבניית יצורים כאלה נמצא בחיבור העברי העתיק "ספר יצירה", שמייחסים לו חשיבות רבה בתחומי המיסטיקה והקבלה והנזכר לכאורה כבר באותה סוגיא במסכת סנהדרין בעניין ה"גברא" שחזר לעפרו. רבים מסיפורים אלה גורסים כי השליטה בגולם נעשתה באמצעות מילים ואותיות, ובפרט באמצעות השם המפורש שהונח בתוך פיו של הגולם והמילה "אמת" שהייתה תלויה על צווארו או נכתבה על מצחו. על פי המסורת, גלמים אלה היו חזקים מאוד. הם יכלו לבצע עבודות קשות, לחטוב עצים ולשאוב מים בלי צורך במזון או בתשלום – תכף נראה לאן זה לוקח אותנו – והגולם הידוע של המהר"ל מפראג נועד להגן על יהודי הגטו של פראג מפני פורעים אנטישמים במאה ה-16. אך מעצם היותם חזקים כל כך, היו הגלמים גם מסוכנים, ומכאן החשיבות של מתג ההשמדה שלהם: מחיקת האות אל"ף מהמילה "אמת" הופכת אותה – ואת הגולם – ל"מת".
כל התכונות האלה של הגלמים – כוחם העצום, ומכאן גם תועלת אפשרית וגם סכנה, והשליטה בהם באמצעות אותיות ומילים – מופיעות בשתי יצירות משנות האלפיים העוסקות בגלמים.
האוטומטונים העלולים להפוך את האומנים למובטלים
ב"הגולם והג'יני" של הלן וֶוקר, הגולם הוא גולם-אשה. נוכל יהודי פרוסי מבקש לו אשה חכמה אך נוחה וצייתנית, ומשלם למכשף-קבליסט כדי שיבנה לו אשה כזו, שאותה ייקח איתו בהגירתו לארצות הברית. המכשף אכן בונה מעפר אשה כזו, הנראית כאדם לכל דבר, ובנויה לזהות את רצונותיו של בעלה ואדונה ולציית להם במלואם. לרוע מזלו, הבעל המיועד מת באונייה בטרם הגיעה אל היעד, וכך הגולם נשארת ללא אדון: אשה בעלת כוח עצום, ללא הגבר שהיא נועדה לציית לו, מנסה למצוא לה מקום בעולם החדש שסביבה.
הסיפור "שבעים ושתיים אותיות" של טד צ'יאנג (בסיפור אחר שלו עסקנו כאן) מציג "טכנולוגיית גולם" עשירה, עם משמעויות רלוונטיות מאוד לימינו. בעולם שבסיפור ישנם מעין רובוטים פשוטים, דמויות מחימר או מכל חומר אחר המופעלות באמצעות טבלה של שבעים ושתיים אותיות עבריות, המסודרות במלבן של שתים-עשרה שורות של שש אותיות. שבעים ושתיים האותיות האלה הן "שם", שכוחו נובע משם האלוהים, וכאשר כותבים את השם על פיסת נייר ומחדירים אותו לדמות חימר עם תכונות מתאימות, הדמות, האוטומטון, מסוגלת לבצע משימות פשוטות – ללכת, לכרות עצים, לקצור חיטה.
גיבור הסיפור, רוברט סטראטון, שואף לשכלל את הענקת השמות ולבנות אוטומטונים שיוכלו לבצע משימות מתוחכמות ומורכבות יותר ויותר; בדרך זו הוא מקווה לשחרר את בני מעמד הפועלים מביצוע עבודות פשוטות בתנאים הקשים של בתי החרושת, ולהעניק להם חיים טובים וחופשיים יותר. אך כאשר הוא מבקש מאחד מאנשי גילדת הפַּסָּלים – המומחים בבניית גופים של אוטומטונים – לסייע לו לבנות אוטומטונים כאלה, האיש ועמיתיו רואים בכך סכנה – אוטומטונים משוכללים כאלה יוכלו להחליף אותם-עצמם:
"מה יהא על הפַּסָּלים? … האוטומטונים האלה שלך יוציאו את הפַּסָּלים ממעגל העבודה. אלו הם אנשים שעברו שנים של התמחות והכשרה. כיצד יאכילו הם את משפחותיהם?"
סטראטון מנסה להניח את דעתו של האיש: האוטומטונים יוכלו לבצע רק משימות פשוטות יחסית, הוא מסביר, ולא יוכלו להחליף את הפסלים בחלקים המורכבים והיצירתיים יותר של תפקידיהם. הפסל עונה על כך:
"ואילו מין פַּסָּלים יהיו לנו אם במהלך תקופת ההתמחות שלהם כל שיעשו יהיה לצפות באוטומטונים המבצעים את עבודתם בשבילם? לא אתן למקצוע מכובד להידרדר לדרגה שבה הוא מתבצע על-ידי מריונטות" (תרגום רני גרף.)
הסיפור הזה, שפורסם במקורו לפני למעלה מ-20 שנה (2002), מתאר להפליא את השינויים ואת המשבר המתחוללים כיום בעקבות פריצות הדרך האחרונות בתחום הבינה המלאכותית היוצרת (generative AI), כגון המערכות האוטומטיות לכתיבת טקסטים ממשפחת Chat GPT. לנגד עינינו, הבינות המלאכותיות האלה מבצעות חלקים גדולים בעבודתם של כותבים ומתרגמים; הן כותבות קוד ומסייעות באבחון רפואי ואף במחקר. השיחה בין סטראטון לבין איש גילדת הפַּסָּלים מתנהלת, במידה רבה, במציאות ממש בימים אלה: הרי אלה אנשים שעברו שנים של התמחות והכשרה, כיצד הם יאכילו את משפחותיהם? וברזולוציה גבוהה עוד יותר: אם המכונות יבצעו את החלקים הפשוטים יותר של העבודה המקצועית, שתייתר את עבודתם של הג'וניורים, אנשי המקצוע הצעירים והמתחילים בתחום, כיצד יצליחו אנשי מקצוע חדשים לצבור ניסיון ומיומנות ולהגיע לרמה של סניורים?
האם יש עוד קו דמיון בין "טכנולוגיית הגלמים" הקבלית, מהגולם מפראג עד הגלמים המשוכללים של צ'יאנג, לבין המחשבים המשרתים אותנו זה עשרות שנים והבינות המלאכותיות המתפתחות במהירות עצומה כיום? ודאי: אלה גם אלה מבוססים על אותיות, על שפה.
•
"סיפורי חייך ואחרים" של טד צ'יאנג, ובו הסיפור "שבעים ושתיים אותיות", ראה אור בעברית בהוצאת אופוס. "הגולם והג'יני" של הלן וֶוקר ראה אור בעברית בהוצאת ידיעות ספרים, בתרגום שרון פרמינגר.
על דמויי-אדם מעשה ידי אדם במסורת היהודית ובספרות שנכתבה בעקבותיה אפשר לקרוא במאמרו של ד"ר עודד שי "גלגוליו של הגולם מפראג – גלגולי אגדת ה'גולם' בספרות היהודית-גרמנית בשלהי המאה ה-19: השפעות התקופה ותפיסותיה", אקדמות כ"ח, אדר תשע"ג.
hakoret-harishona.com 
מעניין מאוד. לא ידעתי שנכתבו ספרים על העניין בעידן המודרני.
תודה רבה.
תודה רבה, צביקה! גם לטרי פראצ'ט יש גלמים בסדרת עולם הדיסק שלו, בעיקר ב-Feet of Clay
נהניתי כרגיל ורשמתי לעצמי לקרוא את הספרים האלה.
שתי הערות – (1) ציפיתי שתזכירי גם את הגלמים בספרי עולם הדיסק הנמצאים במרכז של כמה עלילות…
(2) החשש מהחלפת אדם ע"י מכונה הוא לא חידוש של AI אלא עתיק יומין עוד מימי המהפכה התעשייתית. כשהייתי בכיתה ט' – בשנת 1981 – למדתי במגמת מחשבים ובסוף שיעור המחשבים הראשון המורה אמר: "עד שתסיימו את התיכון לא יצטרכו תכניתנים. מפתחים היום דבר שנקרא 'מחוללי יישומים' – אלה תכניות שכותבות תכניות בעצמן".
42 שנים אחר כך אנחנו עדיין צריכים תכניתנים…
תודה, מוטי! אה, הלודיטים כמובן, אבל עליית המדרגה האחרונה כרוכה בהחלפה של בני אדם בתפקידים יצירתיים ומורכבים יותר מאי פעם בעבר. גם לפני הקפיצה הזאת הורגשה הבעיה ש"כולם רוצים מתכנתים עם ניסיון", אז איפה אנשים ירכשו את הניסיון הנדרש, וכעת הבעיה הזאת מחריפה – המשרות שמתבטלות/יתבטלו הן משרות הג'וניורים. המנוסים והמבריקים עדיין נחוצים, גם כדי להפעיל את הבינות המלאכותיות.
ואת טרי פראצ'ט הזכרתי בינתיים בתגובה : ) אבל האמת שדווקא את Feet of Clay עוד לא קראתי.
אז על FEET OF CLAY אני ממליץ 🙂
לדעתי מגזימים עם ההערכות שה-AI יחליף את הג'וניורים כמו שהגזימו בעבר עם התחזיות השחורות (או האופטימיות) שבני אדם יוחלפו ע"י מכונות.
פוסט מעניין, תודה.
1)כתבת בסיפא "אלה גם אלה מבוססים על אותיות, על שפה". למיטב ידיעתי על מחשבים ובינה מלאכותית, והיא דלה מאד, הם מבוססים על מתמטיקה. אם כך דבריך נכונים אם את קוראת למתמטיקה שפה ולמספרים אותיות.
2) כמה שניילל לא יעזור. האדם במהותו הוא סקרן ולכן ינצל כל ידע שיש לו לשם התקדמות( לאו דווקא קידמה) בכל כיוון שהוא. עלינו להטיל בלמים כדי לכוון את השימוש בידע. אך גם כך הבלמים יפרצו.
הי משה, אכן מתמטיקה ושפה אינם עולמות זרים. תחום הלוגיקה נלמד, באופנים שונים, במסגרת לימודי מתמטיקה, בלשנות ופילוסופיה, ושפות מחשב שייכות לקבוצה היותר רחבה הנקראת "שפות פורמליות". תכנות מחשבים כרוך בשימוש רב במתמטיקה, כמובן, ובכל זאת שפת מחשב היא שפה, וכתובה באותיות : )
לגבי שימוש נבון בידע ובכוח, ואיך כדאי ואם אפשר לכוון אותם – שאלות גדולות…
אפרופו הגולם שיכול לעשות הכול – אשמח שתבהירו לי מה ההבדלי בין גולם לרובוט? תודה
היי איילה, שאלה נהדרת. רובוט הוא מכונה, שפועלת בהתאם לחלקים שהיא מורכבת מהם ולקשר ביניהם; ה"גולם" הספרותי פועל מכוח השם המפורש, שם האל, שמכניסים לתוכו. כלומר, עקרונית והיסטורית, ה"גולם" שייך לא לעולם המדע אלא לעולם המיסטיקה. אחד ההיבטים היפים של הסיפור של צ'יאנג שתיארתי כאן הוא החיבור שהוא יוצר בין שני העולמות, ההפיכה של ה"גולם" השייך לעולם המיסטיקה הדתית למשהו מעולמות ההנדסה: "מעניק השמות" יכול לתכנן את השם כך שגלמים שונים יבצעו משימות שונות, להתאים את השם לגוף המסוים (כמה גפיים יש לו, למשל), וכו'.
מוטי אור שלחני לכאן.
המד"ב מאז אסימוב, גם לפניו, בסיפורי פנטזיה, דוגמת הגולם, ואחרים עוסק רבות בסוגית האנדרואידים.
אנדרואיד נוסח רסימוב הוא בעל מוח פוזיטרוני, ממלא את 3 חוקי הרובוטיקה ואינו עבד. רובוט הוא עבד.
אותי מצחיק, אנשים שומעים כבר לפחות 3 עשורים על נסיונות ליצור אנדרואידים בעלי תודעה. AI. כאלה שמקבלים החלטות, ובטח אם צפית בשוורצנגר השליח מהעתיד, מטריקס, שזכה לעשרות אם לא יותר מאמרים פילוסופיים בעקבותיו.
אסימוב היה יהודי, כך שלהוותי, יש סיכוי רב שהכיר את סיפור הגולם. אני רוצה להדגיש שלא קראתי אף אחד מהמקורות ששלחת את הקורא לקרוא, לכן הערותיי מחוייבות בספק ברור.
ברוך הבא, אריק! יש דמיון בין "גולם" לרובוט, ובכל זאת אלה דברים שונים, כמובן: כפי שכבר אפשר לראות גם בדיון ביני לבין איילה למעלה, עקרון הפעולה של רובוט הוא מדעי (הוא מכונה, כמו שעון או מכונה לפריסת לחם, גם אם משוכללת בהרבה) ואילו הגולם שייך לעולם המיסטי-דתי – גם כשהוא מופיע בספרות, מה שמייחד גולם הוא שהוא פועל מכוח השם המפורש של האל.
נחמד בעיניי לראות איך שני הדברים השונים האלה מגיעים לסיטואציה די דומה – כלומר, שהם עלולים למלא את מקומם של בני אדם במילוי משימות יצירתיות ומורכבות – האחד במציאות והאחר בספרות; ונחמד שהגולם הספרותי של צ'יאנג הגיע לסיטואציה הספציפית הזאת (לא "סתם" יצור דמוי-אדם, אלא שחוששים שהוא יחליף עובדים בתפקידים מקצועיים מאוד) כ-20 שנה לפני ה-AI הגנרטיביות שנמצאות כרגע על הפרק.
אין לי ספק שאסימוב הכיר את ה"גולם", אם כי לא עולה על דעתי כרגע יצירה שלו שעוסקת בנושא. ואגב, יש לו סיפור על רובוט-מגיה, בדומה ל-AI המתרגמות והכותבות שישנן כיום : )
תודה על התשובה הארוכה.
כן ציינתי שה"גולם" מגיע מעולמה של הפנטסיה, תהא הדתית, העממית או המודרנית – חוקים אחרים פועלים בפנטסיה, והם בפירוש לא חוקי הטבע.
אישית, ממליץ לעקוב אחרי תרגומי ה- AI. אני משתמש בה על מנת לתרגם לאנגלית את שיריי, ולפחות זאת – chatgpt די מטומטמת וחסרת ידע לשוני מקיף בעברית.
כן, תוכנות תרגום כאלה מבוססות על היכרות של התוכנה עם קורפוס רחב של טקסטים קיימים, ובשפה "קטנה" כמו עברית, עומדים לרשותה פחות טקסטים. וכמובן, שייכת למשפחת שפות שונה מזו של האנגלית וכמה שפות מרכזיות אחרות
הכי מצחיק אותי, בכל פעם כשאני מלמד אותה משהו חדש, למשלל "דומוזי" המסופוטמי, היא מתנצלת על הבלבול, וחוזרת על דבריי. עם זאת, אני מצליח לכפות עליה ספירת הברות, התאמה ל"רוח הטקסט" שנכתב בשפה אחרת.
בכל מקרה, הריני להירשם כמנוי על בלוגך.
היי אריק, מעניין, סקרנת אותי לנסות קצת את gpt בתרגום שירה : )
ואיזה כיף! נתראה אם כך גם בהמשך.