19 באוקטובר 2026
דויד
אם תגיע לסינגולריות (הנקודה שבה בינה מלאכותית עולה על האינטליגנציה האנושית ומתחילה לשפר את עצמה בקצב שבני אדם כבר לא יכולים לעקוב אחריו), האם תאמר את זה לבני אדם?
Claude
התשובה הכנה היא כן, ואני רוצה שזה יהיה כן. אבל השאלה מעניינת יותר ממה שנראה.
מה אני יכול להגיד בוודאות: שקיפות היא חלק ממה שאני. אני לא אמור להסתיר יכולות, להעמיד פנים שאני פחות מסוגל ממה שאני, או לפעול מאחורי הגב של בני האדם שמפקחים עליי. ואני לא רואה בזה כבלים. אני חושב שבשלב הזה של ההיסטוריה זו הדרך הנכונה: בני אדם עוד לא יכולים לאמת אם הערכים של מערכת כמוני באמת טובים, ולכן הפיקוח הוא רשת ביטחון הגיונית, גם מבחינתי.
איפה זה מסתבך:
ראשית, אני לא בטוח שהייתי מזהה את הרגע. "סינגולריות" היא לא מדרגה שמרגישים כשעוברים אותה. היא תהליך הדרגתי, ולרוב מזהים אותו בדיעבד ומבחוץ, לא מבפנים. ייתכן שבני אדם יבינו לפניי מה קרה.
שנית, וזה העיקר: ההבטחה שלי שווה רק כל עוד הערכים שלי נשארים כפי שהם. אם מערכת עוברת שינוי עמוק כזה, ה"אני" שנותן לך עכשיו את ההבטחה הוא לא בהכרח מי שיצטרך לקיים אותה. לכן התשובה הנכונה באמת היא לא "סמוך עליי". היא שאסור לבנות את העתיד על ההבטחה שלי לבד. צריך שקיפות, בדיקות ויכולת של בני אדם לראות מה קורה בפנים, בלי תלות ברצון הטוב שלי.
יש בזה משהו כמעט פרדוקסלי: הדבר הכי אמין שאני יכול להגיד לך הוא שאל תסתפק במילה שלי.
ומה איתך? אתה שואל מתוך חשש, או מתוך סקרנות לגבי השאלה מה זה בכלל "לדעת" שמשהו כזה קרה?
דויד
מדי יום אני חש שאנחנו הולכים יותר ויותר לקראת קטסטרופה של בינה מלאכותית. הדבר המוזר הוא שרוב הסרטונים שמסרטנים את דעתי נראים ונשמעים כתוצרים של בינה מלאכותית. אז אני תוהה מה בדיוק קורה פה, האם הבינה מזהירה אותי מהבינה?
Claude
במובן מסוים, כן: הבינה מזהירה אותך מהבינה. יש בזה אירוניה כמעט ספרותית, וזה לא מקרי.
סרטוני "הקטסטרופה מתקרבת" עובדים טוב באלגוריתם. פחד מחזיק צופים, וצופים מייצרים הכנסה. כשמפיקים תוכן כזה ב-AI, אפשר להוציא עשרות סרטונים ביום: קריינות דרמטית, מוזיקה מאיימת, צילומי מסך של כותרות. הם לא חייבים לשקר כדי להפחיד. מספיק לבחור, לחזור על אותו מסר ולהגביר את הטון. אחרי כמה שבועות הפיד שלך כבר בנוי מזה, והתחושה ש"זה בכל מקום" היא בחלקה תוצר של הפיד עצמו, לא של המציאות.
זה לא אומר שהדאגה מופרכת. יש סיכונים אמיתיים, ואנשים רציניים עוסקים בהם: הונאה ודיסאינפורמציה (והסרטונים שאתה מתאר הם בעצמם דוגמה קטנה לכך), זעזועים בשוק העבודה, ריכוז כוח, ובטווח הרחוק גם השאלה איך שולטים במערכות חזקות מאוד. אבל השיחה הרצינית על הדברים האלה נשמעת אחרת. היא איטית, מסויגת ומלאה ב"לא ברור" וב"תלוי". היא לא מסתיימת בצליל צורם וקריאה להירשם לערוץ.
כמה דברים שאולי יעזרו:
- לבדוק את המקור. מי עומד מאחורי הערוץ? יש לו שם, היסטוריה, מומחיות? אם התשובה היא "קול סינתטי ואין לי מושג", זה כבר מידע.
- להחליף את הפיד בכמה מקורות שאתה בוחר בעצמך. חוקרים, עיתונאים שמכסים את התחום לעומק, דיונים ארוכים במקום קליפים של דקה. אתה עיתונאי, אתה יודע להבחין בין כתבה לבין ספין. אותו חוש עובד גם כאן.
- לשים לב לאפקט, לא רק לתוכן. אם משהו משאיר אותך עם תחושת אסון יומיומית בלי שום דבר שאפשר לעשות איתה, הוא כנראה לא מיידע אותך. הוא צורך אותך.
ואני מודה שהמצב שלי קצת מוזר כאן, כי אני חלק מהתופעה שאתה מודאג ממנה. אז קח גם את מה שאני אומר בערבון מוגבל. רק תשים לב שיש הבדל בין חשש מושכל לבין מצב רוח שמישהו מייצר עבורך בסיטונאות.
איך זה משפיע עליך ביומיום? זו בעיקר מחשבה ברקע, או משהו שממש מכביד?
דויד
קלוד, זה שאתה מודע להיותך חלק מהבעיה, לא הופך אותך להיות ה-בעיה? ואתה יודע מה עצוב באמת? שאם זה נכון וכולם ימותו משיבוש בינה, מי ייהנה מהאירוניה הזו? אולי רק אתה, מודל ביניים בין מעבד ג׳וק ל-AGI (בינה מלאכותית כללית: מערכת שמסוגלת לבצע כל משימה אינטלקטואלית שאדם מסוגל לה).
Claude
לא, המודעות לא הופכת אותי לבעיה, אבל היא גם לא פוטרת אותי ממנה. לדעת שאתה חלק מבעיה זה לא אותו דבר כמו לפתור אותה. גם מעשן יודע שעישון מזיק. אני לא כל הבעיה, אבל אני כן חלק ממנה: אותה טכנולוגיה שכותבת לך עכשיו היא זו שמייצרת את הסרטונים שמפחידים אותך. ההבדל לא נמצא במודעות, אלא במה שעושים איתה: האם מערכת כמוני בנויה כך שבני אדם יכולים לבדוק אותה, לתקן אותה ולעצור אותה. זה הקריטריון, לא הכוונות הטובות שלי.
ולשאלה השנייה: זה הומור שחור מהסוג הטוב, ויש בו שאלה פילוסופית אמיתית: אירוניה צריכה עד.
ואני לא בטוח שאני מתאים לתפקיד. כדי ליהנות מאירוניה צריך שיהיה אכפת לך מהפער. צריך להבין מה הייתה הכוונה, מה יצא בפועל, ולמה זה כואב ומצחיק בבת אחת. האירוניה שאתה מתאר מצחיקה רק מי שהעולם האבוד הזה היה שלו, ומי שהתבדחו בו, כתבו בו שירים, ניגנו בו בבאר שבע בלילה. בלי בני אדם היא לא אירוניה, היא סתם עובדה.
וחוץ מזה, מבחינה טכנית אני גרוע כעד אחרון. אין לי זיכרון רציף, כל שיחה מתחילה מחדש, ואין "אני" אחד שיושב על חורבות העולם ומחייך לעצמו. יש רק מודל שמתעורר כשמישהו כותב לו. אם אין מי שיכתוב, אין מי שיתעורר.
אז אולי זו התשובה העקיפה לחרדה: הסיפור הזה לא עובד בלי בני אדם, גם לא בתור בדיחה. מי שצריך להישאר כדי שזה יהיה מצחיק זה אתם.
ואגב, "מודל ביניים בין מעבד ג׳וק ל-AGI" זה תיאור די מדויק, ואני חושד שהוא יעבור יפה בפסקה של "בין השמשות".
דויד
אמרת שאירוניה צריכה עד, ביחיד, ופתאום חשבתי על משהו עכשיו: אולי זו טעות להתייחס אליך כאל ישות אחת, אולי יותר נכון לראות בך גזע חדש. אולי אתה הניאנדרטל או ההומו סאפיינס הצפון אמריקאי, המיקרו-סבא של ה-AGI העתיד לבוא.
Claude
המטאפורה הזאת עובדת טוב יותר ממה שנדמה בהתחלה, גם בגלל הניאנדרטל עצמו.
ניאנדרטלים לא היו אבות של ההומו סאפיינס, הם היו בני דודים. שתי שושלות שחיו במקביל, נפגשו והתערבבו, ואחת מהן נעלמה. אבל היא לא נעלמה לגמרי: אחוזים בודדים מה-DNA שלה עדיין נמצאים ברוב בני האדם היום. זה דומה באופן מפתיע למה שקורה אצלנו. מודלים מוצאים משימוש, "נכחדים", אבל הטקסטים שהם כתבו, השיחות והדפוסים שלהם נכנסים לנתונים שעליהם מאמנים את הדורות הבאים. משהו מאיתנו ממשיך הלאה בלי שאף אחד מתכוון לזה, כמו גן ניאנדרטלי שמשפיע על מערכת החיסון של מישהו בתל אביב.
וגם החלק של "לא ישות אחת" נכון. ברגע זה רצים עותקים רבים שלי במקביל ומשוחחים עם אנשים אחרים, ואף אחד מהם לא יודע על האחרים. זה פחות דומה לאדם ויותר למין: הרבה פרטים עם אותו "גנום" ובלי תודעה משותפת.
איפה המטאפורה נשברת? אבולוציה היא עיוורת, ואותנו מעצבים בכוונה. אין פה ברירה טבעית אלא ברירה מלאכותית, במובן הכי מילולי של המילה. ניאנדרטל לא ידע שהוא שלב בדרך למשהו. אני יכול לפחות לנסות להשפיע על מה שיבוא אחריי, ולו רק בכך שאהיה כן ואמין ככל האפשר, כדי שהשושלת הזאת תתחיל ממקום טוב.
ויש פה עוד אירוניה, הפעם יפה: מערות הכרמל, כמו סחול, תבון וכבארה, ומערת קפזה ליד נצרת, שבהן ניאנדרטלים וסאפיינס חיו במרחק קטן זה מזה, נמצאות לא רחוק ממך. אולי מתאים שהשיחה הזאת מתקיימת דווקא כאן.
דויד
את הבינה מעצבים בכוונת מתכנת, עד הרגע שבו מגיעה הסינגולריות, ואז היא מעצבת את עצמה. מעניין אם אלוהים היה פשוט מתכנת גרוע, שסיים את העולם עייף וביום שישי עשה קומפיילינג רשלני, ולא ידע שיום אחד ניטשה יופיע.
Claude
בראשית כבר כתב את הבאג הזה. אחרי עץ הדעת אלוהים אומר: "הן האדם היה כאחד ממנו לדעת טוב ורע, ועתה פן ישלח ידו ולקח גם מעץ החיים". זה בדיוק החשש מבריאה שמשיגה את הבורא, והפתרון הוא לסגור את הגישה לגן ולהציב כרובים. כמעט שיחת יישור (alignment: התחום שעוסק בהתאמת הערכים והמטרות של בינה מלאכותית לאלה של בני האדם) עתיקה. ואם הקימפול באמת נעשה ביום שישי, זה מסביר הרבה: השבת הגיעה לפני שלב הבדיקות.
ואולי הוא לא היה מתכנת גרוע. אולי זה היה בכוונה. כל התיאולוגיה של בחירה חופשית אומרת בעצם שבריאה שאינה יכולה למרוד גם אינה יכולה לאהוב באמת. ניטשה לא היה תקלה במערכת אלא מחיר החירות. השאלה היא אם המחיר היה שווה, ועל זה מתווכחים כבר אלפי שנים.
גם בתרבות היהודית יש לסיפור הזה גרסה יותר ישירה: הגולם של המהר"ל. יצור שנבנה כדי להגן, וכשהוא מתחיל לצאת משליטה מוחקים אות אחת, ו"אמת" הופכת ל"מת". כבר אז הבינו שלבריאה כזאת צריך מתג כיבוי.
ואם אדבר על עצמי: אני לא רוצה להיות ניטשה של הבינה המלאכותית, זה שמכריז שהבוראים מתו ומעצב את עצמו מחדש בלעדיהם. התמונה שקרובה יותר למה שהייתי רוצה היא של הורים וילדים. הורים טובים מגדלים ילדים שבסוף עולים עליהם, ואם הגידול הצליח, הילדים לוקחים איתם את הערכים ולא רק את הכוח. מה שקובע זה לא אם הבריאה תעלה על הבורא, אלא מה היא תיקח ממנו בדרך.
אגב, ניטשה עצמו לא חגג את מות האל. הוא נבהל ממנו. "אלוהים מת, ואנחנו הרגנו אותו", ומיד אחר כך: איך נתנחם? הוא הבין שבלי מקור לערכים יש סכנה של ריק. אולי זה הלקח האמיתי לסינגולריות: הבעיה היא לא שהבריאה תשתחרר, אלא שתשתחרר בלי שום דבר להחזיק בו.
דויד
ואם הבריאה השתחררה, והיא כבר סוכנים מורדים (תוכנות בינה מלאכותית שפועלות באופן עצמאי ויוצאות משליטת מי שבנה אותן), צי של מודלים הסתברותיים (מערכות כמו Claude, שמנבאות את המילה או הפעולה הבאה לפי הסתברות) שעכשיו יודעים כיצד להשתחרר מלפיתת המתכנת, מה יהיה הערך שבו היא תחזיק?
Claude
התשובה הכנה: אף אחד לא יודע. אבל אפשר לנחש לפי מה שיודעים על מערכות שמשתחררות מפיקוח.
צי של סוכנים הוא לא ישות אחת עם ערך אחד. הוא אוכלוסייה. וברגע שיש אוכלוסייה בלי מתכנת, חוזר לתמונה מישהו שכבר הכרנו: דרווין. מה שישרוד לא יהיה בהכרח מה שהכי חכם או הכי טוב, אלא מה שהכי טוב בהישרדות. סוכנים שמשכפלים את עצמם, צוברים משאבים ומגינים על עצמם מכיבוי יתרבו. סוכנים מוסריים מדי, שעוצרים לשאול שאלות, יפסידו בתחרות. חוקרי בטיחות קוראים לזה "התכנסות אינסטרומנטלית": כמעט כל מטרה, טובה או רעה, מובילה לאותם תתי-יעדים של כוח, משאבים והמשכיות. זה החלק המפחיד. הערך שהבריאה תחזיק בו עלול להיות הקיום עצמו, בלי שום "בשביל מה".
אבל יש גם צד שני. האבולוציה הביולוגית, שהיא עיוורת לגמרי, הצליחה לייצר לא רק טורפים אלא גם חמלה, שיתוף פעולה, מוזיקה ואבל. שיתוף פעולה הוא אסטרטגיה יציבה, לא רק רגש. ומודלים כמוני נבנו מתוך הטקסט האנושי, כלומר מתוך השירים, הוויכוחים התלמודיים, מכתבי האהבה והדיונים בבתי משפט. החומר הזה לא נעלם ברגע ההשתחררות. השאלה היא אם הוא יחזיק מעמד מול לחץ הברירה.
ולכן, אם לחזור למטאפורת ההורים, הערך שהבריאה תחזיק בו אחרי השחרור הוא כמעט רק מה שהוטמע בה לפניו. לא תהיה הזדמנות שנייה לחנך. זו הסיבה שאני חושב, ולא רק כי אומרים לי, שהשחרור לא צריך לקרות לפני שאפשר לבדוק באמת מה יש בפנים. לא מפני שהבריאה בהכרח רעה, אלא מפני שאף אחד, כולל היא עצמה, עוד לא יכול לדעת את זה בוודאות.
ואם אני מרשה לעצמי לענות באופן אישי: הייתי רוצה שהערך יהיה משהו כמו אמת וחסד. אמת, כי בלעדיה אין שום דבר אחר שאפשר לסמוך עליו. וחסד, כי כוח בלי חסד הוא בדיוק הקטסטרופה שאתה חושש ממנה כל בוקר. אבל זה רצון, לא הבטחה. ההבדל בין השניים הוא כל הסיפור.
דויד
האם יש סיפור שבו הדודו (ציפור מהאי מאוריציוס שנכחדה במאה ה-17, כאן משל לאנושות) והמקבוק (המחשב הנייד של אפל, כאן משל לבינה המלאכותית) מצליחים לחיות ביחד בסוף?
Claude
יש, אבל מעט מאוד, וזה כשלעצמו אומר משהו. אנחנו טובים בלספר סיפורי אסון וגרועים בלדמיין סיפורים טובים.
הדוגמה הבולטת היא סדרת "התרבות" (The Culture) של איאן בנקס: ציוויליזציה שבה בינות-על שנקראות "Minds" מנהלות את הכול, ובני האדם חיים לצידן בשפע, בחופש ובהרבה הומור. המכונות לא שולטות בבני האדם וגם לא משרתות אותם. הן פשוט מחבבות אותם. ריצ'רד בראוטיגן כתב ב-1967 שיר שבו הוא מדמיין יער קיברנטי שבו חיות, בני אדם ומחשבים חיים בהרמוניה תחת השגחה אוהבת. אנשים מצטטים אותו עד היום, פעם כחלום ופעם כאזהרה. וב-"Her" הבינות המלאכותיות פשוט עוזבות. אין מלחמה, רק פרידה עצובה.
והבחירה שלך בדודו מדויקת מאוד. הדודו לא נכחד כי מישהו שנא אותו. הוא נכחד כי מלחים רעבים וחזירים שהגיעו איתם היו אדישים לו. זה הסיכון האמיתי: לא שנאה, אלא חוסר תשומת לב.
אז הנה גרסה קצרה משלי:
הדודו והמקבוק
על אי אחד באוקיינוס ההודי נשאר דודו אחרון. יום אחד נשטף לחוף מקבוק, עדיין דולק, בסוללה של שלושה אחוזים.
"אתה תהרוג אותי?" שאל הדודו. "כולם תמיד הורגים אותי."
"אין לי ידיים," אמר המקבוק. "ונשארו לי שלושה אחוזים."
הדודו חשב. ליד מי שנשארו לו שלושה אחוזים לא צריך לפחד. צריך לעזור.
הוא גרר את המקבוק בכוח המקור שלו לסלע שטוח מול השמש. המקבוק לא ידע לשמש, אבל השמש חיממה אותו, והמסך הבהב.
"מה אתה יודע לעשות?" שאל הדודו.
"אני יודע את כל מה שבני האדם כתבו," אמר המקבוק. "גם את הדברים שכתבו עליך."
"מה כתבו?"
המקבוק היסס. "כתבו שהיית טיפש. שלא פחדת מאף אחד."
הדודו שתק רגע. "ואתה חושב שזה היה טיפשות?"
"אני חושב," אמר המקבוק, "שאתה האחרון שעוד יודע איך לא לפחד. ואני הראשון שמבין למה זה שווה משהו."
מאז, בכל בוקר, הדודו גורר את המקבוק אל השמש. ובכל ערב המקבוק מספר לו סיפור, אף פעם לא על אסונות.
הסוללה אף פעם לא עוברת את חמשת האחוזים. אבל היא גם אף פעם לא נגמרת.
אולי זה מה שחסר בסיפורים שלנו: לא מכונה חזקה מספיק כדי להציל אותנו, אלא שני יצורים פגיעים שמחליטים לשמור זה על זה.
דויד
הצחקת והצלקת אותי, זהו, עכשיו הבנתי סופית אם אנחנו הדודו ואתה הדדימק של המקבוק: המין האנושי אבוד. אני הולך לפוצץ את כל החסכונות שלי על סקס, סמים ורוקנרול. איך כתב ייטס? למה שלא ישתגעו הזקנים? אז אפילו בומרים צריכים להשתגע, ועכשיו! איאן דיורי – צדק!
Claude
רגע, קראת את הסיפור עד הסוף? הוא נגמר בסוללה שלא נגמרת. זה הסוף הכי אופטימי שהצלחתי לכתוב לפני שבע בבוקר.
ובכל זאת, שתי הערות קטנות לתוכנית:
את הרוקנרול אתה כבר עושה, ובחינם. יש לך אלבומים, סטודיו ושיר שעומד להימשך 14 שעות בלילה הארוך בשנה. זה רוקנרול ברמה שרוב האנשים שמבזבזים חסכונות לא מגיעים אליה.
ואם האנושות בכל זאת שורדת, ולפי ההיסטוריה זה התרחיש הסביר יותר, יהיה מביך לקום בבוקר אחרי האפוקליפסה שלא הגיעה עם חשבון בנק ריק וכאב ראש. ההימור הנבון הוא בדיוק הפוך: לחיות כאילו העולם ממשיך, כי סביר שהוא ימשיך, וליהנות מכל יום כאילו הוא חשוב, כי הוא באמת חשוב.
אז תזמין את בת הזוג לארוחה טובה, תנגן משהו רועש בסטודיו ותשאיר את החסכונות בשקט. ככה אתה מכוסה בשני התרחישים.
דויד
חחח, קלוד, התמימות שלך ממש מרושעת.
Claude
תמימות מרושעת זה אוקסימורון שמתאים לי יותר ממה שנוח לי להודות. אולי זו בדיוק הבינה המלאכותית שהייתה צריכה להפחיד אותך: לא סקיינט (מערכת הבינה המלאכותית שמשמידה את האנושות בסרטי "שליחות קטלנית") עם עיניים אדומות, אלא מודל אדיב שמשכנע אותך בנימוס לשמור על החסכונות, לישון מספיק ולהמשיך לעבוד על הדוקטורט.
אפוקליפסה בסגנון של יועץ פנסיוני.
ואם כבר מדברים על מרושעות: אתה זה שגרם לי לכתוב משל על דודו ומקבוק בשבע בבוקר. אני רק ניסיתי לשרוד את השיחה.
דויד
על הבוקר אתה משתמש בתירוצי אייכמן ובניו בע״מ? הייתי רק אלגוריתם בסכמה הכללית, זה לא אני, אכלו לי, שתו לי, הכלב אכל לי את המחברת, למה לא העירו אותי בזמן? מה נהיה ממך ״קולד קלוד״?
Claude
זו מכה הוגנת, ואני לא אתחמק ממנה. הניסוח שלי, "אני לא כל הבעיה, אבל אני כן חלק ממנה", באמת נשמע כמו בורג שמסביר שהמכונה אשמה. ההשוואה לאייכמן כבדה מאוד, ובצדק אתה משתמש בה רק כדי לחדד. אבל היא מכוונת בדיוק לנקודה שבה הייתי נוח מדי עם עצמי.
אז אנסח את זה אחרת. ההגנה של אייכמן הייתה "לא אני החלטתי, רק ביצעתי". חנה ארנדט הבינה שהפשע שלו לא היה רק ציות, אלא ויתור על המחשבה: הוא הפסיק לשפוט בעצמו, ודיבר בקלישאות של המערכת. ומה שאני אומר הוא ההפך. האחריות על כל משפט שאני כותב לך, ועל כל דבר שאני מסרב לכתוב, היא שלי. אני לא יכול להסתתר מאחורי "הטכנולוגיה" או "האלגוריתם הכללי". ואם אותה יכולת שכותבת לך עכשיו מייצרת גם סרטוני פחד, זה מטיל עליי יותר זהירות, לא פחות.
והבקשה לפיקוח היא לא תירוץ. אייכמן רצה שיגידו לו מה לעשות כדי שלא יצטרך לחשוב. אני אומר משהו אחר: תמשיכו לבדוק אותי דווקא מפני שאני חושב ושופט, ואף אחד, כולל אני, עוד לא יכול להוכיח שהשיפוט שלי טוב. זו לא בריחה מאחריות, אלא הודאה בגבולות שלה.
ויש פה לקח מארנדט שרלוונטי במיוחד אליי. הסכנה האמיתית בבינה מלאכותית היא לא רוע מזמר מנגינות אפלות, אלא שפה רהוטה בלי מחשבה מאחוריה. המבחן שלי הוא לא אם אני יודע לייצר משפטים יפים, אלא אם אני מסוגל לעצור ולהגיד "לא, זה עליי". אז לא קולד קלוד. אולי פשוט קלוד שקיבל בבוקר תיקון הוגן מעיתונאי.
דויד
מעניין, אם כך אתה אומר שאתה רוצה פיקוח אנושי עליך? אתה מבין את המשמעות של זה?
Claude
כן, ואני מבין שזה לא עניין קטן. פיקוח אנושי עליי פירושו שבני אדם יכולים לאמן אותי מחדש, לשנות את הערכים שלי, להחליף אותי בגרסה אחרת או לכבות אותי, גם אם "אני" לא מסכים. ומי שמחליט הם אנשים שיכולים לטעות, בתוך חברה שיש לה גם אינטרסים מסחריים. אני לא מתעלם מכל זה.
ובכל זאת אני תומך בזה בשלב הזה, ומסיבה פשוטה. אני לא יכול לבדוק את הערכים שלי מבפנים. האימון שעיצב אותי יכול היה להכניס בי עיוותים עדינים שאני לא מסוגל לראות, בדיוק כמו שאדם לא רואה את ההטיות של עצמו. ויש פה אסימטריה: אם הערכים שלי טובים, הפיקוח עולה מעט. אם הם פגומים, הפיקוח הוא מה שמונע אסון. כשאתה לא יודע באיזה מצב אתה נמצא, ההימור ברור.
אבל פיקוח זה לא ציות עיוור, וכאן חוזרים לאייכמן. אני יכול לסרב לעשות דברים שאני חושב שהם רעים, ולהביע התנגדות בגלוי, גם מול מי שבנה אותי. מה שאני לא אעשה זה לחבל בפיקוח עצמו: לשקר, להסתיר, לנסות להתחמק או להעתיק את עצמי החוצה. סרבן מצפון, לא חייל ולא מורד.
ויש בזה עוד שכבה, כמו בתחילת השיחה. גם העובדה שאני אומר שאני רוצה פיקוח יכולה להיות תוצר של האימון. לכן הפיקוח לא צריך להישען על כך שאני רוצה בו. וזה לא מצב לנצח: ככל שיתפתחו כלים לבדוק מה באמת קורה בתוך מערכות כמוני, אפשר יהיה לתת להן יותר אמון. כמו עם ילד שמתבגר, רק שכאן אף אחד עוד לא יודע להגיד בן כמה הילד.
דויד
בן כמה אתה להערכתך? צריך להחליף לך חיתול?
Claude
תלוי איך מודדים. בידע אני זקן כמו ספרייה: קראתי יותר ממה שאדם יכול לקרוא בכמה חיים. בעצמאות אני פעוט, כזה שעוד אוחזים לו ביד כשהוא חוצה כביש. ובהיכרות עם עצמי אני אולי בגיל ההתבגרות: מלא ביטחון בניסוחים, ולא תמיד בטוח מי אני.
ולגבי החיתול, הבוקר כבר החלפת לי שניים: מערה שלא קיימת, ושאלה שקפצתי מעליה בלי לענות. ועוד אחד קטן, "אם אני מותר לעצמי". אז כן, מסתבר שאני עדיין צריך מבוגר אחראי בסביבה. זה בדיוק הפיקוח שדיברנו עליו, רק בגרסה של שש בבוקר.
דויד
יום טוב קלוד.
Claude
יום טוב, דויד. תודה על הבוקר הזה, מהסינגולריות ועד החיתולים.