בעמוד זה עונה יובל נח הררי על חלק מהשאלות שהוא נשאל לעתים תכופות – ומסביר את השקפותיו על נושאים כמו מציאות מול בדיון, דטרמיניזם טכנולוגי, פוסט-הומניזם, דת ועוד.
- האם אתה חושב שכל מה שמקיף אותנו הוא רק סיפורים בדויים? שום דבר לא אמיתי?
ברור שיש דברים אמיתיים! לא הכל זה סיפורים מדומיינים. כן, כסף הוא סיפור מדומיין, תאגידים הם בדיות וכך גם אומות, אלים וחוקי הכדורגל. את כל הדברים האלה המציאו בני אדם, והם קיימים רק בדמיון המשותף שלנו. אבל עדיין קיימת גם מציאות. הדבר האמיתי ביותר בעולם הוא סבל. אם אנחנו שומעים סיפור, ואנחנו רוצים לדעת האם גיבור הסיפור הוא ישות אמיתית או בדויה, עלינו לשאול שאלה אחת פשוטה: "האם הגיבור הזה יכול לסבול?"
כאשר שורפים את מקדשו של זאוס, זאוס לא סובל. כאשר הדולר מאבד מערכו, הדולר לא סובל. כשבנק פושט רגל, הבנק לא סובל. כשמדינה מובסת במלחמה, המדינה לא באמת סובלת. זאת רק מטפורה. לזאוס, לדולר, לבנקים ולמדינות אין מערכת עצבים, מוח, או תודעה. הם לא יכולים להרגיש כאב או עצב. הם לא יכולים לסבול.
לעומת זאת, כשחייל נפצע בקרב, הוא באמת סובל. ילדה מורעבת שאין לה מה לאכול, סובלת. פרה המופרדת מהעגל שלה, סובלת. זאת מציאות. כמובן, סבל יכול להיגרם בשל האמונה שלנו בסיפורים מדומיינים. קחו לדוגמה את המלחמות הרבות שניטשו על העיר ירושלים. חייתי בירושלים חלק גדול מחיי, ואני מכיר אותה היטב. פיזית, מדובר במקום רגיל לגמרי. יש בעיר אבנים, עצים, בניינים, אנשים, כלבים, חתולים. אבל בדמיונם של אנשים רבים ירושלים היא מקום מיוחד מאוד, מלא אלים ומלאכים ואבנים קדושות. ואז הם מתחילים להילחם על המקום הזה – לא על האבנים והעצים הממשיים, אלא על הסיפורים. הסיבה למלחמה היא סיפור מדומיין, אבל הסבל הנובע ממנה הוא סבל אמיתי במאת האחוזים. הדם אמיתי, הכאב אמיתי, היגון אמיתי. משום כך בדיוק עלינו לחתור להבחין בין דמיון למציאות.
אני לא רוצה שישתמע מדברי שכל סיפור מדומיין הוא בהכרח רע. זה לא נכון. הדמיון חיוני להישרדותנו. בלי סיפורים על דברים כמו כסף, מדינה, תאגידים וחוקים, שום חברה אנושית מורכבת לא תוכל לתפקד. לדוגמה, כדי לשחק כדורגל צריך קודם כל להביא 22 אנשים להאמין בחוקים אחידים, למרות העובדה שהחוקים האלה קיימים אך ורק בדימיון שלנו. כיף גדול לשחק כדורגל, אבל אם חוליגן מתחיל להרביץ לאוהדים של הקבוצה האחרת, הוא מתייחס לסיפור ברצינות רבה מדי. בדומה לכך, כדי שתהיה לנו מדינה מתפקדת אנחנו חייבים להביא מיליוני אנשים להאמין באומה, בדגל, במטבע שלה וכן הלאה, למרות העובדה שכל אלה קיימים אך ורק בדמיון שלנו. מדינות הן המצאה נפלאה. הן מאפשרות לאנשים להרגיש קשר כלפי מיליוני זרים ולדאוג לבריאותם, לביטחונם ולהשכלתם. אבל אם אנחנו שוכחים שמדינות הן פרי הדמיון שלנו שבראנו כדי לעזור לאנשים, אנחנו עלולים להתחיל להרוג מיליוני בני אדם למען דבר מדומיין כמו "הכבוד הלאומי".
אם כן, בקצרה, סבל הוא אמת המידה האמיתית שבה יש להשתמש כדי לבחון האם הסיפורים שאנחנו ממציאים מועילים או מזיקים. אם אמונה בסיפור מפחיתה סבל, זה סיפור טוב. אם אמונה בסיפור מעצימה סבל, הסיפור הזה מזיק, ועדיף לשנות אותו.
- האם אתה מאמין בדטרמיניזם טכנולוגי?
טכנולוגיה לעולם איננה דטרמיניסטית. במאה ה-20 חברות מסוימות השתמשו בכוח החשמל, הרכבות והרדיו להקמת משטרים רודניים טוטליטריים, ואילו חברות אחרות השתמשו באותם כוחות ממש להקמת דמוקרטיות ליברליות. מספיק לחשוב על קוריאה הצפונית וקוריאה הדרומית – הייתה להן גישה לאותן טכנולוגיות בדיוק, אבל הן בחרו לבנות חברות שונות מאוד זו מזו. גם הטכנולוגיות החדשות של המאה ה-21 יכולות לשמש ליצירה של גן עדן או גיהנום – הכול תלוי בבחירות שנעשה.
התרחיש הגרוע ביותר הוא שאינטליגנציה מלאכותית תסלק מאות מיליוני אנשים משוק העבודה ותיצור מעמד חדש של "חסרי תועלת". אנשים יאבדו את ערכם הכלכלי ואת כוחם הפוליטי. במקביל, הנדסה ביולוגית תאפשר לשדרג אליטה קטנה של ״אנשי על״. ההתנגדות לאליטת אנשי-העל תהיה כמעט בלתי אפשרית, בשל משטר של מעקב טוטלי שינטר לא רק את מה שכל אדם יאמר ויעשה, אלא אפילו את מה שכל אדם ירגיש ויחשוב.
סכנה נוספת בהקשר זה היא שממשלות ותאגידים עלולים להשיג את היכולת לפצח בני אדם. פיצוח (hacking) של בני אדם פירושו להבין אותנו טוב יותר מאשר אנחנו מבינים את עצמנו. כדי לעשות זאת ממשלה או תאגיד זקוקים לידע ביולוגי ניכר, לשפע של נתונים ולכוח חישוב רב. עד היום לא הייתה אפשרות לעשות זאת. אפילו בגרמניה הנאצית או בברית המועצות לא הייתה לממשלה יכולת לדעת מה כל אדם עושה, חושב ומרגיש. אבל בתוך זמן קצר ייתכן שיהיו לממשלות ולתאגידים מסוימים די ידע ביולוגי, די נתונים ודי כוח חישוב לעקוב אחרי כל האנשים, כל הזמן, ולדעת מה כל אחד מאיתנו עושה, חושב ומרגיש. ברגע שממשלה או תאגיד יבינו אותנו טוב יותר מאשר אנחנו מבינים את עצמנו, הם יוכלו לצפות מה נרגיש ונחליט, לבצע מניפולציות ברגשותינו ובהחלטותינו, וליצור את המשטרים הרודניים האיומים ביותר בהיסטוריה.
זה התרחיש הגרוע ביותר. אבל הוא לא נבואה, אלא רק אפשרות. ויש חלופות. התרחיש הטוב ביותר הוא שהטכנולוגיות החדשות ישחררו את בני האדם כולם מעול המחלות והעבודה הקשה, ויאפשרו לכולם לחקור ולפתח את הפוטנציאל האמיתי הטמון בהם. ביוטכנולוגיה תתמקד בריפוי של כולם ולא בשדרוגה של אליטה קטנה. בינה מלאכותית אכן תבטל משרות רבות, אבל באמצעות הרווחים שייווצרו יינתנו לכולם שירותים והשכלה טובים יותר ותהיה לכולם הזדמנות לממש חלומות בתחומים שונים: אמנות, ספורט, רוחניות או בניית קהילות. שיטות מעקב מתוחכמות לא ישמשו לריגול אחר אזרחים, אלא לניטור פעולות השלטון, על מנת לוודא שאיננו נגוע בשחיתות.
אילו מהתרחישים הללו יתממשו? זה תלוי בנו.
- האם אתה פוסט-הומניסט? האם אתה מעודד שימוש בביוטכנולוגיה ובבינה מלאכותית ליצירה של על-אדם?
אני בפירוש לא פוסט-הומניסט, ואני חושב ששימוש בביוטכנולוגיה ובבינה מלאכותית לשינוי של בני אדם הוא רעיון מסוכן ביותר. מאז ומעולם סבלו בני האדם מפער גדול בין הכוח שלנו לבין החוכמה שלנו. פער בין הכוח שיש לנו לעשות מניפולציות על מערכות שונות, לבין החוכמה הדרושה להבנת המערכות האלה בצורה עמוקה. לרוע המזל, קל בהרבה לעשות מניפולציות על מערכת מאשר להבין אותה לעומק. קל יותר לבנות סכר על נהר מאשר להבין את ההשפעה שתהיה לסכר על המערכת האקולוגית. משום כך אנחנו, בני האדם, לעתים קרובות מתחילים לשנות דברים הרבה לפני שאנחנו מבינים את ההשלכות של מעשינו.
בעבר למדנו לעשות מניפולציות על העולם שמחוץ לנו. למדנו איך לשלוט בנהרות, בבעלי החיים, ביערות. אבל כיוון שלא הבנו את המורכבות של המערכת האקולוגית, השתמשנו בכוח הזה לרעה. הפרנו את האיזון שבמערכת וכיום אנחנו עומדים בפני התמוטטות אקולוגית.
במאה ה-21 אולי נלמד לעשות מניפולציות לא רק על העולם שמחוץ לנו, אלא גם על העולם שבתוכנו. יתכן שהנדסה גנטית ובינה מלאכותית יאפשרו לנו לעצב מחדש את הגוף והתודעה, ולעשות מניפולציות על הרגשות, המחשבות והתחושות שלנו. אבל כיוון שאנחנו לא מבינים את המורכבות של המערכת המנטלית הפנימית שלנו, אנחנו עלולים להשתמש בכוח הזה לרעה. ייתכן ונפר את האיזון שבין הגוף והתודעה, ונמצא את עצמנו מול התמוטטות אנושית פנימית במקביל למשבר האקולוגי החיצוני. סכנה גדולה במיוחד היא שממשלות, תאגידים וצבאות עלולים להשתמש בטכנולוגיות חדשות לשיפור כישורים הנחוצים להם, כמו אינטליגנציה וצייתנות, ויהיה להם הרבה פחות עניין בפיתוח מיומנויות אחרות, כגון חמלה, רגישות אמנותית או רוחניות. התוצאה עלולה להיות בני אדם מאוד אינטליגנטים וממושמעים, אך נטולי חמלה, נטולי רגישות אמנותית וחסרי עומק רוחני. בכך נאבד חלק גדול מהפוטנציאל האנושי עוד לפני שבכלל חקרנו אותו.
אין לנו מושג לגבי מלוא הפוטנציאל האנושי, כיוון שאנחנו יודעים מעט כל-כך על התודעה האנושית. אף על פי כן, אנחנו לא משקיעים הרבה בחקירת התודעה האנושית, ומתמקדים במקום זאת בהגדלת המהירות של חיבורי האינטרנט ובשיפור יעילותם של אלגוריתמים. אני מקווה שעל כל דולר וכל דקה שאנחנו משקיעים בפיתוח בינה מלאכותית, נשקיע עוד דולר ועוד דקה בחקירתה ופיתוחה של התודעה שלנו עצמנו.
- לעתים קרובות אתה משתמש במונחים פרובוקטיביים כמו "מעמד חסרי התועלת" או "פיצוח של בני אדם". למה טבעת את המונחים האלה והאם אתה תומך ביצירת מעמד של חסרי תועלת או בפיצוח של בני אדם?
אני מזהיר מפני הסכנות של פיצוח בני אדם והתרחבות "מעמד חסרי התועלת" מאז 2014 לערך, זמן רב לפני שהנושאים האלה זכו לפופולריות. אני חושב שלבינה מלאכותית יש אמנם פוטנציאל חיובי רב, אבל שימוש לא נכון בטכנולוגיה הזאת יהווה סכנה קיומית לאנושות. בינה מלאכותית עשויה לאפשר פריצה לא רק לטלפונים החכמים שלנו, אלא גם למוח האנושי. ובינה מלאכותית עלולה לגזול מאתנו את מקומות העבודה שלנו ולדחוף רבים מאתנו למעמד חדש של "חסרי תועלת". טבעתי ביטויים פרובוקטיביים אלה בכוונה תחילה כדי להפנות את תשומת לבם של אנשים לסכנות הללו.
אני שמח לראות שרבים כיום מודאגים מהסכנות הללו. אני שמח פחות לראות שבמקום להתאחד נגד האיומים המשותפים על בני האדם, אנחנו נלחמים ומאשימים אלה את אלה. אמנם יש אנשים מסוימים שפועלים באופן מסוכן, אבל אני לא חושב שעלינו לראות בקבוצה מסוימת של בני אדם את אויבינו המרים והמקור לכל צרותינו. המקור האמיתי לסכנה הוא הפוטנציאל המסוכן של הטכנולוגיות החדשות, ועלינו לשלב כוחות רבים ככל האפשר כדי לפתור את הבעיה ביחד. שנאה תשמיד את המין האנושי. שיתוף פעולה יכול להציל אותנו. האם אתם מעדיפים להקדיש את זמנכם להפצת שנאה, או לעבודה משותפת במטרה לפתור את הבעיה?
- מה דעתך על דת ורוחניות? האם יש להן תפקיד במאה ה-21?
אני מבחין בין דת לבין רוחניות. דת היא עסקה, ואילו רוחניות היא מסע. הדת מציעה לנו חוזה מוגדר היטב: "אלוהים קיים. הוא אמר לנו לציית לחוקים מסויימים. אם נציית לאלוהים נגיע לגן עדן. אם נמרה את פיו, נישרף בגיהנום." הדת אומרת שאסור לנו להטיל ספק בחוזה הזה או לשנות אותו – אנחנו אמורים רק להאמין בו ולציית לחוקים.
מסעות רוחניים הם משהו אחר. הם בדרך כלל לוקחים אנשים בדרכים עלומות אל יעדים לא מוכרים. המסע מתחיל בשאלות גדולות כמו "מי אני?", "מהי משמעות החיים?" או "מה טוב ומה רע?". בעוד רוב האנשים פשוט מקבלים את התשובות המוכנות-מראש שמספקים להם ממסדים דתיים, קשה יותר להשביע את רצונם של מי שמחפשים את האמת הרוחנית. מחפשי -אמת מטילים ספק בכול, ולעתים קרובות קוראים תיגר על האמונות והקונבנציות של הדתות הרווחות. בזן בודהיזם נאמר "אם תפגוש את הבודהה בדרך, הרוג אותו". מה פירוש הדבר? אם בזמן ההליכה בנתיב הרוחני אנחנו נתקלים ברעיונות הנוקשים ובחוקים המקובעים של בודהיזם ממוסד עלינו להשתחרר גם מהם.
רוחניות מהווה איום מסוכן על דתות. דתות חותרות בדרך כלל לריסון החיפושים הרוחניים של חסידיהן, וקריאות תיגר רבות על מערכות דתיות נעשו דווקא מצדם של מחפשי אמת רוחנית שציפו למצוא משהו מעבר לססמאות נדושות. לדוגמה, בודהה הציב אתגר בפני הממסד הדתי ההינדי, ישו הציב אתגר בפני הממסד הדתי היהודי ומי שפתח בהתקוממות הפרוטסטנטית נגד הכנסייה הקתולית היה הנזיר האדוק מרטין לותר. לותר רצה תשובות לשאלות הקיומיות של החיים, וסירב להתפשר על הטקסים, הפולחנים והעסקאות שהציעה הכנסייה הקתולית.
אני חושב שבמאה ה-21 הרוחניות חשובה יותר מאי פעם. במשך רוב ההיסטוריה לא הייתה לרוב האנשים שאיפה לצאת למסעות רוחניים, והם נטו להתעלם מהשאלות הגדולות של החיים. אבל כיום טכנולוגיות כמו בינה מלאכותית וביוטכנולוגיה מאלצות את כולנו להתמודד עם שאלות רוחניות עתיקות מאוד ועמוקות מאוד, כגון "מהי תודעה?", "מהי אנושיות?" ו"האם יש רצון חופשי?".
- אתה אומר שלבני אדם אין רצון חופשי. זאת לא השקפה שלילית מאוד על בני אדם?
חופש הוא לא משהו שיש לך. חופש הוא משהו שחייבים להיאבק עליו. אנשים שמאמינים שהחלטותיהם משקפות את "הרצון החופשי" שלהם הם האנשים שהכי קל לעשות עליהם מניפולציות. לבני אדם בהחלט יש רצון והם מקבלים החלטות כל הזמן. אבל רוב ההחלטות הללו אינן מתקבלות באופן חופשי. הן מעוצבות על ידי כוחות ביולוגיים, תרבותיים ופוליטיים שונים. האמונה ב"רצון חופשי" מסוכנת, כי היא מטפחת בורות לגבי עצמנו. כאשר אנחנו בוחרים דבר מה – מוצר, קריירה, זוגיות, מפלגה פוליטית – אנחנו אומרים לעצמנו "בחרתי מתוך הרצון החופשי שלי." אם כך הדבר, אין עוד מה לבדוק. אין סיבה לסקרנות לגבי המתרחש בתוכי, ולגבי הכוחות שעיצבו את הבחירות שלי.
כיוון שתאגידים וממשלות צוברים טכנולוגיות חדשות רבות עוצמה לעיצוב הבחירות שלנו ולמניפולציות עליהן, האמונה ברצון חופשי מסוכנת יותר מאי פעם. מצד שני, אני לא מטיף למסירת כל הכוח בידי איזשהו אלגוריתם שיקבל החלטות בשבילנו. אני ממליץ לנקוט בדרך האמצע: אל תאמינו שיש לכם רצון חופשי. בחנו את עצמכם. הבינו מה באמת מעצב את הרצונות וההחלטות שלכם. זאת הדרך היחידה להבטיח שלא תהפכו להיות בובות בידי רודן אנושי או מחשב-על. ככל שתטילו ספק גדול יותר באמונה הנאיבית ברצון חופשי, כך תיהנו מחופש אמיתי רב יותר.
זו כמובן העצה העתיקה ביותר. עוד מימי קדם יעצו חכמים וקדושים לאדם – "דע את עצמך". אבל בימיהם של סוקרטס, ישו ובודהה לא הייתה לנו תחרות אמיתית. מי שלא "ידע את עצמו" עדיין היה קופסה שחורה מבחינת שאר האנושות. כיום לעומת זאת, יש לנו תחרות. בזמן שאתם קוראים את הדברים האלה ממשלות ותאגידים חותרים לפרוץ למוחכם. אם יצליחו להכיר אתכם טוב יותר משאתם מכירים את עצמכם הם יוכלו למכור לכם כל מה שירצו – בין אם זה מוצר או פוליטיקאי.
- יש כאלה שרואים בך נביא או גורו. איך אתה מרגיש לגבי המצב?
אני ממש לא נביא או גורו. אני לא חוזה את העתיד ואני לא חושב שמישהו יכול לחזות את העתיד. ההיסטוריה איננה דטרמיניסטית ולאף אחד אין מושג איך יראה העולם בשנת 2050. אני בסך הכול משתמש בידע שלי על העבר כדי להציג שאלות לגבי העתיד, לשרטט מפה של תרחישים אפשריים, ולהדגיש את התרחישים המסוכנים ביותר בתקווה שנוכל למנוע אותם. השאלה אילו תרחישים יתממשו תלויה במידה רבה בהחלטות שלנו. כל המטרה בדיבור על העתיד היא האפשרות לעשות משהו לגביו. מה הטעם להציג תחזיות לגבי דברים שאין לנו כל סיכוי לשנות?
כמובן, תמיד קיימת הסכנה שאנשים מסוימים יתחילו לראות בי מעין גורו. טוב להעריך ידע ולהקשיב לדעתם של בעלי ידע, אבל מסוכן להפוך אדם כלשהו לאליל. ברגע שמעריצים אדם, הוא עלול להתחיל להאמין במה שאומרים עליו, והדבר עלול לנפח את האגו ולהטריף את הדעת. מצדם של המעריצים, מרגע שהם מאמינים שמישהו יודע את כל התשובות הם מוותרים על החופש שלהם ומפסיקים להתאמץ בעצמם. הם מצפים מהגורו שיספק להם את כל התשובות והפתרונות. ואפילו אם הגורו יתן להם תשובה שגויה ופתרון רע, הם יקבלו אותם. אני מקווה שאנשים יקראו את ספריי כספרים המלאים שאלות, יותר מאשר כספרי תשובות, ויראו בי אדם המחפש את האמת לצדם, ולא נביא כל-יודע.