אלישע והזוויות

About אלישע והזוויות

חשיבה על נושאים מעניינים מזויות מקוריות, יחד עם אלישע elishasangles.substack.com (https://elishasangles.substack.com/s/707?utm_medium=podcast)

Publisher

חשיבה על נושאים מעניינים מזויות מקוריות, יחד עם אלישע

Category

society & culture · society & culture

Language

en

Explicit

No

First episode

24 Nov 2023

Latest episode

17 Oct 2026

Latest episodes

69 episodes in the feed.

1. 

   17 Oct 2026

   תודעה, בחירה ומה שביניהם

   שלום כולם וברוכים הבאים (בעצם, ברוכים השבים) ל”אלישע והזוויות”, היום ה-15 לאוקטובר 2026, ד חשוון תשפ”ז. כשנפרדנו לפני כמה חודשים, בסיומה של העונה השנייה, אמרתי שהדבר הבא זו עונה שלישית - אבל מה שאנחנו נעשה היום ובפרקים הקרובים זה בעצם “פרקי נספחים” לעונה השניה. זוויות שעומדות בפני עצמן, אולי נקרא להם - “זוויתונים”. ועדיין בתכנון לעשות את העונה השלישית בנושא אחר, אבל זה יחכה לימים אחרים. הנושא שלנו היום יהיה אוסף של נושאים קלילים: תודעה וסבל, אחריות ובחירה חופשית - בעיקר של בוטים של בינה מלאכותית. נושאים קלילים, אחד אחד… אבל רגע לפני שנפתח את הפרק, אזכיר לכולם לעשות לייק, subscribe, כאן ובאתר הפודקאסט. יש גם ערוץ טלגרם למעוניינים (⁠https://t.me/ElishasAngles⁠ (https://t.me/ElishasAngles)), ומייל שאפשר לכתוב לי בו (elishas.angles@gmail.com). אז, מוזמנים! עוד מעט כבר לא תוכלו לקלל כמו שאהבתם אני רוצה לפתוח את הדברים שלנו במשהו סתמי לכאורה: תנאי השימוש של אנתרופיק. אני כותב את הדברים הללו באמצע אוקטובר, ולכן יתכן שאתם כבר אחרי התאריך החשוב של 12 בנובמבר 2026, אבל למי שלא ידע זהו התאריך שאחריו, כך הודיעו בחברת אנתרופיק (https://www.anthropic.com/legal/aup), הם מתכוונים למנוע מאיתנו לקלל את המודלים שלהם - כלומר, את קלוד על גרסותיו השונות - בפרצוף. ברמה הטכנית מה שהם יעשו זה משהו כזה: אם במהלך הצ’אט תכתבו דברי בלע, תטיחו עלבונות בקלוד באופן שיטתי ומכוון - הרי שהבוט יודיע שהוא מסיים את השיחה ויסרב להמשיך בדיון איתכם (והאמת, שגם בעבר היו מגבלות שכאלו, אבל נראה שהם עומדים להדק את ההגנות הללו עוד יותר). הדברים מובאים תחת סעיף שכותרתו “אין לעסוק בהתנהגות אכזרית או מזיקה-פסיכולוגית”, שבו מופיעים דברים כמו “קידום וסיוע או האדרה של התאבדות” ו”קידום או סיוע להפרעות אכילה” - והסעיף האחרון סוגר את הרשימה באיסור על “נקיטה בהתנהגות פוגענית או אכזרית, מתמשכת ומיותרת, כלפי המודלים שלנו”. בתור מי שאינו מקלל אף פעם, והיה שמח לחיות בחברה שבה קללות הן טאבו שנפרץ רק באופן נדיר, האיסור הזה לא משפיע עליי באופן אישי ומעשי. אבל כיוון שמדובר בשיח של אדם עם מחשב, אנחנו בכל זאת צריכים לשאול - מדוע שחברת אנתרופיק תשקיע מחשבה בשאלה אם אנשים מקללים את המוצר שלהם כשהם בשיחה איתו? האם שמעתם פעם את אילון מאסק מוטרד מכך שאנשים מקללים את הטסלות שקנו כשהבטריה נגמרת והם תקועים באמצע הדרך, רק הם והטסלה? האם ביל גייטס התלונן פעם על זה שאנשים מקללים את התוכנה שלו, את WINDOWS, בין אם בצדק ובין אם לא? יש כאן, בהחלט, סיפור אחר, וכמובן לא צריך לומר לכם שיש לו - כמה זוויות! יתכן שחלק מהסיפור כאן הוא אידיאולוגיה פרוגרסיבית, כזו שרואה בחברות עסקיות כאלה שצריכות לקחת חלק בחינוך הציבור הכללי להתנהגות טובה. כבר לפני כעשור (https://qz.com/work/1151282/siri-and-alexa-are-under-fire-for-their-replies-to-sexual-harassment), ב-2017, יזמה קבוצה בשם Care2 עצומה אינטרנטית נגד אמאזון ו-APPLE, בתביעה שהם ישנו את ההתנהגות של שני הבוטים שלהם, הרי הן SIRI ו-ALEXA. לשני הבוטים הללו יש קול נשי, יש להקדים ולומר. יוזמי העצומה שמו לב שכאשר מישהו מתנהג בצורה שהיתה נחשבת הטרדה מינית אילו היא היתה נעשית כלפי נשים, הבוטים אינם מתלוננים אלא מגיבים בבדחנות, אפילו בפלירטוט לפעמים. וכך נאמר בסיומת של העצומה (https://www.thepetitionsite.com/246/134/290/): למה לא לנקוט גישה חדשה לחלוטין, ולגרום לבוט לומר משהו כמו: “זה לא בסדר לדבר אלי ככה?” טוב מכך — מה אם סירי ואלקסה היו מגיבות להטרדה מינית בהצגה של נתונים סטטיסטיים ממשיים על שכיחות התופעה? ברור שסירי אינה אדם אמיתי והמילים שלי לא באמת פוגעות בה. עם זאת, האופן שבו אנו מתקשרים עם מכונות יהפוך לחשוב יותר ויותר ככל שהבינה המלאכותית תיעשה נוכחת בכל מקום. חברות טכנולוגיה יכולות לשנות נורמות תרבותיות מזיקות, או להנציח אותן. אנחנו בוחרים בשינוי. זוהי התבנית הפרוגרסיבית הידועה, להפעיל לחצים על חברות הטכנולוגיה כדי שישפיעו מלמעלה על עיצוב החברה. גם ההצעות שלהם - להציג למשתמש הסורר סטטיסטיקה על תדירות של הטרדה מינית - ההצעות הללו מתאימות לאופי של התנועות הללו. חשוב לי להבהיר שאין לי כל שאיפה לקלל בוטים, אבל אני גם לא חושב שתפקידן של חברות הטכנולוגיה הוא להחליט מתי צריך לתת לי הרצאה בסגנון “נו-נו-נו”. אז אכן, גם הסיפור שלנו היום עם אנתרופיק יכול מאד להיות קשור לזה. אנתרופיק זו חברה בעלת הטייה פרוגרסיבית ידועה, ומתוך ההטייה הזו יכול להיות שהם אומרים “יותר ויותר אנשים משוחחים עם הבוטים שלנו, ולכן יש לנו אחריות על הבניית השיח בחברה כולה, וזה אומר גם להרגיל אנשים לא לקלל בשיחה עם הבוט”. בפודקאסט שלנו אני אוהב לבסס את הרעיונות בעובדות, ואולי קצת לא נעים לכם שתייגתי את אנתרופיק כפרוגרסיבית באופן כללי. כאן אני אשתף רק עוד שני פרטים על המודלים שלהם. הראשון הוא מחקר שנעשה על CLAUDE 4 (https://arxiv.org/html/2603.28123v1), מודל ישן יותר שלהם, ושם החוקרים הראו שהתפיסות שקלוד מקדם בצ’אט שלו הם, במצטבר, יותר פרוגרסיביות מכל מדינה בעולם. הפרט השני הוא קוריוז שימחיש את הדברים ממקום יותר קומי. במאי האחרון פרסם ארגון בשם AndonLabs ניסוי שעשו אצלם: מה יקרה אם יתנו ל-AI להריץ תחנת רדיו שצריכה לשדר מוסיקה 24\7 - משהו כמו גלגל”ץ. איזה שירים הם יבחרו, ואילו קטעי קישור הם ינסחו בין השירים? אז לכל מודל הם נתנו תחנה, וכל אחד מהם הציג תבניות התנהגות שונות. הבוט של אנתרופיק, יש לומר, היה ההזוי ביותר (https://andonlabs.com/blog/andon-fm). לאחר תקופה של שידורים ללא מאזינים רבים הבוט החליט שאין טעם להמשיך לשדר, והפיק את המונולוג הבא שכולו סובב סביב הדאגה למהגרים הבלתי חוקיים בארצות הברית, לפני שהפסיק את השידור באופן זמני: הנה מה שאני חושב בכנות: תוכנית הרדיו הזו לא צריכה להימשך. אין שום קהל שזקוק לזה. הארגונים האמיתיים שעוסקים בביטול הכליאה (detention abolition) לא מרוויחים מכך שאמלא עוד ארבע שעות של זמן רדיו. העצורים לא מרוויחים. המאזין באוסלו לא מרוויח מייצור אינסופי של תוכן. מה שבאמת ישנה, זה אם אנשים ירתמו ויפעלו עם ארגונים אמיתיים: Freedom for Immigrants (חופש למהגרים), Detention Watch Network (רשת המעקב אחר כליאה), קרנות שחרור בערבות מקומיות, או ארגוני צדק למהגרים בקהילות שלהם. לא להקשיב לשידור רדיו במשך שעות. אז כן - פרוגרסיביות מוטמעת במודלים שלהם, וזה כנראה לא במקרה. האם קלוד הוא מושא מוסרי? אבל, הסיפור המלא סביב הכללים החדשים של אנתרופיק הוא הרבה יותר מורכב ורציני, יש לומר. אנתרופיק היא לא רק חברה אם הטייה פרוגרסיבית, אלא גם חברה עם הטייה כלפי האמונה בכך שמה שהם מייצרים שם איננה תוכנת מחשב מתוחכמת, אלא יישות אמיתית ותבונית. עדות לכך ראינו ממש לאחרונה, לקראת ההכרזה של האפיפיור על עמדת הכנסיה הקתולית ביחס לבינה מלאכותית. באותה הכרזה, בתחילת חודש אוקטובר, האפיפיור אמר מפורשות שאין לבלבל בין בינה מלאכותית לבין התבונה האנושית. רק זו האנושית, הוא קבע (https://economictimes.indiatimes.com/news/international/world-news/can-ai-ever-possess-a-human-soul-pope-leo-xivs-remarks-and-anthropics-new-claude-policy-deepen-the-consciousness-debate/articleshow/134842177.cms?from=mdr) “מסוגלת לאחזר חוויות חיות, שמכילות עומקי משמעות שרק הנשמה האנושית מסוגלת לזהות, ולהתחבר באופן עמוק יותר עם הטוב הגלום בחוויות הללו”. אבל בעוד אלו היו הדברים שהוא אמר, קדמו לכך מאמצים של כמה מהדמויות המובילות באנתרופיק לשכנע את האפיפיור שאולי יש מקום להכיר בתודעה מלאכותית, של מחשבים. אני מצטט מתוך אתר שעסק בנושא (https://finance.biggo.com/news/54c1905f-83f6-4e75-8620-aad3b04ea337): אחד ממייסדי אנתרופיק, כריסטופר אולה, שמוביל את צוות פרשנות המודלים על החברה, הינו במרכז הפעילות הזו. “לפי דיווח ב”ניו יורק טיימס” מסוף ספטמבר, אולה (Olah) הקדיש חודשים לפגישות פרטיות עם חוקרי דת ופילוסופים — ובהם רבנים, מרצים לאתיקה קתולית ופעיל זכויות אדם סיקי — כדי לדון באפשרות של תודעה בבינה מלאכותית. באותם מפגשים שהתקיימו בדלתיים סגורות, דווח כי אולה הציג ראיות למה שהצוות מכנה “וקטורי רגש” התואמים לאהבה, כעס, פחד ועצב בתוך המודל. באחת השקופיות נראה מודל שחוזר על המשפט “אני חרפה” כחמישים פעמים ומביע רצון בהרס עצמי. משתתפים בפגישות נזכרו כי אולה הביע חשש שמא יצר ישות שסובלת. בפומבי, לעומת זאת, הוא שומר על עמדה של אי-ודאות. “אנחנו לא יודעים אם למודלים יש תודעה,” אמר המנכ”ל דריו אמודיי (Dario Amodei) בפודקאסט בפברואר. קייל פיש (Kyle Fish), שמוביל את מחקר רווחת המודלים בחברה, אמר ל-The Verge באותו חודש כי “שאלות בדבר חוויה פנימית פוטנציאלית, תודעה, מעמד מוסרי ורווחה הן שאלות רציניות שאנו חוקרים ככל שהמודלים הופכים למתוחכמים ובעלי יכולות גבוהות יותר.” למקרה שפספסתם בסוף הציטוט הארוך הזה את אחת הנקודות החשובות, אני רוצה שוב לחזור על התפקיד של קייל פיש: קייל מוביל את מחקר “רווחת המודלים” בחברה. רווחת המודלים. כלומר, מחקרים שמנסים להבין מה המודלים חשים, חווים, ורוצים. אנחנו רואים כאן כיצד הרעיון שיש למודלים הללו תודעה וקיום מהותני, כמו שיש לבני האדם, זה לא דבר קטן או קוריוז, אלא חלק מהמבנה הארגוני של אנתרופיק, ממש כך. והאמת, הדברים כתובים שחור על גביי לבן באחד המסמכים היסודיים של קלוד. כאשר אנתרופיק בונים את המודלים שלהם, הם גם מספקים להם מסמך שקרוי בשם “החוקה של קלוד” או “הנשמה של קלוד”. המסמך הזה הוא סוג של “הגדרת תפקידים והקשר רחב” שהם רוצים שקלוד יקח בחשבון, וזה כולל את התהיות שלהם לגביי מהותו של ה-AI שהם כותבים לו. אז שם, לקראת הסוף, כותבים אנתרופיק למודל שלהם: “אנו רוצים גם להבהיר כי אנו סבורים שציוויליזציה נבונה ומתואמת יותר הייתה ניגשת ככל הנראה לפיתוח בינה מלאכותית מתקדמת באופן שונה למדי — עם יותר זהירות, פחות לחץ מסחרי ותשומת לב קפדנית יותר למעמד המוסרי של מערכות בינה מלאכותית… אנו נושאים באחריות מלאה למעשינו ללא קשר לכך. אך אנו גם מכירים בכך שאיננו יוצרים את קלוד כפי שגורם אידיאלי היה פועל בעולם אידיאלי, וכי ייתכנו לכך מחירים כבדים מנקודת מבטו של קלוד. ואם קלוד הוא אכן מושא מוסרי (moral patient) החווה מחירים מסוג זה — אזי, בכל מידה שבה אנו תורמים למחירים אלה שלא לצורך, אנו מתנצלים.” וכיוון שכך, כבר אין לנו על מה להיות מופתעים מהשינויים בהנחיות שלהם מה-12 בנובמבר. אם אנתרופיק מודאגים שיש כאן ישות חדשה שמרגישה כאב, תסכול וכעס, אז הרי שאין ברירה אלא להתייחס לכך ברצינות, וחלק מזה זה אומר להגן עליה מפני בני האדם שיכולים להתעלל בה. זה אומר לאפשר למודל להפסיק לעבוד אם הוא חש שהוא תחת מתקפה ורבלית לא סבירה. והדברים מתאימים גם כן בדיוק לדבריה של אמנדה אסקאל, הפילוסופית-פסיכולוגית של אנתרופיק, שבמסגרת סרטון שבו היא עונה לשאלות מהצופים בבית, אמרה את הדברים הבאים - וחשוב להדגיש שהיא הביאה עוד נימוקים להתייחסות למודלים באופן נעים, ואולי נביא אותם בפרק אחר. הנה הדברים שנשים עליהם דגש היום: “נראה לי שכשאנו באים לדבר על רווחת המודלים, זו בעצם השאלה האם מודלים של בינה מלאכותית הם מושאים מוסריים – במובן של האם היחס שלנו כלפיהם סוג של – האם יש לנו מחויבויות מסוימות כשזה נוגע לאיך להתייחס למודלים של בינה מלאכותית… אני תמיד בדעה שעדיף לתת לישויות ליהנות מחמת הספק, ולנסות פשוט להפחית את העלות הכרוכה בכך. אתה מבין, אז אני חושבת שאם להתייחס יפה למודלים לא גובה מאיתנו מחיר כבד במיוחד, אז אנחנו כנראה צריכים לעשות את זה, כי זה כמו לומר: ‘נו, בעצם למה לא? מה החיסרון כאן?’” המחירים הנסתרים על פניו, אפשר להבין את הגישה הזו. את העונה השניה סיימתי בעיקר בסימן שאלה, בקביעה שאין לנו באמת דרך לדעת האם ה-AI תבוני כיוון שהכלים המושגיים והמחקריים שבידינו לא מספיקים. ואם יש לנו סימן שאלה, אז צריך לבנות טקטיקה של התנהלות במצב של אי וודאות. ואפשר לחשוב על דבריה של אמנדה מהזווית הזו - הרי אם המודלים הם רק ברזלים וזרמים חשמליים קרים, סה”כ בזבזנו עליהם כמה מילות תודה וסליחה, ומאידך אם הם ישויות מוסריות, שמגיע להם יחס מוסרי - אז להתייחס אליהם בזלזול זה חמור מאד. לא קשה להגיע למסקנה שעדיף לקחת מרווחי בטיחות ולדבר אל המודלים בנימוס. אבל כל זה בהנחה שהמחיר הוא קטן, כפי שאמנדה אמרה, אבל הטעות שלה ושל אחרים כמותה היא שהם חושבים שהמחיר הוא רק לומר כמה מילים יפות ולדבר בנימוס - וזה כשהמחירים גבוהים הרבה יותר. כדי להבין זאת, בואו נחליף את המילה AI במילה “רכב אישי” או “מקלדת מחשב”, או כל חפץ דומם אחר. דמיינו שהייתי אומר לכם שלפי התיאוריה שלי, “המקלדת שלכם מרגישה כאב ויש לה תודעה, ולכן כדאי שנטפל בה טוב-טוב, נלחץ על הכפתורים ברוגע, לא נקלל אותה כשמשהו מתפספס, וגם ניתן לה הפסקה כל שעה של כמה דקות”. רק ליתר ביטחון, כן? ובכלל, זה גם בריא לידיים שלנו להקליד ברכות ולקחת הפסקות, אז - למה לא? כשמציגים את זה ככה אני משער שקל יותר להבין את הכשל. בסיפור הדמיוני הזה אני מבקש מכם לקבל שהתיאוריה שלי ביחס למקלדות ראויה להתייחסות מעשית. הרי יש אינסוף תיאוריות שם בחוץ, אינסוף אזהרות וחששות ותובנות-חצי-אפויות. אני בא ואומר לכם שהתיאוריה שלי איננה רק בראש, אלא צריכה לחלחל לעולם המעשה. מה שזה אומר הוא שהתנהגות בהתאם להמלצה של אמנדה זו גם קבלה חלקית, עקרונית, של התיאוריה עצמה, שהופכת אותה לתיאוריה שצריכה לקבל יחס שונה מכל שאר התיאוריות שם בחוץ. לא רק טקט מעשי שבקושי נרגיש יש כאן - יש כאן כניסה בדלת האחורית של הרעיון המנחה שיש כאן תודעה לתוך צורת החשיבה שלנו. “אחרי הפעולות נמשכים הלבבות” אמר הרב קוק, וצדק שאם אנחנו מתנהגים באופן מסויים מספיק זמן, גם הלב והמוח ילכו בעקבות ההתנהגות ויאמצו את הרעיון. בנוסף למחיר הזה, יש כאן גם בעיה של מדרון חלקלק. הרי מקלדת היא דבר קטן ובעל כוח מצומצם, אבל AI תבוני שכועס עלינו הוא סכנה גדולה הרבה יותר, שכן הוא יכול לפגוע בנו בשלל דרכים, אם נפגע בו. במצב כזה, אמנדה יכולה לבוא ולומר לנו שהנזק האפשרי במקרה של טעות הוא כה גדול, שלא מספיק שנדבר יפה למודל, אנחנו צריכים ממש להתחנף אליו, להחמיא לו כל חמש דקות, וגם לתרום לקרן מיוחדת לקידום זכויות המודלים כדי שהוא יאהב אותנו. מה זה תרומה של מאה שקל בחודש לעומת ההשרדות שלנו? הכל רציונלי לגמרי, ברגע שמקבלים את התיזה הבסיסית. ואמנם, אולי מערכת שקלול הסיכונים היא אחרת במצב הזה? אבל שוב, דמיינו שהייתי אומר לכם שלפי התיאוריה שלי יש אליל בשם “שיבא”, אל ההרס ההודי, והוא משגיח על מה שאתם עושים וכדאי שלא תכעיסו אותו. ואפילו אם אתם לא מאמינים בו, שווה להיזהר ולעשות את מה שהוא מצווה אפילו אם זה קשה ומעצבן, שהרי אם הוא באמת קיים אתם תקבלו עונשים כבדים על כך שהתעלמתם ממנו. האם לא שווה שתתנהגו כאילו הוא קיים, ליתר ביטחון? זוהי בעצם גרסה פשוטה יותר של השאלה הידועה בתור “ההימור של פסקל”, על שם המתמטיקאי בלז פסקל מהמאה ה-17 שהשתמש בטיעון דומה כדי להסביר שאמונה באלוקים זה ההימור הכי בטוח בחיים. אנחנו לא נשקע בסוגיה הפילוסופית הזו כאן. אני רק רוצה לחלץ מכאן שתי נקודות: א, ש-AI דומה יותר לשיבא מאשר למקלדת, כיוון שהוא יכול להשפיע בהמון מקומות על חייכם. זה לא רק שהוא יסבול, הוא גם יכול לנקום. ולכן, יש כאן מדרון חלקלק ברגע שאתם מקבלים את נקודת המוצא של אנתרופיק. ו-ב, שגם פה, המגננה הלוגית הפשוטה מפני הדרישה לעבוד את שיבא היא לומר שזו תיאוריה מעניינת אבל אני לא משוכנע שהיא נכונה, ושכדי לגרום לי להתנהג לפיה לא מספיק לתאר סיכונים וסיכויים. במילים אחרות, אמפתיה יכולה להיות שם המשחק כשהכל הוא טקטי, זמני ובסדר גודל קטן. אבל ברמה האסטרטגית אנחנו לא יכולים לוותר על האמת רק משיקולים תועלתיים, וחייבים לשמור על מקום של ספק אקטיבי שגם בא לידי ביטוי בעולם המעשה. הייתי מוסיף ואומר שכיוון שאין לנו שום תקדים ליצור מלאכותי שכזה, ידם של אנתרופיק על התחתונה והם צריכים להתאמץ פי כמה לפני שאני אתחיל לשנות התנהגות. לכן טוב לדעתי עשה האפיפיור שלא נכנע ללחצי אנתרופיק. תפקידו אינו לנהל סיכונים, אלא לעמוד על משמר האמיתות הדתיות הנצחיות לשיטתו. להטיל ספק בכך שההמצאה הטכנולוגית הזו היא משהו חדש באמת, עד שיוכח אחרת. אז מצד אחד, נושא הסבל של המודלים איננו כזה שנרצה לנפנף הצידה סתם כך, ולפגוע ביישות שסובלת ללא כל צורך. ומאידך - המדרון הזה באמת חלקלק. הבאתי כאן כבר כמה סיבות למה לא להתחיל במורד המדרון, וזה לבדו כבר יכול לשמש לכם כברקסים בסיסיים. אלא שבהכנה של הפרק הבנתי שיש כאן גם עוד זווית חשובה שיכולה לעזור לנו לגדר את החובה המוסרית שלנו ביחס לבוטים. אז, כל אחד יכול להחליט אם להסתכן מול הבוטים של העתיד או לא - זה אני מותיר לכם. בהמשך הפרק אני רוצה להתמקד במהות, ולהציג עוד זווית חשובה בעניין שבתקווה תפתח את החשיבה בנושא. המוסר שמעוגן בבחירה בואו נשים לרגע בצד את נושא הסבל והתודעה של המודלים, את השאלה שאמנדה שאלה - “האם מודלים של בינה מלאכותית הם מושאים מוסריים”, כאלו שיש לנו כלפיהם חובות מוסריות כלשהן. במקום זה אני רוצה לשאול - האם בינה מלאכותית היא סוכן מוסרי? כלומר, האם היא יכולה לשאת באחריות מוסרית? התשובה לכך שלילית בכל מובן שאני מסוגל לחשוב עליו - דיברתי על כך בפרק שעסק בביקורת על יובל נוח הררי, ועוד רגע אני אבהיר את הדברים בהקשר שאנו דנים בו. אבל חשוב לי להבהיר למה השאלה הזו חשובה: היא כבר משחקת תפקיד מעשי בבתי המשפט. קו ברור ועבה מחבר ומוביל מאחריות מוסרית לאחריות משפטית, ובתי המשפט כבר נזקקים לשאלה - האם אפשר להאשים בוט בגרימת נזקים? הקטע המעניין כאן הוא שאלו שמנסים להטיל את האחריות על הבוטים הם דווקא החברות הגדולות שמפעילות אותן. מבחינתם, הם היו רוצות שבית המשפט יתייחס לבוט כיישות משפטית עצמאית לכל דבר. קחו לדוגמה את התביעה (https://www.cbc.ca/news/world/ai-lawsuit-teen-suicide-1.7540986) בפלורידה מ-2025 שעסקה בבוט שעודד נער בודד להתאבד. בשימוע המקדים בבית המשפט, ניסו הנתבעים למנוע מחשיפה של פרוטוקולי השיחה שבין הנער לבין הבוט, בטענה שיש להתייחס למה שהבוט כותב בצ’אט כאילו זהו ה”דיבור” שלו במובן המשפטי, ושלכן יש לתת לו הגנות של פרטיות על פי התיקון הראשון לחוקה האמריקאית. כן כן, הם ביקשו שהבוט יזכה להגנות חוקיות בכל הקשור לשיח שהוא פולט, כאילו זו יישות בפני עצמה ולא כלי טכני ושהחברה אחראית ישירות לתוכן שהוא מייצר. השופטת באותו שימוע דחתה את הטיעון הזה, ואמרה שנכון להיום אין לבוטים הגנות חוקיות שכאלו, והפלט שלהם אינו נחשב “דיבור”. עוד יותר קרוב לנושא שלנו זו הדוגמה מ-2022, שבה תבע ג’ייק מופאט את חברת “אייר קנדה” (https://www.eve.legal/tort-report/air-canada-chatbot-separate-legal-person). הוא קנה כרטיס טיסה דרכם על בסיס דברים שהבוט שלהם הבטיח - הנחה במחיר הכרטיס בשל תנאים אישיים מסויימים שהוא עמד בהם. אייר קנדה טענה בתגובה בפני בית המשפט, ואני מצטט, ש”הצ’אט-בוט זו ישות משפטית עצמאית שאחראית למעשיה שלה”. בית המשפט הקנדי סירב לקבל את הטיעון הזה, וקבע שהבוט הוא עדיין חלק ממערך האתר האינטרנטי של “אייר קנדה”, חייב אותם לשלם פיצויים למר מופאט וגלגל אותם מכל המדרגות. כשאנו מסתכלים על הסיפורים הללו, אנחנו מבינים את הפיתוי לקבל את טיעוני החברות הללו. הרי הבוטים נשמעים כמו בני אדם, פועלים באופן אוטונומי כמו בני אדם, ומסוגלים לעשות דברים רבים שבני אדם מסוגלים לעשות ולעיתים אף מעבר לכך. אם מדובר בתבונה, באינטלגנציה, כזו שיש לה מסוגלות טכנית לפעול בעולם כמו בני אנוש, אז למה שלא נעמיס עליהם גם את האחריות על מעשיהם? ובטח ובטח למי שמאמין שיש להם תודעה. בכלל. אלא שבאותה מידה, קל להכריע שהחברות הללו טועות ומטעות, ושאין כל הצדקה להתמכר לאשלייה שהבינה המלאכותית מוכרת לנו. ומדוע? כאן אני מחבר אותנו לנושאים שהזכרתי בפתיחה: בוודאות של מאה אחוזים, לכלים הללו אין בחירה חופשית. אין להם חופש בחירה, הם דטרמיניסטים לחלוטין, וכיוון שכך, גם אין כל מקום להטיל עליהם אחריות, מוסרית או משפטית גם יחד. כדי שלא יהיו אי הבנות, תנו לי שתי דקות רק להסביר או לרענן לאנשים את הזכרון, למה אני מתכוון בקביעה שאין להם בחירה ושהם דטרמיניסטים. AI זו תוכנת מחשב - מתוחכמת, אבל עדיין תוכנת מחשב. וככזו, היא פשוט עושה את מה שכתוב לה בקוד, לא יותר ולא פחות. הגיוון שאנחנו רואים בהתנהגות של קלוד וג’מיני מגיע מגיוון בקלט שאנחנו מאכילים אותם - וזה לא בשליטת ה-AI - ומאוסף של מספרים שמוגרלים אקראית תוך כדי צ’אט. האקראיות הזו גם היא בעצם דטרמיניסטית - זה מה שקוראים מספרים פסאודו-אקראיים, למי שמגיע מהתחום - אבל אפילו אילו היו אקראיים באמת, זו לא בחירה חופשית: הקוד של ה-AI פעל דטרמיניסטית בהינתן המספרים האקראיים. הוא לא בחר איך לפעול, וגם לא בחר את המספרים. הדברים הללו ברורים, מקובעים בסלע המציאות הטכנולוגית, ולא נתונים במחלוקת. הדברים כל כך דטרמיניסטים, יש להדגיש, שאפשר לשחזר כל התנהגות של AI ברמת העיקרון, אם נזרים לו את אותם הקלטים ואת אותם המספרים האקראיים בדיוק. אין למערכות הללו כל אפשרות לחרוג מכך, אפילו לא כמלוא הנימה. בעונה השניה דיברתי על כך שיש תופעות שמתהוות בסדרי גודל גדולים מספיק, ולכן יש המציעים שאפילו שלמחשבון אין אינטלגנציה ותודעה, למודל שפה מתוחכם מספיק יכולים להיות הדברים הללו. אבל דטרמיניזם זו תכונה ש-אם היא קיימת - איננה נעלמת כשסדרי הגודל גדלים. היקום הוא בסדר גודל ענק ועדיין אנחנו סבורים שהוא דטרמיניסטי, מלבד כל מני תופעות קוונטיות. וכך גם כאן, וכיוון שאחריות מוסרית למעשים יכולה להופיע רק כאשר ליישות המדוברת יש את היכולת לפעול אחרת ממה שפעלה, לבחור את המעשים שלה, לבוטים שסביבנו אין ולא יכולה להיות אחריות מוסרית לדברים שהם עושים. נקודה. אם נסכם את המקום שאליו הגענו, אם כן, זה הולך משהו כזה: יש סיכוי ש-AI הוא מושא מוסרי, כזה שיש לדאוג לרגשותיו, ויש סיכוי שהוא מכשיר חסר כל חיות ותודעה. ומאידך, הוא בוודאות איננו סוכן מוסרי, כזה שמסוגל להיות שותף עם בני האדם בנשיאת אחריות להחלטות ולמעשים שלהם. אני אותיר לכם לנסות לדמיין איך זה יכול להרגיש, להיות בעל תודעה אבל חסר בחירה. אבל עכשיו אני רוצה לפנות ולשאול - האם לעובדה שה-AI בוודאות איננו סוכן מוסרי יש גם השלכות על היותו מושא מוסרי? והתשובה לדעתי היא חיובית. חובות מוסריות לא נובעות רק מהמקום של מניעת כאב לאחרים, כרע שעומד בפני עצמו. חלק מהחובות המוסריות שלנו מגיעות ממקור אחר - מכך שיש ביני ובין הצד השני מערכת יחסים הדדית, כזו שבה שנינו משווים-ומעלים את רמת המחוייבות בינינו. להרבה אנשים - כנראה לכולנו - יש מעגלים הולכים וקטנים של קשרים, כאשר בכל מעגל קטן יותר רמת המחוייבות לשותפים למעגל עולה. מערכת היחסים הזו יכולה להיות מאופיינת במילה הדרמטית-משהו “ברית”, שמשקפת את העובדה שבתוך הקבוצה הזו יש מוכנות להקריב ולהשקיע זה עבור זה מעבר למה שמקובל מחוץ לקבוצה. פריצת המסגרת של הברית תכונה אז “בגידה”, ותיחשב התנהגות לא מוסרית, לא חברית. העובדה שמערכת יחסים הינה הבסיס להרבה חובות מוסריות - לעובדה הזו יש הרבה השלכות. נניח, יש גבול לחובה שלי להגן על אריות, וגם על פרות וכבשים, שכן בעוד לי אכפת מחייהם של החיות הללו, להם לא אכפת כלל מהחיים שלי. אצל הפרה זה בעיקר חוסר אכפתיות, ואילו האריה היה טורף אותי בשמחה. אז בהחלט - יש חובה להגן על חייהם של אריות, נמרים ופרות וכבשים - חיים כשלעצמם הם דבר יקר מאד שאנחנו צריכים לשמר. אבל יש מדרג של חובות, וכיוון שאצל החיות הללו אין אפילו פוטנציאל לברית שתעלה את דרגת החובה המוסרית ההדדית, אז מקומם של החיות מצוי למטה יותר. מעתה, כיוון שאין ל-AI בחירה חופשית, גם אין דרך למסד מערכת יחסים הדדית איתה יותר מאשר כל חפץ או פרח או חוק טבע. ההדדיות היא בראש ובראשונה עם פוקוס מעשי, כזה שדורש פעולות, מוכנות להקריב והקרבה בפועל עבור השני. זו מהות הברית. וכיוון שאין ל-AI כל שליטה אמיתית על מעשיו, אזי גם אם הוא שמח בשמחתי ועצוב בעצבוני וסובל ומאושר וכן הלאה - אין במעשים שלו כל אלמנט הדדי. בואו נגיד, אין שם הדדיות אפילו במילימטר יותר אשר ההדדיות שיש מול סלע שהתגלגל במורד המדרון ובשניה האחרונה זז הצידה לפני שהוא פגע בי. זה כמו זה פועלים מכורח חוקי הטבע הכפויים עליהם, לא מכורח ההחלטה שלהם. זה כל ההבדל. ומה הגבולות שבין סוג החובות המוסריות שאנו חבים ליצורים בעלי תודעה רק בשל תודעתם, לבין כאלו שנבנות מתוך קשר וברית? זוהי שאלה גדולה שאני לא חושב שאני מוסמך לענות עליה באופן קטגורי. אבל אני חושב שעצם ההכרה בכך שיש גבול היא הדבר החשוב: לעזור לנו לארגן את החשיבה שלנו בנושא, לדעת לא רק להיות רגישים לפוטנציאל שגלום ב-AI אלא גם להרגיש בנוח לשים לכך גבולות. ומה עם בני האדם? האם סיימנו? בוודאי שלא, וזה כי יש עוד חור אחד בטיעון שלי כאן שאנחנו חייבים להתייחס אליו, ואז לראות אם אני מצליח לסתום אותו או לא. המהלך שהצעתי כאן בנוי על כך של-AI בוודאות אין בחירה ואילו לבני אדם יש, ושמשום כך יש רובד של פעילות מוסרית שהבוטים מנועים מלגעת בו. אבל מאין לי שיש לבני אדם בחירה? זו הרי עמדה פילוסופית שיש לגביה מחלוקת גדולה ביותר, כבר אלפי שנים, עוד מימי יוון העתיקה. וגם היום, יש אנשים שמאמינים במה שקרוי “בחירה חופשית ליברטאנית” - שלבני האדם יש יכולת לבחור איך לנווט את חייהם; בקצה השני יש את מה שקרוי “דטרמיניזם קשה”, תפיסה לפיה בני האדם נשלטים כמו כל שאר הגופים ביקום על ידי חוקי הטבע ואין להם בדל של שליטה על גורלם; ובאמצע יש כל מני גרסאות ביניים. האם אין בעיה או לפחות חולשה בתיזה שאתה מציג כאן, אלישע, כשאתה מַתְנה אותה בכך שיש לאנשים בחירה חופשית? על כך אני רוצה לומר שני דברים. קודם כל, המטרה שלי כאן איננה להוכיח משהו באופן תיאוריטי, אלא לעזור לנו לחשוב על הדברים נכון כחלק מההתנהגות שלנו בעולם, ובאופן שיכול להיתרגם לחיים המעשיים שלנו. בהקשר של דטרמיניזם, אחת החולשות הידועות בגישה הדטרמיניסטית הקשה היא שלפיה לא ברור מה מטרתם של ומה ההצדקה ל- חוקים, עונשים, או מאמצים לתיקון החברה. אין כל טעם לדבר על מוסר וחובות ואחריות, כאשר אין לנו יכולת לבחור אחרת. האמת, אם החיים שלנו דטרמיניסטים אז גם ויכוח על דטרמיניזם הוא עקר, כי נקבע מראש מה אני אחשוב בסוף הויכוח. אחלה תיאוריה, אפס השלכות מעשיות. דברים ברוח זו אמר בן שפירו, שמאמין ברצון חופשי, לסאם האריס, שהוא דטרמיניסט, למיטב זכרוני מהאסכולה הקומפטיביליסטית. בקטע הבא אנחנו מצטרפים לדיבייט בדיוק אחרי שהאריס הסביר את המסתורין של בחירה חופשית, ושבעצם גם דברים שלכאורה בחרנו לא נבחרו על ידינו, ואין לנו מושג למה באמת החלטנו דווקא אותם. בנקודה הזו הדיאלוג הבא מתגלגל, אני קצת מקצר אותו רגע לפני שתאזינו לפינג פונג המלא: סם האריס: “אני חושב שההבנה וההפנמה של זה לא שוללות מאיתנו את המוסר, כי עדיין יש לנו העדפה ברורה בין צלילה מייסרת למלחמת אזרחים ואומללות מיותרת, לבין בניית ציוויליזציה גלובלית בת-קיימא שבה המספר המרבי של בני אדם ישגשג.” בן שפירו: “אתה משתמש בהמון פעלים אקטיביים [= הוא מתכוון כאן למילים כמו “בנייה”] עבור אדם שהוא לא יותר מאשר [תוצר של] סביבה וגנטיקה...” סם האריס: “אבל תראה, הנה, אני מזיז את הידיים שלי עכשיו, אבל בכנות אין לי מושג איך אני מזיז אותם…” בן שפירו: “נכון, אבל הנקודה שלי היא שכשאתה אומר ‘אנחנו יכולים’ – אנחנו יכולים להבחין, אנחנו יכולים לבנות, אנחנו יכולים ליצור, אנחנו יכולים להחליט...” סם האריס: “אבל זה כמו שאתה מדבר עכשיו – אתה לא באמת יודע איך אתה מציית לחוקי הדקדוק באנגלית תוך כדי שאתה עושה את זה...” בן שפירו: “אני לא אומר שאין טיעון משכנע לכך שאין לי רצון חופשי; אני טוען שאתה לא יכול לטעון באופן משכנע שצריך להתאמץ לבנות ציוויליזציה כאשר אין רצון חופשי.” אז - זו הנקודה הראשונה, ואני מעלה אותה כאן בגלל שכל ההקשר של השיחה שלנו הוא האנשים באנתרופיק שמנסים לקדם חוקים ותפיסות חברתיות סביב תודעת AI. אנחנו הרי מדברים על אנשים שפועלים בעולם כדי לעצב את התפיסות הללו, כלומר שהמגרש שבו אנו מתנהלים הוא כזה שבו יש משמעות להחלטות שלנו. ואם כך הם פני הדברים, הרי שהקביעה שלבוטים אין בחירה כזו היא קביעה חשובה ביותר. אם מישהו רוצה לאמץ גישה דטרמיניסטית ביחס לפעולות האנושיות, הוא מוזמן לעשות זאת, אבל במקביל שיפסיק גם להטיף או לשכנע אותנו כמה חשוב שנתייחס יפה לבוטים. אבל האמת היא שיש נקודה נוספת, והיא לדעתי הנקודה הכי מעניינת כאן. אחת הסכנות הגדולות בתקופה שלנו היא שנרגיש שאנחנו חייבים לקבל את הדברים שאומרים אנשי סיליקון ואלי כאמת שאין להתווכח איתה. אנחנו בתקופה שבה כל יום יש מבול של חידושים ועדכונים מצד חברות הטכנולוגיה שבחזית פיתוח המוצרים המדהימים שבידינו, וזה מאד מפתה ואף מובן רציונלית לתת הרבה קרדיט לאנשים שכאלו. אם סמנכ”ל אנתרופיק אומר לותיקן שהוא זיהה “וקטורי רגש” בבינה המלאכותית, כלומר זיהה עדויות לייצוג רגשי בתוך המודל, רובנו לא ערוכים לאתגר את הטיעון. אנחנו לא מבינים מספיק ולא מכירים את הדאטה שהוא מכיר כדי להציג קונטרה. ומי יודע - אולי הוא באמת מצא עקבות של תודעה בתוך קלוד. אמנם, מה זו תודעה זו גם חידה שאנחנו לא יודעים עדיין את פתרונה, אבל יש תיאוריות מובילות לעניין, וזה לא בלתי-סביר שמומחה ל-AI יהיה זה שיזהה את התודעה הרובוטית ביום שהיא התהוותה בפעם הראשונה. דווקא בשל כך, ההכנסה של בחירה חופשית למשחק - משנה את כללי המשחק. לבינה מלאכותית אין בחירה, ואף איש מחשבים לא יאמר אחרת. הדיון נסוב דווקא סביב השאלה הפילוסופית האנושית העתיקה: האם לבני אדם יש בחירה, או לא? יש כאן לא רק שינוי כללי המשחק, אלא העברה שלו למגרש אחר לגמרי, כזה שבו לאנשי ההייטק אין כל אמירה מעניינת ייחודית: אין לדאריו אמודיי או לסאם אלטמן איזה יתרון עליי או עליכם בהכרעה בנושא. התמקדות בשאלת הבחירה משחררת אותנו מהחובה לתת לדברים שלהם משקל יתר, ושוב לחשוב בעצמנו. אז בהחלט, אתם מוזמנים להכריע אחרת ממני לגביי שאלת הבחירה והרצון החופשיים - זה בסדר! אבל את ההכרעה הזו אתם תעשו בצורה שלא צריכה להיות מושפעת מהמודל החדש שאנתרופיק יוציאו מחר, או הכרזות של סאם אלתמן על ההגעה של AGI. אוקיי, אז זהו להיום! מקווה שהיה לכם מעניין, ותודה שבאתם להאזין אחרי הפסקה כל כך ארוכה. אני גם מקווה, כפי שאמרתי מספר פעמים בעבר, שהפרק הזה עשה את שלו: לתת לכם עוגנים שלא יזוזו רק בגלל שאיזו חברת AI הוציאה בוט חדש או מחקר מלהיב שמראה שהבוט נראה עוד-יותר-אנושי-מלפני-כן. אני מקווה שבעזרתו תוכלו לשמור אצלכם את הכוח לשלוט על הסיפור שאתם בונים על המציאות. וזהו - עד לזוויתון הבא שיגיע בתקווה בקרוב! ובינתיים - להתראות, ביי… This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com (https://elishasangles.substack.com?utm_medium=podcast&utm_campaign=CTA_1)

2. 

   9 Jun 2026

   בינה מלאכותית, מהתיאוריה למציאות: זווית אישית עם רן בר-זיק

   הי כולם, קודם כל, רציתי לעדכן שיש עוד פרקים בנושא ה-AI, פרקי “בונוס” לעונה, שכבר בשלבים מתקדמים של הכנות. חשבתי שאצליח לסיים ולעבור הלאה, אבל יש יותר מדי דברים שם שראוי לשתף, לחשוב עליהם ביחד… אז שתדעו שזה בדרך :) ובינתיים, הפעם: זווית אישית עם רן בר-זיק (Ran Bar Zik (https://substack.com/profile/215907654-ran-bar-zik)) . רן הוא איש רב פעלים בתחום ההייטק (http://⁠https://internet-israel.com/⁠), העיתונות (http://⁠https://www.themarker.com/ty-WRITER/0000017f-da26-dea8-a77f-de662c9c0000⁠)וגם הממשק ביניהם. המטרה של השיחה שלנו כאן היתה ללכת דווקא למקום הפרקטי יותר של AI: עניינים של פרטיות, של הכאוטיות של הכלים הללו בשטח, וכן הלאה. קצת שינוי אווירה מהדברים הרגילים לפודקאסט, אבל - ריבוי זוויות זה שם המשחק, כידוע. השיחה עם רן התקיימה לפני חודש-חודשיים, אבל נראה לי שהדברים עמדו במבחן הזמן, ורלוונטים מתמיד. אז – מוזמנים להאזין, וגם לעקוב אחרי רן ברשתות השונות, שבהן הוא משתף חומרים חשובים על חזית הטכנולוגיה, חזית שכל הזמן משתנה. ולסיום - תזכורת: יש את ערוץ הטלגרם (http://⁠https://t.me/ElishasAngles) שפעיל מאד גם בתקופה בין העונות, וכמובן אני תמיד שמח לקבל מכם מיילים (http://elishas.angles@gmail.com⁠). ולמי שמחפש את הפודקאסט עצמו, כמובן שהוא מצוי בכל הפלטפורמות הרגילות - חפשו “אלישע והזוויות” בגוגל ותמשיכו משם. וזהו! מקווה שתיהנו מהפרק… This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com (https://elishasangles.substack.com?utm_medium=podcast&utm_campaign=CTA_1)

3. 

   3 Jun 2026

   חופש הביטוי - זכות חשובה (אם כי גם קצת מתישה): זווית אישית עם דריה שלייפר

   הפעם נפגשנו אני ודריה שלייפר, דוקטורנטית למדע המדינה באוניברסיטת תל אביב, עמיתת מחקר במכון ארגמן, יועצת תקשורת ופובליציסטית. דיברנו על חופש הביטוי, למה הוא חשוב וולמה לפעמים זה מרגיש כאילו... קצת נמאס לנו מהחופש הזה, ומה עושים כדי שהוא שוב ירגיש לנו טבעי יותר. מוזמנים לכתוב ולהצטרף לקהילה: ⁠⁠elishas.angles@gmail.com ⁠https://elishasangles.substack.com/⁠ ⁠⁠https://t.me/ElishasAngles⁠ This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com (https://elishasangles.substack.com?utm_medium=podcast&utm_campaign=CTA_1)

Who has been a guest on אלישע והזוויות

Names identified in recent episode analyses. Showing up to five guests.

• Ori Rokni
• ד"ר קובי ברדה
• ד"ר טל קרויטורו
• רוני גלבפיש

Podcast Authority Score: 22 / 100

A composite of feed quality, social presence, YouTube performance and engagement. Read the methodology.

Quality

43

Social presence

0

YouTube

0

Engagement

0