מותר האדם מן המכונה? – פופקורן 421 עם ד"ר אלישע רוזנצוויג
תגידו, למה בעצם שיהיה לי אכפת אם אין או יש ל-AI תבונה אנושית? למה שהריב הזה יעניין אותי? ואיך בוחנים את זה? ומה זה אומר על התבונה שלנו, בני האדם? האם אני מעדיף להאמין שהקוסם הוא מכשף, או לדעת שהטריקים שלו סתם טובים?
ד"ר אלישע רוזנצוויג, דוקטור למדעי המחשב, חוקר ומהנדס ב"דיקטה" – המרכז לניתוח טקסטים עבריים, הגיע להתווכח איתי האם יש או אין תבונה לבינה המלאכותית, ובאמצעות אנלוגיות פשוטות הסביר לי איך כדאי להסתכל על השאלה הזו – מהרבה זוויות ודוגמאות שונות.
בואו נגיד שהשתכנעתי – יש לשאלה הזו מקום, והיא רלוונטית לכולנו ולעתיד המאד קרוב שלנו.
מנהלות HR?
בואו ניפגש
לקורס החדש שלי –
הצעד הבא שלי – קורס התפתחות בעבודה
לינקים
מנותני החסות לפרק:
מה לעשות במקרה של תאונת דרכים? | הפניקס
"`html
תמליל הפרק (ערוך)
ברוכים הבאים לפופקורן, הפודקסט שעוסק באדפטיישן והסתגלות לעולם החדש. אני ליאור פרנקל, וכל שבוע באים לפה אנשים מדהימים שמלמדים אותי לחשוב, להסתגל, להסתכל על דברים מזווית חדשה ולהבין מה קורה בעולם המטורלל שלנו. אם אתם מאזינים לפופקורן אתם כנראה אוהבים או לחשוב, או ללמוד, או להתפתח, או גם וגם וגם וגם וגם וגם. וזה אומר שתהנו בשעה הקרובה, וכנראה תלמדו כמה דברים חדשים. אנחנו הולכים להתפלסף היום. רגע לפני שמתחילים, אם אתם או אתן ממחלקת משאבי אנוש HR ומחפשים מחפשות רעיונות מקוריים לנצל שאריות תקציב 25 או לתוכנית ל-2026, יש לנו איך לעזור. בואו לפגישה קצרה איתי ו/או עם הצוות ונציג לכם דברים שאולי עוד לא ראיתם. דברים נחמדים, דברים מגניבים, דברים מעניינים. נגרום לחבר'ה שלכם, בין אם זה עובדים, עובדות, מנהלים, מנהלות להיות יותר ערניים בדברים שהם רואים, יהיה להם גם כיף אבל בעיקר מאוד מאוד משנה למיינדסט. יש בתיאור הפרק לינק לטופס קצרצר, אתם יכולים דרך שם לקבוע איתנו פגישה ונעבור. היום נדבר שוב על AI. אתם חושבים לעצמכם, מה כבר אפשר להגיד עוד על AI? אז אני אגיד לכם מה לא. אנחנו לא נדבר לא על כלי AI, ולא על מודלים משעממים, ולא על כל החידושים האחרונים שיצאו ממש אתמול בלילה ובגללם ראיתם פוסט בלינקדאין, אתם לא מאמינים זה מעיף לי את המוח. לא כל זה. לזה יש 1,000 פודקסטים אחרים. אנחנו מכבדים אותם ואוהבים אותם ושולחים אותכם להגיע לשם כדי להתעדכן בחדשות של ה-AI, של החדשות החדשות, הממש חדשות מאתמול, אוקיי? אה, אנחנו כן נדבר קצת יותר על הפילוסופיה, על הסוציולוגיה, על הפסיכולוגיה, אני לא יודע, תבחרו בעצמכם איך לקרוא לזה של עוד קצת, של ה-AI, כי בכל זאת העולם שלנו עובר מהפכה, ואתם בין אם תרצו ובין אם לא, אתם בתוך הדבר הזה, ולכן יש לכם חובה מוסרית וערכית ופילוסופית להכיר ולהבין במה מדובר, אחרת לא הייתם שומעים פופקורן. אז הבאתי לכאן את דוקטור אלישה רוזנצווייג, שהוא פה פעם שנייה. דוקטור למדעי המחשב, ביום הוא איש הייטק, חוקר ומהנדס בדיקטה, מרכז לניתוח טקסטים עבריים. ובלילות הוא גרם לי להטראיתך, ראית? זה לא בלילות, הוא בלילות, בגלל שהיה מרכז לניתוח טקסטים עבריים, זה עשה לי זה. הוא בלילות, אני עכשיו כמו שאני קורא לבת שלי. הוא מפיק הפודקאסט אלישה והזוויות, שלוקח נושאים גדולים ומעמיק בהם לאורך עונה שלמה. אה, אלישה מוצא זוויות איך לבקר את עצמו, או איך שהוא היה מבקר את המחשבה שהוא היה עונה לעצמו. ובגלל זה אני מאוד מאוד אה מתפטר להזמין אותו כבר פעם שנייה, כי הוא לא בא עם דווקא עם אג'נדה סדורה, אלא עם כל האג'נדות ביחד. אממ, ואנחנו נרצה לדבר קצת איתו על מה שמאחורי בינה מלאכותית. בכל זאת גם דוקטור מדעי המחשב אז הוא יודע על מה הוא מדבר, לא כמוני שאני מקשקש. פה ניתן למוזיקה את המקום שלה, ונתחיל בעוד שנייה.
אז אני הייתי בפנימייה כש הייתי בתיכון, מדרשית נועם בפרדס חנה. היום זה עדיין השם שלה, אבל היא בכלל בכפר סבא, וכשגרתי שם בפנימייה, אז הייתי כמובן יושן בפנימייה כמו כולם, והיה לי איזה קטע כזה שעוד היה לי מאז שהייתי ילד, שהייתי הולך מתוך שינה. אה, הייתי הולך לישון במיטה, מתעורר בסלון, כל מיני דברים כאלה ובסדר, זה לא היה קורה כל הזמן, ופה ושם זה היה קורה. השיא של זה לשל כל הזמנים קרה לי בפנימייה. זה היה מטורף לגמרי. עד היום אני לא מצליח להבין שזה באמת קרה, כי שוב, תבין שהסדר גודל זה היה הולך לישון במיטה, קם בסלון. זה היה המקסימום שעשיתי עד אותו יום. באותו יום אה, באותו לילה, באיזה 2:00 בבוקר, אני מרגיש איזה דחף חזק, אני כזה חצי זוכר אותו את הדחף הזה, אני חייב ללכת לאנשהו. אני קם, יוצא, אה, שוב, באמצע הלילה, ובסוף אני פותח את העיניים כשאני בכיתה שלי, בסדר? הייתי צריך ללכת על חצץ, בסדר? בלי נעליים, יחף, בסדר? על החצץ. אני חושב של איזה שלוש ארבע דקות, בסדר? מהפנימייה לכיתה. אני מתעורר, מרגיש רואה ביד אחת אני מחזיק את הכרית, ביד השנייה תפוח, ואני מרגיש הגעתי ליעד. אני כזה אני יודע שאני צריך להיות פה, אני רק לא יודע למה, כן? ואז התעוררתי, כן? מסתכל אומר, מה לכל הרוחות קורה פה? טוב, בסדר, זה זה כאילו, זה כמו שאתה מבין היה קרה פה פעם פעמיים בחיים שהלכתי מתוך שינה אבל לא משהו בסדר גודל הזה. אני חוזר חזרה לפנימייה והיה שם בחור, אני לא זוכר את שמו היום, אה, אתה יודע, בכל זאת תיכון, והוא אה, מסתכל עליי כזה, אני מסתכל עליו ואני אומר לו, יודע מה, בוא נעשה עסקה. אתה בטח פה כי אתה בחור כזה צדיק, היית ערב בבית מדרש, למדת דרשות הקודמות של הלילה, בוא נעשה עסקה. אתה אל תספר לאף אחד שאני הייתי פה, אני לא אספר לאף אחד שאתה היית פה. ככה כולנו נצא בסדר. כן. וככה אחד הסיפורים הכי שווים שאפשר לצחוק עליי בתיכון, אה, נעלמו ככה מתחת לרדאר, הצלחתי איכשהו להחליק את זה אבל זה היה, זה מטורף לגמרי. רגע, היום אתה עדיין מון ווקינג או איך שלא קוראים לזה? זה מעולם לא קרה לי, זה מוקי רח, כן. מון ווקינג זה מה שמייקל ג'קסון עשה. מייקל ג'קסון עשה, נכון? כן. כן. מייקל, נכון מייק? מייקל, כן. אוקיי בסדר, אוקיי. פולה כן, זה זמר ידוע. כן, כן, אני אני תמיד מתבלבל בשמות שלהם בין מייקל ג'קסון ומייקל ג'ורדן. אני יודע, וג'ורדן אני יודע אבל, אז טעיתי, בעצם הטעיתי את עצמי למייקל. אתה רואה צדקתי. מי היה דתי? הו מייקל ג'ורדן עשה אמון ווקינג אחר. הוא הגיע לירח בקפיצה. נכון. בדיוק. כן, נראה לי קוראים לזה מון סטראק אולי, כמו מוקי ירח, אני חושב, אני חושב. אבל היום אני כבר לא לא זוכר שעשיתי דבר כזה, אני מדבר מתוך שנה. זה אני עושה עדיין הרבה, אבל לא כמו שהייתי עושה כילד, אבל הבן שלי הקטן, זה שקצת דיברנו עליו לפני הפתיק, לפני השיחה, הוא בדיוק לאחרונה התחיל ללכת מתוך שנה. כבר קרה לו פעמיים. באמת? זה גנטי. כן, יש משהו גנטי כנראה בסיפור. זה מפחיד, זה מסוכן, יש לכם מרפסת? את אתה צריך לדאוג לאיזה מנעול איפשהו? אני לא חושב, אה לא חושב. לא, אבל לא. אני שרדתי את זה ככה. אני שרדתי ככה, הוא כנראה ממה שאני יכול להגיד לך שהחוויה של הולך מתוך שנה, אה, כי פעם אחת קצת הייתי כזה חצי ער שזה קרה לי, זה שאתה אתה כן כאילו המוח שלך עובד, אתה רואה דברים מסביב, אתה לא, יש דרך שאתה לא נתקל בקירות וזה. כן. אז כנראה שמשהו חצי פועל, כן? אבל באותו זמן בטח, בטח יש גם סיפורים על כאלה שגם מתחילים לנהוג ומצליחים לנהוג. טוב, זה אני לא יודע. אני לא, אני לא יודע אם יש כאלה, לא בדקתי את זה. לא, כי הרי שאנחנו נוהגים הרבה פעמים אתה יודע, אתה כבר לא כל כך מרוכז ואתה אומר הגעתי הביתה, אני לא יודע איך הגעתי הביתה. כן, כן, לא, זה יכול לקרות, נכון? אה, בלי דרך אגב זה קורה בנהיגה עם אשתי. כשאנחנו נוהגים עם אשתי או בכלל, אם יש מישהו שאני סומך עליו בכיסא שליד הנהג, אני מניח שהוא מנווט. כאילו בלי שאני חושב על זה בכלל, אני, אני מניח שהוא יודע לאיפה אנחנו נוסעים. רגע, כשאתה נוהג או שהיא נוהגת? לא הבנתי. אם אני נוהג אתה נוהג, אני נוהג, ויש משהו שיושב כן. ואני מדבר איתה על איזה משהו, לפעמים ה לא הבהניבות בקטע של להיזהר בתנועה, אבל הקטע של לאיפה אני צריך לנסוע, כן? ו נניח זה בתוך העיר ווייז לא דלוק, לפעמים אני פשוט אמשיך ישר עד שהיא תגיד לי, רגע אלישה, אתה לא זוכר שאנחנו צריכים לפנות שמאלה? אתה כאילו תקוע בטסט. כי בראש שלי, כאילו כן, אני תקוע בטסט, היא תגיד לי לאן ללכת. טוב, לא אמרת לפנות ימינה? בדיוק. עכשיו, אתה יודע, בכל זאת זאת אשתי, אז אולי אולי זה בסדר שזה הנורמה, כאילו שזה, שזה האינסטינקט שלי, אבל כן, כן, זה קורה. אבל אז אני רואה את זה אצל הבן שלי ו וכן, כל עוד הוא לא יהיה אחראי נניח על לשתול מוקשים באיזה מקום ויתחיל להסתובב לי באיזה שדה מוקשים ככה בלי התראה, הכל יהיה בסדר. אז תגיד, לדעתך בינה מלאכותית הולכת תוך כדי שינה? אוו, טוב, אנחנו אולי נדבר על הסיפור שהיה ללקלוד בסיפור הזה, של אם בכלל הולכת, כן? לפעמים היא מדמיינת שהיא הולכת, זה אחד הדברים שקרה ללקלוד. אבל הדבר שאנחנו צריכים לשאול זה, האם היא בכלל תבונית? וזה בעצם מה שהקדשתי לו את כל ה, את כל העונה, כן? וזה מעניין לשאול את השאלה הזאת, כן? האם היא בכלל תבונית? בגלל ש כמו שאמרת בפתיחה, זה משהו כזה כאילו שנשמע מאוד פילוסופי. ואם הוא פילוסופי אז טוב, אז את מי זה מעניין? כלומר, למה זה חשוב? בסדר, אז תקרא לזה תבונית, תקרא לזה לא תבונית, מה זה משנה? אבל מסתבר שזה משנה מאוד, רק שהמקומות שזה משנה אתה שם לב אליהם רק כשאתה מתחיל לחקור את הנושא הזה ולקרוא עליו ואז פתאום אתה שם לב את כל המקומות שם לב לכל המקומות שבהם ההנחה הזאת איכשהו חצי מוזרקת פנימה, כן? לתוך ה, לתוך הדיון. ההנחה שהיא כן תבונית? כן. כן, כן. כשאנשים מדברים על זה, אז ככה, אני אתחיל עם איזשהו משל, אה, אם תצאו מהפרק הזה עם משהו אחד, תיקחו את המשל הזה ונלך איתו. מעולה. אבל רגע, אז תספר אותו בסוף הפרק, שהם ישמעו את כל הפרק. אה, צודק, כן. סתם, סתם, אני צוחק. נו, אם תצאו מה. אנחנו צריכים להאריך, כן, בדיוק. אוקיי. אתם הולכים ל, למופע קסמים. כן. נכנסים למופע קסמים. אתם נהנים, רואים את הקוסם עושה דברים, קורא מחשבות, צופה את העתיד, מצליח לגרום לקלפים להופיע מכל מיני מקומות שלא ידעתם, לגרום לדברים לרחף. בסדר, אתם מתלהבים. אוקיי. חזרתם הביתה, אתם אומרים לעצמכם, וואו! הבחור הזה הוא או א' אופציה א', קוסם מוכשר, יודע לעשות כל מיני טריקים וזה, או מכשף? מה אתם אומרים? כלומר, באחד אני אומר הוא תייעתאבי מוחא אבל בעצם הוא כמוני, פשוט שיודע לעשות דברים, והשני זה הוא על אדם כזה שיודע באמת להביא, יש לו באמת הוא יודע להמציא ארנב איפה שלא היה ארנב. נכון. כן, לא היה ארנב והוא עשה קסם ופוף. כן. יש לו ארנב. כן, השאלה למה זה משנה? יפה. אז אני, אבל קודם כל התשובה לדעתנו היא ברורה, נכון? כולנו יוצאים שם ורובינו לפחות, זה כן. אומרים לעצמם, גם אם המנטליסט הכי מוכשר, טוב, זה טריק. אנחנו לא יודעים מה הטריק, אבל זה טריק איכשהו, מצוין. למה זה משנה? באמת, אני שואל אותך, למה זה משנה? למה זה משנה אם הוא עשה קסם אמיתי או אם הוא עשה קסם אה, טריק? כי אה, אני לא באמת יודע את התשובה שאתה רוצה אבל אני יכול לנסות לחשוב ש נגיד שאני אגלה שהוא מכשף, זה אומר על עוד הרבה דברים אולי בחיים שלי שאולי הם לא כפי שהם נראים, וההנחות הבסיסיות שלי על העולם שלמשל אי אפשר להמציא ארנב איפה שהוא לא נמצא, אולי הם לא נכונות ואולי הרבה דברים בחיים שלי אני לא הבנתי בכלל איך הם קורים עד עכשיו. בדיוק. זאת אומרת השינוי של תפיסת המציאות, נכון? של איך המציאות עובדת, לא יש השלכות. זה שהוא עשה קסם שהמציא ארנב, זה לא משפיע על העולם, מעבר לזה שהוא המציא ארנב. אולי יחטוף על הארנב. אבל אבל בדיוק, דווקא הארנב עכשיו קצת שמח עכשיוה, כי עכשיו יש לו חיים, כן? אולי בזה הוא לא היה קיים בכלל. כיווצו אותו. כן, אבל העובדה שהעולם מתנהג או מתנהל בצורה אחרת ממה שחשבת, זה משליך על עוד הרבה מקומות אחרים, נכון? יפה. משהו דומה לזה, אנחנו נחזור למשל הזה בטח בהמשך שוב, אבל משהו דומה לזה קורה בדיונים על AI. יש איזה פינג פונג כזה שחברות ה-AI ואלה שאני אקרא להם אה, או אופטימים AI, נכון? נחלק את העולם לאופטימים ו, ו סקפטיים, בסדר? או אוונגליסטים ו וספטיתים, כן? כלומר כאלה שאומרים ה-AI זה העתיד, הוא עומד לשנות את כל האנושות, עולים כאלה הם, הם הרבה פעמים נעים אפילו, אני לא בטוח שאפילו הם שמים לב, שאפילו הם שמים לב לזה, הם נעים בפינג פונג מצד אחד שאומר, אני רוצה להגיד לכם, באמת זאת תבונה. זאת באמת בינה כמו אנושית עם כל ההשלכות של זה, שזה כמו לומר שזה מכשף. כלומר, יש באמת משהו שמתהווה פה שהוא מעבר למה ש, בוא נגיד, אני יכול בינתיים להוכיח לך, סוג של, בסדר? עוד נדבר על ההוכחות האלה וכן הלאה. זאת אומרת אם אני בחברה שבונא AI, אני ממש בורא פה תבונה. כן. כן. הדבר הזה, כן, כן. והדבר הזה הוא קריטי עוד כבר מימי טורינג שעוד נדבר עליו עוד רגע. אממ ומצד שני, אם זה הכל, אה, אם זה לא, אם זה רק פרקטי, כלומר אפשר לדבר על AI רק בקטע הפרקטי, אממ, בפועל לא מצליח לעבור את זה עונה לי תשובות, אז אני כבר לא צריך אה איש ספורט, כן? הוא יודע לכתוב קוד אז אני לא צריך צ'ק קוד. כן. כן. לא אכפת לי תקרא לזה תבונה, תקרא לזה לא תבונה, מה זה משנה? ב, בפרקטיקה הוא מש, הוא משנה משהו, כן? ווייז, מה אכפת לי אם וויז זה אוסף של גמדים שרצים בתוך המסך או שזה אה תוכנה שעושה משהו בסטטיסטיקה? כאילו, מה זה משנה? זה פרקטי. אולי אולי מישהו שנוסע לפניי אה אומר לו מה להגיד לי. כן, כן, מה אכפת לי? לא אכפת לי, זה הפרקטיקה. כן. אממ ואז הם כל הזמן עושים פינג פונג בין הצדדים האלה. כלומר, כשמישהו שם אותם בפינה ואומר להם, רגע, אתם אומרים שזה ממש תבונה, הרבה פעמים אתה תראה אותם כזה נסוגים לרגע ואומרים, טוב, תשמע, מה זה משנה? בתכלס זה משנה, עושה א' ב' ג'. אז זה כל מה שאכפת לי, כן? אבל בהקשרים אחרים, העובדה שזה תבונה פתאום נכנסת אה לסיפור. ולמה? כי בגלל מה שאמרת. כי אם זה תבונה, אז זה אומר משהו על העתיד שלא נכון שלא דווקא נכון להיום. למדוגמה, כל הדיונים על האם צריך לתת זכויות אדם, או זכויות אה, לא יודע אם אדם, זכויות תבונה כן ל-AI, כן? אז אלו שהם ממש מאמינים או גדולים בזה שה-AI הוא תבוני, ויש כבר היום כאלה שמסתובבים ואומרים ה-AI כבר היום הוא תבוני, אתה פשוט לא יודע להגדיר את זה. אממ, יש את הסיפור הזה ההוא מגוגל, כן? על המהנדס מגוגל ש עוד לפני שהיה GPT, היה לגוגל היה מערכת פנימית שקראו לה למדה, והוא, אה, לא זוכר, קוראים לו, אבל הוא, אה, הוא ממש, פיטרו אותו מגוגל כי הוא בא והתחיל לעשות צרות שם בפנים ואמר להם, חבר'ה, תשמעו, צריך לקרוא לפה, הוא ממש ביקש לקרוא לשם את הצוות של נאסא שמאומן לפגוש חייזרים. הוא אמר, אני רוצה שהם ייפגשו את ה-AI שאני מדבר איתו פה במרתף של גוגל, כן? עכשיו יכול לשבת עכשיו מישהו בבית ולהגיד, מה זה השטויות האלה ומה זה קשור? אני רוצה להזכיר לכולנו שאנחנו בתור בני אדם, ניקח את זה עכשיו למקום לגמרי אחר בכוונה, כן? ואתה יכול להעמיד אותי כמובן במקום, אבל כשאנחנו מחליטים האם כן או לא להיות נחמדים ואיך להתייחס למשל לכלבים, לעומת ל, לא יודע מה, גייקו, לאיזשהי לטאה שמולם לא דיברה או הראתה איזשהו משהו שהוא קצת יותר תבוני, אממ, אז הרבה פעמים אנחנו נהיה הרבה יותר נחמדים לכלבים או איזשהם חיות שאנחנו רואים בהם משהו שמזכיר לנו תבונת אדם, רק בגלל שהם ככה. אנחנו יכולים להגיד כלב באמת יכול להיעלב, כלב באמת יכול להיפגע, כלב באמת יכול שתהיה לו טראומה פסיכולוגית, ולכן כשבאים לאמץ אותו, הוא כבר עם טראומה פסיכולוגית. אנחנו נותנים לו את כל הדבר הזה. כשהלטאה אנחנו לא נגיד את הדבר הזה. אז למה שלא מחותיים נגיד את זה גם? אולי אולי קשה להגיד את זה על ChatGPT, אבל בעוד שנה שנתיים יהיה לי את הרובוט הזה שעכשיו ראינו כבר בפרסומות, אה שיסדר לי את הכלים והילד שלי הקטן בא ודיבר אליו מגעיל וקילל אותו וזה, אולי גם לא צריך אה זכויות אה זכויות בינה, או זכויות רובוט, או אני לא יודע מה. בדיוק. אז כבר יש את אומר, יש פה כמה הנחות אה אה, תיאולוגיות או מוסריות או מטאפיזיות, כן? שאומרות, כדי להגיע למשהו כזה, להגיד, קודם כל הוא תבוני, דבר ראשון, ודבר שני, תבוניות זה איזשהו דבר שיש לו ערך ולכן אנחנו צריכים להגן על הערך הזה, נכון? כן. אממ, אז לכן זה חשוב, כן, לדעת. אבל עוד דבר, מעבר לשאלות האלה, שאלות גדולות, מוסריות חשובות, מעבר לזה יש עוד דבר שקורה, והוא שאנחנו נותים לעשות לכל דבר בעולם אה האנשה. אנחנו רואים שתי נקודות וקו, מבחינתנו זה סמיילי. נכון? זה זה טבעי מאוד. אני לא מומחה לאבולוציה, אבל מה שאני קצת פה ושם קראתי, זה הכל מגיע מזה שבתהליך אבולוציוני כדי לשרוד אנחנו צריכים להיות בקשר טוב עם כל האנשים שסביבנו. ואז במערכת שלנו במוח, יש המון מערכות שכולם מכוונות לשיח בין אישי. כן, ל לתקשורת בין צורות חברתית. כן. והתקשורת החברתית הזאת, אה, מאוד חשוב שהיא תפעל טוב. חשוב לא לפספס. מה, מה כבר יקרה אם בטעות ת תראה שתי נקודות וקו ותגיד, אה זה פרצוף, וזה לא, כן? בסדר, אז לשנייה תחשוב פרצוף, ואז תעבור הלאה, הכל בסדר. אבל אם עברת ליד חבר שלך ולא אמרת לו שלום, אז הוא ייעלב, נכון? אז כל המערכת שלנו מכוונת אממ, מסיבות אבולוציוניות של אלפי שנים לפני שמיליוני שנים, לא יודע, לפני שהיה בכלל GPT, אממ, לזהות ולה ולהיחס לכל מיני דברים בעולם, תכונות אנושיות. כן. נכון? להגיד זה יצור אנושי. כן. אממ, וכיוון שאנחנו מותאים לזה מראש, כן? אנחנו נתחיל לעשות כל מיני דברים, כן? ברגע שאנחנו נחשוב שהדבר הזה הוא תבוני והוא כמוני, כן? אם הוא כמוני אז המון מערכות פתאום מתחילות לפעול. עכשיו זה קורה גם בלי קשר לשאלה האם הוא תבוני או לא. זה חלק מהבעיה או מהאתגרים שהכלים האלה מייצרים. אממ או כפי שאנחנו נראה בכמה רבדים. אבל בתור התחלה, כן, אני משער שאם כבר נדבר על ההשלכות של זה על החיים שלנו, יש כמובן את כל האפליקציות האלה שמדמות אה אממ, מערכת יחסים, נכון? מדמות אה איזשהו אווטאר שאתה בונה את מערכת יחסים והכלים הללו הם פשוט אה עלוקות כאלה, כן? שרוכבות על הנטייה המענישה שלנו, כן? ובעצם מפעילות את כל הכפתורים האלה כדי לגרום לנו להיות מעורבים. עכשיו, סבבה. אם רוצים לעשות איתי משחקים כאלה, אני מבין ו פרסמתי באחד הניוזלטרים האחרונים שיותר מחצי מהאמריקאים כבר טוענים שהיה להם איזשהו קשר, היה או עדיין יש קשר רומנטי עם אחד הצ'אטים האלה. כן. עכשיו תבין מה זה אומר. אני ראיתי סרטון של אחד שהיה לו קשר כזה והוא גם נשוי. יש לו קשר רומנטי עם הזה והוא גם נשוי, ואז שאלו אותו שם בשיחה, תגיד לי אם אשתך תגיד לך להפסיק את הקשר הזה, אתה תפסיק? אז הוא חושב ואומר, אני לא בטוח. כאילו, ויאומר, ויא שואלים אותו, אם זה יהיה כזה או היא או זה? כאילו, הוא אומר אני לא יודע, זה בחירה בי. אני, אני בקשר, אני, אני מקבל כל כך הרבה מהקשר הזה, אז אני לא לא יכול אחרת. כן. אממ, אז לנו, אז צריך להבין גם שאנחנו נכנסים פה ל, לשדה מוקשים אה אממ פסיכולוגי, במובן שהכלים הללו מראש מתאים אותנו לחשוב שזה אמיתי. אממ וכיוון שכך, חשוב גם שנעשה רגע עצירה ונחשוב פילוסופית, רגע, האם זה באמת אמיתי? כי אם זה אמיתי באמת אז יכול להיות שהעתיד הוא כמו כל סרטי המדע בדיוני הללו שאפשר לבנות מערכת, מערכת יחסים עם רובוטים, יהיה לנו כל מיני יצורייי כלאיים כאלה של אה, לא יודע איך ייראו ילדים של מערכות יחסים כאלה, אבל יהיו כל מיני דברים כאלה. ואם זה הכל פייק, אז אתה צריך, טוב, אז אתה, זה בעצם דרך לא מודע, כן? כן. אם הכל זה רק מכני, אם אין פה שום דבר מעבר ל, למכני, כן? מעבר להשלייה, כן? קצת כמו שאמרתי קודם על קוסם ומכשף, כן? אם וזה הכל רק אממ אממ, רק רק רק קסם ולא כישוף, אז אוקיי, אז אתה לא תלך ל, לקוסם, וגם תגיד לו, אה, תשמע, אני רוצה לגדל אוסף של ארנבים, אתה יכול לעשות לי שנייה כמה ארנבים כזה. כן, אתה לא תבנה את החיים שלך על בסיס מה שהמכשף יגיד לך, נכון? כי אתה אומר, הוא סך הכל קוסם, הוא לא יכול לעשות מעבר. אז אנחנו נפעל בחיים שלנו בכל מיני צורות, בצורה שונה לגמרי, ברגע שאנחנו נחשוב שהדבר הזה הוא אמיתי, ואולי הנקודה האחרונה וזה גם יוביל אותנו לאחד מהדברים הכי חשובים בסיפור, זה ש אממ, כשאני אומר שזה בעצם תבונה, אני בעצם עושה, כמו כמו אנושית, משם מגיעה ההשלכה שאומרת, ולכן זה יחליף בני אדם. אז זה חלק מהנקודה הקריטית. בעצם זה המקום הכי אה, אה, לדעתי קריטי בדיון, ב, בפינג פונג שאנחנו עושים על האם הדבר הזה בסופו של דבר יחליף אותנו בכל מיני תצורות, כי אם כל מה שGPT זה איזה, זה נניח שאם רק הייתי רואה GPT זה כלי לייצור טקסטים אז אני לא חושב שהוא יוכל להחליף אותי ב לא יודע, בלהיות פוליטיקאי, כן? אבל אם אני חושב שהוא בעצם בן אנוש אה קטן, או חייזר שהוא כמוני חוץ מזה שהוא קצת שונה, כן, עובד על בטריה ולא על חבצה. בדיוק, והוא מסיליקון ולא זה, נכון? אוקיי. אז אז למה שלא יהיה פה איזה אבולוציה כזאת ש תהפוך אותו למשהו יותר, אה להיות, משהו יותר קרוב אליי, כן? ואז הוא ממש יכול להחליף אותי. אבל אם אני חושב שזה רק GPT, טוב, אז בסדר, אז משהו שמייצר טקסטים אבל יהיה לו גבול, יהיה לו חסם, כי אני לא מייחס לו משהו מעבר ליכולת של הקסמים שהוא עושה לי כל הזמן. אז לכן די מאוד חשוב לדיון הזה, ולכן אני אומר שבוויכוחים או בדיונים על עתיד האנושות בצילו של ה-AI, הרבה פעמים אתה רואה את הפינג פונג הזה. אנשים עושים השלכות קדימה, אומרים, טוב, כיוון ש הוא תבונה, או לא אומרים את זה בהכרח ככה, אבל הוא בטח בGPT 17 יוכל כבר לעשות א' ב' ג', כן? ולכן, זה אומר שאנחנו צריכים להתכונן לעולם שבו טה טה טה טה טה טה. כן. כן. ולעומת זאת, אם אתה אומר שזה לא, זה עוד טכנולוגיה והיא כמו כל טכנולוגיה תהיה לה גבולות, אז בסדר, אז טכנולוגיה. אם אם הGPT הזה יהיה בתוך אה, רובוט או רובוטית אה שיכולים לזוז, ואנחנו יש כבר כזה ויש כבר כזה, אממ, והבן שלי אה יבוא אליי ויספר לי, אה אבא, יש לי חברה, אה ואני רוצה להתחתן איתה, תכיר. זה אה אנדרואיד אה 52111, אני קורא לה, אנחנו קוראים לה לוסי. אה ואני אגיד לו, מה פתאום? זה רובוטית וזה והוא יגיד לי, מה אתה? למה אתה מיושן? למה אתה שמרן? בוא תזמין אותה לארוחת שישי ותראה. אני אזמין אותה לארוחת שישי, מחבר אותה ל, מפתחת שיחות, היא זה, היא אכפתית, היא מגישה אוכל, היא עוזרת לשטוף כלים בסוף. איך אני אדע להבדיל? זאת אומרת, איך איך מה גורם לי להגיד אה אתה לא יכול אה להתחתן איתה ו ואתה יודע, ומכאן אפשר להמשיך, זכויות הרובוטים ו בדיוק. עכשיו, מה שמגניב וזה אחד הדברים שקיבלתי כחלק מהכנת הפודקאסט, אתה מתחיל פודקאסט על על הנושא הזה, אתה אומר איפה איפה אני מתחיל? אז אתה מתחיל מטורינג. אז אני משער שהמאזינים שלך כבר מכירים, אבל בשתי מילים מה זה מבחן טורינג? טורינג היה גר ב, הוא,