שלום כולם וברוכים הבאים לאלישע והזוויות, היום ה-16 לפברואר 2025, י"ח שבט, ואנחנו בעונה שניה על בינה מלאכותית, בפרק מספר 9!נתחיל בכמה עדכונים. קודם כל, אני שמח לשתף שהפודקאסט עבר את 20 אלף ההאזנות בספוטיפיי! ויש עוד כמה אלפים בפלטפורמות האחרות, אז אני משער שבסה"כ עברנו יחד את רף ה-25 אלף. רציתי לקחת רגע להודות לכם על שאתם כאן איתי במסעות שלי, ולעודד אתכם לשתף את הפודקאסט עם חברים, מכרים, עוקבי טוויטר וכן הלאה.חוץ מזה, ובלי קשר לנקודת הציון החשובה הזו, יש לנו לוגו חדש לפודקאסט! חשבתי שהגיע הזמן לשדרג את המותג, ואני מקווה שאתם אוהבים אותו. תודה רבה לגיסתי שעיצבה הלוגו, אז אם מישהו מעוניין בפרטים שלה, מוזמנים לכתוב לי בפרטי ואני אקשר ביניכם.בפרק הקודם, פרשתי בפניכם את הטיעון הסקפטי הפשוט שקובע שבאופן מהותי, מחשבים אינם יכולים לחשוב, וכיוון שכל AI שיש לנו היום הוא בסוף תוכנה שרצה על מחשב, כל פרוייקט ה-AI נדון לכישלון. וכשאני אומר "נדון לכישלון" אני כמובן לא מתכוון לכפור בערך ובעוצמה של הכלים המדהימים שאנו קוראים להם AI. מערכות הבינה המלאכותית עשו - וימשיכו לעשות - מהפכה בכל העולם בלי קשר לאיך נקרא להן. יש כאלו שרואים בהן את שורשיה של מהפכה בסדר גודל של המהפכה התעשייתית, ויש סיכוי שהם צודקים בזה. אבל גודל המהפכה אינו בהכרח אומר שהמערכות הללו זכאיות לשם התואר "תבונה". אין ספק שהשם AI מתגלגל בקלילות מהלשון, והוא גם עוזר לייצר השראה לאלפי חוקרים ומתכנתים בעולם, שקמים כל בוקר במטרה לקדם חזון של בניית מוח סינתטי. אבל התיזה משבוע שעבר - בא נקרא לה התיזה ה"סקפטית" - קובעת שמדובר באשליה ותו לא, מופע קסמים שמהתל בנו. הצגנו את הדברים בהשראת המאמרים של מארק הלפרן, שלא המציא את הטיעון אבל ניסח אותו באופן אלגנטי, ואם אתם לא זוכרים את הפרטים, אני מזמין אתכם להאזין שוב לפרק השמיני, ולחזור לכאן כשהדברים יושבים לכם טוב בראש.ואם כבר הזכרתי את הפרק הקודם, שווה שתכירו פרט טריוויה חשוב לגביי העמדה הסקפטית של הלפרן. אחד המנסחים הראשונים שלה היה ג'ון סרל (John Searle), פרופסור לשעבר באוניברסיטת ברקלי, שהציג אותה על ידי שימוש במשל המכונה "החדר הסיני". לא נכנס לפרטי המשל כאן, אבל הוא דומה קצת להשראה ששאבתי בפרק הקודם ממופעי קסמים. כיוון שמדובר במשל קלאסי וידוע, רציתי שתכירו את השם למקרה שמישהו יזכיר אותו פעם בפניכם. שלא תגידו שאני לא דואג לכם, כן? אצרף כאן לינק לפרטי המשל למי שירצה להרחיב.אל מול הטיעון הסקפטי שדנו בו בפרק הקודם אפשר להציב כמה תגובות. אפשר לנתח את הטיעון עצמו, ולבדוק איפה יש טעויות או קפיצות לוגיות, נקודות תורפה שיאפשרו לנו להחליש אותו. אם נדָמֶה את הטיעון כסוג של גדר שתוחמת את המחשבים לאזור שאין בו אינטליגנציה, אפשר לחפש פרצות בגדר. גישות כאלו אנחנו נסקור בפרקים הבאים. היום, אני רוצה לדון בתגובה מסוג אחר.כמה מאזינים פנו אלי אחרי הפרק ושאלו - רגע, אבל מה עם המוח האנושי? גם המוח הוא בסוף מכונה פיזית, שמבוססת על סיגנלים חשמליים בין תאי-עצב הקרויים נוירונים. לכל הרוחות, כל מערכות ה-AI של היום בנויות על תשתית שקוראים לה רשתות נוירונים, ארכיטקטורות שעוצבו בהשראת המוח האנושי. אז, אם אנחנו מצליחים לחשוב בעזרת המוח, אז זה אומר שקיימת ארכיטקטורה כלשהי של מחשבים שתוכל לחשוב, הלא כן?כשחשבתי על השאלה הזו, הייתי חייב להיות כנה עם עצמי: מדעי המוח הם מטרופולין סואן של רעיונות וגילויים מדעיים, ואני לא מתחיל בכלל לגרד את הידע הנרחב בנושא. וחוץ מזה, אם היינו רוצים לשטוח את כל נושא הקשר שבין בינה מלאכותית לבין המוח, היינו צריכים להכניס לכאן מומחים מהמון תחומי ידע לגביי המוח האנושי - פסיכולוגים, נוירולוגים, מומחים לאבולוציה וכאלו שיכולים לספר לנו על המוח של קופים וכלבים ומה אנחנו יודעים על היכולת שלהם לחשוב, וכן הלאה. ולכן, מה שהחלטתי לעשות היום הוא בעיקר לפתוח צהר לאיך אני ניגש לחשיבה על עניין ההקבלה שבין המוח לבין בינה מלאכותית, עם כמה דוגמאות ממש בפינצטה, ובתקווה שזה יעזור לכם ויתן לכם כלים טובים לארגון הידע שלכם בנושא. בנוסף, בפרקים הבאים אנחנו ניגע בעוד נושאים המשיקים למה שאנו יודעים היום על המוח, לפחות זו התכנית שלי, אז אני מקווה שהפרק הזה לא יהיה סוף פסוק בעניין.אז, מאיפה נתחיל? נראה לי שהדבר הראשון שצריך לומר הוא שבמסגרת העונה שלנו, יש משמעות מיוחדת להזדקקות למוח.. שכן בעצם הצגת השאלה אנחנו סוטים במידה מסויימת מדרכו של טיורינג וחושפים חולשה בפרוייקט שלו. הרי טיורינג שאף להתמקד רק בביטויים החיצוניים של אינטליגנציה וחשיבה, והוא נמנע באופן מכוון מלהזדקק לשאלה איך שתיהן מתממשות אצל בני האדם. טיורינג קיווה בכך לדלג קדימה לפתרון בלי להבין את מהות הדבר שהוא מנסה לפתור - לבנות מערכות חושבות בלי להגדיר מראש מה זו חשיבה. אבל מה שה"גישה הסקפטית" טענה באופן מאד משכנע הוא שכאשר מסתכלים מתחת למכסה המנוע ומבינים איך מחשבים עובדים, אשליית החשיבה שלהם מתנפצת. כיוון שכך, מי שרוצה לייצב את החזית הזו נדרש בעצם לשכנע אותנו שהמוח האנושי, שכולנו מסכימים שמסוגל לחשוב, זהה למחשבים מבחינה מהותית כלשהי. הבעיה היא שבכך הוא שובר את המסך שטיורינג הציב, מסך שמפריד מראש בין ה"מה" שאנו חווים, לבין ה"איך" שנסתר מעינינו.אז בסדר, יש כאן ניצחון בקרב קטן מול "מסך הבּערות" שטיורינג ניסה להציב. אבל מהרגע שפרצנו את מסך הבערות, הויכוח שבין הגישה הסקפטית לגישה האופטימית עובר לחזית אחרת. בעלי הטיעון ה"אופטימי", אלו שסבורים שבינה מלאכותית יכולה להיות תבונית באמת, באים ואומרים: הלפרן, וגם ג'ון סרל - אתם ושכמותכם משחקים מלוכלך. על הבמה יש לא קוסם אחד אלא שניים - הבינה המלאכותית כמובן, אבל גם הבינה הביולוגית האנושית. בפרק הקודם דאגתם לחשוף את הטריקים של הקוסם המלאכותי, תוך כדי שייחסתם יכולות חשיבה מהותניות למוח האנושי. אבל בכך אתם רק ממנפים יתרון לא הוגן שיש למוח האנושי, והוא שאנו לא יודעים איך בדיוק הוא עובד. אם תרימו את מכסה המנוע של המוח הביולוגי ותביטו פנימה, אם נתחיל לחפור לעומק באופן שבו הוא עובד, אנחנו נחשוף שהמוח שלנו דומה מאד למחשב, דומה מדי, ושגורל שניהם תמיד יהיה זהה.ובהחלט, זהו טיעון מאד אִינְטואִיטִיבִי ששווה דיון. כפי שאמרנו, מערכות בינה מלאכותית כיום בנויים באופן דומה מאד למוח. שניהם מבצעים חישובים על ידי תקשורת בין נוירונים המאורגנים בצורה של רשת. אצל שניהם, הנוירונים עוברים כיול בתהליכים של למידה לאורך זמן עד שהם מגיעים לתפקוד ראוי. ואצל שניהם - וזה החלק שמתקשר ישירות לפרק הקודם - אצל שניהם הנוירונים פועלים באופן מכני, דטרמיניסטי וחסר חשיבה. כל נוירון פשוט מגיב לַגִירויים שהוא מקבל מהסביבה. אז, ידידי הסקפטים, אתם יודעים מה? כל הכבוד לכם שכיתרתם את המחשבים והוכחתם שלעולם לא יוכלו לפרוץ את גבולות הדטרמיניזם ולחשוב באמת, אבל עכשיו הגיע הזמן שתשימו לב שכשהתקנתם את המנעול על דלת הגדר, על הדרך גם כלאתם את עצמכם ואת המוח האנושי באותו כלוב לוגי. אם הטיעון שלכם חזק מספיק כדי להוכיח שמחשבים לא יהיו מסוגלים לחשוב לעולם, אז באותה מידה הוא מראה שמה שהמוח האנושי עושה כבר היום איננו חשיבה. תקראו לזה מה שאתם רוצים, אבל אין משהו מהותי במוח הביולוגי, ובחשיבה האנושית, שלא יכול להתממש במחשב מבוסס סיליקון עם תוכנה מתוחכמת.הטיעון הזה נשמע חזק, אבל ניסוח טוב יותר לכך הוא שיש לו פוטנציאל להיות טיעון חזק, פוטנציאל להיות תשובה ניצחת כלפי הסקפטיים. הקביעה "מחשבים שקולים מהותית למוחות" איננה עובדה, אלא היפותיזה. יש להיפותיזה הזו הרבה תומכים, ויש להם סיבות טובות לחשוב כן. מצד שני יש גם הבדלים חשובים בין המערכות השונות, ולכן סימן השאלה עדיין שם. ומתוך סימן השאלה הזה עולים הרבה כיוונים מעניינים לבחינת הנושא.בואו נתחיל מהכיוון האופטימי. להוכיח שהמוח שקול ב-100% למחשבים זה כמובן לא אפשרי, אבל מתוך ההצלחות של GPT אפשר בהחלט לקבל הרבה רעיונות והשראה לגביי איך שהמוח האנושי עובד. אני אזכיר לכם ש-GPT, כל שהוא מאומן לעשות זה לעשות auto-complete, השלמה של המילה הבאה, לפי כל המילים הקודמות שהיו בשיחה. אתם הכרתם את הפיצ'ר הזה ממזמן כשכתבתם הודעות טקסט בנייד, ו-GPT פשוט שם את זה על סטרואידים. אז, בהינתן שזה כל מה שזה עושה, זה מפתיע באופן מטורף שגישה שכזו מספיק עוצמתית כדי לנהל שיחה משכנעת עם בני אדם, ולהצליח פעמים רבות במבחן טיורינג! מה אפשר ללמוד מזה שזה המצב? ובכן, כיוון שהטבע אוהב להיות חסכוני במשאבים ואנרגיה, אולי אפשר להסיק מכאן שחלקים מסויימים מיכולת הדיבור האנושית דורשים מכניזמים הרבה יותר פשוטים ממה שחשבנו. וכך, נניח, אומר הפילוסוף נד בלוק, פרופסור באוניברסיטת ניו יורק, בראיון שנתן לאחרונה:"אני לא יודע אם אפשר ללמוד ממערכות ה-AI לגביי המבנה של השפה האנושית, אבל הן בוודאי לימדו אותנו המון על חשיבה אנושית, ובייחוד אלו חלקים מהשכל אולי מנצלים טכניקה פשוטה יחסית של auto-complete. זו תגלית חשובה ביותר."אז, זו דוגמה אחת לאופן שבו ההקבלה בין המוח לבין המחשב יכולה להאיר אור חדש על תפקודו של המוח. ואם זה המצב, מאד קל להתמכר לרעיון שהשניים דומים מאד באופן פעולתם. ולמי שרוצה להאזין לשיחה המרתקת עם פרופ' בלוק, אני אשים את הלינק לשיחה הזו שלו בתיאור הפרק.אבל לצד נקודות הדמיון, יש גם הבדלים חשובים. נניח, בואו ניקח לדוגמא את ההבדל הבולט ביותר בין השניים - העובדה שהמוח הוא מערכת ביולוגית שמוטמעת בגוף האדם בעוד מחשבים עשויים מסיליקון וכלואים בקופסא מלבנית משעממת. אולי האינסטינקט שלכם הוא שזה עניין שולי, ושמה שחשוב בסוף הוא האלמנטים המהותיים יותר של המערכת, כמו מפת הקשרים בין הנוירונים, הרגישות והכמות שלהם, סוג המידע שהמחשב חשוף אליו והכמות שלו, וכן הלאה. קשה להבין למה שהחומר שממנו המוח עשוי יהיה כזה חשוב - על פניו, נראה שמדובר רק במאפיין היסטורי מקרי, פרי תהליכים אבולוציוניים. אבל מסתבר שיש חוקרים רציניים שלא חושבים כך. קחו לדוגמא את הדיון הבא שהתרחש לפני כמה חודשים בנושא שמשיק לנושא שלנו: האם מכונות יכולות להיות בעלות תודעה כמו בני אדם.אחד הדוברים בדיבייט הזה היה אניל סת', מדען מוח בריטי ופרופסור לנוירו-קוגניציה חישובית וקוגניטיבית באוניברסיטת סאסקס. במסגרת השיחה, המראיין הציע את התרגיל החשיבתי הבא, שאמורה להוכיח שתודעה סינתטית היא אפשרית: נדמיין עתיד שבו נוכל לבצע ניתוח מוח בזמן שהפציינט ער, ובכל שלב להחליף בָּמוח נוירון ביולוגי בודד בנוירון סיליקוני בודד, וככה נחליף אותם אחד אחד עד שכולם יוחלפו. אנחנו ניגש לניתוח הזה כמובן כשיש בידינו נוירון סינתטי מושלם. בנוסף, כדי לוודא שאנחנו לא הורסים כלום, אחרי כל החלפה של נוירון הפציינט אומר לנו ברוגע, "הי חברים, אני עוד כאן! זה עדיין אני, יוסי!" - ובכך מרגיע אותנו שהתודעה שלו עדיין שם, יציבה כתמיד. אם נצליח לעשות משהו כזה, נראה שזה יוכיח מעל כל ספק שניתן לבנות מחשב בעל תודעה! הרי בסוף התהליך הזה כל הנוירונים במוח הם עכשיו עשויים מסיליקון והתודעה עדיין שם, אז - זה שקול…בתגובה לשאלה הזו, פרופסור סת' הסביר ששאלות תיאוריטיות כאלו נשמעות טוב, ומאוד מגניבות בתור שעשוע אינטלקטואלי. אבל כשחוקרים אותן לעומק מגלים שהן יותר מטעות מאשר עוזרות לברר את הנושא. הן מְמָסְכות את המאפיינים הקריטיים של המוח שימנעו ממצב כזה להיות אפשרי אי פעם, מאפיינים שממוטטים את המסגרת הקונספטואלית של השאלה לפני שאפילו מתחילים לחשוב עליה. והנה ציטוט של דבריו בתוספת כמה מילות קישור והבהרה, ואחר כך אשמיע לכם את המקור:"המוח אינו מערכת שאתה יכול פשוט להחליף בו רכיבים באופן הזה… אני חושב שהמוח הינו מערכת מהסוג שאי אפשר להפריד בה בין מה שהיא עושה, הפונקציונליות שלה, לבין מה שהיא, התשתית החומרית הביולוגית. בוא נסתכל על המקרה שהבאת. הרי לפעמים נוירון ביולוגי מופעל ומשחרר סיגנל לנוירונים השכנים שלו לא בגלל שהוא עשה איזה חישוב ורוצה לשתף מידע, אלא בגלל סיבות ביו-כימיות, כדי לשחרר זבל שהצטבר אצלו, וזאת בניגוד לנוירון מסיליקון. הצטברות הזבל הופכת להיות חלק מן המערכת, ואז כדי לייצר נוירון שיתנהג ככה, אנחנו נהיה חייבים להחליף לא רק את כל הנוירונים הביולוגיים בסיליקון, אלא גם לייצר גרסה סינתטית של כל המטבוליזם שקורה בתוך המוח ושמייצר את הזבל הזה, באופן שייצר אינטרקציות דומות עם הנוירונים מסיליקון. וכשממשיכים את ההיגיון הזה עד לקצה מבינים שאי אפשר באמת לבנות מוח מסיליקון, בדיוק באותו מובן שאי אפשר לבנות את גשר ברוקלין מגבינה שוייצרית."במילים אחרות, פרופסור סת' מדגים כאן שהחומר הביולוגי ממנו המוח האנושי מיוצר, והסביבה שבה הוא שוכן אינם דברים בּרי החלפה. או, כפי שהוא אומר, ברגע שתחליף אותם באופן מדוייק, בעצם תמצא שהגעת לאותה נקודה כמו זאת שיצאת ממנה ושניסית לחקות. במצב שכזה, מתברר שבעצם לא יצרת חיקוי אלא שכפול מה שכבר קיים. העובדה שמדובר בתשתית ביולוגית היא חלק מהותי מהפעילות המוחית, וכל ניסיון לבנות מודל מסיליקון שיצליח לחקות את פעילות המוח במדוייק נדונה לכישלון - אם לא כישלון תיאורטי, אז בוודאי כישלון בשטח.פרופ' סת' דיבר, כפי שאמרתי, על בניית מוח עם תודעה, אבל שווה לקחת מכאן את התובנה המהותית שהוא מביא לדיון: זה משהו אחד להצביע על נקודות דמיון בין המוח האנושי לבין המחשב, וזה משהו אחר לקבוע שנקודות הדמיון הללו הן המרכיבים ההכרחיים למימוש פונקציונליות נתונה, לדוגמא הפונקציונליות של המוח. אם ניקח דוגמה מפורסמת מעולם הגנטיקה, בטח שמעתם פעם על זה שיש דמיון של יותר מ-90% בין הגנום האנושי לבין הגנום של קופים מסויימים, אבל בטח גם שמתם לב שבני אדם שונים מן הקופים באופן קיצוני מאד בשטח. וגם אצלנו - אולי רשתות נוירונים קיימות בשתי המערכות, במוח ובמחשבים, אבל בו זמנית יתכן שמרכיבים נוספים, שלא ידועים לנו כיום, נדרשים כדי להשיג חשיבה כמו-אנושית במחשבים.לסיום הזווית הזו, אציין שתובנות כאלו ואחרות שדומות להן מובילות הרבה חוקרי AI להציע שכדי להגיע לבינה מלאכותית אנחנו צריכים להרחיב את הסימולציה של המוח ולהפוך אותה להיות עוד יותר דומה למה שקורה אצל בני אדם. נניח, תומכי הרעיון של "Embodiment" סבורים שבינה מלאכותית אמיתית תיווצר כאן רק אם היא תשכון בתוך גוף רובוטי ותלמד על העולם כמו תינוק, מתוך מגע וחיכוך עם העולם דרך חיישנים שיוצמדו לה. בכך אנחנו רואים דוגמה יפה לאיך שהמוח האנושי הופך להיות תבנית שחוקרים מנסים לאמץ ולחקות כדי לייצר בינה מלאכותית.בואו נמשיך הלאה. את השאלה הזו, האם המחשב והמוח זהים, אפשר גם להפוך על פיה ולמנף את המוח האנושי לקביעת היעדים של הבינה המלאכותית. אפשר לשאול: מה מכל הדברים שהמוח האנושי עושה הוא חלק ממה שנדרש כדי לקבל אינטליגנציה וחשיבה? המוח שלנו דומה למחשב בכך שהוא מסוגל לעשות חישובים כמו 1+1=2 ולתכנן איך לנצל משאבים באופן יעיל; אבל לצד זה הוא גם תומך בהרבה תהליכים מנטליים נוספים: עיבוד תחושות פיזיות ורגשות; דמיון, וגם חלומות. באופן רחב ביותר, התודעה שלנו, consciousness, וגם המודעות העצמית שלנו, self consciousness נתמכות על ידי המוח. אם המוח שלנו הוא המודל לחיקוי בדרך למימוש אינטליגנציה מלאכותית, אנחנו חייבים לשאול - האם זו חבילה אחת של הכל או כלום, או שמא אנחנו יכולים לארגן את הפעילות המנטלית ב"חבילות", ולקחת רק את החבילה שמתאימה לנו? ואם כן, אם אפשר להפריד בין היכולות הללו, אז מהם האלמנטים הקריטיים שרק בזכותם מתאפשרת תבונה? נניח, האם מכונה שאיננה חולמת יכולה להיות תבונית, או שמא הדברים שלובים זה בזה באופן מהותי? וממילא, האם אפשר לקבוע באופן חד משמעי שכיוון ש-GPT אינו חולם, למיטב ידיעתי, אז זה מוכיח שהוא אינו תבוני?אנחנו מגלים כאן שוב, לצערנו, שלא פיתחנו בעונה שלנו כלים להתמודד עם השאלה הזו עד כה. אני כמובן אאשים מישהו אחר בבעיה הזו - את טיורינג כמובן! לא נדרשנו לפיתוח הכלים הללו כיוון שלא הגדרנו מפורשות לְמָה אנו מתכוונים בחשיבה, וזה כי הרשנו לעצמנו להתמקד בתוצרים המדידים במקום במהות הדבר עצמו. אז אולי הגיע הזמן להתחיל לפרום את הפלונטר הזה, חוט-חוט, צעד-צעד.בתור השראה לדיון, בואו ניקח דברים שאמר יובל נוח הררי בראיון שנתן לאתר הצרפתי Le Point, יחד עם מומחה ה-AI יאן לה-קון, שדיברו שם על נושא הבינה המלאכותית. שניהם נשאלים מהי ההגדרה של תבונה, Intelligence, והרי התשובה של הררי:הררי: אינטליגנציה היא היכולת לפתור בעיות. החל מיצורים חד-תאיים המחפשים מזון ועד לבני אדם שגילו איך לעוף לירח – זו אינטליגנציה. זה לא אותו דבר כמו תודעה. אצל בני אדם, שתי התכונות הללו משולבות יחד... אנחנו, בני האדם, לעיתים משתמשים בתודעה כדי לפתור בעיות, אבל היא לא מרכיב הכרחי. יצורים רבים פותרים בעיות בלי שתהיה להם תודעה כלשהי, כמו צמחים ומיקרואורגניזמים. גם מכונות יכולות להיות אינטליגנטיות ולפתור בעיות בלי שיהיו להן רגשות.יש לי הרבה מה לומר על הדברים הללו של הררי ביחס ל-AI, וכפי שאמרתי בפרק הקודם אנו נקדיש זמן לנתח אותם בפרק עתידי. אבל כרגע נסתפק רק בסיור קצר סביב הרעיון שלו שמבדיל בין אינטליגנציה לתודעה. מה זו אינטליגנציה ללא תודעה? הררי מספר לנו: היכולת לפתור בעיות. כמו טיורינג, הוא מאפיין אינטליגנציה על פי הביטויים החיצוניים שלה, ובראייה שכזו תודעה, שהיא דבר פנימי ליישות, איננו המהות אלא רק כלי שמשרת את האינטליגנציה, כלי שאפשר להסתדר גם בלעדיו. הוא מביא כמה דוגמאות לאינטליגנציה שכזו - יצורים חד-תאיים וצמחים, שמצליחים לפתור בעיות של הישרדות בטבע הכאוטי, וגם מכונות, כמו מחשבים, שמבצעים חישובים מתמטיים בפתרון הבעיות שמציבים בפניהם.אבל האם באמת מתוך הדוגמאות הללו אנחנו יכולים להתייחס לתודעה ככלי שאינו נדרש לאינטליגנציה? תנו לי להציע שגם לפי ההגדרה של הררי עצמו אני לא בטוח שזה נכון עד הסוף, שכן יתכן - אני רק מציע כאן - שיש רמות מסויימות של אינטליגנציה שניתן להגיע אליהן רק בעזרת תודעה. ובואו ננסח זאת בצורה שמתאימה להגדרה של הררי, בסדר? אולי יש בעיות בעולם שאפשר לפתור רק בעזרת הכלי הזה ששמו תודעה. ואם זה המצב, אז אולי אחד הלקחים שאנחנו צריכים ללמוד מן המוח הוא זה: שכדי להשיג בינה מלאכותית מתקדמת מספיק שנהיה מרוצים ממנה, נהיה חייבים להעניק למכונות תודעה.אז זו נקודה אחת לחשוב עליה, אבל האמת היא שכשחושבים על זה, שמים לב שקורים כאן גם דברים עמוקים הרבה יותר, ואני רוצה לנצל את ההזדמנות, ואת דבריו של הררי, כדי להקדיש את סוף הפרק היום להרהורים על העונה כולה עד עכשיו.אחד הדברים המעניינים בכל השיח על תחום הבינה המלאכותית הוא שאתה מרגיש הרבה פעמים שאנשים סובבים סחור סחור סביב הדבר שהם באמת רוצים לומר ולהציע, אבל לא אומרים אותו במפורש. אולי זה בגלל שאין להם תמיד את המילים הנכונות, ואולי זה בגלל שהם מנסים להימנע מתגובות צוננות מהציבור, ואולי זה משהו אחר לחלוטין - אני לא יודע בדיוק. אבל כשאני מסתכל על העונה עד עכשיו, אני שם לב שהסיפור הזה של תודעה יושב לו שם ברקע כל הזמן, מהרגע שדיברנו על מבחן טיורינג. בואו ואסביר למה.תחשבו רגע על "מבחן הררי", שנגדיר כך: אם ישות יודעת לפתור בעיות - היא ישות תבונית. לפי המבחן הזה, מתי האנושות יצרה אינטליגנציה מלאכותית? לפני המון המון זמן, אולי עוד בימיו של האדם הקדמון. אם כל דבר שפותר בעיות הוא אינטליגנטי גם ללא תודעה, אז אפשר לייחס תבונה, נניח, לאופניים פשוטים, שְכֶּן בזמן שרוכבים עליהם יש להם מנגנונים מכניים רבים ש"פותרים בעיות" על הכביש, כמו מניעת החלקה, תנועה רציפה, בלימת זעזועים וכן הלאה. ולפי אותו הגיון, גם לתרמוסטט יש אינטליגנציה, כי הוא פותר בעיות של ויסות חום: הוא חש את הטמפרטורה בחדר, ומגיב בשינוי מצב המזגן או הרדיאטור בהתאם. ההבדל היחיד בין תרמוסטט לבין מחשב-על הוא במורכבות הבעיות שהם פותרים, אבל שניהם חברים ב"מועדון האינטליגנטים".גם בעולם החי אפשר לצלול לרזולוציות דקות יותר. הררי אמר שיצורים חד-תאיים הם אינטליגנטים - ומה עם הישויות הביולוגיות שרצות להם שם בתוך התא? המערכת שבתוך התא עוסקת בין השאר בפתרון בעיה חשובה ביותר - שכפול ה-DNA, ויש הרבה חלבונים, הקרויים אנזימים, שעוסקים בזה. יש את אנזים ההליקאז שפותח את הריץ-רץ' של ה-DNA, אחריו מגיע אנזים בשם פרימאז שיוצר מקטע RNA קצר שמסמן את תחילת אזור השכפול. אחריו יש אנזים בשם DNA פולימראז שאחראי להצמיד בסיסים תואמים לצד הפתוח בכיוון מסויים, ואנזים אחר בשם DNA ליגאז שמחבר מקטעים שהפולימראז יצר. ואלו רק מספר קטן ממש מכל הרכיבים שפעילים לנו שם בפנים בזמן שה-DNA משוכפל. אז גם חלבונים, כך נראה, צריכים להתקבל לאותו מועדון כמו המחשב והתרמוסטט, ולהיחשב תבוניים.עכשיו, אולי אתם חושבים שהלכתי רחוק מדי, ואולי אתם מאמינים שהררי היה שם בְּרֶקס לפני שהיינו מגיעים לתרמוסטטים. אם זה המצב - כל שאני יכול לומר בשלב הזה הוא שלא ברור לי איפה צריך לשים את הגבול. לשם הקוריוז, תנו לי להביא לכם כאן ציטוט מתוך דבריו של ג'ון מקרתי, פרופסור למדעי המחשב והקוגניציה, שכתב מאמר ב-1979 בשם "ייחוס תכונות מנטליות למכונות", ובו הופיעה הקביעה הבאה, ואני מצטט:גם לגביי מכונות פשוטות ביותר, כגון תרמוסטטים, ניתן לומר שיש להן אמונות, ונראה שהיכולת להחזיק באמונות מסויימות זו תכונה שמאפיינת את רוב המכונות המסוגלות לפתור בעיות.כלומר, מקרתי הולך אפילו רחוק יותר מהררי, ומוכן לייחס לתרמוסטטים לא רק אינטליגנציה, אלא גם סט של אמונות. במקרה של התרמוסטט, הוא ממשיך ומציע שהאמונות יהיו דברים בסגנון "החדר קר מדי", "החדר חם מדי", ו"החדר בטמפרטורה נכונה". לא כאן המקום להכנס לעמדתו של מקרתי, כמובן. רק רציתי שתראו כיצד וכמה מהר אנחנו יכולים לאבד שליטה על המשמעות של מילים כשההגדרות שלנו מרחיבות מדי, ולהגיע למקומות שאולי לא חשבנו שנגיע אליהם לכתחילה. אה, וגם אהבתי את זה שהוא על הדרך תמך בעמדתי וקבע שתרמוסטטים מסוגלים לפתור בעיות - כלומר, שלפי הררי תרמוסטטים הם אכן אינטליגנטים.עכשיו, כש"מבחן הררי" יושב לו ברקע, בואו תחשבו שוב על המבחן האהוב שלנו - "מבחן טיורינג". פתאום נראה לי סופר מעניין שכשטיורינג חיפש לו מבחן לזיהוי אינטלגנציה, הוא בחר דווקא ניהול שיחה עם בני אדם, ולא, נניח, כפל של שני מספרים גדולים במהירות שיא. למה כפל מהיר לא היה מועמד למבחן? אחת הסיבות לכך היא כנראה שפשוט, כבר ב-1950 מחשבים היו מסוגלים לעשות את זה, או לפחות היה ברור איך לבנות כאלו שיעשו זאת, אז זה לא היה אתגר כזה מעניין. אבל לדעתי העניין הוא עמוק יותר: טיורינג בחר במכוון בעיה שאצל בני אדם מערבת באופן כבד וקריטי את הכלי הזה שנקרא תודעה. בן אנוש לא מסוגל לעבור את מבחן טיורינג אם הוא לא קשוב ומודע לשיחה. תודעה מגיעה יחד עם תשומת לב, וכמו שכולנו יודעים, כשאנחנו לא מקשיבים למה שבן שיחנו אומר לנו, אנחנו בסוף נגיד משהו שיסגיר את זה. כלומר, מבחן טיורינג בעצם בודק אם מחשב מסוגל לנהל שיחה כמו בן אדם בעל תודעה, ולא רק בעל אינטליגנציה.אני מודה שרק כשהגעתי לפרק הזה התחילה להפציע אצלי ההכרה שאולי יש הבדל בין הכותרת של המאמר של טיורינג - "מכונות חישוב ואינטליגנציה" - לבין השאלה שטיורינג הציב בה לקוראים: "האם מחשבים יכולים לחשוב?" "לחשוב" זהו שם פועל, המשמש אצלנו בשפה הרגילה, וגם באנגלית, לפעולה מודעת. המוח שלנו עסוק כל הזמן בעיבוד של מידע, והרבה ממנו קורה ברמה התת-הכרתית, אבל אנחנו משתמשים בקביעה "אני חושב" או "חושבת" רק ביחס למצבים שבהם אנחנו מודעים לחשיבה שלנו. לעומת זאת, "אינטליגנציה" זהו שם עצם, משהו סטטי שאולי אפשר לשייך לדברים שאינם מודעים. אבהיר שאני לא מנסה לרמוז שטיורינג הגה באבחנות הללו, אבל אני חושב שזה יצא יפה שאנו מצויים לאורך כל העונה במתח שבין שתי המילים הללו.בכל אופן, בא טיורינג ואמר - מחשבים חושבים מהסוג שמעניין אותי הם מחשבים שמסוגלים לדמות פעולה שבני אדם עושים רק בעזרת חשיבה מודעת. בניגוד אולי להררי, די ברור שהוא חשב שיש משהו שונה באופן מהותי במכונה שמסוגלת לפתור בעיות מהסוג הזה, משהו שיבדיל בינה לבין המכונות הפשוטות יותר שהוא הכיר, כמו תרמוסטטים.עכשיו, לסיום, בואו נשאל – האם גם היום אנחנו חושבים שיש דברים שבלי תודעה לא נוכל לעשות, בעיות שלא נוכל לפתור ללא הכלי הזה? ואולי החידושים בתחום ה-AI, דברים מדהימים כמו GPT וחבריו, מוכיחים דווקא את הכיוון שאומר - תודעה היא לא דבר נדרש כדי לפתור בעיות גדולות. עובדה שהמכונות הללו מצליחות לעבור את מבחן טיורינג בציונים גבוהים, וזאת בלי שיש בהן גרם של תודעה.ובכן, ברגעים כאלו אני שמח שהקדשנו כמה פרקים לנושא הזה בדיוק. הרי בפרקים 6 ו-7 הרחבנו רבות על כך שלפחות נכון להיום, המכונות זקוקות כל הזמן להזרקה של דאטה אנושי נקי ומקורי כדי לשמר את היציבות והיעילות שלהן. למרות שאפשר לנמק את הצורך הזה מכמה כיוונים, הרבה מהכיוונים הללו מתכנסים לְמָה שראינו בפרק החמישי, שבו דיברנו על האופן שבו מכונות מבינות שפה. אתם בוודאי זוכרים שאמרנו שם שיש שתי דרכים להבין את המשמעות של מילה: כמעוגנת בדבר ממשי בעולם או בחוויה אנושית; או כמערכת סגורה, ביחס למילים אחרות, כמו במילון. בעוד שבני אדם מבינים מילים בשתי הדרכים, מכונות מסוגלות להבין את המשמעות של מילים רק בדרך השניה, ולכן הן זקוקות לתיווך אנושי - כי רק בני אדם מבינים את הישות המהותית שקיימת מעבר למילים, שעליה המילה מצביעה. רק בני אדם מבינים מה זה מזלג מתוך מפגש עם המזלג. כפי שאמרנו באותו פרק, אצל בני אדם המזלג קדם למילה מזלג, בעוד שאצל מחשבים - השניים באו לעולם יחדיו.איך כל זה קשור לשאלה שלנו כאן, אתם תוהים? ובכן, הידיעה הזו, המפגש הזה עם המזלג ושאר העולם - המפגש הזה קורה רק בזכות זה שאנחנו בעלי תודעה. קשה להגדיר מהי תודעה בדיוק, ואנשים מדיסיפלינות שונות מגדירים אותה אחרת. אבל למיטב ידיעתי אין חולק על כך שבניית שפה אנושית היא תוצר של תודעה. והדברים די מתבקשים, נכון? שפה היא דבר שאנו ממציאים כדי לתאר את העולם שאנו מודעים לו, וכדי לעזור לתקשר את העולם עם אנשים אחרים מסביבנו. ושוב, קל לראות את זה אם פשוט נשים לב לְמָה שאמרתי קודם: שיחה בין אנשים, המשתמשת בשפה, היא תהליך מודע. ונכון, הרבה מילים מגיחות לחיינו בצורות מפתיעות ולא מתוכננות, אבל עבור כל מילה שאתם מכירים היה שלב שבו מישהו כתב את המילה או השתמש בה באופן מודע, וזו הסיבה שאתם מכירים אותה ויודעים את משמעותה.אם כן, אנחנו רואים שיש דברים שלפחות כיום אנחנו לא יודעים לפתור בלי תודעה, ולכן תמצאו הרבה דיונים באינטרנט לגביי השאלה הזו: איך נבנה מחשב עם תודעה? האם ל-GPT כבר יש תודעה, ואיך נדע באמת אם זה קרה? האמת היא שהשאלה הזו היא קשה ביותר, לפחות כל עוד אנחנו לא מבינים מה זו תודעה, למה היא נוצרת ואיך היא נוצרת במוח שלנו. לשאלה הזו קוראים "הבעיה הקשה של התודעה", The Hard Problem of ,Conciousness והיא טורדת את מנוחתם של חוקרים רבים כבר שנים רבות. אם אתם חושבים שזה קשה לזהות אם המחשב הוא תבוני, אז תנו לי לספר לכם שלהסיק שיש ליישות כלשהי תודעה זה עוד יותר מאתגר.אבל נראה שאנו סוטים מהנושא העיקרי - אז בואו נחזור למסלול. מה שעולה מכל מה שראינו היום הוא שהמוח האנושי יכול לגלות לנו מהם המאפיינים הקריטיים לאינטליגנציה ברמה גבוהה. ולכן, גם אם הררי צודק ברמת העיקרון שניתן לייצר אינטליגנציה ללא תודעה, לא בטוח שזה מסלול חכם לבחור בו כשאנו מעצבים את ה-AI העתידי שלנו. אולי כל עוד אין ל-AI תודעה, הוא ימשיך להתנגש בתקרת הזכוכית של הצורך בדאטה אנושי, כלומר בדאטה שמתווך לו דרך יישות בעלת תודעה. הצורך הזה ימחיש לנו כל הזמן שהמחשב לא באמת מבין את העולם ואת הבעיות שהוא מנסה לפתור, אלא רק מנסה לחקות את בני האדם. לחקות אותם מספיק טוב כדי לעבוד עליהם, לגרום להם להאמין מסוגל לחשוב, אבל לא לחשוב בעצמו.אז, הגיע הזמן לסיים! מה שראינו היום היה רק אוסף אחד של זוויות על נושא המוח, ויש כמובן זוויות נוספות. יש כאלו שהולכים בכיוון דואליסטי, שמשמעו שצריך לחפש את ה"תבלין הסודי" לפעילות המוח במשהו שאינו מטריאליסטי, אינו חומרי - נניח נשמה, או נפש, או אנרגיה מסוג אחר. דואליזם טהור, כזה שטוען שאין כל קשר בין המוח לבין החשיבה שלנו, כבר אינו מבוסס מדעית, אבל גישות שעושות סינתזה בין השניים קיימות עדיין. ויש גם כיוונים מדעיים אחרים. גישה מפורסמת אחת היא זו של פרופסור רוג'ר פנרוז, זוכה פרס נובל לפיזיקה, שמקדם כבר עשרות שנים רעיון לפיו דווקא פעולות במישור מכניקת הקוונטים הם אלו שמאפשרים למוח להבין דברים בעולם, ורק מחשבים שיחקו את היכולות הקוונטיות של המוח אולי יצליחו להגיע לתבונה אמיתית.אלו נושאים כבדים ועמוקים, ואם היינו נכנסים אליהם כאן בפודקאסט הקטן שלנו, לא היינו מסיימים את העונה לעולם. אז אנו נסתפק בפתיחת השערים הללו לחשיבה, ואתם מוזמנים להיכנס אליהם ולראות מה מתאים לכם. אני אצרף לפרק לינקים לכל מני מקורות בעניין, כדי לעזור לכם במסע הזה. אני גם באמצע ספר על המוח כרגע, ואם יהיו דברים נוספים שיעלו לי תוך כדי הקריאה, אני אשתף כאן בפרקים עתידיים. בשורה התחתונה, פתחנו את הפרק בשאלה, האם המוח והמחשב שקולים מבחינת ה"פוטנציאל התבוני" שלהם. איפה הפרק הזה משאיר אותנו? מה שראינו הוא שיתכן שכן ויתכן שלא, הכל בתלות למה שאנחנו חושבים שהם המרכיבים הקריטיים הנדרשים לחשיבה. בנוסף, ראינו גם שלהשוואה כזו יכולה להיות גם השלכה לא צפוייה, של הצבת "תנאי סף" גבוהים יותר לכניסה למועדון, שפתאום דורש הוכחה שהמחשב אינו רק בעל אינטלגנציה, אלא גם בעלת תודעה. במילים אחרות, ההקבלה הזו היא חרב פיפיות בויכוח שבין הסקפטיים לבין האופטימיים: נניח, היא יכולה להגיד שבאופן עקרוני המחשב יכול להיות תבוני, אבל שבפועל קשה להאמין שזה יקרה בקרוב, ולכן אנחנו נמשיך בפרקים הבאים עם טיעוני נגד נוספים, כאלו שינסו לפרוץ את הגדר שבנינו בפרק שעבר באופן יותר ישיר.וזהו - אז, מקווה שנהניתם… להתראות, ביי… This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com
