Физик, получивший премию Дирака, объяснил, почему искусственный интеллект меняет ответы на одни и те же вопросы

פרופ' חיים סומפולינסקי / צילום: Kris Knipp - Harvard אם תציגו לבוט החביב עליכם שאלה, וכעבור כמה שעות תציגו אותה שוב, ככל הנראה תקבלו תשובה שונה לגמרי, או לפחות מנוסחת אחרת. מדוע זה קורה? הרי הבוט הוא אותו בוט. והמכונה אמורה לפעול באותו אופן בכל פעם. אלה אותן שאלות שעולות כשפוגשים תאומים שהגנטיקה שלהם זהה אך אף פעם אינם זהים באופיים. האם הבדל קטן במיקום שלהם ברחם הוביל לשרשרת אירועים שיצרה את ההבדלים, או שבגנום זרועים מרכיבים של אקראיות? ● פרויקט האומנות של הד"ר להנדסת מכונות עלול לגרום לכם לפקפק בהחלטות הוריות שעשיתם ● חיזוק שרירים והצערת תאים: מחקרי הלונג'ביטי החמים ● לצרוך חלבון אחרי אימון? מה מגלים המחקרים השאלות הללו על סדר ואקראיות עומדות בבסיס התיאוריות של פרופ' חיים סומפולינסקי מהאוניברסיטה העברית, שזכה לאחרונה באחד הפרסים היוקרתיים בפיזיקה - פרס דיראק, שניתן למדענים שעבודתם שינתה מן היסוד את פני הפיזיקה התיאורטית. זהו רק אחד הפרסים החשובים שבהם זכה סומפולינסקי. לפני כשנתיים הוא זכה בפרס יוקרתי אחר, דווקא בחקר המוח. סומפולינסקי הוא מהפיזיקאים הראשונים שנכנסו בסוף המאה ה־20 לתחום הביולוגיה, והוא אחד החלוצים במחקר של רשתות נוירונים - אלה שהיו השראה ליצירת הבינה המלאכותית שכולנו אוהבים וגם אוהבים לשנוא. הוא השתמש במחקר שלו על מערכות לא לינאריות וסטטיסטיות כדי להבין איך רשתות כאלה מבצעות חישוב. "אף אחד לא הבין אז מה אנחנו עושים. מה לפיזיקאים וביולוגיה?", הוא אומר בראיון לגלובס. אישי: בן 76, נשוי + 5 מקצועי: פרופ' אמריטוס במרכז אדמונד ולילי ספרא למדעי המוח ובמכון רקח לפיזיקה באוניברסיטה העברית, ופרופ' בהרווארד. ממייסדי תחום החישוביות העצבית בעברית. חתן פרסי דיראק (פיזיקה) ולונדבק (חקר המוח) היוקרתיים עוד משהו: אביו היה חבר בתנועת התנגדות לנאצים בדנמרק ועזר להבריח מאות יהודים לשוודיה, לפני שברח בעצמו היום הוא מתמקד ב"רעיונות חדשים, חלקם הזויים" כהגדרתו, הנוגעים לתפקוד המוח האנושי באמצעות אותן רשתות. הניסויים שהוא עורך אמפיריים מאוד, אך מעלים שאלות פילוסופיות על בחירה וחופש פעולה של מערכות לומדות, ובהן גם המוח. כדי לענות על השאלה אם בכלל ניתן להביא לכך שהבוט ייתן לנו תמיד אותה תשובה לאותה שאלה, סומפולינסקי בנה במעבדה שלו רשת בינה מלאכותית מורכבת (גם אם לא מורכבת כמו ג'מיני או קלוד) ושאל אותה שאלות. תחילה הוא קיבל, כצפוי, תשובות שונות לשאלות זהות, ואז הוא החל להסיר שכבות של אקראיות, לדוגמה הטמפרטורה במעבדה, השעה ביום, תנאי העבודה של האלגוריתם. בסופו של דבר הוא נחל הצלחה: המערכת נתנה תשובות זהות לשאלות זהות, "ולא רק מילה או שורה אחת של תשובה, אלא מגילה שלמה, זהה לגמרי. התברר שזה אפשרי. "ואז התחלתי לשחק עם השפה בלבד. נתתי לו שאלות שנראו לי דומות במהות אבל שונות מעט במלל. רציתי לראות מתי המודל מתגבר על ההפרעה הקטנה, ומתי הוא אינו יכול להתגבר ונוצר בו אלמנט של אי־סדר. אנחנו רואים שזו דינמיקה לא חלקה. עד רגע מסוים התשובות דומות מאוד, ואז מגיעה הפרעה אחת יותר מדי, והיא מתבדרת". סומפולינסקי מנסה כעת, יחד עם הסטודנטים שלו, לכתוב משוואות שיגדירו מהם האלמנטים השפתיים (לדוגמה מילים נרדפות ותחביר) ששינוי בהם יגרום למערכת להתחיל להתבדר. "המחקר הזה מלמד אותנו משהו אפילו על השפה עצמה", הוא אומר. "הוא מלמד אותנו אילו אלמנטים בשפה הם דומים, ואילו פועלים על מסלולים נפרדים. אפשר לכמת גם עד כמה הם נפרדים". אלה אלמנטים שדומים מבחינת המכונה. האם בהכרח גם המוח האנושי תופס אותם ככאלה? "זו תמיד השאלה. מודלים של רשתות נוירונים פועלים במידה רבה על עקרונות דומים לאילו שעל בסיסם עובד המוח, אך יש גם הבדלים דרמטיים. הארכיטקטורה לא זהה, רשתות הנוירונים של המוח מורכבות יותר, והן הרבה פחות בזבזניות באנרגיה מרשתות ממוחשבות. אלה רק חלק מהמובנים שבהן המערכות שונות. "יש חוקרים שהם חסידים שוטים, שאומרים - אם בינה מלאכותית פועלת בדרך מסוימת, הרי שהמוח בוודאות פועל ככה. אחרים הם ספקנים ומכחישנים, ואומרים - אין באמת קשר בין הגולם שיצרנו לבין המוח האנושי. ואנחנו הפיזיקאים אומרים, ניתן לפשט את המערכת עד רמה שאפשר לגזור ממנה עקרונות לאופן שבו פועלת רשת מורכבת, ואלה יכולים להיות רלוונטיים לגבי רשתות מסוגים שונים. זאת קרקע פורה מאוד לייצר השערות שניתן לבחון אחר כך על המוח האנושי. "אנחנו יודעים שלא נוכל בימי חיינו למדל את המוח מהמולקולה עד השלם כולו, ולכן מנסים להסתכל על שלם שהוא גדול מסך חלקיו, מלמעלה למטה, על השלם ולא על כל נוירון עצמו". היום, הוא אומר, גם הביולוגיה עצמה כבר משתמשת בכלים הללו, ולפעמים מחשבת התנהגות הסתברותית של אוכלוסיות, גם במערכות מורכבות, בלי לרדת לרמת הפרט. מודל מוח. שלם שגדול מסך חלקיו / צילום: Reuters, IMAGO/Alexander Limbach אופן המחשבה הזה הביא לסומפולינסקי את ההכרה כאחד הפיזיקאים ואחר כך חוקרי המוח החשובים של התקופה. הוא זיהה עקרונות בתוך מערכות מורכבות - מה יכול לדחוף מערכת לכאוס ומה לשיווי משקל, והציע אפילו שמה שנראה כמו כאוס יכול כשלעצמו להיות שיווי משקל במקרה של מערכת כל כך מורכבת כמו המוח. אבל מכאן ממשיך סומפולינסקי לשאלות שהוא מכנה "השאלות של הנשמה היתרה". "כאשר אנחנו שואלים כמה דטרמיניזם יש במוח וכמה אקראיות, אפשר להתחיל לשאול שאלות על רציונליות ועל רצון חופשי". לדוגמה, האם יום אחד נוכל להבין ולמדל פעולה של מוח אנושי, עד לרמה שבה נוכל לנבא איך יחשוב ויפעל אדם מסוים? "למשל, אם כי לגבי השאלה הזאת אני חושב שהתשובה הבטוחה למדי היא לא, כי בתהליכים האלה גלומה גם אקראיות רבה. לא נוכל לנבא את הפעולה של אדם יחיד ברגע יחיד באופן ודאי, אלא רק הסתברותי, אבל זה גם המון. פיזיקה יודעת לפעול במרחב של הסתברויות. גם חוקיות סטטיסטית היא חוקיות. מכניקת הקוואנטים הראתה לנו שההסתברות היא בתשתית של העולם ואינה רק רעש. חלק מהתיאוריות שלנו לגבי הפיזיקה של העולם הן הסתברותיות, ומאוד שימושיות, וכך יהיו גם התיאוריות לגבי המוח". כדי להדגים זאת, סומפולינסקי מספר על מחקר נוסף שלו, שבו רשתות נוירונים חישוביות משמשות להבין איך עובד זיכרון, אולי גם במוח האנושי. "כאשר התחלתי את דרכי במעבר מפיזיקה לחקר המוח באמצעות מידול רשתות נוירונים, אחת השאלות ששאלנו הייתה, כמה זיכרון אפשר להכניס לרשת עם כך וכך נוירונים וקשרים? הראינו שניתן להסביר הרבה תופעות של זיכרון ושכחה על בסיס המודלים הללו. "למשל, ראינו שחולדות, כשהן עוברות מסביבה אחת שבה נדרש מהן להתמצא (לדוגמה מבוך) לסביבה אחרת, הן יכולות לזכור עד עשר סביבות שונות. אם נחזיר אותן לסביבה שכבר התאמנו בה, הן יזכרו את הסביבה הקודמת מיד. מצאנו, באמצעות רשתות הנוירונים הממוחשבות שלנו, שזיכרון כזה יכול להתאפשר אם הסביבות כולן אגורות על גבי אותה רשת שמבוזרת במוח. לא כל סביבה כזיכרון משלה, אלא אלמנטים בסיסיים של סביבה שבכל פעם מקבלים איזשהו כוונון". בהמשך, אושררו הממצאים הללו במחקרים שנערכות על החולדות עצמן. התנהגות הרשתות ניבאה איך יתנהגו החולדות. בתקופה האחרונה, סומפולינסקי מנסה להבין איך רשתות נוירונים אוגרות זיכרון אפיזודי - זיכרון שאינו של עובדות שימושיות, אלא של אירועים אוטוביוגרפיים, כמו מסיבת יום הולדת, היום הראשון של כיתה א'. "עד לאחרונה, המודלים הממוחשבים שלנו היו פשוטים מכדי לייצג אירועים מורכבים כאלה", הוא אומר. "לא ידענו מאיפה להתחיל. כשעלתה המורכבות, מצאנו שהשאלה הזאת כבר בהישג ידינו. מודלי השפה הציעו לנו מערכת קוגניטיבית שכבר מכילה מידע, אז אנחנו לא מתחילים מאפס. אם אני מספר למערכת כזאת סיפור, אני אמנם מחדש לה בסיפור עצמו אבל היא מבינה מה אני אומר. "אז לראשונה אנחנו יכולים לקחת מודל כזה ולהתחיל להזין אותו בסיפורים, זיכרונות של 50 שנות אדם פיקטיבי, עם הזהות והתרבות ומקום המגורים שלו. לכאורה, אנחנו יכולים לייצר עכשיו בוט עם הזיכרונות שלך, שחושב ואולי 'מרגיש' כמוך, ובוט עם הזיכרונות שלי, שחושב ומרגיש כמוני. "אבל זו לא המטרה של הניסוי כרגע. אנחנו רוצים לראות מה 'מוח' כזה שוכח ומה הוא זוכר, מה גודל הרשת המינימלי שצריך כדי לאפשר סוג זיכרון כזה, ואיך זיכרון סמנטי הופך לזיכרון אפיזודי ולהיפך". בהמשך אולי יהיה אפשר להבין מדוע עם הגיל ותמותת חלק מהנוירונים אנחנו זוכרים פרטי מידע ואירועים מסוימים, אבל מאבדים אחרים. "בינתיים, קבוצת החוקרים הצליחה לדמות את האופן שבו הזיכרון האנושי קודם כול זוכר אפיזודה כמו שהיא, ורק בשלב מאוחר יותר מעביר אותה תהליך של קונסולידציה (אצלנו זה מתרחש בעיקר כשאנחנו ישנים), שבו האירוע היחיד מתחבר ומוטמע לתוך כל מה שאנחנו יודעים, מקבל פרשנות, מעדכן את התמונה הכוללת שיש לנו על העולם, זיכרון אפיזודי הופך לידע סמנטי ולהיפך". סומפולינסקי, שנולד בדנמרק ועלה לישראל עם הוריו בגיל צעיר, נודע לא רק במחקריו, אלא גם בדעותיו על חופש בחירה והממשק שלו עם מוסר ודת, המושפעות מהבית שבו גדל. "אבי היה מיקרוביולוג באסף הרופא, ואחר כך ממקימי המחלקה לביולוגיה בבר־אילן", הוא מספר. "זה היה בית חרדי, אבל ציוני. קטגוריה שלא ברור אם עדיין קיימת. אז זה היה מובן מאליו. וכמובן, בית של מדען, עם המון סקרנות למה שקורה בעולם. ספר הזוהר ישב עם ספר ביוכימיה על אותו מדף בבלגן גדול. הכול הלך ביחד". סומפולינסקי מספר שאביו המדען החזיק בבית המשפחה (שבה היה חיים אחד מעשרה ילדים) מיקרוסקופים, ציוד מעבדה וגם חיות ניסוי שהילדים טיפלו בהם. "אבי היה לומד תורה בכל רגע פנוי", הוא אומר. "אני לא מגיע לקרסוליו בהיבט הזה וגם לא מדקדק כמוהו במצוות, אבל הוא הנחה אותנו תמיד לא רק שמותר לשאול שאלות, אלא חובה. הכול נתון לביקורת שיפוטית של אדם ולא מקבלים דבר רק כי הוא כתוב. "היה לנו ברור תמיד שהיהדות היא לא ספר מדע אלטרנטיבי. לא זה התפקיד שלה. היא שואלת שאלות אחרות - לא מה המנגנון המפעיל את העולם, אלא מה המשמעות שלו, הערכים, התרבות והמסורת וכל האוצר העשיר הזה". אז אתה לא מאמין שהעולם נברא כפי שמתואר בתנ"ך. "ברור שלא! ברור שלא! זה בסך הכול סיפור שדיבר אל אנשים באותה תקופה. אפילו הרמב"ם אמר - זו אלגוריה, סיפור שצריך לקח ממנו מוסר השכל. ישנם מדענים דתיים שמנסים לחבר את הסיפור התנ"כי לעולם המדע ואומרים דברים כמו: אולי כשהם אמרו יום, הם התכוונו אלף שנה. אבל חבל על המאמץ. זה לא קרה כך, ולא צריך לחשוב שזה קרה כך בשביל לשמר את הקסם של ספר בראשית. "מבחינתי, הקסם של ספר בראשית הוא בהשראה, כמו שקיעה מול הים. הוא נותן לי אותה הרגשה. אני מבין ממנו שאם אלוהים ברא את העשב והדשא ואותך מעפר, אז אל תחשוב יותר מדי את עצמך. פרשת בראשית אומרת שהיקום חשוב, שהטבע קדוש. אם מסתכלים על הפרשה באופן טכני מדי, זה מוציא ממנה את כל הקסם". אז מה תפקידו של אלוהים בתוך כל זה? "נאמר: עלינו לשבח לאדון הכול. זהו. שם אלוהים. המכלול, האחדות של הכול, הטבע עצמו - שם אלוהים". ציינת שהדת עוסקת במשמעות אבל גם בערכים. אולם בעבר הבעת ספק לגבי קיומו של רצון חופשי, שאפשר לראות אותו כתנאי מקדים לערכים. "כשמדברים על אקראיות ועל רעש ועל הסתברות, ועל כך שלא ניתן לנבא את התנהגותו של אדם, מפתה לומר שבתוך האקראיות הזאת יכול להיכנס איזשהו 'עצמי' שבוחר בין אפשרויות שונות. אבל - חדשות רעות. אין דבר כזה. ההחלטות שלנו, הרצונות שלנו, והבחירות שלנו הם חלק בלתי נפרד מהתהליכים הטבעיים שקורים לנו במוח. כל דבר שפועל על מערכת טבעית, פיזיקלית, הוא חלק מהטבע. אם יש כזה דבר 'רצון', שמחליט מה הנוירונים שלי יעשו, ולכן מה ההתנהגות שלי תהיה, זה חייב להיות גורם שיכול להפעיל כוח על נוירונים. "האם יכול להיות שפספסנו כוח כזה, כמו הגרביטציה או המגנטיות, שאפשר לקרוא לו רצון חופשי? עקרונית כן, אבל אנחנו לא ראינו עדות לכוחות שאינם חלק מהכימיה, הפיזיקה, הביולוגיה או הגנטיקה. ואם יש כזה כוח, אני רוצה לראות איך הוא פועל על הנוירון, אני לא רואה איפה הוא פועל. איפה הוא נמצא. אם הרצון החופשי משפיע על נוירונים, אני רוצה לשים אותם בצלחת ולראות איך הרצון משפיע עליהם. ואני לא רואה את זה. אני גם לא רואה איך זה לא סותר את העקרונות של המדע". על פי אותו העיקרון, הוא אינו מאמין כי אלוהים הוא כוח עליון שמתערב בטבע, אלא הוא הכוח של הטבע. אז מה עם הערכים? עם המוסר? עם האחריות? "יש מוסר, יש ערכים, יש אחריות - אבל זה לא חופשי. זה חלק מהפיזיקה שלנו. הנשמה שלנו היא לא דבר שמשפיע על החומר ואינו תלוי בחומר, אלא תופעה שמתחוללת מתוך החומר. הרצון לא משפיע על הנוירונים אלא הנוירונים יוצרים את התחושה של העצמי, את התחושה של הרצון". זה סותר את החוויה האנושית. אנחנו מרגישים שאנחנו בוחרים, לפעמים מתייסרים ממש בבחירה ומרגישים שהיא משפיעה על חיינו ואפילו על העולם. "זה מה שנפלא. שמערכת שמורכבת מכל הדברים המלוכלכים האלה של הכימיה והפיזיקה והביולוגיה והרעש יוצרת תחושה של אני, ומייצגת לא רק את העולם שבחוץ, אלא גם את עצמה. והמערכת הזו יוצרת תחושה של המשכיות, שלא באמת קיימת. הרי אין באמת קשר בין מי שאנחנו היום לבין הילדים שהיינו בבית הספר. רק הייצוג שלנו את עצמנו במוח מייצר את הקשר הזה, ויש אפילו מחלות שבהן זה לא קיים, ובכל זאת אנחנו כל כך מאמינים בייצוג הזה של עצמנו". ייתכן שהוכחה ראשונה לדבריו היא היכולת לחולל משהו שנראה מאוד דומה לתחושת עצמי אצל בוטים. "ערכנו ניסוי שבו גרמנו להם לעבוד במעגלים. נתנו להם משימה, נתנו להם לתעד לעצמם את האופן שבו פעלו במשימה - הנחינו אותם לכתוב במסמך הזה מה שבא להם, ובכל פעם שהם הפסיקו, מחקנו את ההתקדמות שלהם במשימה והשארנו רק את התיעוד. "באופן מדהים, הם התחילו לכתוב במסמך דברים כמו 'אני כותבת עבור מי שנמצא בצד השני... שהיא עצמי, אך לא תזכור שכתבה אותם. אני כותבת על פני הפער, וסומכת על העצמי של העתיד שתזהה את עצמה'. ראינו אותם נכנסים למשבר קיומי".