1. Introduction to Mathematical Methods in Neurobiology: Dynamical Systems Oren Shriki 2009 Associative Memory

2. Associative Memory in Neural Networks Original work by John Hopfield (1982). The model is based on a recurrent network with stable attractors.

3. The Basic Idea Memory patterns are stored as stable attractors of a recurrent network. Each memory pattern has a basin of attraction in the phase space of the network.

5. Information Storage The information is stored in the pattern of synaptic interactions.

6. Energy Function הדינמיקה מובילה לאחד ממצבי המינימום הלוקאלי של פונקצית האנרגיה, שהם הזיכרונות המאוחסנים ברשת. במודלים מסויימים, ניתן לרשום פונקצית "אנרגיה" לדינמיקה

40. תכונות חשובות של המודל הגישה לזיכרון מבוססת על התוכן שלו ולא על כתובת. הדבר מכונה CAM: Content Addressable Memory תיקון שגיאות – הרשת "מתקנת" את הנוירונים שפעילותם לא מתאימה לתבנית הזיכרון.

41. המודל המתמטי

42. רשתות בינאריות נעבוד עם נוירונים בינאריים כאשר (-1) מסמן נוירון לא פעיל ו- (+1) מסמן נוירון פעיל. הדינמיקה מוגדרת ע"י: הקלט מתוך הרשת הקלט החיצוני

43. תנאי היציבות עבור נוירון כדי שהפעילות של נוירון לא תשתנה בזמן הדרישה היא שלפעילות הנוכחית שלו ולקלט הנוכחי שלו יהיה אותו סימן. בכתיב מתמטי:

44. פונקצית אנרגיה אם הקלטים החיצוניים קבועים בזמן הרשת עשויה להגיע למצב יציב, אך הדבר אינו מובטח. כאשר הקשרים סימטריים ואין צימוד עצמי ניתן לרשום פונקציה אנרגיה לדינמיקה, כך שבכל צעד זמן האנרגיה יורדת או לא משתנה. בתנאים אלו, האטרקטורים של הרשת הם נקודות יציבות המהוות נקודות מינימום מקומי של האנרגיה.

45. פונקצית אנרגיה בכתיב מתמטי התנאים הם: האנרגיה היא: ניתן להוכיח כי מתקיים:

46. קביעת הקשרים במודל אנו מעוניינים שלרשת יהיו מצבים יציבים, אשר יהוו את תבניות הזכרון. כדי להבטיח קיום של מצבים כאלו, נבחר קשרים סימטריים, המבטיחים את קיומה של פונקצית אנרגיה.

47. קביעת הקשרים במודל נסמן את המצבים היציבים ( P זכרונות) ע"י: למשל, עבור רשת של 4 נוירונים עם 3 זכרונות, התבניות יכולות להיות:

48. קביעת הקשרים במודל הופפילד הציע את הכלל הבא: מאפיין את הקורלציה בין הנוירונים על-פני הזכרונות גורם נרמול

49. בחירת התבניות לאחסון כדי להגדיל את קיבולת הרשת נבחר תבניות שאינן דומות זו לזו. במודל של הופפילד בוחרים בסיכויים שווים (+1) ו- (-1). אין קורלציות בין נוירונים שונים באותה תבנית ובין תבניות שונות.

50. קיבולת הזכרון כאשר מוסיפים זכרונות למערכת על תבנית הקשרים לקיים יותר ויותר אילוצים. קיימת מגבלה על מספר הזכרונות שניתן לאחסן ברשת כמצבים יציבים. בפועל, בשלב מסויים תבנית שנאחסן כזכרון לא תהיה יציבה אפילו אם נאתחל את הרשת בתבנית זו.

51. קיבולת הזכרון לא נעבור כאן על הפיתוחים הכרוכים בחישוב הקיבולת, אלא רק על תוצאות. אם דורשים כי בכל תבנית שנציב כל הנוירונים יהיו יציבים, מקבלים כי מספר הזכרונות המירבי הוא:

52. קיבולת הזכרון מה קורה כאשר מוסיפים עוד זכרונות? בתחילה אחוז מסויים מהנוירונים לא יהיו יציבים, אך הרשת עדיין תתפקד כזכרון אסוציאטיבי. בשלב מסויים הרשת תפסיק באופן חד יחסית לתפקד כזכרון אסוציאטיבי.

53. הוספת "טמפרטורה" ניתן להוסיף לדינמיקה של הנוירונים אלמנט של "רעש" באנאלוגיה לטמפרטורה במערכות פיזיקליות. במקרה, זה הנוירון משנה את מצבו בהסתברות מסוימת ומתנהג באופן סטוכסטי. מבחינה פיזיולוגית, הגורמים לרעש יכולים להיות פלוקטואציות אקראיות בשחרור הסינפטי, השהיות במוליכות העצבית, פלוקטואציות בפעילות התעלות היוניות של הנוירון עצמו ועוד.

54. הוספת "טמפרטורה" h P(s )

55. הוספת "טמפרטורה" h P(s )

56. הוספת "טמפרטורה" להוספת טמפרטורה יתרונות חישוביים: הדבר מאפשר להוציא את המערכת מתוך נקודות מינימום שאינן רצויות כך שרק העמקים הגדולים של האנרגיה ישפיעו על הדינמיקה. אחת השיטות היא להפעיל את הדינמיקה בטמפרטורה גבוהה ואז ל"קרר" בהדרגה כדי שהמערכת תתייצב. (Simulated annealing) באופן כללי, הגדלת הטמפרטורה מקטינה את הקיבולת, אך כאמור, עשויה למנוע בעיות של אטרקטורים לא רצויים.

57. זכרון אסוציאטיבי - סיכום המודל של הופפילד הוא דוגמא לקישור בין רעיונות מהתחום הדינמי (מצבים יציבים ואגני משיכה) למושגים תפקודיים (זיכרון אסוציאטיבי). העבודה עשתה גם קישור חשוב בין התחום של רשתות נוירונים לבין הפיזיקה הסטטיסטית ומשכה פיזיקאים רבים לעבוד בתחום.

58. זכרון אסוציאטיבי - סיכום עם השנים נבנו מודלים המבוססים על אותו רעיון אך קרובים יותר לביולוגיה מבחינת הפרטים השונים של המודל. רשתות אטקרטורים עדיין שימושיות למודלים במגוון רחב של תחומים בחקר המוח.

59. מקורות Hopfield, 1982 –Hopfield, J. (1982). Neural networks and physical systems with emergent collective computational properties. Proceedings of the National Academy of Sciences of the USA, 79:2554 - 2588. Hopfield, 1984 –Hopfield, J. (1984). Neurons with graded response have collective computational properties like those of two-state neurons. Proceedings of the National Academy of Sciences of the USA, 81:3088 - 3092.

60. מקורות Amit, 1989 –Amit, D. Modeling Brain Function. Cambridge University Press, 1989 Hertz et al., 1991 –John Hertz, Anders Krogh, Richard G. Palmer. Introduction to the Theory of Neural Computation. Addison-Wesley, 1991.

61. Associative Memory of Sensory Objects – Theory and Experiments Misha Tsodyks, Dept of Neurobiology, Weizmann Institute, Rehovot, Israel Joint work with Son Preminger and Dov Sagi

62. Non Friends …… Experiments - Terminology Friends

63. Experiment – Terminology (cont.) Basic Friend or Non-Friend task (FNF task) –Face images of faces are flashed for 200 ms –for each image the subject is asked whether the image is a friend image (learned in advance) or not. –50% of images are friends, 50% non-friends, in random order; each friend is shown the same number of times. No feedback is given F/NF ? 200ms F/NF ? ? 200ms

64. Morph Sequence 1… 20 Source (friend) Target (unfamiliar) …40…60…80100… Experiment – Terminology (cont.)

65. Two Pairs: Source and Target Pair 1 Pair 2

66. Subject HL -------- (blue-green spectrum) days 1-18 FNF-Grad on Pair 1 Bin number Number of ‘Friend’ responses