1. Computing with Spiking Neurons איתי שור וכפיר אגוסטון

2. הקדמה עד עכשיו ראינו מספר מודלים שמתארים Spiking neurons. ישנם הבדלים בין Spiking neurons ובין המודלים היותר נפוצים ( כגון Mcculloch-Pitts), ועולות כמה שאלות כגון : – איך אפשר לחשב עם Spiking neurons, כאשר הקלט והפלט מורכבים מפולסים ? – מה הכוח החישובי של רשת נוירונים כזאת לעומת הכוח החישובי של המודלים הנפוצים ?

3. Agenda Reminder of Spiking Neuron Model. McCulloch-Pitts Neuron Simulation. Spiking Neurons Synchronization. Computing with Temporal Patterns. Coincidence Detection. Computing a Weighted Sum in Temporal Coding. Universal Approximation of Continuous Functions with Spiking Neurons. Computing with Firing Rates. Computing with Firing Rates and Temporal Correlations. Conclusions

4. תזכורת - מודל Spiking Neuron

5. תהי I קבוצת נוירונים, ונניח כי עבור כל קיימת תת – קבוצה של קודמים מיידים ( “ presynaptic neurons ” ) ברשת. זמני הירי עבור כל נוירון מוגדרים רקורסיבית. נוירון i יירה כאשר חוצה את הסף של נוירון i. תזכורת - מודל Spiking Neuron

6. הפונקציה ממדלת גירוי חיובי או שלילי בסומה של נוירון i, אשר נגרמת כתוצאה מירי של נוירון קודם (presynaptic neuron) j בזמן הפונקציה ממדלת את תגובת הנוירון i לספייק של עצמו (refractoriness). בתור התחלה, נניח כי נוירון i לא ירה הרבה זמן, ולכן ניתן להתעלם מהביטוי

7. תזכורת - מודל Spiking Neuron

8. נגדיר קלט ופלט לרשת : נניח כי תת - הקבוצות ידועות וקבועות. זמני הירי של כל נוירון הם הקלט לרשת. זמני הירי של כל נוירון הם הפלט של הרשת. בעצם הקלט והפלט מורכבים מוקטורים של סדרות זמנים.

9. McCulloch-Pitts Neuron המודל הכי פשוט של נוירון הוא McCulloch- Pitts ( נקרא גם פרספטרון או threshold gate), והוא מוגדר כך : ברשת נוירונים רב - שכבתית, פלט הנוירון יהיה באמצעות פונקציה אקטיבציה רציפה, חסומה ולא יורדת (sigmoid):

10. McCulloch-Pitts Neuron Simulation Spiking neuron, i, יכול לסמלץ כל פרספטרון בעל סף חיובי θ וקלט בינארי. נניח כי פונקציות התגובה זהות פרט לסימן, אשר נבחר אותו להיות חיובי אם ושלילי אחרת. כמו - כן נניח כי כל הנוירונים הפרה - סינפטים j, יורים באותו הזמן

11. McCulloch-Pitts Neuron Simulation במקרה זה, כל spiking neuron i יורה אם ורק אם כאשר הוא הערך הקיצוני של הפונקציה עבור, spiking neuron i, יכול לסמלץ כל פרספטרון, כאשר הקלט מקודד כיש / אין ירי של נוירון פרה - סינפטי בזמן והפלט מקודד כיש / אין ירי של נוירון i.

12. McCulloch-Pitts Neuron Simulation

13. קשה יותר לסמלץ רשת של נוירונים באמצעות spiking neurons. אם גדול מאוד מ - 0 אזי יחצה את הסף מוקדם יותר, ויגרום לירי מוקדם של הנוירון, מאשר חיובי אבל קרוב ל - 0. לכן, נוירונים בשכבה אחת יירו בזמנים קצת שונים, אפילו אם כל נוירוני קלט j יירו באותו הזמן

14. Spiking Neurons Synchronization ניתן לסנכרן באמצעות הוספת spiking neurons נוספים. שיטת סינכרון זו מתבססת על עיקרון השלילה הכפולה. הכח המניע לירי של נוירון מגיע ממקור קלט שאינו תלוי בקלט המקודד המקורי. באמצעות שיטת סינכרון זו ניתן לסמלץ כל מעגל בוליאני באמצעות רשת סופית של spiking neurons.

15. Spiking Neurons Synchronization

16. ניתן להשיג כמעט סינכון של זמני הירי באמצעות הוספת אות רקע כגון sin(w t). עבור כל נוירון, יחצה את הסף כאשר אות הרקע קרוב לשיא.

17. Computing with Temporal Patterns נתעסק כעת במקרה האסינכרוני, בו נוירונים קודמים לא יורים באותו הזמן. מודל זה יותר דומה לנוירון הביולוגי.

18. Coincidence Detection תכונה של spiking neuron שאין לה דומה ברשתות נוירונים מוכרות. Spiking neuron יכול להתנהג כ " גלאי צירוף - מקרים ". אם זמני הפולסים הנכנסים מקודדים מספרים, הנוירון יגלה אם למספרים אלו יש ( כמעט ) ערכים זהים. פעולה זו היא יקרה מאוד כאשר משתמשים בנוירונים הרגילים.

19. Coincidence Detection הגדרות : קודמים מידיים של נוירון i. לחיבור שלהם לנוירון i יש אותה השהייה המשקלים עבור כל פונקצית התגובה מוגדרת כך : כאשר הם קבועים המייצגים זמן.

20. Coincidence Detection

21. עבור כל קבועי זמן,, ניתן למצוא ערכים ו -θ כך ש- עבור כל קלט המורכב ממספר שרירותי של EPSP במרחק >= C2, ו- עובר את הסף θ עבור זוג EPSP במרחק <= C1. נוירון i לא ירה אם הנוירונים יורים בקצב >= C2 אבל כן ירה כאשר קיים זוג נוירונים פרה - סינפטיים אשר יורים בקצב <= C1.

22. Coincidence Detection נניח כי n מספרים ממשיים x1, …,xn מקודדים באמצעות זמני הירי של n נוירונים ב - נניח כי הפלט של נוירון i מקודד כ -" 1 " אם הוא יורה ו -" 0 " אם לא. אזי נוירון i מחשב את הפונקציה הבאה :

23. Coincidence Detection

24. חישוב הפונקציה דורש מספר גדול מאוד של נוירונים מסוג פרספטרון או סיגמויד. כל רשת שכבתית המורכבת מפרספטרונים ומחשבת את הפונקציה, מספר הנוירונים שיהיו לה בשכבה הראשנה >= כל רשת המורכבת מסיגמויד ומחשבת את הפונקציה, מספר הנוירונים שיהיו לה יהיה >=

25. Coincidence Detection ניתן להרחיב את הגלאי הקודם שיזהה דוגמאות יותר מסובכות. במקום שההשהיה בין נוירונים פרה - סינפטיים ובין נוירון i תהיה זהה, אפשר להשתמש ב -j השהיות שונות בין נוירון j ל -i. קיימות עדויות שבמערכות נוירונים ביולוגיות, אפשר לכוון את ההשהיות הללו באמצעות " אלגוריתמי למידה ". בנוסף ניתן לכוון גם את הסף וגם את המשקלים של הנוירון. במקרה קיצוני ניתן לקבוע את סף הירי שיהיה גבוה כך שכל הפולסים מנוירונים פרה - סינפטיים חייבים להגיע כמעט באותו הזמן לסומה של נוירון i.

26. Computing a Weighted Sum in Temporal Coding עד עכשיו, הקלט קודד באמצעות זמני הפולסים ואילו הפלט קודד באופן בינארי. נרצה עכשיו שהפלט יקודד באותו האופן שהקלט מקודד. נדגים חישוב של הסכום באמצעות זמן הירי של נוירון i. ו - נניח כי עבור כל פונקצית תגובה יש את הצורה הבאה :

27. Computing a Weighted Sum in Temporal Coding

28. ל - יש ערך 0 עבור ואז היא עולה ( או יורדת ) לינארית בקירוב עם שיפוע בקטע בגודל R>0. נניח שנוירונים פרה - סינפטיים יורים בזמן אם של נוירון i חוצה את הסף בזמן ti כאשר כל פונקציות התגובה במצב עליה לינארית, אז ti נקבע כך :

29. Computing a Weighted Sum in Temporal Coding נכתוב λ עבור ואת כ ונקבל:

30. Computing a Weighted Sum in Temporal Coding נכתוב בצורה שקולה : כאשר הוא משתנה עצמאי שאינו תלוי בקלט, והמשקלים מוגדרים

31. Computing a Weighted Sum in Temporal Coding

32. Universal Approximation of Continuous Functions with Spiking Neurons ניתן להרחיב את מנגנון החישוב ל - כך שיוכל לסמלץ נוירון מסוג סיגמויד אם פונקצית אקטיבציה : במקרה זה נרצה שנוירון i יגיב לירי של נוירונים פרה - סינפטיים בזמנים באמצעות ירי בזמן

33. Universal Approximation of Continuous Functions with Spiking Neurons לכן, ניתן לסמלץ כל נוירון סיגמויד עם פונקצית אקטיבציה SAT באמצעות spiking neuron. כיוון שהקלט והפלט מקודדים באותה הצורה, פלט משכבה ראשונה של spiking neurons יכול לשמש כקלט לשכבה אחרת של spiking neurons. הנ " ל מביא למסקנות הבאות :

34. Universal Approximation of Continuous Functions with Spiking Neurons כל רשת נוירונים המורכבת מסיגמויד בעלת פונקצית אקטיבציה SAT יכולה להיות מסומלצת בקירוב באמצעות רשת של spiking neurons. בנוסף למה שנאמר מקודם על מספר הנוירונים לסימלוץ רשת של spiking neurons, קיימת אסימטריה בכל הקשור לכח החישובי של רשת נוירונים : בעוד שרשת נוירונים סיגמויד יכולה להיות מסומלצת באמצעות רשת של spiking neurons לא גדולה משמעותית, רשת של spiking neurons יכולה להיות מסומלצת באמצעות רשת נוירונים גדולה מאוד משמעותית.

35. Universal Approximation of Continuous Functions with Spiking Neurons ידוע שרשת נוירונים סיגמויד עם פונקצית אקטיבציה SAT יכולה לקרב כל פונקציה רציפה לדיוק כמה שנרצה. כל פונקציה יכולה להיות מקורבת באמצעות רשת של spiking neurons.

36. Computing with Firing Rates תזכורת קידוד מבוסס על תדירות הירי :

37. Computing with Firing Rates בד " כ קשר בין רשתות נוירונים סיגמויד ובין רשתות נוירונים ביולוגיות מבוסס ע " י פירוש קצב הירי של spiking neuron כמספר בין 0 ל - 1. באמצעות פירוש זה ניתן לקבל התאמה סבירה בין התלות של הפלט של נוירון סיגמויד בערכים ובין התלות של קצב הירי של spiking neuron i בקצב הירי של נוירונים פרה - סינפטיים

38. Computing with Firing Rates קיימות המון עדויות ביולוגיות לכך שאינפורמציה מגירוי כלשהו במערכת נוירונים ביולוגית מקודדת באמצעות זמני הירי של הנוירונים. תוצאות הקשורות להתנהגות הדינאמית של סינפסה ביולוגית מראות שעבור כמה רשתות נוירונים, מעל קצב מגביל של 10Hz העוצמה הפוסט - סינפטית היא ביחס הופכי לקצב הירי של נוירון פרה - סינפטי

39. Computing with Firing Rates תוצאות אלו מציעות שבמקום משקל קבוע, יש למדל את העוצמה של סינפסה ביולוגית עבור קידוד לפי קצב הירי כפונקציה אשר תלויה בקצב הירי של נוירון פרה סינפטי וערכה פרופוציוני לערך. אך אז לסכום אין יותר תלות לקצב הירי של נוירונים פרה - סינפטיים j אשר יורים בקצב גבוה מהקצב המגביל.

40. Computing with Firing Rates הראו שאם spiking neuron עובד כך שהוא מגיב לקלט של שרשרת ספייקים, אשר מיוצרות לפי התפלגות פואסונית, אזי קצב הירי שבפלט יהיה פרופורציוני למכפלה של קצב הירי של הנוירונים הפרה - סינפטיים. לדוגמא, שרשראות ספייקים מ - 3 נוירונים פרה - סינפטיים j נוצרים לפי התפלגות פואסון. Spiking neuron i ירה אם ורק אם שלושת הנוירונים הפרה - סינפטיים הללו ירו באותו פרק זמן, וקצב הירי שלו מקודד את המכפלה של קצב הירי של הנוירונים הפרה - סינפטיים j.

41. Computing with Firing Rates and Temporal Correlations תקשורת באמצעות שרשראות ספייקים מציעה דרך ישירה לקודד קשרים שמניים בין נוירונים שונים : באמצעות צירוף של זמני הירי שלהם.

42. Computing with Firing Rates and Temporal Correlations מה ניתן לחשב באמצעות התאמה בזמני הירי ברשת של spiking neurons? הוצע מודל אשר מורכב מנוירונים מסוג integrate-and- fire אשר מקבלים שני סוגי קלט : feeding input, linking input. Feeding input – קשרים אשר מחוברים לנוירונים הבאים ומתחילים בגירוי עצמו. Linking input – קשרים אשר מתחילים משכבות גבוהות ומחוברים לנוירונים קודמים.

43. Computing with Firing Rates and Temporal Correlations

45. קשרים מסוג linking input מייצגים אינפורמציה השמורה בזיכרון אסוציאטיבי. סימולציות ממוחשבות הראו שמודל זה מצליח לשחזר דוגמאות כתגובה לגירוי מסוים אשר מתאים לדוגמאות ירי אשר נצפו בניסויים בקורטקס הראייה של חתול וקוף.

46. Computing with Firing Rates and Temporal Correlations עוד מודל – אך ללא spiking neurons, עם שני סוגי קשרים. RF – כמו feeding input. CF – כמו linking input. יחידת חישוב אחת במודל מוציאה כפלט ערך בין 1 - ל 1 באמצעות r היא סכום ממושקל של קלט RF. c היא סכום ממושקל של קלט CF. g היא פונקציית סיגמויד.

47. Computing with Firing Rates and Temporal Correlations ביחידת חישוב זו, r קובעת את סימן הפלט. r=0 גורר שהפלט יהיה 0, ללא תלות כלשהי ב -c. אם ל -c אותו הסימן כמו ל -r אזי הפלט יגדל, ואחרת הוא יקטן. סימולציות מחשב של רשתות גדולות אשר מכילות יחידות חישוב כאלו, הראו תוצאות צפויות אשר נראו במחקרים פסיכולוגיים של תפיסה חזותית אצל אנשים.

48. Computing with Firing Rates and Temporal Correlations עד עכשיו אף מודל לא הראה יכולת חישובית גדולה יותר מהמודלים הרגילים. כל פונקציה אשר מחושבת באמצעות כל אחד מהמודלים הקודמים יכולה להיות מקורבת באמצעות רשת נוירונים סיגמויד – וזה בגלל שרשת כזו יכולה לקרב כל פונקציה רציפה לאיזה דיוק שנרצה. לכן השאלה מהגדלת כח החישוב באמצעות התאמה בזמני הירי עוברת כעת לשאלה של כמות – כמה חומרה, זמן חישוב,... רשת נוירונים יכולה לחסוך באמצעות חישוב באמצעות התאמה בזמני הירי וקצב הירי ?

49. Computing with Firing Rates and Temporal Correlations V(i) – הפלט של נוירון סיגמויד. ( ניתן להסתכל על זה כקצב הירי של נוירון i) – ערך בין 0 ל 1. C(S) – עבור קבוצת נוירונים S, כמה התאמה יש בקצב הירי שלהם בחלון זמן מסוים – ערך בין 0 ל 1, 0 – כל נוירון יורה ללא תלות בנוירון אחר בקבוצה, 1 – כל נוירונים יורים בהתאמה. נכניס את המשתנה החדש לתוך משוואת הסיגמויד :

50. Computing with Firing Rates and Temporal Correlations נרצה שקצב הירי v(i) יעלה אם קבוצה אחת או כמה של נוירונים קודמים יורים עם התאמה בקצב c(S)>0. המכפלה מייצגת את העובדה שזמני הירי של נוירונים יכולים רק להגדיל את קצב הירי של נוירון i משמעותית אם קצב הירי v(j) של כל הנוירונים מספיק גבוה.

51. Computing with Firing Rates and Temporal Correlations נגדיר איך מחושב c(S) – משתנה ההתאמה – עבור קבוצה S של נוירונים נסתרים i. C(S) יגדל כאשר כל הנוירונים מקבלים את אותו הקלט מנוירון אחר k. C(S) יגדל אם קיימת קבוצה 'S של נוירונים אחרים עם התאמה משמעותית (c(S)>0) כך שלכל נוירון קיים נוירון שהוא קודם לו.

52. Computing with Firing Rates and Temporal Correlations המשתנים החדשים w שנוספו למשוואות מייצגים את כמות ההשפעה של ירי בהתאמה שיש לקבוצת נוירונים פרה - סינפטיים על קצב הירי של נוירון. רשת של spiking neurons לא זקוקה ליחידות חישוב נוספות בשביל לחשב את c(S). נראה שליחידת חישוב i שמחשבת את v(i) בצורה שהוזכרה יש יותר כח חישוב מנוירון סיגמויד ואפילו מרשת של סיגמויד, שמקבלת כקלט משתנים v(j), c(S). – זה נובע מהעובדה שהנוסחאות מחשבות מכפלה של משתני הקלט בעצמם.

53. Computing with Firing Rates and Temporal Correlations נגדיר פונקציה בוליאנית : ערך הפונקציה הוא 1 עבור n משתני קלט בוליאנים v(j), ו - מתשני קלט בוליאנים c(S) עבור כל תת הקבוצות בגודל 2 אם ורק אם c(S)=1 ו - עבור תת - קבוצות

54. Computing with Firing Rates and Temporal Correlations יחידת חישוב אחת i המתוארת באמצעות הנוסחאות הנ " ל יכולה לחשב את הפונקציה Fn. מצד שני מספר גדול מאוד של נוירונים רגילים יוכלו לחשב את אותה הפונקציה – סדר גודל של עבור נוירונים רגילים וסדר גודל של n עבור נוירונים סיגמויד.

55. Conclusions רשתות המורכבות מ -spiking neurons מציגות מחלקה חדשה של מודלים לחישוב. הן יכולות לבצע חישוב באמצעות שיטות קידוד שונות. קיימות הוכחות תאורטיות המראות שרשתות נוירונים של spiking neurons המקודדות באמצעות זמני הירי משיגות יותר כח חישובי עבור משימות מסויימות, מאשר הרשתות הרגילות מאותו הגודל.