מבוא לאקונומטריקה - תיאור הקורס

Slides:



Advertisements
Similar presentations
Completeness and Expressiveness. תזכורת למערכת ההוכחה של לוגיקה מסדר ראשון : אקסיומות 1. ) ) (( 2. )) ) (( )) ( ) ((( 3. ))) F( F( ( 4. ) v) ( ) v ((
Advertisements

מבוא למדעי המחשב לתעשייה וניהול
©Silberschatz, Korth and Sudarshan4.1Database System Concepts סכימה לדוגמא.
עיבוד תמונות ואותות בעזרת מחשב
Presentation by Dudu Yanay and Elior Malul 1.  מה משותף לכל אלגוריתם המשתמש ב -Bucket Elimination: ◦ נתון מודל הסתברותי ורשת ביסיאנית מתאימה. ◦ נתונה.
מתמטיקה בדידה תרגול 3.
רקורסיות נושאי השיעור פתרון משוואות רקורסיביות שיטת ההצבה
Inverse kinematics (Craig ch.4) ב"ה. Pieper’s solution נתבונן ברובוט עם 6 מפרקי סיבוב כאשר שלושת הצירים של המפרקים האחרונים נחתכים. נקודת החיתוך נתונה.
חורף - תשס " ג DBMS, Design1 שימור תלויות אינטואיציה : כל תלות פונקציונלית שהתקיימה בסכמה המקורית מתקיימת גם בסכמה המפורקת. מטרה : כאשר מעדכנים.
מה החומר למבחן ? כל החומר שנלמד בהרצאות ובתרגולים. לגבי backtracking: לא תידרשו לממש אלגוריתם, אך כן להבין או להשלים מימוש נתון. אחת משאלות המבחן מבוססת.
1 שונות המשתנה. המודל : הנחות 1-3 מתקיימות. הנחה 4 אינה מתקיימת - כך שלפחות עבור תצפית אחת השונות שונה מהשונות של יתר התצפיות. לפחות עבור s ו t אחד. תוצאות.
The Solar Wind And its consequences. dx dA משוואות בסיסיות בהידרו דינמיקה הכח הפועל כתוצאה מגרדיאנט בלחץ על אלמנט מסה - dm.
אוטומט מחסנית הפקולטה למדעי המחשב אוטומטים ושפות פורמליות ( ) תרגיל מספר 11.
אינטרפולציה רועי יצחק.
חורף - תשס " ג DBMS, צורות נורמליות 1 צורה נורמלית שלישית - 3NF הגדרה : תהי R סכמה רלציונית ותהי F קבוצת תלויות פונקציונליות מעל R. R היא ב -3NF.
Map-Reduce Input: a collection of scientific articles on different topics, each marked with a field of science –Mathematics, Computer Science, Biology,
1 Formal Specifications for Complex Systems (236368) Tutorial #5 Refinement in Z: data refinement; operations refinement; their combinations.
בהסתברות לפחות למצא בעיה במודל PAC עבור בהסתברות ε הפונקציה f טועה מודל ONLINE 1. אחרי כל טעות הפונקציה משתפרת 2. מספר הטעיות קטן.
סמינר במדעי המחשב 3 עודד פרץ משפט הנורמליזציה החזקה.
(C) סיון טל גילוי מידע וזיהוי תבניות תרגול מס. 4 חזרה על בעיית השערוך, שיטות פרמטריות. שיטת MAP ( בייסיאנית ) לשערוך פרמטרים. שיטת הנראות המירבית. השיטה.
שאילת שאלות שאלת חקר המפתח למנעול 1. שאילת שאלות – שאלת חקר מה ניתן לשנות ? :  בתנאים : טמפ ' או לחץ או הכלים, או הציוד  בחומרים : איכות או כמות או.
עיבוד תמונות ואותות במחשב אלכסנדר ברנגולץ דואר אלקטרוני : שיטות קידוד שיטות קידוד אורך מלת קוד ואנטרופיה אורך מלת קוד ואנטרופיה קידוד.
א " ב, מילים, ושפות הפקולטה למדעי המחשב אוטומטים ושפות פורמליות ( ) תרגיל מספר 1.
א " ב, מילים, ושפות הפקולטה למדעי המחשב אוטומטים ושפות פורמליות ( ) תרגיל מספר 1.
תורת הקבוצות חלק ב'. קבוצה בת מניה הגדרה: קבוצה אינסופית X היא ניתנת למניה אם יש התאמה חד-חד ערכית בין X לבין .
1 Formal Specifications for Complex Systems (236368) Tutorial #1 Course site : T.A. :Emilia Katz.
Questions are the Answer Penick&all H ISTORY R ELATIOINSHIPS A PPLICATION S PECULATION E XPLANATION.
מודל ONLINE לומדמורה 1. כל ניתן לחישוב בזמן פולינומיאלי 2. אחרי מספר פולינומיאלי של טעיות ( ) הלומד לא טועה ז"א שווה ל- Littlestone 1988.
א " ב, מילים, ושפות הפקולטה למדעי המחשב אוטומטים ושפות פורמליות ( ) תרגיל מספר 1.
ערכים עצמיים בשיטות נומריות. משוואה אופינית X מציין וקטור עצמי מציינת ערך עצמי תואם לוקטור.
מבחן t למדגמים בלתי תלויים
Kalman Filter תומר באום Based on ch. 8 in “Principles of robot motion” By Choset et al. ב"הב"ה.
יסודות סטטיסטיקה תיאורית
הפקולטה למדעי המחשב אוטומטים ושפות פורמליות (236353)
Ray 7 דוגמא אלגוריתם 1.קבל דוגמאות 2. פלט f a עבור הדוגמה a המינימלית החיובית ?
תחשיב הפסוקים חלק ד'. תורת ההיסק של תחשיב הפסוקים.
1 חקירת טרנזיסטור קוונטי הנשלט על ידי שינויי תדר Frequency Controlled Quantum Transistor מבצע : חן טרדונסקי מנחה : ד " ר אראל גרנות.
1 Data Structures, CS, TAU, Perfect Hashing בעיה: נתונה קבוצה S של n מפתחות מתחום U השוואה ל- Hash : * טבלה קבועה (Hash רגיל - דינאמי) * רוצים זמן קבוע.
משטר דינמי – © Dima Elenbogen :14. הגדרת cd ו -pd cd - הזמן שעובר בין הרגע שראשון אותות הכניסה יוצא מתחום לוגי עד אשר אות המוצא יוצא מתחום.
תוחלת ושונות בהתפלגויות אחרות התפלגות בינומית : X~B(n,p) E(X)=np, σ 2 (x)=np(1-p) התפלגות היפרגיאומטרית : X~H(N,n,M) E(X)=n*M/N, σ 2 (x)=n*M/N(1-M/N)[(N-n)/N-1)]
רגרסיה קו רגרסיה הוא קו תיאורטי המאפשר לנו לבחון את השפעתו של משתנה מנבא אחד (או יותר) על המשתנה התלוי: במילים אחרות, מודל רגרסיה עוזר לנו לנבא על פי משתנה.
מודל הלמידה מדוגמאות Learning from Examples קלט: אוסף של דוגמאות פלט: קונסיסטנטי עם פונקציה f ב- C ז"א קונסיסטנטי עם S ז"א מודל הלמידה מדוגמאות Learning.
עקרון ההכלה וההדחה.
יחס סדר חלקי.
מבוא למדעי המחשב תרגול 3 שעת קבלה : יום שני 11:00-12:00 דוא " ל :
תחשיב היחסים (הפרדיקטים)
מדדי פיזור פיזור מצביע על מידת ההטרוגניות או ההומוגניות של ההתפלגות. פיזור הוא מדד יחסי, כיוון שאפשר לומר אם הפיזור בהתפלגות רחב או צר, רק ביחס לפיזור.
Markov Decision Processes (MDP) תומר באום Based on ch. 14 in “Probabilistic Robotics” By Thrun et al. ב"הב"ה.
מודל הלמידה מדוגמאות Learning from Examples קלט: אוסף של דוגמאות פלט: קונסיסטנטי עם פונקציה f ב- C ז"א קונסיסטנטי עם S ז"א.
דוגמאות לגלים סטציונריים איריס רוגר פרקים בתנודות וגלים לא לינארייםמנחה: פרופ' לזר פרידלנד.
מתמטיקה בדידה תרגול 2.
1 מבוא למדעי המחשב סיבוכיות. 2 סיבוכיות - מוטיבציה סידרת פיבונאצ'י: long fibonacci (int n) { if (n == 1 || n == 2) return 1; else return (fibonacci(n-1)
1 גילוי מידע וזיהוי תבניות תרגול מס. 3 התפלגות נורמלית רב - מימדית Kullback-Leibler Divergence - משפט קמירות - נגזרת שנייה משפט Log sum inequality משפט.
Presentation by Gil Perry Supervised by Amos Fiat 1.
Advanced Topics in Search Theory 3: Concurrent Search.
מבוא למדעי המחשב לתעשייה וניהול הרצאה 7. סברוטינות subroutines.
1 ניתוח שונות: Post-hoc analysis ניתוח שונות חד-כיווני עם אפקטים קבועים: Post-hoc analysis ד"ר מרינה בוגומולוב מבוסס חלקית על ההרצאות של פרופ' יואב בנימיני.
SQL בסיסי – הגדרה אינדוקטיבית
שימוש בשיטה א-פרמטרית להשוואת תוחלות של שתי אוכלוסיות.
מודל הרגרסיה הלוגיסטית.
השוואת נתונים למודל הסתברותי - כללית
Mediation and Moderation
תיאוריית תכנון סכמות למסדי נתונים יחסיים חלק 4
בדיקת השערות על השוואת שני סטטיסטים
מבחן t למדגמים בלתי תלויים
השערות מחקר והשערות המבחן הסטטיסטי
מבחן t למדגם יחיד.
NG Interpolation: Divided Differences
Computer Programming תרגול 3 Summer 2016
Engineering Programming A
Presentation transcript:

מבוא לאקונומטריקה - תיאור הקורס 1. חובות הקורס א. קריאות ב. הגשת תרגילים וקבלת ציון עובר ב- 6 תרגילים לפחות (מתוך 9). ג. הגשת תרגיל סיכום 2. תנאי מעבר הקורס קבלת ציון (60) בבחינה הסופית, וקבלת ציון עובר (60) בתרגיל הסיכום. אם התלמיד קיבל ציון עובר בכל אחד מהם, הציון הסופי בקורס יחושב ממוצע משוקלל כאשר משקל הבחינה 80% ומשקל תרגיל הסיכום 20%. התרגיל תקף לשני מועדי בחינה (לא בהכרח מועדים עוקבים). פטור מהגשת תרגילים ברישום שני מותנה באישור.

רשימת קריאות ספרי הלימוד המומלצים הם:   1.  Gujarati, Damonar N., Basic Econometrics, 3rd. ed.,McGraw Hill, 1995.     2.  Pindyck R.S., and Rubinfeld D.L., Econometric Models and Economic Forcast, McGraw-Hill, 3rd ed., 1991.   פירוט הקריאות מתוך הספרים הנ"ל: קריאות (Pindyck) קריאות (Gujarati) מספר שבועות הנושא Ch. 2 1 חזרה על מושגי יסוד בסטטיסטיקה Ch. 3 Ch. 3, 4, 5 3 רגרסיה פשוטה Ch. 4, Ch. 5 110-117   Ch. 7, 8, 13 4-3 רגרסיה רבת משתנים Ch. 5 104-110, 121-123 Ch. 15 משתנים מסבירים איכותיים Ch. 7 157-158, 161-165 Ch. 17 604-605 שגיאות ספציפיקציה אמידה בעזרת משתני עזר Ch. 6 137-149 Ch. 8 190-195 Ch. 12 מודלים דינמיים Ch. 6 127-136 Ch. 11 שונות משתנה Ch. 18, 19, 20 משוואות סימולטניות

הקדמה אקונומטריקה זהו תחום של מחקר בו פותחו כלים לענות על שאלות כלכליות תוך שימוש בנתונים. מה נלמד? נלמד את שיטות המחקר הבסיסיות וניישם אותן לשאלות כלכליות כמותיות אשר עבורן נעשה מחקר כלכלי רב. בכיתה נתמקד בלימוד השיטות (כל המחקר) תוך שימוש וירטואלי בנתונים . בעבודות הבית יעשה שימוש בנתונים בנושאים מרכזיים.

הקדמה (המשך) דוגמאות לשאלות כמותיות: מהי הנטיה השולית לצרוך מתוך ההכנסה? מהי גמישות הביקוש לכסף ביחס לשער הריבית? מהי התשואה בשכר לשנת לימוד? האם קיימת אפליית נשים בשוק העבודה? האם יש יתרונות לגודל ביצור? מהי גמישות הביקוש לשימוש בטלפונים סלולריים? כדי לענות על שאלות אלו יש לבנות מודל תאורטי שניתן לקבל עבורו נתונים וקימות שיטות אקונומטריות מתאימות.

הקדמה - המשך המודל המרכזי שנלמד הינו המודל הלינארי (שקף 12). כדי לענות על השאלה:מהי התשואה בשכר לשנת לימוד? יש צורך בנתונים על שכר ושנות לימוד. אילו נתונים? חתך רוחב או סידרה עתית. יש צורך במודל אקונומטרי אשר מהנתונים הקיימים ניתן לקבל אומדן לתשואה על שנת חינוך. סיפור מבית המשפט להגבלים עסקיים על השפעת צירוף מקומוני "ידיעות אחרונות" לעיתון על תפוצת המקומון "העיר".

חזרה על מושגי יסוד בסטטיסטיקה משתנה מיקרי - x הוא משתנה מיקרי - כלומר יש לו פונקצית התפלגות ופונקצית צפיפות. תכונות פונקצית ההתפלגות ופונקצית הצפיפות התפלגות - אם x משתנה רציף - ההסתברות שהמשתנה יקבל ערך קטן או שווה ל x מתוארת ע"י פונקצית ההתפלגות של x. צפיפות - פונקצית הצפיפות היא הנגזרת של x בנקודה. תכונות: דוגמא:התפלגות נורמלית: שני פרמטרים: התוחלת והשונות

  תוחלת - מדד למיקום שבו x בשכיחות גבוהה דוגמא: התפלגות נורמלית שונות - מדד פיזור של x התפלגות נורמלית סטנדרטית – אם x הוא משתנה נורמלי אזי , z הוא משתנה נורמלי סטנדרטי שתוחלתו אפס ושונותו אחת.

אי תלות סטטיסטית - ו הם משתנים מיקריים בלתי תלויים אם הצפיפות המשותפת שלהם שווה למכפלת הצפיפויות כלומר אם היא פונקצית הצפיפות של ו היא פונקצית הצפיפות של אזי התפלגות משותפת - התפלגות תלויה - חוק בייס - w - שכר S - שנות השכלה תוחלת תלויה - אם בלתי תלוי ב

 שונות משותפת – אם בלתי תלוי ב אם - אזי יש קשר עולה בין לבין . אם - אזי יש קשר יורד בין לבין . מתאם -

 נניח שיש לנו מדגם מיקרי על ההכנסה של N פרטים x - הכנסה - משתנה מיקרי עם תוחלת , שונות ופונקצית צפיפות - ההכנסה של פרט ההסתברות למדגם - (בהנחה ש משתנים מיקריים ב"ת מאותה התפלגות). פונקצית הניראות - פונקצית הצפיפות המשותפת לאחר שמציבים בה את התצפיות . פונקצית הניראות היא הערך של הסתברות המדגם עבור ערכים שונים של הפרמטרים של

אאמידה אומדי ניראות מקסימליים - ו שיביאו למקסימום את פונקצית הניראות. אומדי ניראות מקסימליים - ו שיביאו למקסימום את פונקצית הניראות. זהו אומד ניראות מקסימלית ל . אומד זה הינו אומד חסר הטיה, כלומר . זהו אומד ניראות מקסימלית ל . אומד זה הינו מוטה. זה אומד חסר הטיה לשונות.  תכונות האומדים: 1. אומד חסר הטיה. 2. אומד ניראות מקסימלית. 3. אומד עם שונות מינימלית.

המודל הלינארי הפשוט - משתנה תלוי - אנדוגני - עבור תצפית . - משתנה תלוי - אנדוגני - עבור תצפית . (הכנסה של פרט )  - משתנה אקסוגני - בלתי תלוי עבור תצפית . (שנות לימוד של פרט) - השפעה של גורמים נוספים עליהם אין לנו תצפיות – הפרעה אקראית a ,b - הפרמטרים של המודל הלינארי.   a - קבוע b - מקדם השיפוע

מודל לוגריטמי נגדיר:   במקרה זה b זו גמישות של ביחס ל  

מודל חצי-לוגריטמי מודל זה מקובל מאוד לאמידת משוואות שכר וביקוש לכסף   שכן המשתנה המוסבר מקבל תמיד ערכים חיוביים.

ההנחה הראשונה במודל היא: לכל . ההנחה השניה: בלתי תלוי ב ולכן לכל ו . שיטות אמידה למודל הלינארי - ו הם אומדי ריבועים פחותים אם הם מביאים למינימום   את הסכום כאשר מציאת אומדי ריבועים פחותים תנאי סדר ראשון - המשוואות הנורמליות מהנגזרת לפי נקבל: מהנגזרת לפי נקבל: כלומר מתאם אפס בין ההפרעה למשתנה האקסוגני

פתרון אלגברי של אומדי ריבועים פחותים: באופן דומה: (כלומר, קו הרגרסיה עובר דרך נקודת הממוצעים)

תאור הקשר בין הפרמטרים לאומדניהם - הקשר בין ל באופן דומה, הקשר בין ל

חוסר הטיה טענה: אם וכן בלתי תלוי ב לכל ו , אזי ו הם אומדים חסרי הטיה טענה: אם וכן בלתי תלוי ב לכל ו , אזי ו הם אומדים חסרי הטיה  הוכחה:

אומדים לינאריים ואומדים חסרי הטיה   אומדים לינאריים ואומדים חסרי הטיה  אומד לינארי הוא אומד מהצורה הבאה   - משקל כלשהו על תצפית .  אם מתקיימים שלושת התנאים הבאים:   א. בלתי תלוי ב , ב. ג.   אזי כלומר, זהו אומד חסר הטיה ולכן -

ללא הגבלת הכלליות נניח כי אם מאחר ו אם מאחר ו אנו מחפשים אומד חסר הטיה בעל שונות מינימלית חישוב השונות של אומד לינארי חסר הטיה:

הנחה 3:   ההפרעות האקראיות אינן מתואמות. כלומר, לכל מתקיים - חוסר מתאם סידרתי  הנחה 4:   שונות שווה (זהה) - השונויות של ההפרעות האקראיות זהות כלומר, לכל מתקיים

הנחה 1 - תוחלת אפס ל -u. הנחה 2 - אקסוגניות של ה - x-ים ביחס ל - u. הנחה 3 - חוסר מתאם סידרתי בין ה u -ים. הנחה 4 – שונות זהה של ההפרעות.

משפט גאוס מרקוב (משפט קרמר - ראו) מתוך קבוצת האומדים הלינאריים הבלתי מוטים – אומד ריבועים פחותים הוא בעל השונות המינימלית אם: המודל לינארי בהנחות הבאות: 1. 2. בלתי תלויים ב - 3. לכל מתקיים 4. לכל מתקיים - שונות זהה

התפלגות האומדים של המודל הלינארי קיבלנו ש ולכן ההתפלגות של תקבע את ההתפלגות של . הנחה 5: ו אומד נראות מקסימליתMaximum Likelihood Estimator עבור נתון , ההתפלגות של היא נתאר את הצפיפות המשותפת של המדגם של עבור X-ים נתונים והפרמטרים א.ר.פ של ו גם א.נ.מ

ההתפלגות של האומדים מתפלג נורמלית מאחר והוא קומבינציה ליניארית של משתנים המתפלגים נורמלית. כל זאת כאשר ידועים. בצורה דומה גם מתפלג נורמלית. כאשר כאשר אומדן לשונות א.נ.מ ל - - א.ח.ה ל - -

הסטטיסטי המתאים לבדיקת ההשערה הוא: נערוך תקנון להתפלגות של האומד להתפלגות נורמאלית סטנדרטית – ההתפלגות של Z נבחן את ההשערה b = b0 H0: כנגד ההשערה H1: b > b0 הסטטיסטי המתאים לבדיקת ההשערה הוא: אם הערך של סטיית התקן של ההפרעה ידוע אזי ניתן לבחון את ההשערה תוך שימוש בהתפלגות Z. דוחים את H0 אם הערך המחושב ל- Z הוא גדול מערך הקריטי של Z Zc כך ש- Pr(Z > Zc) =  ,  = רמת המובהקות.

מה קורה כאשר  לא ידוע? נחשב את הסטטיסטי t(N-2) . כדי לעשות זאת נשתמש ב- Z של האומד וכן נראה את התפלגות האומד לשונות, s2 שהיא 2 . ישנם אומדנים בלתי תלויים מתוך המשוואה מקבלים תלות בין אחד לבין היתר ומהמשווה מקבלים תלות בין אחר לבין היתר ה - הם תוצאה של פתרון המשוואות הנורמליות או פתרון לפרמטרים. כמספר המשוואות, כך גם מספר ה - התלויים, ולכן נותרו u - ים בלתי תלויים. הם משתנים מיקריים כמו כאשר ולכן

הגדרה של התפלגות - סכום ריבועים של (2-N) של משתנים מקריים סטנדרטיים בילתי תלויים הגדרה של הסטטיסטי - t נניח ש וכן וכן Z בלתי תלוי ב – y אזי: כלומר, מתקבלת התוצאה הכללית: כנ"ל עבור : תוצאה זו היא הבסיס לבדיקת השערות פשוטות על המקדמים.

בדיקת השערות ההשערה: נשתמש בסטטיסטי הערך של האומדן ל- ידוע וכן האומדן ל - ידוע ולכן ניתן לחשב את הסטטיסטי דוחים את השערת האפס אם הסטטיסטי גדול מערך קריטי tc כך ש- Pr(t(N-2)>tc) = 0.05 ההסתברות השולית של השערת האפס (Marginal Significance Level = Prob (E-View) היא הערך של Pr(t(N-2)>t-statistic) . דוחים את השערת האפס אם ערך זה קטן מ- 0.05. M.S.Probability T-stat

רווח בר-סמך קטע סימטרי סביב שההסתברות ש - מצא בקטע היא אחת פחות רמת המובהקות הרצויה. אורך הרווח בר סמך שווה לגודל A. מכאן מתקבל שהקטע A = רווח בר סמך ל-

תחזית המודל נניח שידוע לנו , התחזית הטובה ביותר עבור , הערך של אותה תצפית נוספת, או התוחלת של YF , כאשר המדגם כולל את N התצפיות הקודמות בהינתן היא:   תחת הנחות המודל, כאשר ו הם א.ח.ה F Y מדוע זוהי התחזית הטובה ביותר?   1.   האומד ל הוא א.ח.ה – הוכחה מיידית. 2.   שונות האומד היא הקטנה ביותר מבין כל האומדים הליניאריים חסרי ההטיה. המשך ישיר למשפט גאוס-מרקוב.

שונות קוו הרגרסיה = שונות של הקוו הנאמד שונות התחזית = תוחלת הסטיה הריבועית מהתחזית = Mean Squared Predicted Error

נחשב את שונות התחזית: נציב ונקבל: רווח בר סמך לתחזית

הגדרה: מקדם המתאם המרובה מגדיר את איכות ההתאמה של המודל לנתונים. מקדם המתאם המרובה מגדיר את איכות ההתאמה של המודל לנתונים. הגדרות: SST = סה"כ סטיות ריבועיות של y =(סטיות ריבועיות של y מ- ) SSR = סה"כ סטיות ריבועיות של קו הרגרסיה מ - SSE = סכום הסטיות הריבועיות של ההפרעה המקרית הנאמדת הגדרה:

נוכיח שכאשר יש קבוע מתקיימת המשוואה: SST =SSE+SSR כאשר יש קבוע:   גם כאשר יש וגם כאשר אין קבוע: ולכן כאשר יש קבוע מתקיים: