1 שונות המשתנה. המודל : הנחות 1-3 מתקיימות. הנחה 4 אינה מתקיימת - כך שלפחות עבור תצפית אחת השונות שונה מהשונות של יתר התצפיות. לפחות עבור s ו t אחד. תוצאות.

Slides:



Advertisements
Similar presentations
Completeness and Expressiveness. תזכורת למערכת ההוכחה של לוגיקה מסדר ראשון : אקסיומות 1. ) ) (( 2. )) ) (( )) ( ) ((( 3. ))) F( F( ( 4. ) v) ( ) v ((
Advertisements

מבוא למדעי המחשב לתעשייה וניהול
צורה נורמלית של גרייבך הפקולטה למדעי המחשב אוטומטים ושפות פורמליות ( ) תרגיל מספר 11.
Number Theory and Algebra Advisor …………… Dr. Shpilka Amir Presented by …… Cohen Gil..………
Presentation by Dudu Yanay and Elior Malul 1.  מה משותף לכל אלגוריתם המשתמש ב -Bucket Elimination: ◦ נתון מודל הסתברותי ורשת ביסיאנית מתאימה. ◦ נתונה.
מתמטיקה בדידה תרגול 3.
רקורסיות נושאי השיעור פתרון משוואות רקורסיביות שיטת ההצבה
Inverse kinematics (Craig ch.4) ב"ה. Pieper’s solution נתבונן ברובוט עם 6 מפרקי סיבוב כאשר שלושת הצירים של המפרקים האחרונים נחתכים. נקודת החיתוך נתונה.
חורף - תשס " ג DBMS, Design1 שימור תלויות אינטואיציה : כל תלות פונקציונלית שהתקיימה בסכמה המקורית מתקיימת גם בסכמה המפורקת. מטרה : כאשר מעדכנים.
Na+ P-. הפוטנציאל האלקטרוכימי אנרגיה חופשית ל - 1 mole חומר. מרכיב חשמלי מרכיב כימי מרכיבי הפוטנציאל האלקטרוכימי של חומר X: המרכיב הכימי : RTlnC x R –
מה החומר למבחן ? כל החומר שנלמד בהרצאות ובתרגולים. לגבי backtracking: לא תידרשו לממש אלגוריתם, אך כן להבין או להשלים מימוש נתון. אחת משאלות המבחן מבוססת.
אינטרפולציה רועי יצחק.
חורף - תשס " ג DBMS, צורות נורמליות 1 צורה נורמלית שלישית - 3NF הגדרה : תהי R סכמה רלציונית ותהי F קבוצת תלויות פונקציונליות מעל R. R היא ב -3NF.
Map-Reduce Input: a collection of scientific articles on different topics, each marked with a field of science –Mathematics, Computer Science, Biology,
Robust Characterization of Polynomials 1 Robust Characterization of polynomials “IT DOES NOT MAKE SENCE!” מרצים : אורי גרסטן יניב עזריה Ronitt Rubinfeld.
בהסתברות לפחות למצא בעיה במודל PAC עבור בהסתברות ε הפונקציה f טועה מודל ONLINE 1. אחרי כל טעות הפונקציה משתפרת 2. מספר הטעיות קטן.
(C) סיון טל גילוי מידע וזיהוי תבניות תרגול מס. 4 חזרה על בעיית השערוך, שיטות פרמטריות. שיטת MAP ( בייסיאנית ) לשערוך פרמטרים. שיטת הנראות המירבית. השיטה.
א " ב, מילים, ושפות הפקולטה למדעי המחשב אוטומטים ושפות פורמליות ( ) תרגיל מספר 1.
א " ב, מילים, ושפות הפקולטה למדעי המחשב אוטומטים ושפות פורמליות ( ) תרגיל מספר 1.
משטר סטטי שערים לוגיים Wired Drives – © Dima Elenbogen 2009, Moshe Malka :29.
Formal Specifications for Complex Systems (236368) Tutorial #6 appendix Statecharts vs. Raphsody 7 (theory vs. practice)
תורת הקבוצות חלק ב'. קבוצה בת מניה הגדרה: קבוצה אינסופית X היא ניתנת למניה אם יש התאמה חד-חד ערכית בין X לבין .
תחשיב הפסוקים חלק ג'. צורות נורמליות א. DF – Disjunctive Form – סכום של מכפלות. דוגמא: (P  ~Q  R)  (R  P)  (R  ~Q  ~P) הגדרה: נוסחה השקולה לנוסחה.
מודל ONLINE לומדמורה 1. כל ניתן לחישוב בזמן פולינומיאלי 2. אחרי מספר פולינומיאלי של טעיות ( ) הלומד לא טועה ז"א שווה ל- Littlestone 1988.
א " ב, מילים, ושפות הפקולטה למדעי המחשב אוטומטים ושפות פורמליות ( ) תרגיל מספר 1.
ערכים עצמיים בשיטות נומריות. משוואה אופינית X מציין וקטור עצמי מציינת ערך עצמי תואם לוקטור.
מבחן t למדגמים בלתי תלויים
Kalman Filter תומר באום Based on ch. 8 in “Principles of robot motion” By Choset et al. ב"הב"ה.
הפקולטה למדעי המחשב אוטומטים ושפות פורמליות (236353)
The Cyclic Multi-peg Tower of Hanoi מעגלי חד-כווני סבוכיות הפתרון בגרסאות עם יותר מ-3 עמודים.
Ray 7 דוגמא אלגוריתם 1.קבל דוגמאות 2. פלט f a עבור הדוגמה a המינימלית החיובית ?
תחשיב הפסוקים חלק ד'. תורת ההיסק של תחשיב הפסוקים.
Data Structures, CS, TAU, Perfect Hashing 1 Perfect Hashing בעיה : נתונה קבוצה S של n מפתחות מתחום U השוואה ל - Hash : * טבלה קבועה (Hash רגיל - דינאמי.
1 Data Structures, CS, TAU, Perfect Hashing בעיה: נתונה קבוצה S של n מפתחות מתחום U השוואה ל- Hash : * טבלה קבועה (Hash רגיל - דינאמי) * רוצים זמן קבוע.
משטר דינמי – © Dima Elenbogen :14. הגדרת cd ו -pd cd - הזמן שעובר בין הרגע שראשון אותות הכניסה יוצא מתחום לוגי עד אשר אות המוצא יוצא מתחום.
תוחלת ושונות בהתפלגויות אחרות התפלגות בינומית : X~B(n,p) E(X)=np, σ 2 (x)=np(1-p) התפלגות היפרגיאומטרית : X~H(N,n,M) E(X)=n*M/N, σ 2 (x)=n*M/N(1-M/N)[(N-n)/N-1)]
רגרסיה קו רגרסיה הוא קו תיאורטי המאפשר לנו לבחון את השפעתו של משתנה מנבא אחד (או יותר) על המשתנה התלוי: במילים אחרות, מודל רגרסיה עוזר לנו לנבא על פי משתנה.
מודל הלמידה מדוגמאות Learning from Examples קלט: אוסף של דוגמאות פלט: קונסיסטנטי עם פונקציה f ב- C ז"א קונסיסטנטי עם S ז"א מודל הלמידה מדוגמאות Learning.
עקרון ההכלה וההדחה.
יחס סדר חלקי.
תחשיב היחסים (הפרדיקטים)
Markov Decision Processes (MDP) תומר באום Based on ch. 14 in “Probabilistic Robotics” By Thrun et al. ב"הב"ה.
מודל הלמידה מדוגמאות Learning from Examples קלט: אוסף של דוגמאות פלט: קונסיסטנטי עם פונקציה f ב- C ז"א קונסיסטנטי עם S ז"א.
דוגמאות לגלים סטציונריים איריס רוגר פרקים בתנודות וגלים לא לינארייםמנחה: פרופ' לזר פרידלנד.
Particle Filter תומר באום ב"ה. מוטיבציה אנו רוצים להעריך מצב של מערכת (מיקום,מהירות טמפרטורה וכו') בעזרת מדידות שנעשות בזמנים שונים. ( כמו טווח לנקודות.
מתמטיקה בדידה תרגול 2.
1 מבוא למדעי המחשב סיבוכיות. 2 סיבוכיות - מוטיבציה סידרת פיבונאצ'י: long fibonacci (int n) { if (n == 1 || n == 2) return 1; else return (fibonacci(n-1)
מבוא לאקונומטריקה - תיאור הקורס
1 גילוי מידע וזיהוי תבניות תרגול מס. 3 התפלגות נורמלית רב - מימדית Kullback-Leibler Divergence - משפט קמירות - נגזרת שנייה משפט Log sum inequality משפט.
- אמיר רובינשטיין מיונים - Sorting משפט : חסם תחתון על מיון ( המבוסס על השוואות בלבד ) של n מפתחות הינו Ω(nlogn) במקרה הגרוע ובממוצע. ניתן לפעמים.
פיתוח מערכות מידע Class diagrams Aggregation, Composition and Generalization.
Practice session 3.  תחביר ממשי ( קונקרטי ) ותחביר מופשט ( אבסטרקטי )  שיטות חישוב : Applicative & Normal Evaluation.
1 Formal Specifications for Complex Systems (236368) Tutorial #1 Course site:
1 ניתוח שונות: Post-hoc analysis ניתוח שונות חד-כיווני עם אפקטים קבועים: Post-hoc analysis ד"ר מרינה בוגומולוב מבוסס חלקית על ההרצאות של פרופ' יואב בנימיני.
Formal Specifications for Complex Systems (236368) Tutorial #1
מבוא למדעי המחשב סיבוכיות.
SQL בסיסי – הגדרה אינדוקטיבית
שימוש בשיטה א-פרמטרית להשוואת תוחלות של שתי אוכלוסיות.
מודל הרגרסיה הלוגיסטית.
השוואת נתונים למודל הסתברותי - כללית
Mediation and Moderation
תיאוריית תכנון סכמות למסדי נתונים יחסיים חלק 4
בדיקת השערות על השוואת שני סטטיסטים
Marina Kogan Sadetsky –
ניתוח זמן ריצה (על קצה המזלג)
מבחן t למדגמים בלתי תלויים
בחירת חומר גלם כתב: עמרי שרון.
השערות מחקר והשערות המבחן הסטטיסטי
מבחן t למדגם יחיד.
NG Interpolation: Divided Differences
Presentation transcript:

1 שונות המשתנה. המודל : הנחות 1-3 מתקיימות. הנחה 4 אינה מתקיימת - כך שלפחות עבור תצפית אחת השונות שונה מהשונות של יתר התצפיות. לפחות עבור s ו t אחד. תוצאות : 1. א. ר. פ הוא אומד חסר הטיה. 2. אומדי השונות של א. ר. פ הם מוטים. 3. א. ר. פ איננו מקיים את משפט גאוס - מרקוב.

2 נגדיר את השונות באופן הבא : כאשר זה המשקל לתצפית ה, שהוא הופכי גודל השונות של התצפית. נביט במודל : כאשר מקיים : המודל המסומן ב * מקיים את ההנחות הקלאסיות ולגביו מתקיים משפט גאוס מרקוב. אם ידוע אפשר לאמוד את המודל *

3 דוגמא : = שנות לימוד וידוע שיש קשר חיובי בין והשונות נניח ש מציבים במשוואה : הרגרסיה הנאמדת היא : משקל של כל תצפית הוא. נאמוד את המודל

4 : : מבחן G.Q. - נחלק את המודל לשתי קבוצות כאשר מספר תצפיות במרכז יורדו - d תצפיות. - תצפיות בהן השונות נמוכה יותר. - תצפיות בהן השונות גבוהה יותר. נאמוד את הרגרסיה בשני חלקים פעם עבור התצפיות בעלות השונות הנמוכה ופעם עבור התצפיות בעלות השונות הגבוהה, כך ש =. בנוסף נשמיט d תצפיות ( כ - 20 %) מהאמצע.

5 אם הנחה H 0 נכונה אזי נצפה לקבל ש - כאשר : k - מספר הפרמטרים של המודל כאשר הערך של F גדול מאוד - דוחים את בדרך כלל נניח שמספר התצפיות זהה בכל את מהקבוצות

6 מודלים דינמיים הכנסת משתנים מסבירים בפיגור - אין בעיה הכנסת משתנים תלויים בפיגור - הנחה 2 לא מתקיימת. מתואם עם - מתאם סידרתי מסדר ראשון - הנחה 3 לא מתקיימת. מבחן לקיום מתאם סידרתי מסדר ראשון : אין מתאם סידרתי מסדר ראשון. כלומר המודל הוא המודל האמיתי + הנחות 1-5. ההשערה האלטרנטיבית היא שקיים מתאם בין ההפרעות האקראיות, השאלה היא מה צורתו של המתאם.

7 דוגמא : מתאם סידרתי מסדר ראשון. - מקדם מתאם סידרתי. נניח ש : עבור אם אזי חוזרים למודל המקורי. : : או מה קורה תחת ההשערה האלטרנטיבית ? 1. א. ר. פ. הוא א. ח. ה 2. א. ר. פ אינו מקיים את משפט גאוס - מרקוב, הנחה 3 אינה מתקיימת. ( הנחה 3 היא הנחה מספיקה אך לא הכרחית לקיום משפט גאוס - מרקוב ולכן יש להוכיח שהמשפט לא מתקיים )

8 הסטטיסטי שלDurbin - Watson נניח שתחת הרצנו את המודל המקורי ע " י OLS וקיבלנו אומדים. רגרסיה על ההפרעות - ולכן

9 המבחן למתאם סידרתי מבוסס על התפלגות הסטטיסטי d. ההתפלגות של הסטטיסטי תלויה בדרגות החופש ורמת המובהקות. עבור מתקבלים הערכים הבאים : כאשר, היא. מתקבלים שני ערכים ל d קריטי - ערך נמוך ו - ערך גבוה. עבור - דוחים את השערת האפס עבור - מקבלים את השערת האפס עבור - לא יודעים כאשר, היא. עבור - דוחים את השערת האפס עבור - לא יודעים עבור - מקבלים את השערת האפס.

10 המשמעות של דחיית למעשה אנו אומדים מודל עם פרמטר נוסף, המודל הוא כדלהלן : 2. בלתי מתואם עם כל לכל t ולכל s. 3. עבור תוצאה 1 - א. ר. פ של משוואות הרגרסיה אינו א. נ. מ תוצאה 2 - א. ר. פ של משוואת הרגרסיה הוא א. ח. ה

11 הוכחה : נסתכל על התוחלת : כלומר, הנחה 1 של המודל המקורי מתקיימת. כלומר, הנחה 2 של המודל המקורי מתקיימת. מאידך

12 תוצאה 3 : א. ר. פ של משוואת הרגרסיה אינו מקיים את משפט גאוס - מרקוב ( כאשר ידוע ) הוכחה : נערוך טרנספורמציה לינארית של המודל נניח ש ידוע - אזי הרגרסיה : (*) כאשר : אזי בהנחות 1-5 א. ר. פ מקיים את משפט גאוס מרקוב ( מתעלמים מאובדן תצפית ) ולכן קיבלנו אומד לינארי עם שונות מינימלית. כלומר, אם ידוע, נאמוד את הרגרסיה (*), כאשר לא ידוע, ישנה שיטת אמידה שהיא קרוב לא. נ. מ זוהי שיטת אמידה בשני שלבים המבוססת על משוואת (*)

13 שיטת Cochran - Orcutt שיטת אמידה בשני שלבים : שלב א ' - אומדים את משוואת הרגרסיה המקורית ומקבלים את. אומדים את מהמשוואה שלב ב ' - מציבים את במשוואת (*) ואומדים את a ואת b ע " י א. ר. פ.

14 בדיקת השערות 1. סטיות התקן של המודל המקורי שנאמד ע " י OLS הן מוטות. לעיתים קרובות כלפי מטה ! ולכן ערכי t מוטים כלפי מעלה. למרות שהאומדים חסרי הטיה המבחנים הרגילים אינם תקפים. 2. האומדנים שמתקבלים משלב ב ' של האמידה הם מוטים אבל עקיבים. אומדני סטיות התקן הם עקיבים. עקיבות - כאשר ההטיה שואפת לאפס. ולכן מבחני t למודל המתקבל מ - CORC הם תקינים אך ורק במדגמים גדולים תצפיות ( דרך אחת לבדוק היא להשמיט תצפית ולראות את הרגישות ).

15 3. מבחני F תקפים, אבל תחת, תמיד אותו. כנ " ל ולמבחני יציבות - אחד לשתי תקופות המדגם. 4. תחזית - התחזית לוקחת בחשבון את. כלומר, בהינתן התחזית ל תהיה :

16 משואות סימולטניות נושאים : 1. אומד משתנה עזר - אומד עקיב. 2. מערכת של משוואות עם יותר ממשתנה אנדוגני אחד. 3. אומדן ר. פ בשני שלבים - Two stage L.S

17 תוצאות : 1. אם ו - אזי 2. אם הוא א. ח. ה. ל אזי ( ההפך אינו נכון ) עקיבות - מה קורה לאומד בהסתברות כאשר הגדרה : הוא אומד עקיב ל אם כאשר ההסתברות ש שווה ל, שווה לאחת. כלומר, עבור כל קטן כרצוננו מסמנים :

18 הנחה : עבור כל המשתנים המיקריים ( תצפיות ) הממוצע במדגם של פונקציה שואף לתוחלת של אותה פונקציה, כלומר : או באופן ספציפי : דוגמא : במודל זה מתואם עם ולכן א. ר. פ הוא מוטה, נבדוק האם אומד זה הוא עקיב

19 אומד משתנה עזר - מחליף את א. ר. פ נניח ש במודל מתואם עם. נניח שיש בידינו משתנה שאינו שייך למודל זה או למשוואה זו אך הוא מקיים את התנאים הבאים : הנחה 6 : בלתי תלוי ב - לכל s ולכל t. תלוי ב - אם מתקיימת הנחה 6, אזי נקרא משתנה עזר (Instrumental Variable) הוא א. מ. ע ל -b אם הוא פותר את המשוואות הנורמליות :

20 נניח ש לא מקיים את הנחה 2 הטיה ! מהו כיוון ההטיה בגבול ? כיוון ההטיה הוא המתאם בין ל, בדומה להשמטה של משתנה רלוונטי כיוון ההטיה שווה לסימן של מקדם המשתנה שהושמט. או במקרה שלפנינו :

21 משתנה תלוי בפיגור כאשר הוא i.i.d.

22 משוואות סימולטניות בכלכלה זו פונקצית היצע פשוטה. איך אומדים אותה ? האם מתואם עם ? במודל זה ו הם זהים. נניח ש אקסוגני. ו אנדוגניים. איך מחליטים ? עפ " י התיאוריה הכלכלית. ו אקסוגניים ולכן בלתי תלויים ביניהם, על פני זמן ועם המשתנים האקסוגניים.

23 משוואות ההיצע והביקוש הן משוואות המבנה של המודל המבני של הכלכלה. הפתרון של המודל המבני למשתנים האנדוגניים הוא הצורה המצומצמת. תוצאה : א. ר. פ למשוואות נותן אומדן מוטה עבור, כיוון ההטיה הוא כלפי מטה !!! והוא נקבע לפי המתאם בין ל ( נאמוד את ע " י כמשתנה עזר ).

24 זיהוי של פרמטרים במשוואות סימולטניות זיהוי - משוואה בודדת במערכת משוואות סימולטניות היא מזוהה אם ניתן במסגרת המודל לקבל אומדים עקיבים למשוואה. כלל הכרחי ( לא מספיק ) לזיהוי : משוואה במערכת משוואות סימולטניות היא מזוהה אם מספר המשתנים האקסוגניים שאינם נכללים המשוואה גדול או שווה למספר המשתנים האנדוגניים פחות אחד. אם גדול - יש זיהוי יתר. אם שווה - יש זיהוי במדויק.

25 אמידה בשני שלבים 2SLS שלב א ' - אומדים את המשתנה האנדוגני מהצורה המצומצמת. שלב ב ' - אומדים את המשוואה תוך שימוש במשתנה האנדוגני החזוי. אומדי 2SLS הם יותר יעילים מאומדי משתני עזר רגילים תוצאות לגבי התפלגות האומדים, או, מתפלגים בגבול נורמלית. כמו כן מתפלג בגבול ולכן היחס מתפלג בגבול כמו כן מתקיימים מבחני F כפי שלמדנו בכיתה במונחים של התפלגויות גבוליות עבור מדגמים גדולים.