Download presentation
Presentation is loading. Please wait.
1
מודל הלמידה מדוגמאות Learning from Examples קלט: אוסף של דוגמאות פלט: קונסיסטנטי עם פונקציה f ב- C ז"א קונסיסטנטי עם S ז"א
2
פתרון טריויאלי פתרון יעיל s מכיל גודל פונקצית המטרה, גודל x
3
פתרון לא טריויאלי= פתרון דוחס אם קיים פתרון לא טריויאלי נומר ש- C ניתנת ללמידה מדוגמאות
4
דוגמא 1 : מצולע קמור - Polygon k צלעות s הוא k פתרון יעיל מצולע עם poly(k ) צלעות פתרון לא טריויאלי מצולע עם צלעות
6
m נקודות m 2 קוים זמן זמן פולינומיאלי למשולש, מרובע, מחומש
7
12 3 4 56 7 8 910 11 12 Set Cover פלט: מספר מינימלי של קבוצות S i המכסות את U ז"א, האחוד שלהם הוא U קלט:
8
12 3 4 56 7 8 910 11 12 קלט:
9
משפט 1: בעית Set Cover היא NP-Complete משפט 2: קיים אלגוריתם שרץ בזמן פולינומיאלי ונותן כסוי בגודל (log |U|) k כאשר k הוא הפתרון האופטימלי.
10
מספר צלעות k log |U| <k log m פתרון לא טריויאלי זמן
11
משפט 1 : Polygon במרחב במימד 2 ניתנת ללמידה מדוגמאות משפט 2 : Polygon במרחב במימד קבוע ניתנת ללמידה מדוגמאות בעיה פתוחה : למידת Polygon במרחב במימד dבזמן פולינומיאלי poly(k,d) בעיה פתוחה : למידת חיתוך שני Halfspace במרחב במימד dבזמן פולינומיאלי poly(k,d)
12
דוגמא 2 : טרם בוליאני Term AND משתנים Variables ליטרלים Literal דוגמא: זמן פולינומיאלי טרם בוליאני Term
14
הטרם הגדול ביותר הקונסיסטנטי עם כל הדוגמאות החיוביות. לכן טרם המטרה T מקיים. זה שקול ל- לכן אין צורך לבדוק את הנקודות השליליות
15
אלגוריתם ל- Term Input S L:={x 1,x 1,x 2,x 2,…,x n,x n } For all (a,1) in S Remove x i from L if a i =0 Remove x i from L if a i =1 Output L זמן למידה מתאימה Proper
16
דוגמא 3 : קלוז בוליאני Clause דה-מורגן Augustus De Morgan 1806-1871
17
דואליות תכונות משפט הדואליות 1 :אם ניתן ללמוד C מדוגמאות בזמן T אזי ניתן ללמוד C D מדוגמאות בזמן O(T) משפט הדואליות 2 :C ניתנת ללמידה מדוגמאות אם"ם C D ניתנת ללמידה מדומאות
18
דוגמא 4: DNF ו- CNF DNF הוא OR של טרמים CNF הוא AND של קלוזים Disjunctive Normal form Conjunctive Normal form
19
DNF ניתנת ללמידה מדוגמאות אם ניתן ללמוד אותו בזמן ולחזיר פונקציה ב- P/poly בגודל
20
משפט הדואליות 1 :אם ניתן ללמוד DNF מדוגמאות בזמן T אזי ניתן ללמוד CNF מדוגמאות בזמן O(T) משפט הדואליות 2 : DNF ניתנת ללמידה מדוגמאות אם"ם CNF ניתנת ללמידה מדוגמאות
21
אלגוריתם למידה ל- DNF מדוגמאות מה הבעיה? בעיה פתוחה: למידת DNF מדוגמאות
22
דוגמא 5: M DNF ו- MCNF MDNF הוא Monotone DNF הוא OR של טרמים מונוטונים – ללא שלילה משפט 1 :אם ניתן ללמוד MDNF מדוגמאות בזמן T אזי ניתן ללמוד DNF מדוגמאות בזמן O(T) משפט 2 : MDNF ניתנת ללמידה מדוגמאות אםם DNF ניתנת ללמידה מדוגמאות M DNF D = ?
23
רעיון ההוכחה:
24
הוכחה: יהי A אלגוריתם לימידה ל - M DNF נגדיר אלגוריתם B צריר להוכיח טענה 1: אם קיים DNF קונסיסטנטי עם S אזי קיים MDNF קונסיסטנטי עם S New טענה 2: אם h(x,y) קונסיסטנטי עם S New אזי h(x,x) קונסיסטנטי עם S זמן
25
דוגמא 6: k -DNF ו- k -CNF k -DNF הוא DNF עם טרמים בגודל לכל היותר k 2 -DNF משפט 1 :אם ניתן ללמוד k-MDNF מדוגמאות בזמן T אזי ניתן ללמוד k-DNF מדוגמאות בזמן O(T) משפט 2 : k-MDNF ניתנת ללמידה מדוגמאות אם"ם k-DNF ניתנת ללמידה מדוגמאות 2 -MDNF Valiant 2 -Term 2 -MTerm
26
אפשר להחליף כל טרם במשתנה יש לכל היותר טרמים אלגוריתם למידה ל - 2-MDNF מדוגמאות
27
זמן לימידת קלוז עם n משתנים זמן לימידת קלוז עם n 2 משתנים זמן לימידת 2-MDNF זמן לימידת k -MDNF זמן לימידת קלוז עם n k משתנים מה גודל ההיפטזה?
28
משפט 1 : ניתן ללמוד k-DNF מדוגמאות בזמן O(mn k ) משפט 2 : ל- k קונסטנטה k-DNF ניתנת ללמידה. בעיה פתוחה : ללמוד k-DNF עבור k=ω(1) כלשהו
29
דוגמא 6: k -term DNF ו- k -clause CNF k -term DNF הוא DNF עם k טרמים 3 -term DNF משפט : מתכונת הדיסטריבוטיביות distributiveהוכחה :
30
משפט 1 : ניתן ללמוד k-term-DNF מדוגמאות בזמן O(mn k ) משפט 2 : ל- k קונסטנטה k-term-DNF ניתנת ללמידה.
Similar presentations
© 2024 SlidePlayer.com. Inc.
All rights reserved.