تخمين پارامترها - ادامه مدلسازی سيستم های بيو لوژيکی دكتر توحيدخواه جلسه دهم تخمين پارامترها - ادامه

روش تعميم يافته حداقل مربعات GLS

شرط اينكه روش LS بدون باياس باشد: نويز سفيد باشد. اگر نويز رنگي باشد چه‌؟! در این صورت ماتریس سفید کننده Q را طوری تعریف می کنیم تا نویز سفید شود.

GLS: e نويز رنگي است. Q ماتريس سفيد كننده نويز است. ω نويز سفيد است.

GLS (cont): مي توان ثابت كرد كه اگر ماتريس R ماتريس كوروليشن نويز e باشد مي توان ماتريس Q را از رابطه زير بدست آورد:

GLS (cont): بنابراين GLS در واقع يك نوع خاص از روش WLS است كه در آن W=R-1

روش‌هاي تخمين (ياد‌آوري) 1- روش تك تكراري ( Enblock) 2- روش‌هاي تكراري 2-1 روش هاي Iterative ( Offline ) 2-2 روش هاي Recursive ( Online ) در يك آزمايش Iterative ، يك آزمايش را N بار تكرار كرده و از تمامي N داده در هر مرحله استفاده مي شود تا از حدس اوليه به مقدار نهايي برسيم و تفاوت آن با روش بازگشتي (Recursive) اين است كه در روش بازگشتي، با تعدادی داده تخمین می زنیم و در هر مرحله یک داده اضافه می شود و دوباره تخمین دقیق تری می زنیم.

روش Iterative مثال: پيدا كردن ريشه هاي معادله به روش نيوتن-رافسون:

روش Recursive:برای سیستم های متغیر با زمان از این روش استفاده می شود. مثال: محاسبه انتگرال سطح زير منحني SK+1 = SK + T f(Xk) در اين روش دو ويژگي وجود دارد: 1- حجم داده‌هاي مورد استفاده در خلال محاسبات افزايش مي‌يابد. 2- يك سري اعداد (تخمينةاي ميان‌راهي)، حاصل مي‌گردد. - خطاها در زمان انباشته می شوند و درواقع مانند یک انتگرال گیر عمل می کند.

1 - Variance error Model error: 2 - Bias error Same input , different output (Cause: noise) Model error: 2 - Bias error different input , different output (cause: Model Weakness) (noise bias)

خطاي واريانس : این خطا ناشی از نویز است و با افزايش تعداد پارامترها خطاي واريانس زياد مي شود.با افزایش تعداد آزمایشات این خطا کاهش می یابد - خطاي باياس : این خطا می تواند ناشی از نویز بایاس و یا ضعف مدل باشد. با افزايش تعداد پارامترها خطاي باياس كم مي شود.

Variance error: : ماتريس كوواريانس N : تعداد اندازه گيري : واريانس نويز (ميانگين نويز صفر است).

: ماتريس كوواريانس گراديان ( حساسيت) پيش بيني نسبت به

تخمين پارامترهاي

كه به صورت زير نمايش داده مي شود: مي توان نشان داد كه توزيع متغير تصادفي به سمت يك توزيع نرمال با ميانگين و ماتريس كوواريانس ميل مي كند. كه به صورت زير نمايش داده مي شود:

منحني حساسيت و تاثير نمايشي در تخمين پارامترها در سیستم های کنترلی هر چه حساسیت نسبت به پارامترها کمتر باشد بهتر است، اما در شناسایی سیستم هر چه حساسیت سیستم نسبت به پارامترها بیشتر باشد بهتر است. چرا که اگر خروجی با خروجی مطلوب فاصله داشته باشد، با تغییر کوچکی در Ө به خروجی مطلوب می رسیم.

مثال: بررسي پارامتر هاي ARX سيستمي به صورت زير تعريف شده است: y(t) - 0.9y(t-1) = u(t-1) + e(t) The input u is white noise with variance μ , and the noise {e(t)} white with variance λ

با استفاده از مدل ARX داريم: y(t) + ay(t-1) = bu(t-1) + e(t) Predictor :

y(t) - 0.9y(t-1) = u(t-1) + e(t) u(t) نسبت به y(t-1) ، u(t-1) و e(t) مستقل است. با ضرب كردن معادله سيستم در y(t-1) و ميانگين گيري داريم :

y(t) - 0.9y(t-1) = u(t-1) + e(t) همچنين با مربع نمودن رابطه فوق و محاسبه ميانگين معادله سيستم داريم:

نتيجه : كاهش واريانس پارامترهاي تخميني در اثر كاهش واريانس ورودي اگر در تخمين LS ، نويز سفيد باشد؛ بدون باياس بوده و براي ماتريس كوواريانس داريم: تخمين واريانس نويز :

كه براي مقدار V داريم : ماتریس کواریانس از رابطه زیر محاسبه می شود : یک تخمین بدون بایاس از از رابطه زیر محاسبه می­شود :