Ali Karimpour Associate Professor Ferdowsi University of Mashhad ADVANCED CONTROL Ali Karimpour Associate Professor Ferdowsi University of Mashhad <<<1.1>>> ###Control System Design### {{{Control, Design}}} Reference: Chi-Tsong Chen, “Linear System Theory and Design”, 1999.

Basic Idea of Linear Algebra-Part II Lecture 3 Basic Idea of Linear Algebra-Part II Topics to be covered include: Functions of Square Matrix. Lyapunov Equation. Some Useful Formula. Quadratic Form and Positive Definiteness. Singular Value Decomposition. Norm of Matrices

آنچه پس از مطالعه این مبحث می آموزید محاسبه توابع ماتریس مربعی Calculation of Function of Square Matrix چند جمله ای مینیمال و معادله مشخصه Minimal Polynomials and Characteristic Polynomials قضیه کیلی همیلتون Cayley-Hamilton Theorem چند جمله ای های معادل بر روی طیف ماتریس A Equal Polynomials on the Spectrum of A معادله لیاپانوف و حل آن Lyapunov Equation and its Solution ماتریس متقارن و فرم مربعی و ماتریس متعامد Symmetric Matrix and Quadratic Form and Orthogonal Matrix ماتریس مثبت/منفی معین Matrix and PD/ND Matrix <<<1.2>>> تجزیه مقادیر تکین Singular Value Decomposition محاسبه فضای رنج و پوچ از تجزیه مقادیر تکین Null Space and Range Space From SVD نرم ماتریسی Norm of Matrices

Function of Square Matrix چند جمله ای از ماتریس های مربعی ماتریس های بلوکی فرم جردن و در حالت کلی

Function of Square Matrix مثال 3-1: ماتریس A و فرم قطری ماتریس A و تبدیل مربوطه داده شده است. مطلوبست: می دانیم: <<<1.2>>>

Function of Square Matrix چند جمله ای مونیک: چند جمله ای که ضریب بزرگترین درجه آن برابر یک باشد چندجمله ای مونیک نامیده می شود. مثلا چند جمله ای مینیمال: چند جمله ای مونیک با کمترین درجه که ماتریس A آن را برابر ماتریس صفر کند چند جمله ای مینیمال ماتریس A نامیده می شود. چند جمله ای مشخصه: چند جمله ای مشخصه ماتریس A با ابعاد nn عبارتست از:

Function of Square Matrix چند جمله ای مشخصه ماتریس A با ابعاد nn عبارتست از: محاسبه چند جمله ای مینیمال: چند جمله ای مونیک با کمترین درجه که ماتریس A آن را برابر صفر کند چند جمله ای مینیمال ماتریس A نامیده می شود.(با توجه به خاصیت نیل پوتنت) قضیه 3-1 (قضیه کیلی همیلتون): ماتریس A در معادله مشخصه خود صادق است. اثبات:

Function of Square Matrix چند جمله ای مشخصه ماتریس A با ابعاد nn عبارتست از: محاسبه چند جمله ای مینیمال: مثال 3-2: مطلوبست چند جمله ای مشخصه و چند جمله ای مینیمال ماتریسهای زیر

Function of Square Matrix چند جمله ای مشخصه ماتریس A با ابعاد nn عبارتست از: محاسبه چند جمله ای مینیمال: مثال 3-2(ادامه): مطلوبست چند جمله ای مشخصه و چند جمله ای مینیمال ماتریسهای زیر

Function of Square Matrix چند جمله ای مشخصه ماتریس A با ابعاد nn عبارتست از: محاسبه چند جمله ای مینیمال: مثال 3-2(ادامه): مطلوبست چند جمله ای مشخصه و چند جمله ای مینیمال ماتریسهای زیر

Function of Square Matrix چند جمله ای دلخواه f(λ) و ماتریس A با ابعاد nn را در نظر بگیرید. می توانf(λ) را به صورت مقابل بیان نمود. حال برای محاسبه f(A) داریم: حال با توجه به قضیه کیلی همیلتون: نکته: درجه h() ؟ نکته مهم: چند جمله ای h() معادل f(λ) بر روی طیف A نامیده میشود؟ نکته: محاسبه h() ؟

Function of Square Matrix محاسبه h() برای حالتی که ماتریس A دارای مقادیر ویژه غیر تکراری است. با قرار دادن مقادیر ویژه A در رابطه فوق داریم: پس از حل n معادله n مجهول داریم:

Function of Square Matrix محاسبه h() برای حالتی که ماتریس A دارای مقادیر ویژه تکراری است. قضیه 3-2: معادله f(λ) و ماتریس A با ابعاد nn با معادله مشخصه زیر را در نظر بگیرید. چند جمله ای h() از درجه n-1 و معادلf(λ) بر روی طیف A بصورت زیر تعریف میشود. پس از حل n معادله n مجهول زیر ضرایب مجهول h() محاسبه می شود. که در این رابطه: و نهایتا:

Function of Square Matrix حال باید h() را بصورت زیر در نظر بگیریم: <<<1.2>>> حال h() عبارتست از:

Function of Square Matrix مثال 3-4: مطلوبست محاسبه eAt فرض کنید .f(λ)=eλt حال باید مقادیر ویژه A محاسبه شود. حال باید h() را بصورت زیر در نظر بگیریم: <<<1.2>>> حال f(A) عبارتست از:

Function of Square Matrix مثال 3-5: مطلوبست محاسبه eAt فرض کنید .f(λ)=eλt حال باید مقادیر ویژه A محاسبه شود. حال باید h() را بصورت زیر در نظر بگیریم: <<<1.2>>> حال f(A) عبارتست از: مقایسه با مثال قبل!

Function of Square Matrix مثال 3-6: مطلوبست محاسبه فرض کنید .f(λ)=eλt مقادیر ویژه A عبارتست از: حال باید h() را بصورت زیر در نظر بگیریم: <<<1.2>>>

Function of Square Matrix مثال 3-7: مطلوبست محاسبه حال با توجه به مثال قبل داریم: <<<1.2>>>

Function of Square Matrix سری نمایی: با قرار دادن A در رابطه فوق داریم: خواص مهم <<<1.2>>> تمرین 3-1: با کمک رابطه (I) مطلوبست اثبات چهار خاصیت فوق و خاصیت خیلی مهم: ولی در حالت خاص:........

Function of Square Matrix سری نمایی: با قرار دادن A در رابطه فوق داریم: می دانیم: پس: <<<1.2>>> با قدری ساده سازی داریم:

Lyapunov Equation معادله مقابل را در نظر بگیرید. این معادله، معادله لیاپانوف نام دارد و در واقع دارای nm معادله و nm مجهول (درایه های ماتریس M) می باشد. یادآوری: معادله لیاپانوف نیز بصورت زیر قابل نمایش است: حل معادله لیاپانوف:

Lyapunov Equation معادله خطی جبری: اسکالر  مقدار ویژه A نام دارد اگر بردار غیر صفر v یافت شود که معادله لیاپانوف:

Some Useful Formula فرض کنید A و B ماتریسهای مربعی هستند در این صورت فرض کنید C و D ماتریسهای مربعی دلخواه غیر منفرد هستند فرض کنید A ، mn و B ماتریس nm است در این صورت برای اثبات فرض کنید :

Quadratic Form and Orthogonal Matrix ماتریسهای متقارن و فرم مجذوری (مربعی) و ماتریس متعامد (یکانی) تعریف 3-1: یک ماتریس متقارن(symmetric) نامیده می شود اگر ترانهاده آن ماتریس با خودش برابر باشد. یعنی: تعریف 3-2: برای یک ماتریس متقارن M و هر بردار x عبارت xTMx فرم مجذوری (مربعی) نامیده می شود. تعریف 3-3: یک ماتریس متعامد(orthogonal) نامیده می شود اگر تمام ستونهای آن متعامد یکه باشند. در این ماتریسها: 24

Quadratic Form and Positive Definiteness قضیه 3-3: برای هر ماتریس حقیقی متقارن M، یک ماتریس متعامد Q وجود دارد بگونه ای که: ماتریس D، یک ماتریس قطری است که مقادیر ویژه M حقیقی بوده و بر روی قطر D قرار دارد و ستونهای Q هم بردارهای ویژه M می باشد. اثبات: واضح است که ماتریس D، تبدیل همانندی ماتریس M است پس برای اثبات قضیه کافی است نشان دهیم که -مقادیر ویژه M حقیقی است -بردار ویژه توسعه یافته نداریم و -ماتریس Q متعامد است فرض کنید  مقادیر ویژه M است پس حقیقی حقیقی است  تمرین 3-4: نشان دهید برای یک ماتریس مربعی متقارن بردار ویژه توسعه یافته نداریم و ماتریس تبدیل به فرم قطری می تواند متعامد باشد. 25

Quadratic Form and Positive Definiteness ماتریسهای معین تعریف 3-4: یک ماتریس متقارن مثبت معین (positive definite) نامیده می شود (M>0) اگر برای هر داشته باشیم تعریف 3-5: یک ماتریس متقارن منفی معین (negative definite) نامیده می شود (M<0) اگر برای هر داشته باشیم تعریف 3-6: یک ماتریس متقارن مثبت نیمه معین (positive semi definite) نامیده می شود (M≥0) اگر برای هر داشته باشیم تعریف 3-7: یک ماتریس متقارن منفی نیمه معین (negative semi definite) نامیده می شود (M0) اگر برای هر داشته باشیم 26

Quadratic Form and Positive Definiteness شرایط زیر برقرار باشد. 1- تمام مقادیر ویژه ماتریس M، مثبت (مثبت یا صفر) باشد. 2- تمام کهادهای یا ماینورهای اصلی مقدم ماتریس M، مثبت (مثبت یا صفر) باشد. 3- ماتریس غیر منفردN با ابعاد nn وجود داشته باشد که M=NTN (ماتریس غیر منفردN با ابعاد nn و یا ماتریس N با ابعاد mn با m<n وجود داشته باشد که M=NTN) 27

Quadratic Form and Positive Definiteness قضیه 3-5: 1- ماتریس H، با ابعاد mn و فرض m ≥ n دارای رتبه n است اگر و فقط اگر ماتریس HTH که بعد nn دارد دارای رتبه n بوده یا det(HTH)≠0 2- ماتریس H، با ابعاد mn و فرض m  n دارای رتبه m است اگر و فقط اگر ماتریس HHT که بعد mm دارد دارای رتبه m بوده یا det(HHT)≠0 قسمت اول را اثبات می کنیم و قسمت دوم بصورت مشابه اثبات می شود. واضح است که باید در طرف قضیه اثبات شود یعنی نشان دهیم: اثبات: فرض کنیم رتبه H مساوی n نباشد پس بردار غیر صفر v وحود دارد به قسمی که: تناقض فرض کنیم رتبه HTH مساوی n نباشد پس بردار غیر صفر v وحود دارد به قسمی که: تناقض 28

Singular Value Decomposition (SVD) قضیه 3-6: فرض کنید که MClm در اینصورت ماتریس Rlm و ماتریسهای یکانی که YCll و که UCmm وجود دارد به قسمی که: که در رابطه فوق i ها عبارتست از....................... ستونهای ماتریس Y عبارتست از....................... ستونهای ماتریس U عبارتست از.......................

Singular Value Decomposition (SVD) مثال 3-8: مطلوبست تجزیه مقادیر تکین ماتریس مقابل Has no affect on the output or فضای رنج ماتریس M عبارتست از....................... فضای پوچ ماتریس M عبارتست از.......................

Norm of vectors p-norm is: For p=1 we have 1-norm or sum norm For p=2 we have 2-norm or euclidian norm For p=∞ we have ∞-norm or max norm

Norm of matrices نرم برداری را می توان به ماتریسها هم گسترش داد. Sum matrix norm (extension of 1-norm of vectors) is: Frobenius norm (extension of 2-norm of vectors) is: Max element norm (extension of max norm of vectors) is:

Induced matrix norm یک نرم برای ماتریسها نرم ماتریسی نامیده می شود اگر دارای خاصیت زیر باشد: نرم القایی بصورت زیر تعریف می شود: هر نرم القایی نرم ماتریسی است.

Matrix norm for matrices با فرض p=1 در رابطه نرم القایی داریم: Maximum column sum با فرض p= در رابطه نرم القایی داریم: Maximum row sum با فرض p=2 در رابطه نرم القایی داریم:

Exercisesتمرینها تمرین 3-1: با کمک رابطه روابط زیر را اثبات کنید. تمرین 3-3: نشان دهید در یک ماتریس مربعی با مقادیر ویژه مجزا، بردارهای ویژه از هم مستقل هستند. (راهنمایی: اثبات با برهان خلف و تشکیل ) تمرین 3-4: نشان دهید برای یک ماتریس مربعی متقارن بردار ویژه توسعه یافته نداریم و ماتریس تبدیل به فرم قطری می تواند متعامد باشد. (راهنمایی: اثبات با برهان خلف)

Exercisesتمرینها تمرین 3-5: نشان دهید اگر λ مقدار ویژه ماتریس A بوده و x بردار ویژه متناظر آن باشد در اینصورت f(λ) مقدار ویژه ماتریس f(A) بوده و x بردار ویژه متناظر آن است. تمرین 3-6: نشان دهید توابع یک ماتریس خاصیت جابجایی دارد یعنی: f(A)g(A)=g(A)f(A) تمرین 3-7: فرض کنید مطلوبست تعیین B بگونه ای که eB=C . نشان دهید که اگر λi=0 باشد آنگاه B وجود ندارد. حال فرض کنید مطلوبست تعیین B بگونه ای که eB=C . آیا درست است که برای هر C غیر منفرد ماتریس B وجود دارد که eB=C تمرین 3-8: اگرماتریس A متقارن باشد رابطه بین مقادیر ویژه و مقادیر تکین چیست؟ (راهنمایی: در ماتریسهای متقارن داریم: A=A2)

Exercisesتمرینها تمرین 3-9: تمرین 3-10: تمرین 3-11: تکرار 3-9 برای ماتریسهای زیر

Exercisesتمرینها تمرین 3-12: تمرین 3-13: تمرین 3-14: تمرین 3-15: نشان دهید که:

Answers to selected problems پاسخ تمرین 3-7: پاسخ تمرین 3-11: پاسخ تمرین 3-14: