بردارها و ماتریس‌ها ابزارهای «جبر خطی» (Linear Algebra) هستند. درست به مانند معادلات ریاضی که براساس اعداد حقیقی ساخته شده‌اند و بوسیله جبر و حسابان حل می‌شوند، ابزار حل معادلات ماتریسی و برداری نیز جبر خطی است. یکی از خصوصیاتی جالبی که در جبر خطی به آن پرداخته می‌شود «ماتریس معین مثبت» (Positive Definite) و ویژگی‌های آن است. در این نوشتار به بررسی خصوصیات ماتریس‌ها از دیدگاه «مُعیَن بودن» (Definiteness) می‌پردازیم. برای آشنایی بیشتر با مباحث جبر خطی و ماتریس‌ها بهتر است مطلب ماتریس‌ها — به زبان ساده و بردار ویژه و مقدار ویژه — از صفر تا صد را مطالعه کنید. همچنین خواندن نوشتارهای ترانهاده ماتریس — به زبان ساده و اثر ماتریس (Trace) در جبر خطی — به زبان ساده نیز خالی از لطف نیست.

ماتریس معین مثبت

برای درک مفهوم ماتریس معین مثبت ابتدا بعضی از خصوصیات ماتریس‌ها را مرور می‌کنیم. نخست و در همین راستا ماتریس مربعی و ماتریس متقارن را معرفی می‌کنیم.

در جبر خطی، ماتریس $$M$$ را مربعی گویند اگر تعداد سطرها و ستون‌های آن یکسان باشد. معمولا یک ماتریس مربعی را به صورت $$M_{n\times n}$$ نشان می‌دهند و به این ترتیب مشخص می‌شود که تعداد سطرها و ستون‌های آن برابر با $$n$$‌ است.

اگر عنصر یا درایه‌ قرار گرفته در سطر $$i$$ و ستون $$j$$ام ماتریس $$M$$ را با $$m_{ij}$$‌ نشان دهیم، مشخص است که عناصر قطر اصلی این ماتریس به صورت $$m_{ii}$$ خواهند بود. از طرفی ماتریس مربعی $$M$$ را متقارن می‌گویند اگر عناصر بالا و پایین قطر اصلی آن متناظرا یکسان باشند. به بیان دیگر عناصر یا درایه‌های آن دارای خاصیت زیر باشند.

$$\large m_{ij} = m_{ji}, \;\; i,j = 1 , 2, \ldots , n$$

به این ترتیب مشخص است که اگر $$M$$‌ ماتریس متقارن باشد، حتما با «ترانهاده» (Transpose) خودش برابر است. یعنی رابطه زیر برای ماتریس متقارن $$M$$ برقرار است. توجه داشته باشید که منظور از $$M^T$$‌ ترانهاده ماتریس $$M$$ است.

$$\large M^T=M$$

برای مثال ماتریس $$A$$ که در ادامه معرفی شده است یک ماتریس متقارن است.

$$\large {\displaystyle A={\begin{bmatrix}1&7&3\\7&4&-5\\3&-5&6\end{bmatrix}}}$$

Matrix_symmetry

تعریف ماتریس معین مثبت

حال که با مفاهیم اولیه ماتریس‌ها آشنا شدیم، به معرفی ماتریس معین مثبت می‌پردازیم. ماتریس $$M$$ که متقارن و مربعی $$n \times n$$ است را معین مثبت می‌نامیم اگر برای هر بردار ستونی غیر صفر $$z$$ با $$n$$ سطر، حاصل $$z^TMz$$‌ یک مقدار عددی مثبت باشد. این موضوع را به بیان ریاضی به شکل زیر نشان می‌دهیم.

$$ \large {\displaystyle M{\text{ positive definite}}\quad \iff \quad z^{\textsf {T}}Mz>0{\text{ for all }}z\in \mathbb {R} ^{n}\setminus \mathbf {0} }$$

نکته: منظور از $$z\in \mathbb {R} ^{n}\setminus \mathbf {0} $$ بردارهای غیر صفر در فضای $$n$$ بُعدی است.

همانطور که در رابطه بالا مشاهده می‌کنید، در تعریف ماتریس معین مثبت، از یک بردار دلخواه $$z$$ استفاده شده است که همه عناصر آن صفر نیستند. در نتیجه این بردار دارای یک جهت است. وقتی که ماتریس $$M$$ را در بردار $$z$$ ضرب می‌کنیم، جهت بردار $$z$$ را تغییر داده‌ایم. واضح است که ماتریس $$M$$ روی بردار $$z$$ اثر کرده و با تبدیل صورت گرفته،‌ بردار حاصل یا $$Mz$$ تغییر جهت داده است.

اگر ماتریس $$M$$ معین مثبت باشد، می‌توان نتیجه گرفت که با ضرب این ماتریس در بردار $$z$$ میزان تغییر جهت در بردار حاصل، کمتر از $$\frac{\pi}{2}$$ است. به تصویر زیر دقت کنید. به این ترتیب به نظر می‌رسد جهت بردار عکس نخواهد شد. یعنی زاویه بین بردار $$z$$ و تبدیل یافته آن که با $$Mz$$ نشان داده می‌شود، کمتر از $$\frac{\pi}{2}$$ است. در نتیجه $$cos \theta$$ منفی نخواهد شد. به این ترتیب رابطه $$z^TMz$$ همیشه مثبت است.

$$\large z^TMz=|z|.|Mz|.com \theta>0 $$

در اینجا منظور از $$|z|$$ و $$|Mz|$$ اندازه بردارهای حاصل است.

positive definite matrix

مثال ۱

«ماتریس همانی» (Identity Matrix) با بُعد n یک ماتریس معین مثبت است. در اینجا برای مثال از ماتریس همانی با بُعد $$n=2$$ استفاده می‌کنیم. فرض کنید ماتریس همانی با درجه ۲ را که به صورت $$ {\displaystyle I={\begin{bmatrix}1&0\\0&1\end{bmatrix}}}$$ نوشته می‌شود، در اختیار داریم. باید نشان دهیم این ماتریس معین مثبت است. فرض کنید بردار $$z^T$$ را به صورت $$[a b]$$ باشد. در این صورت محاسبات زیر را برای نشان دادن معین مثبت بودن ماتریس $$I$$ انجام می‌دهیم.

$$ \large {\displaystyle z^{\textsf {T}}Iz={\begin{bmatrix}a&b\end{bmatrix}}{\begin{bmatrix}1&0\\0&1\end{bmatrix}}{\begin{bmatrix}a\\b\end{bmatrix}}=a^{2}+b^{2}}$$

از آنجایی که طرف راست همیشه مثبت است (با فرض اینکه $$a$$ یا $$b$$ مثبت باشند) می‌توان ماتریس همانی را معین مثبت نامید.

مثال ۲

ماتریس مربعی و متقارن $$M$$ را به صورت زیر در نظر بگیرید. باید نشان دهیم که این ماتریس معین مثبت است.

$$ \large {\displaystyle M={\begin{bmatrix}2&-1&0\\-1&2&-1\\0&-1&2\end{bmatrix}}}$$

براساس تعریف ارائه شده، محاسبات زیر را برای بردار $$z$$ که حداقل یک درایه غیر صفر داشته و به صورت $$[a b c ]^T$$ نشان داده می‌شود، انجام می‌دهیم.

$$ \large {\displaystyle {\begin{aligned}z^{\textsf {T}}Mz=\left(z^{\textsf {T}}M\right)z&={\begin{bmatrix}(2a-b)&(-a+2b-c)&(-b+2c)\end{bmatrix}}{\begin{bmatrix}a\\b\\c\end{bmatrix}}\\&=(2a-b)a+(-a+2b-c)b+(-b+2c)c\\&=2a^{2}-ba-ab+2b^{2}-cb-bc+2c^{2}\\&=2a^{2}-2ab+2b^{2}-2bc+2c^{2}\\&=a^{2}+a^{2}-2ab+b^{2}+b^{2}-2bc+c^{2}+c^{2}\\&=a^{2}+(a-b)^{2}+(b-c)^{2}+c^{2}\end{aligned}}}$$

در سطر آخر این تساوی‌ها مشاهده می‌کنید که همه جملات مثبت هستند در نتیجه ماتریس $$M$$ معین مثبت است. اگر $$a=b=c=0$$ باشد، جمله آخر صفر خواهد شد ولی این رابطه بیان می‌کند که بردار $$z$$ یک بردار صفر است که در تعریف ماتریس معین مثبت این شرط برای بردار $$z$$ وجود ندارد.

مثال ۳

اگر $$A$$ یک ماتریس معکوس‌پذیر باشد، آنگاه $$A^TA$$ یک ماتریس معین مثبت است. یعنی داریم:

$$ \large {\displaystyle z^{\textsf {T}}A^{\textsf {T}}Az=(Az)^{\textsf {T}}(Az)=\|Az\|^{2}>0,}$$

طرف راست رابطه بنا به معکوس‌پذیری ماتریس $$A$$ صحیح است زیرا اگر $$A$$ معکوس‌پذیر باشد، برای هر بردار غیر صفر مثل $$z$$ رابطه زیر صادق می‌کند.

$$ ||z|| \neq 0 \rightarrow Iz=(A^{-1}A)z \rightarrow Az \neq 0$$

مثال ۴

مثبت یا منفی بودن درایه‌های ماتریس در معین مثبت بودن آن تاثیر گذار نیست. پس ممکن است ماتریس $$N$$ که همه درایه‌های آن مثبت است، ماتریس معین مثبت نباشد. برای نشان دادن این موضوع از ماتریس زیر که درایه‌های آن همگی مثبت هستند استفاده می‌کنیم.

$$ \large {\displaystyle N={\begin{bmatrix}1&2\\2&1\end{bmatrix}},}$$

این ماتریس معین مثبت نیست، زیرا برای بردار $$z=[-1 1]^T$$ رابطه زیر را خواهیم داشت.

$$ \large {\displaystyle {\begin{bmatrix}-1&1\end{bmatrix}}N{\begin{bmatrix}-1&1\end{bmatrix}}^{\textsf {T}}=-2<0.}$$

به این ترتیب با در نظر گرفتن یک مثال برای بردار $$z$$ و ماتریسی که همه درایه‌های آن مثبت بود نتوانستیم معین مثبت بودن ماتریس $$N$$ را نشان دهیم.

ماتریس نیمه معین مثبت

مطابق با آنچه در مورد ماتریس معین مثبت گفته شد، می‌توان «ماتریس نیمه معین مثبت» (Positive Semi-definite Matrix) را نیز تعریف کرد. به بیان ریاضی ماتریس مربعی و متقارن $$M$$ را نیمه معین مثبت می‌گویند اگر رابطه زیر برای هر بردار غیر صفر $$z$$ برقرار باشد.

$$ \large {\displaystyle M{\text{ positive semi-definite}}\quad \iff \quad z^{\textsf {T}}Mz\geq 0{\text{ for all }}z\in \mathbb {R} ^{n}\setminus \mathbf {0} }$$

نکته: گاهی به ماتریس نیمه معین مثبت، ماتریس «معین نامنفی» (Non-negative Definite) نیز می‌گویند.

ماتریس معین منفی و نیمه معین منفی

برای ماتریس مربعی $$M$$ می‌توان خاصیت «معین منفی» (Negative Definite) و «نیمه معین منفی» (Negative Semi-definite) را نیز مشخص کرد.

ماتریس مربعی و متقارن $$M$$ را ماتریس معین منفی می‌نامیم اگر برای هر بردار غیر صفر $$z$$ رابطه زیر برقرار باشد.

$$ \large {\displaystyle M{\text{ negative definite}}\quad \iff \quad z^{\textsf {T}}Mz<0{\text{ for all }}z\in \mathbb {R} ^{n}\setminus \mathbf {0} }$$

و همچنین ماتریس $$M$$ را نیمه معین منفی می‌نامیم اگر خاصیت زیر برقرار باشد.

$$\large {\displaystyle M{\text{ negative semi-definite}}\quad \iff \quad z^{\textsf {T}}Mz\leq 0{\text{ for all }}z\in \mathbb {R} ^{n}\setminus \mathbf {0} }$$

اگر علاقه‌مند به یادگیری مباحث مشابه مطلب بالا هستید، آموزش‌هایی که در ادامه آمده‌اند نیز به شما پیشنهاد می‌شوند:

^^

بر اساس رای ۴۶ نفر
آیا این مطلب برای شما مفید بود؟
شما قبلا رای داده‌اید!
اگر بازخوردی درباره این مطلب دارید یا پرسشی دارید که بدون پاسخ مانده است، آن را از طریق بخش نظرات مطرح کنید.

«آرمان ری‌بد» دکتری آمار در شاخه آمار ریاضی دارد. از علاقمندی‌های او، یادگیری ماشین، خوشه‌بندی و داده‌کاوی است و در حال حاضر نوشتارهای مربوط به آمار و یادگیری ماشین را در مجله فرادرس تهیه می‌کند.

3 نظر در “ماتریس معین مثبت (Positive Definite Matrix) — به زبان ساده

  • با سلام و احترام و تشکر بابت آموزش بسیار خوبتون
    فقط بر اساس متونی که بنده مطالعه کردم، ماتریس های نیمه مثبت معین لزوماً متقارن نیستند. ولی از میان ماتریس های نیمه مثبت معین، ماتریس هایی که متقارن هستند دارای ویژگی های جالبی هستند که برای علوم داده دارای جذابیت است … به عنوان مثال، تمامی بردارهای ویژه آن دوبه دو متعامد هستند. از جمله این ماتریس ها، ماتریس کواریانس می باشد.

نظر شما چیست؟

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *