تعامد در جبر خطی – از صفر تا صد

در این آموزش با مفهوم تعامد در جبر خطی و روش بررسی متعامد بودن یا نبودن یک مجموعه بردار آشنا می‌شویم. همچنین، مطالبی را درباره تعامد ماتریس‌ها بیان می‌کنیم.

ترکیب خطی بردارها

عبارت $$c _ 1 \mathbf { v } _ 1 + c _ 2 \mathbf { v } _ 2 + \cdots + c _ k \mathbf { v } _ k$$ یک «ترکیب خطی» (Linear Combination) از بردارهای $$\mathbf{v}_1, \mathbf{v}_2, \dots, \mathbf{v}_k\in \mathbb{ R } ^ n$$ نامیده می‌شود که در آن‌ها $$c_1, c_2, \dots, c_k$$ اسکالرهایی در $$\mathbb{R}$$ هستند.

استقلال خطی بردارها

مجموعه بردارهای $$\{ \mathbf { v } _ 1 , \mathbf { v } _ 2 , \dots , \mathbf { v } _ k \}$$ را «مستقل خطی» (Linearly Independent) می‌گوییم، اگر تنها اسکالرهایی که در $$c _ 1 \mathbf { v } _ 1 + c _ 2 \mathbf { v } _ 2 + \cdots + c _ k \mathbf { v } _ k = \mathbf { 0 }$$ صدق می‌کنند، $$c _ 1 = c _ 2 = \cdots = c _ k = 0$$ باشند. اگر بردارها مستقل خطی نباشند، «وابسته خطی» (Linearly Dependent) هستند.

به طور کلی می‌توان گفت مجموعه بردارهای $$\{ \mathbf { v } _ 1 , \mathbf { v } _ 2 , \dots , \mathbf { v } _ k \}$$ با بعد $$n$$، وابسته خطی هستند، اگر $$k > n$$ باشد (اگر تعداد بردارها بیشتر از بعد آن‌ها باشد، بردارها وابسته خطی خواهند بود).

برای آشنایی بیشتر با مفاهیم ترکیب خطی و استقلال خطی بردارها، به آموزش «استقلال خطی و ترکیب خطی — به زبان ساده (+ دانلود فیلم آموزش رایگان)» مراجعه کنید.

اسپن بردارها

مجموعه همه ترکیب‌های بردارهای $$\{ \overrightarrow { u } _ 1 , \cdots , \overrightarrow { u } _ k \}$$ در $$\mathbb{R}^{n}$$ به عنوان اسپن این بردارها شناخته شده و به صورت $$\mathrm {span} \{ \overrightarrow { u } _ 1 , \cdots , \overrightarrow { u } _ k \}$$ نوشته می‌شود.

برای آشنایی بیشتر با اسپن، پیشنهاد می‌کنیم به آموزش «زیر فضا، اسپن و پایه در فضای برداری | به زبان ساده» مراجعه کنید.

زیرفضا

تعریف (زیرمجموعه): فرض کنید $$U$$ و $$W$$ مجموعه‌هایی از بردارها در فضای $$\mathbb{R}^n$$ باشند. اگر همه بردارهای $$U$$ در $$W$$ نیز باشند، می‌گوییم $$U$$ یک زیرمجموعه از $$W$$ است و آن را به صورت زیر نشان می‌دهیم:

$$\large U \subseteq W$$

در ادامه، مفهوم زیر فضا در $$\mathbb{R}^n$$ را بیان می‌کنیم. قبل از تعریف دقیق این مفهوم، ابتدا آزمون زیر فضا را معرفی می‌کنیم.

قضیه (آزمون زیرفضا): زیرمجموعه $$V$$ از $$\mathbb{R}^n$$ یک زیر فضا از $$\mathbb{R}^n$$ است، اگر:

1. بردار صفر $$\mathbb{R}^n$$، یعنی $$\overrightarrow{0}_n$$، در $$V$$ قرار داشته باشد؛
2. $$V$$ نسبت به جمع بسته باشد، یعنی برای هر $$\overrightarrow{u},\overrightarrow{w}\in V$$، داشته باشیم: $$\overrightarrow{u}+\overrightarrow{w}\in V$$.
3. $$V$$ نسبت به ضرب اسکالر بسته باشد، یعنی برای $$\overrightarrow{u}\in V$$ و $$k\in\mathbb{R}$$، داشته باشیم: $$k\overrightarrow{u}\in V$$.

این آزمون این توانایی را به ما می‌دهد که یک مجموعه زیرفضای $$\mathbb{R}^n$$ را تعیین کنیم. لازم به ذکر است که $$V = \left\{ \overrightarrow{0} \right\}$$ یک زیر فضا از $$\mathbb{R}^n$$ است (زیرفضای صفر)، همان‌طور که خود $$\mathbb{R}^n$$ نیز یک زیر فضا از آن است.

یک زیر فضا که زیرفضای صفر $$\mathbb{R}^n$$ نباشد، «زیرفضای سره» (Proper Subspace) نامیده می‌شود.

به زبان ساده می‌توان گفت که یک زیر فضا مجموعه‌ای از بردارها با این ویژگی است که ترکیب‌های خطی آن‌ها در مجموعه باقی می‌ماند. با تعبیر هندسی، در $$\mathbb{R}^{3}$$ یک زیر فضا را می‌توان با هر مبدئی به عنوان یک نقطه تکی، خط و صفحه نشان داد که شامل مبدأ یا کل فضای $$\mathbb{R}^{3}$$ است. مثال زیر خطی در فضای $$\mathbb{R}^3$$ است.

پایه فضای برداری

تعریف: فرض کنید $$V$$ زیرمجموعه‌ای از $$\mathbb{R}^{n}$$ باشد. آنگاه $$\left\{ \overrightarrow { u } _ { 1 } , \cdots , \overrightarrow { u } _ { k } \right \}$$ یک «پایه» (Basis) برای $$V$$ نامیده می‌شود اگر دو شرط زیر برقرار باشند:

1. $$\mathrm{span}\left\{ \overrightarrow{u}_{1},\cdots ,\overrightarrow{u}_{k}\right\} =V$$
2. $$\left\{ \overrightarrow { u } _ { 1 } , \cdots , \overrightarrow { u } _ { k } \right \}$$ مستقل خطی باشند.

تعریف (پایه استاندارد $$\mathbb{R}^n$$):‌ فرض کنید $$\vec{e}_i$$ برداری در $$\mathbb{R}^n$$ باشد که یک $$1$$ در $$i$$اُمین درایه دارد و سایر درایه‌ها صفر هستند ($$i$$اُمین ستون ماتریس واحد). آنگاه مجموعه $$\left\{\overrightarrow{e}_1, \overrightarrow{e}_2, \cdots, \overrightarrow{e}_n \right\}$$ یک پایه برای $$\mathbb{R}^n$$ است و پایه استاندارد $$\mathbb{R}^n$$ نامیده می‌شود.

قضیه (پایه‌های $$\mathbb{R}^n$$ اندازه یکسانی دارند): فرض کنید $$V$$ یک زیرفضا از $$\mathbb{R}^n$$ با دو پایه $$B_1$$ و $$B_2$$ باشد. فرض کنید $$B_1$$ شامل $$s$$ بردار و $$B_ 2$$ شامل $$r$$ بردار باشد. آنگاه $$s = r$$.

تعریف (بعد یک زیرفضا): فرض کنید $$V$$ یک زیرفضای $$\mathbb{R}^n$$ باشد. «بُعد» (Dimension) $$V$$ را به صورت $$\mathrm{dim}(V)$$ می‌نویسیم و به عنوان تعداد بردارهای یک پایه تعریف می‌کنیم.

بنابراین، می‌توان گفت بعد $$\mathbb{R}^n$$ برابر با $$n$$ است.

تعامد بردارها

فرض کنید $$\{ \overrightarrow{u}_1, \overrightarrow{u}_2, \cdots, \overrightarrow{u}_m \}$$ مجموعه بردارهایی در $$\mathbb{R}^n$$ باشند. این مجموعه بردار را «مجموعه متعامد» (Orthogonal Set) یا دارای تعامد می‌نامیم اگر شرایط زیر برقرار باشد:

1. $$\large \overrightarrow{u}_i \cdot \overrightarrow{u}_j = 0$$ برای هر $$i \neq j$$
2. $$\overrightarrow{u}_i \neq \overrightarrow{0}$$ برای هر $$i$$

اگر یک مجموعه بردار متعامد داشته باشیم و آن‌ها را به گونه‌ای نرمالیزه یا بهنجار کنیم که طول آن‌ها برابر با یک باشد، مجموعه حاصل «مجموعه یکامتعامد» (Orthonormal Set) از بردارها خواهد بود. این مجموعه را به صورت زیر تعریف می‌کنیم.

مجموعه یکا متعامد بردارها

مجموعه بردارهای $$\left\{ \overrightarrow{w}_{1},\cdots ,\overrightarrow{w}_{m}\right\}$$ را مجموعه یکا متعامد می‌گوییم اگر

$$\large \overrightarrow { w } _ i \cdot \overrightarrow {w } _ j = \delta _ { i j } = \left\{ \begin {array} {c} 1 \text { if } i = j \\ 0 \text { if } i \neq j \end {array} \right .$$

لازم به ذکر است که همه مجموعه‌های یکامتعامد، متعامد نیز هستند، اما عکس این گفته لزوماً صحیح نیست؛ زیرا بردارها ممکن است بهنجار نباشند. برای بهنجار کردن بردارها، لازم است هرکدام از آن‌ها را بر طولش تقسیم کنیم.

بهنجار کردن یک مجموعه بردار متعامد

بهنجار کردن یک مجموعه فرایند تبدیل یک مجموعه بردار متعامد (اما غیر یکامتعامد) به یک مجموعه یکامتعامد است. اگر $$\{ \overrightarrow { u } _ 1 , \overrightarrow { u } _ 2 , \ldots , \overrightarrow { u } _ k \}$$ یک زیرمجموعه متعامد از $$\mathbb{R}^n$$ باشد، آنگاه، مجموعه

$$\large \left\{ \frac { 1 } { \| \overrightarrow { u } _ 1 \| } \overrightarrow { u } _ 1 , \frac { 1 } { \| \overrightarrow { u } _ 2 \| } \overrightarrow { u } _ 2 , \ldots , \frac { 1 } { \| \overrightarrow { u } _ k \| } \overrightarrow { u } _ k \right \}$$

یک مجموعه یکامتعامد است.

مثال مجموعه یکامتعامد

مجموعه بردارهای زیر را در نظر بگیرید:

$$\large \left\{ \overrightarrow { u } _ 1 , \overrightarrow { u } _ 2 \right \} = \left \{ \left[ \begin {array} { c } 1 \\ 1 \end {array} \right] , \left[ \begin {array} { r } -1 \\ 1 \end {array} \right] \right\}$$

نشان دهید این بردارها تعامد دارند (متعامد هستند)، اما یکامتعامد نیستند.

حل: به سادگی می‌تون به تساوی $$\overrightarrow { u } _ 1 \cdot \overrightarrow { u } _ 2 = 0$$ رسید و نتیجه گرفت که $$\left\{ \overrightarrow{u}_1, \overrightarrow{u}_2 \right\}$$ یک مجموعه دارای تعامد است. از طرفی، رابطه $$\| \overrightarrow{ u } _ 1 \| = \| \overrightarrow { u } _ 2 \| = \sqrt { 2 } \neq 1$$ را داریم که نشان می‌دهد دو بردار یکامتعامد نیستند.

بنابراین، برای یافتن یک مجموعه یکامتعامد متناظر، باید هر بردار را بهنجار کنیم. بدین منظور، مجموعه بردارهای $$\{ \overrightarrow { w } _ 1, \overrightarrow { w } _ 2 \}$$ را برای مجموعه یکامتعامد متناظر می‌نویسیم. بنابراین، داریم:

$$\large \begin {aligned} \overrightarrow { w } _ 1 & = & \frac { 1 } { \| \overrightarrow { u } _ 1 \| } \overrightarrow { u } _ 1 \\ & = & \frac { 1 } { \sqrt { 2 } } \left [ \begin {array} { c } 1 \\ 1 \end {array} \right ] \\ & = & \left [ \begin {array} { c } \frac { 1 } { \sqrt { 2 } } \\ \frac { 1 } { \sqrt { 2 } } \end {array} \right] \end {aligned}$$

به طور مشابه، داریم:

$$\large \begin {aligned} \overrightarrow { w } _ 2 & = & \frac { 1 } { \| \overrightarrow { u } _ 2 \| } \vec { u } _ 2 \\ & = & \frac { 1 } { \sqrt { 2 } } \left[ \begin {array} { r } - 1 \\ 1 \end {array} \right ] \\ & = & \left [ \begin {array} { r } - \frac { 1 } { \sqrt { 2 } } \\ \frac { 1 } { \sqrt { 2 } } \end {array} \right ] \end {aligned}$$

در نتیجه، مجموعه یکامتعامد به صورت زیر خواهد بود:

$$\large \left \{ \overrightarrow { w } _ 1 , \overrightarrow { w } _ 2 \right \} = \left \{ \left [ \begin {array} { c } \frac { 1 } { \sqrt { 2 } } \\ \frac { 1 } { \sqrt { 2 } } \end {array} \right ] , \left [ \begin {array} { r } - \frac { 1 } { \sqrt { 2 } } \\ \frac { 1 } { \sqrt { 2 } } \end {array} \right] \right \}$$

یکامتعامد بودن این مجموعه را می‌توانید بررسی کنید.

یک مجموعه بردار در $$\mathbb{R}^n$$ را به صورت $$\{ \overrightarrow { w } _ 1, \cdots, \overrightarrow { w } _ k \}$$ با $$k \leq n$$ در نظر بگیرید. اسپن این بردارها یک زیرفضای $$W$$ از $$\mathbb{R}^n$$ است. اگر بتوانیم نشان دهیم که این مجموعه متعامد، مستقل خطی نیز هست، یک پایه از $$W$$ را خواهیم داشت. این موضوع را در قضیه بخش بعدی بیان می‌کنیم.

پایه متعامد یک زیرفضا

فرض کنید $$\{ \overrightarrow { w } _ 1 , \overrightarrow { w } _ 2 , \cdots , \overrightarrow { w } _ k \}$$ یک مجموعه بردار یکامتعامد در $$\mathbb{R}^n$$ باشد. آنگاه، این مجموعه یک مجموعه مستقل خطی است و یک پایه برای زیرفضای $$W = \mathrm {span} \{ \overrightarrow { w } _ 1 , \overrightarrow { w } _ 2 , \cdots , \overrightarrow { w } _ k \}$$ است.

اگر یک مجموعه متعامد پایه‌ای برای یک زیرفضا باشد، آن را یک پایه متعامد می‌نامیم. به طور مشابه، اگر مجموعه دارای تعامد ، یک پایه باشد آن را یک پایه متعامد می‌نامیم.

از آنچه گفتیم، می‌توانیم قضیه‌ای را برای بسط فوریه بیان کنیم. برای هر پایه متعامد $$B$$ از $$\mathbb{R}^n$$ و بردار دلخواه $$\overrightarrow { x } \in \mathbb { R } ^ n$$، چگونه می‌توانیم $$\overrightarrow { x }$$ را به عنوان ترکیبی خطی از بردارهای $$B$$ بنویسیم؟ پاسخ بسط فوریه است.

قضیه بسط فوریه

فرض کنید $$V$$ یک زیرفضا از $$\mathbb{R}^n$$ باشد و $$\{ \overrightarrow{u}_1, \overrightarrow{u}_2, \ldots, \overrightarrow{u}_m \}$$ یک پایه متعامد از $$V$$. آنگاه، برای هر $$\overrightarrow{x}\in V$$، داریم:

$$\large \overrightarrow{x} = \left(\frac{\overrightarrow{x}\cdot \overrightarrow{u}_1}{ \| \overrightarrow{u}_1 \| ^2}\right) \overrightarrow{u}_1 + \left(\frac{\overrightarrow{x}\cdot \overrightarrow{u}_2}{ \| \overrightarrow{u}_2 \| ^2}\right) \overrightarrow{u}_2 + \cdots + \left(\frac{\overrightarrow{x}\cdot \overrightarrow{u}_m}{ \| \overrightarrow{u}_m \| ^2}\right) \overrightarrow{u}_m$$

این بسط، «بسط فوریه» (Fourier Expansion) بردار $$\overrightarrow{x}$$ نامیده می‌شود و $$\frac{\overrightarrow{x}\cdot \overrightarrow{u}_j}{ \| \overrightarrow{u}_j \| ^2}$$ برای $$j=1,2,\ldots,m$$ ضرایب فوریه هستند.

مثال بسط فوریه

بردارهای $$\overrightarrow { u } _ 1 = \left [ \begin {array} { r } 1 \\ - 1 \\ 2 \end {array} \right ]$$، $$\overrightarrow { u } _ 2 = \left [ \begin {array} { r } 0 \\ 2 \\ 1 \end {array} \right ]$$ و $$\overrightarrow { u } _ 3 = \left [ \begin {array} { r } 5 \\ 1 \\ - 2 \end {array} \right ]$$ و $$\overrightarrow { x } = \left [ \begin {array} { r } 1 \\ 1 \\ 1 \end {array} \right]$$ را در نظر بگیرید.

در نتیجه، $$B = \{ \overrightarrow { u } _ 1 , \overrightarrow { u} _ 2 , \overrightarrow { u } _ 3 \}$$ یک پایه دارای تعامد از $$\mathbb{R}^3$$ است.

بسط فوریه $$\overrightarrow { x }$$ را محاسبه کنید، سپس $$\overrightarrow { x }$$ را به عنوان یک ترکیب خطی از بردارهای $$b$$ بنویسید.

حل: از آنجا که $$B$$ یک پایه است، یک راه یکتا برای بیان $$\overrightarrow { x }$$ به عنوان یک ترکیب خطی از بردارهای $$B$$ وجود دارد. علاوه بر این، از آنجا که $$B$$ یک پایه متعامد است، آنگاه می‌توان محاسبه بسط فوریه $$\overrightarrow { x }$$ را نوشت.

$$\large \overrightarrow { x } = \left ( \frac { \overrightarrow { x } \cdot \overrightarrow { u } _ 1 } { \| \overrightarrow { u } _ 1 \| ^ 2 } \right ) \overrightarrow { u } _ 1 + \left ( \frac { \overrightarrow { x } \cdot \overrightarrow { u } _ 2 } { \| \overrightarrow { u } _ 2 \| ^ 2 } \right ) \overrightarrow { u } _ 2 + \left ( \frac { \overrightarrow { x } \cdot \overrightarrow { u } _ 3 } { \| \overrightarrow { u } _ 3 \| ^ 2 } \right ) \overrightarrow { u } _ 3 . \nonumber$$

با توجه به اطلاعات مسئله، داریم:

$$ \large \frac { \overrightarrow { x } \cdot \overrightarrow { u } _ 1 } { \| \overrightarrow { u } _ 1 \| ^ 2 } = \frac { 2 } { 6 } , \; \frac { \overrightarrow { x } \cdot \overrightarrow { u } _ 2 } { \| \overrightarrow { u } _ 2 \| ^ 2 } = \frac { 3 } { 5 } , \mbox { } \frac { \overrightarrow { x } \cdot \overrightarrow { u } _ 3 } { \| \overrightarrow { u } _ 3 \| ^ 2 } = \frac { 4 } { 3 0 } . \nonumber $$

بنابراین، داریم:

$$\large \left [ \begin {array} { r } 1 \\ 1 \\ 1 \end {array} \right ] = \frac { 1 } { 3 } \left [ \begin {array} { r } 1 \\ - 1 \\ 2 \end {array} \right ] +\frac { 3 } { 5 } \left [ \begin {array}{ r } 0 \\ 2 \\ 1 \end {array} \right ] + \frac { 2 }{ 1 5 } \left [ \begin {array} { r } 5 \\ 1 \\ - 2 \end {array} \right ]. \nonumber$$

تعامد ماتریس‌ها

ماتریس $$n \times n$$ و حقیقی $$U$$ یک ماتریس متعامد نامیده می‌شود اگر داشته باشیم:

$$\large UU^{T}=U^{T}U=I.$$

که در آن، $$U ^ T$$ ترانهاده ماتریس $$U$$ است و $$I$$ ماتریس همانی را نشان می‌دهد.

مثال اول تعامد ماتریس‌ها

نشان دهید ماتریس زیر متعامد است:

$$\large U = \left [ \begin {array} { r r } \frac { 1 } { \sqrt { 2 } } & \frac { 1 } { \sqrt { 2 } } \\ \frac { 1 } { \sqrt { 2 } } & - \frac { 1 } { \sqrt { 2 } } \end {array} \right ]$$

حل: آنچه نیاز داریم، این است که شرایط لازم تعریف بالا را تأیید کنیم:

$$\large U U ^ { T } = \left [ \begin {array} { r r } \frac { 1 }{ \sqrt { 2 } } & \frac { 1 } { \sqrt { 2 } } \\ \frac { 1 } { \sqrt { 2 } } & - \frac { 1 } { \sqrt { 2 } } \end {array} \right ] \left [ \begin {array} { r r } \frac { 1 } { \sqrt { 2 } } & \frac { 1 } { \sqrt { 2 } } \\ \frac { 1 } { \sqrt { 2 } } & - \frac { 1 }{ \sqrt { 2 } } \end {array} \right ] = \left [ \begin {array} { c c } 1 & 0 \\ 0 & 1 \end {array} \right ]$$

از آنجا که $$UU^{T} = I$$، ماتریس متعامد است.

مثال دوم تعامد ماتریس‌ها

آیا ماتریس زیر متعامد است:‌

$$\large U = \left [ \begin {array} { r r r } 1 & 0 & 0 \\ 0 & 0 & -1 \\ 0 & -1 & 0 \end {array} \right ] .$$

حل: باید بررسی کنیم که آیا رابطه $$U^TU=I$$ برقرار است یا خیر:

$$\large \begin {aligned} U ^ { T } U & = & \left [ \begin {array} { r r r } 1 & 0 & 0 \\ 0 & 0 & - 1 \\ 0 & - 1 & 0 \end {array} \right ] ^ { T } \left [ \begin {array} { r r r } 1 & 0 & 0 \\ 0 & 0 & - 1 \\ 0 & - 1 & 0 \end {array} \right ] \\ & = & \left [ \begin {array} { r r r } 1 & 0 & 0 \\ 0 & 0 & -1 \\ 0 & -1 & 0 \end {array} \right] \left [ \begin {array} { r r r } 1 & 0 & 0 \\ 0 & 0 & -1 \\ 0 & -1 & 0 \end{array} \right] \\ &=&\left[ \begin {array} { r r r } 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end {array} \right ] \end{aligned}$$

می‌بینیم که تساوی برقرار بوده و ماتریس متعامد است.

وقتی $$U$$ متعامد باشد، یعنی $$U U ^T = I$$؛ داریم:

$$\large \sum _ { j } u _ { i j } u _ { j k } ^ { T } = \sum _ { j } u _ { i j } u _ { k j } = \delta _ { i k }$$

که در آن، $$\delta _{ij}$$ «نماد کرونکر» (Kronecker Symbol) است و به صورت زیر تعریف می‌شود:

$$\large \delta _ { i j } = \left \{ \begin {array} { c } 1 \text { if }i=j \\ 0\text { if } i \neq j \end {array} \right .$$

به عبارت دیگر، اگر داشته باشیم $$i = k$$، ضرب $$i$$اُمین سطر $$U$$ در $$k$$اُمین ستون برابر با ۱ است و اگر داشته باشیم $$i \neq k$$، این حاصل‌ضرب برابر با ۰ است. گفته مشابهی برای ستون‌ها نیز برقرار است، زیرا $$U ^T U = I$$. بنابراین، داریم:

$$\large \sum _ { j } u _ { i j } ^ { T } u _ { j k } = \sum _ { j } u _ {j i } u _ { j k } = \delta _ { i k }$$

که نشان می‌دهد اگر دو ستون مشابه باشند، حاصل‌ضرب یک ستون در ستون دیگر مساوی با ۱ است و اگر دو ستون متفاوت باشند، برابر با ۰ خواهد بود.

به طور خلاصه‌تر، اگر $$\overrightarrow {u_1}$$، ... و $$\overrightarrow {u_n}$$ ستون‌های ماتریس متعامد $$U$$ باشند، آنگاه داریم:

$$\large \overrightarrow { u } _ { i } \cdot \overrightarrow { u } _ { j } = \delta _ { i j } = \left \{ \begin {array} { c } 1 \text { if } i = j \\ 0 \text { if } i \neq j \end {array} \right .$$

می‌گوییم ستون‌ها یک مجموعه بردار متعامد را تشکیل می‌دهند و به طور مشابه، همین گفته‌ها را برای سطر‌ها داریم.

قضیه: سطرهای یک ماتریس متعامد $$n \times n$$ یک پایه متعامد را در $$\mathbb{R}^n$$ تشکیل می‌دهند. علاوه بر این، هر پایه متعامد از $$\mathbb{R}^n$$ را می‌توان برای ساخت یک ماتریس متعامد $$n \times n$$ تشکیل داد.

قضیه: فرض کنید $$U$$ یک ماتریس متعامد باشد. آنگاه $$\det \left ( U \right ) = \pm 1$$.

اثبات: این تساوی از ویژگی‌های دترمینان می‌آید. برای هر ماتریس $$A$$، داریم:

$$\large \det(A^T) = \det(A)$$

حال که $$U$$ یک ماتریس متعامد است، می‌توان نوشت:

$$\large ( \det \left ( U \right ) ) ^ { 2 } = \det \left ( U ^ { T } \right ) \det \left ( U \right ) = \det \left ( U ^ { T } U \right ) = \det \left ( I \right ) = 1$$

بنابراین، $$(\det (U))^2 = 1$$ و در نتیجه، $$\det \left( U\right) = \pm 1$$.

ماتریس‌های متعامد به دو دسته «سره» (Proper) و «ناسره» (Improper)‌ تقسیم می‌شوند. ماتریس‌های متعامد سره آن‌هایی هستند که دترمینان‌شان برابر با ۱ است. ماتریس‌های متعامد ناسره نیز دترمینانی برابر با ۱- دارند. دلیل بیان این تفاوت این است که ماتریس‌های متعامد ناسره گاهی اهمیت فیزیکی ندارند. این ماتریس‌ها باعث تغییر جهت می‌شوند که مربوط به عبور مواد به صورت غیرفیزیکی است. بنابراین با در نظر گرفتن اینکه کدام دستگاه مختصات باید در کاربردهای خاص در نظر گرفته شود، فقط باید مواردی را که با یک تغییر شکل متعامد مرتبط هستند در نظر بگیرید. از نظر هندسی، تبدیلات خطی تعیین شده توسط ماتریس‌های متعامد سره با ترکیب دوران‌ها مطابقت دارند.

این بخش را با بیان دو ویژگی مفید ماتریس‌های دارای تعامد به پایان می‌رسانیم.

قضیه: فرض کنید $$A$$ و $$B$$ ماتریس‌هایی دارای تعامد باشند. آنگاه $$AB$$ و $$A ^ {-1}$$ هر دو وجود دارند و دارای تعامد هستند.

الگوریتم گرام اشمیت

الگوریتم «گرام اشمیت» (Gram-Schmidt) الگوریتمی برای تبدیل مجموعه‌ای از بردارها به یک مجموعه متعامد است که زیرفضای مشابهی را اسپن کرده و مجموعه ترکیب‌های خطی مشابهی را تولید می‌کند.

هدف از الگوریتم گرام اشمیت این است که یک مجموعه بردار مستقل خطی را بگیرد و آن را به یک مجموعه متعامد با همان اسپن تبدیل کند. هدف اول تشکیل یک مجموعه بردار متعامد با همان اسپن است، زیرا از آنجا با تقسیم هر بردار بر طول آن می‌توان یک مجموعه متعامد را به دست آورد.

مراحل الگوریتم گرام اشمیت

مجموعه $$\{ \overrightarrow { u } _ 1 , \cdots , \overrightarrow { u } _ n \}$$ را به عنوان یک مجموعه بردار مستقل خطی در $$\mathbb{R}^{n}$$ در نظر بگیرید.

گام نخست: مجموعه بردارهای جدید $$\{ \overrightarrow { v } _ 1 , \cdots , \overrightarrow { v } _ n \}$$ را به صورت زیر تشکیل می‌دهیم:

$$\large \begin {array} { l l } \overrightarrow { v } _ 1 & = \overrightarrow { u } _ 1 \\ \overrightarrow { v } _ { 2 } & = \overrightarrow { u } _ { 2 } - \left ( \dfrac { \overrightarrow { u } _ 2 \cdot \overrightarrow { v } _ 1 } { \| \overrightarrow { v } _ 1 \| ^ 2 } \right ) \overrightarrow { v } _ 1 \\ \overrightarrow { v } _ { 3 } & = \overrightarrow { u } _ { 3 } - \left ( \dfrac { \overrightarrow { u } _ 3 \cdot \overrightarrow { v } _ 1 } { \| \overrightarrow { v } _ 1 \| ^ 2 } \right ) \overrightarrow { v } _ 1 - \left ( \dfrac { \overrightarrow { u } _ 3 \cdot \overrightarrow { v } _ 2 } { \| \overrightarrow { v } _ 2 \| ^ 2 } \right ) \overrightarrow { v } _ 2 \\ \vdots \\ \overrightarrow { v } _ { n } & = \overrightarrow { u } _ { n } - \left ( \dfrac { \overrightarrow { u } _ n \cdot \overrightarrow { v } _ 1 } { \| \overrightarrow { v } _ 1 \| ^ 2 } \right ) \overrightarrow { v } _ 1 - \left ( \dfrac { \overrightarrow { u } _ n \cdot \overrightarrow { v } _ 2 } { \| \overrightarrow { v } _ 2 \| ^ 2 } \right ) \overrightarrow { v } _ 2 - \cdots - \left ( \dfrac { \overrightarrow { u } _ { n } \cdot \overrightarrow { v } _ { n - 1 } } { \| \overrightarrow { v } _ { n - 1 } \| ^ 2 } \right ) \overrightarrow { v } _ { n - 1 } \\ \end {array}$$

گام دوم:‌ اکنون $$\overrightarrow { w } _ i = \overrightarrow { \vec { v } _ i } { \| \overrightarrow { v } _ i \| }$$ را برای $$i=1, \cdots ,n$$ در نظر بگیرید.

آنگاه:

1. $$\left \{ \overrightarrow { v } _ 1 , \cdots , \overrightarrow { v } _ n \right \}$$ یک مجموعه متعامد است.
2. $$\left \{ \overrightarrow { w } _ 1 , \cdots , \overrightarrow { w } _ n \right \}$$ یک مجموعه یکامتعامد است.
3. $$\mathrm {span} \left\{ \overrightarrow { u } _ 1 , \cdots ,\overrightarrow { u } _ n \right \} = \mathrm {span} \left \{ \overrightarrow { v } _ 1 , \cdots , \overrightarrow { v } _ n \right \} = \mathrm {span} \left \{ \overrightarrow { w } _ 1 , \cdots , \overrightarrow { w } _ n \right \}$$

اثبات: برای نشان دادن اینکه $$\left \{ \overrightarrow { v } _ 1 , \cdots , \overrightarrow { v } _ n \right \}$$ یک مجموعه متعامد است، می‌نویسیم:

$$\large a _ 2 = \dfrac { \overrightarrow { u } _ 2 \cdot \overrightarrow { v } _ 1 } { \| \overrightarrow { v } _ 1 \| ^ 2 }$$

داریم:

$$\large \begin {array} {ll} \overrightarrow { v } _ 1 \cdot \overrightarrow { v } _ 2 & = \overrightarrow { v } _ 1 \cdot \left ( \overrightarrow { u } _ 2 - a _ 2 \overrightarrow { v } _ 1 \right ) \\ & = \overrightarrow { v } _ 1 \cdot \overrightarrow { u } _ 2 - a _ 2 ( \overrightarrow { v } _ 1 \cdot \overrightarrow { v } _ 1 \\ & = \overrightarrow { v } _ 1 \cdot \overrightarrow { u } _ 2 - \dfrac { \overrightarrow { u } _ 2 \cdot \overrightarrow { v } _ 1 } { \| \overrightarrow { v } _ 1 \| ^ 2 } \| \vec { v } _ 1 \| ^ 2 \\ & = ( \overrightarrow { v } _ 1 \cdot \overrightarrow { u } _ 2 ) - ( \overrightarrow { u } _ 2 \cdot \overrightarrow { v } _ 1 ) = 0 \\ \end {array}$$

نشان دادیم که $$\{ \overrightarrow{v}_1, \overrightarrow{v}_2\}$$ متعامد است. با استفاده از روش مشابهی می‌توان نشان داد $$\{ \overrightarrow{v}_1, \overrightarrow{v}_2, \overrightarrow{v}_3\}$$ نیز متعامد است و به همین ترتیب ادامه داد.

به طریق مشابهی نشان می‌دهیم $$\large \mathrm {span} \left\{ \overrightarrow { u } _ 1 , \cdots , \overrightarrow { u } _ n \right \} = \mathrm {span} \left \{ \overrightarrow { v } _ 1 , \cdots , \overrightarrow { v } _ n \right \}$$.

در نهایت، تعریف $$\overrightarrow { w } _ i = \dfrac { \overrightarrow { v } _ i } { \| \overrightarrow { v } _ i \| }$$ برای $$i=1, \cdots ,n$$ بر تعامد تأثیری نمی‌گذارد و بردارهایی به طول ۱ و در نتیجه، یک مجموعه یکامتعامد را نتیجه می‌دهد. همچنین، می‌توان مشاهده کرد که روی اسپن اثر نمی‌گذارد و اثبات کامل می‌شود.

مثال یافتن مجموعه متعامد با اسپن مشابه

مجموعه بردارهای $$\{ \overrightarrow { u } _ 1 , \overrightarrow { u } _ 2 \}$$ را در نظر بگیرید:

$$\large \overrightarrow { u } _ 1 = \left [ \begin {array} { r } 1 \\ 1 \\ 0 \end {array} \right ] , \overrightarrow { u } _ 2 = \left [ \begin {array} { r } 3 \\ 2 \\ 0 \end {array} \right ] \in \mathbb { R } ^ { 3 }$$

از الگوریتم گرام اشمیت برای پیدا کردن مجموعه بردارهای متعامد $$\{ \overrightarrow { w } _ 1 , \overrightarrow { w } _ 2 \}$$ استفاده می‌کنیم که اسپن یکسانی دارند.

حل: قبلاً‌ این نکته را بیان کردیم که مجموعه بردارهای $$\{ \overrightarrow { u } _ 1 , \overrightarrow { u } _ 2 \}$$ مستقل خطی هستند، بنابراین، می‌توانیم الگوریتم گرام اشمیت را بنویسیم:

$$\large \begin {aligned} \overrightarrow { v } _ 1 & = & \overrightarrow { u } _ 1 = \left [ \begin {array} { r } 1 \\ 1 \\ 0 \end {array} \right] \\ & & \\ \overrightarrow { v } _ { 2 } & = & \overrightarrow { u } _ { 2 } - \left ( \dfrac { \overrightarrow { u } _ 2 \cdot \overrightarrow { v } _ 1 } { \| \overrightarrow { v } _ 1 \| ^ 2 } \right ) \overrightarrow { v } _ 1 \\ & & \\ & = & \left[ \begin {array} { r } 3 \\ 2 \\ 0 \end {array} \right ] - \frac { 5 } { 2 } \left [ \begin {array} { r } 1 \\ 1 \\ 0 \end {array} \right ] \\ &&\\ &=& \left[ \begin {array} { r } \frac { 1 } { 2 } \\ - \frac { 1 } { 2 } \\ 0 \end {array} \right ] \end {aligned}$$

اکنون بردارها را بهنجار می‌کنیم:

$$\large \begin {aligned} \overrightarrow {w } _ 1 = \frac { \overrightarrow { v } _ 1 } { \| \overrightarrow { v } _ 1 \| } = \left [ \begin {array} { r } \frac { 1 }{ \sqrt { 2 } } \\ \frac { 1 } { \sqrt { 2 } } \\ 0 \end {array} \right] \\ \overrightarrow { w } _ 2 = \frac { \overrightarrow { v } _ 2 } { \| \overrightarrow { v } _ 2 \| } = \left [ \begin {array} { r } \frac { 1 } { \sqrt { 2 } } \\ - \frac { 1 } { \sqrt { 2 } } \\ 0 \end {array} \right ] \end {aligned}$$

می‌توان تأیید کرد که $$\{\overrightarrow { w } _ 1 , \overrightarrow { w } _ 2 \}$$ یک مجموعه بردار متعامد است که اسپن مشابهی با $$\{\overrightarrow { u } _ 1 , \overrightarrow { u } _ 2 \}$$ دارد که صفحه $$XY$$ است.

در این مثال، از یک مجموعه مستقل خطی شروع می‌کنیم و یک مجموعه بردار یکامتعامد پیدا می‌کنیم که اسپن مشابه داشته باشد. به نظر می‌رسد که اگر با یک پایه از یک زیرفضا شروع کرده و از الگوریتم گرام اشمیت استفاده کنیم، نتیجه یک پایه متعامد از زیرفضای مشابه خواهد بود. در مثال زیر این موضوع را بیان می‌کنیم.

مثال یک پایه متعامد متناظر

بردارهای زیر را در نظر بگیرید:

$$ \large \overrightarrow { x } _ 1 = \left [ \begin {array} { c } 1 \\ 0\\ 1\\ 0 \end {array} \right] , \overrightarrow { x } _ 2 = \left [ \begin {array} { c } 1 \\ 0\\ 1 \\ 1 \end {array} \right ] , \mbox { and } \overrightarrow { x } _ 3 = \left [ \begin {array}{ c } 1 \\ 1 \\ 0 \\ 0 \end {array} \right ] , $$

همچنین $$U = \mathrm {span} \{ \overrightarrow { x } _ 1 , \overrightarrow { x } _ 2 , \overrightarrow { x } _ 3 \}$$ را در نظر بگیرید. با استفاده از الگوریتم گرام اشمیت پایه متعامد $$B$$ از $$U$$ را تشکیل دهید.

حل: ابتدا $$\overrightarrow { f } _ 1 = \overrightarrow { x } _ 1$$ را در نظر می‌گیریم. در ادامه، داریم:‌

$$\large \overrightarrow { f } _ 2 = \left [ \begin {array} { c } 1 \\ 0 \\ 1 \\ 1 \end {array} \right ] -\frac { 2 } { 2 } \left [ \begin {array} { c } 1 \\ 0 \\ 1 \\ 0 \end {array} \right ] = \left [ \begin {array} { c } 0 \\ 0 \\ 0 \\ 1 \end {array} \right ] .$$

و

$$\large \overrightarrow { f } _ 3 = \left [ \begin {array} { c } 1 \\ 1 \\ 0 \\ 0 \end {array} \right ] - \frac { 1 } { 2 } \left [ \begin {array} { c } 1 \\ 0 \\ 1 \\ 0 \end {array} \right ] - \frac { 0 } { 1 } \left [ \begin {array} { c } 0 \\ 0 \\ 0 \\ 1 \end {array} \right ] = \left [ \begin {array} { c } 1 / 2 \\ 1 \\ - 1 / 2 \\ 0 \end {array} \right ] .$$

بنابراین، مجموعه

$$\large \left \{ \left [ \begin {array} { c } 1 \\ 0 \\ 1 \\ 0 \end {array} \right], \left [ \begin {array} { c } 0 \\ 0\\ 0 \\ 1 \end {array} \right], \left [ \begin {array} { c } 1 / 2 \\ 1 \\ - 1 / 2 \\ 0 \end {array} \right] \right \}$$

یک پایه از $$U$$ است. با این حال، گاهی ساده‌تر است که با بردارهایی که ورودی صحیح دارند کار کنیم که در این صورت، داریم:

$$\large B = \left \{ \left [ \begin {array} { c } 1 \\ 0 \\ 1 \\ 0 \end {array} \right ] , \left [ \begin {array} { c } 0 \\ 0 \\ 0 \\ 1 \end {array} \right ] , \left [ \begin {array} { r } 1 \\ 2 \\ - 1 \\ 0 \end {array} \right ] \right \} .$$

تصویر متعامد

فرض کنید $$W$$ یک زیرفضا از $$\mathbb{R}^n$$ باشد و $$Y$$ را هر نقطه‌ای در $$\mathbb{R}^n$$ در نظر بگیرید. آنگاه، تصویر متعامد $$Y$$ به $$W$$ به صورت زیر داده می‌شود:

$$\large \overrightarrow { z } = \mathrm {proj} _ { W } \left ( \overrightarrow { y } \right ) = \left ( \frac { \overrightarrow { y } \cdot \overrightarrow { w } _ 1 } { \| \overrightarrow { w } _ 1 \| ^ 2 } \right ) \overrightarrow { w } _ 1 + \left ( \frac { \overrightarrow { y } \cdot \overrightarrow { w } _ 2 } { \| \overrightarrow { w } _ 2 \| ^ 2 } \right ) \overrightarrow { w } _ 2 + \cdots + \left ( \frac { \overrightarrow { y } \cdot \overrightarrow { w } _ m } { \| \overrightarrow { w } _ m \| ^ 2 } \right ) \overrightarrow { w } _ m$$

که $$\{ \overrightarrow { w } _ 1 , \overrightarrow { w } _ 2 , \cdots , \overrightarrow { w } _ m \}$$ هر پایه متعامد از $$W$$ است.

بنابراین، برای یافتن تصویر متعامد، ابتدا باید یک پایه متعامد برای زیرفضا پیدا کنیم. توجه کنید که می‌توانستیم از یک پایه متعامد استفاده کنیم، اما در این مورد، لزومی به این کار نیست، زیرا همان‌طور که در بالا مشاهده می‌کنید، بهنجار کردن هر بردار در فرمول تصویر گنجانده شده است.

قبل از پرداختن به یک مثال دیگر، نشان می‌دهیم که تصویر متعامد در واقع نقطه $$Z$$ (نقطه‌ای که موقعیت برداری آن بردار $$\overrightarrow {z}$$ است) را نتیجه می‌دهد که نقطه‌ای از $$W$$ است که به $$Y$$ نزدیک‌ترین است.

قضیه تقریب

فرض کنید $$W$$ یک زیرفضا از $$\mathbb{R}^n$$ بوده و $$Y$$ هر نقطه‌ای در $$\mathbb{R}^n$$ باشد. همچنین، فرض کنید $$Z$$ نقطه‌ای باشد که موقعیت برداری آن تصویر متعامد $$Y$$ به $$W$$ باشد. آنگاه، $$Z$$ نقطه‌ای در $$W$$ و نزدیک‌ترین به $$Y$$‌ است.

اثبات: ابتدا می‌دانیم $$Z$$ قطعاً نقطه‌ای در $$W$$ است، زیرا در اسپن یک پایه از $$W$$ قرار دارد.

برای نشان دادن اینکه $$Z$$ نقطه‌ای در $$W$$ نزدیک‌ترین به $$Y$$ است، باید نشان دهیم برای $$\overrightarrow { z } _ 1 \neq \overrightarrow { z } \in W$$ نامساوی $$| \overrightarrow { y } - \overrightarrow { z } _ 1 | > | \overrightarrow { y } - \overrightarrow { z } |$$ برقرار است. با نوشتن $$\overrightarrow { y } - \overrightarrow { z } _ 1 = ( \overrightarrow { y } - \overrightarrow { z } ) + ( \overrightarrow { z } - \overrightarrow { z } _ 1 )$$