نظریه احتمال و کاربردهای آن — به زبان ساده

نظریه احتمال (Probability Theory)، شاخه‌ای از ریاضیات است که به موضوع احتمال و مباحث مرتبط با آن برای توصیف پدیده‌های تصادفی می‌پردازد. با توجه به ارتباط این گونه پدیده‌ها با مدل‌ها و محاسبات ریاضیاتی، نظریه احتمال بخشی یا قسمتی از ریاضیات پیشرفته محسوب می‌شود که تکیه به نظریه اندازه (Measure Theory) داشته و از قضیه‌ها و اصول آن در بسیاری از بخش‌ها، استفاده می‌شود. به همین دلیل در ادامه مباحث مربوط به ریاضیات پیشرفته که با «توپولوژی» (Topology)، فضا (Space) در ریاضیات، «حلقه و میدان» (Ring and Field) آغاز شده، بحث را ادامه داده و به نظریه احتمال رسیده‌ایم.

به منظور آشنایی بیشتر با موضوع این نوشتار بهتر است ابتدا مطالب نظریه اندازه در ریاضیات — مفاهیم و کاربردها و فضای متریک و نامساوی مثلثی — به زبان ساده را مطالعه کنید. همچنین خواندن نوشتارهای آزمایش تصادفی، پیشامد و تابع احتمال و میدان، حلقه و گروه در ریاضی — مفاهیم اولیه نیز خالی از لطف نیست.

نظریه احتمال

بخشی از علم ریاضیات به احتمال و توصیف پدیده‌های تصادفی می‌پردازد. هر چند تفسیر و نحوه محاسبه احتمال با توجه به سلیقه‌های مختلف، به شیوه‌های متفاوتی صورت می‌گیرد ولی همگی آن‌ها در اصولی که در این نوشتار به آن‌ها خواهیم پرداخت، صدق می‌کنند. این اصول امکان استفاده از بستر عمیق و گسترده ریاضیات برای محاسبه احتمال و روشن کردن نتایج «آزمایش‌های تصادفی» (Random Experiments) را فراهم می‌سازند.

فیلم آموزش تئوری احتمالات – جامع و با مفاهیم کلیدی در فرادرس

کلیک کنید

در نظر گرفتن «فضای احتمال» (Probability Space) که در آن یک «تابع مجموعه‌ای» (Set Function) یا اندازه (Measure) که از این بعد به آن «تابع احتمال» (Probability Function) یا «اندازه احتمال» (Probability Measure) می‌گوییم، به هر یک از پیشامدهای مربوط به «فضای نمونه» (Sample Space)، مقداری در بازه ۰ تا ۱ نسبت می‌دهد، از اصول اولیه برای بررسی احتمال و پیشامدهای تصادفی است.

موضوع اصلی در نظریه احتمال، «متغیرهای تصادفی» (Random Variables) از نوع «گسسته» (Discrete) و «پیوسته» (Continuous)، تابع احتمال هر یک از آن‌ها و همچنین فرآیندهای وابسته به چنین متغیرهایی است. ریاضیات در شاخه احتمال، مبنای تصادفی و «غیر قطعی» (Non-deterministic) دارد. برای مثال «معادلات دیفرانسیل تصادفی» (Random Differential Equation)  نیز برمبنای «معادلات دیفرانسیل عادی» (Differential Equation) نوشته شده ولی دارای جمله یا جملاتی است که وابسته به متغیرهای تصادفی هستند.

البته رخداد پدیده‌های تصادفی می‌تواند برحسب زمان نیز تغییر کند و توزیع آن‌ها در هر مقطع از زمان به شکل متفاوتی ظاهر شود. در این حالت بررسی چنین پدیده‌هایی توسط «سری‌های زمانی» (Time Series) صورت گرفته که بخصوص در ریاضیات مالی و بررسی پدیده‌های اجتماعی و همچنین پیش‌بینی آب و هوا، کاربرد فراوانی دارد.

با توجه به ویژگی تصادفی بودن مقادیر متغیرهای تصادفی، نمی‌توان به طور قطع در مورد هر پیشامد نظر داد و رفتار آن را پیش‌بینی کرد ولی می‌توان برای آن یک برآیند یا میانگین رفتار در نظر گرفت. این ویژگی براساس دو قضیه مهم به نام‌های «قانون اعداد بزرگ» (Law of Large Number) و «قضیه حد مرکزی» (Central Limit Theorem) قابل اثبات و بررسی است. این دو قضیه از پایه‌های مهم تحلیل‌های آماری و احتمالی محسوب می‌شوند.

به عنوان پایه ریاضیاتی برای آمار، تئوری و نظریه احتمال نقش مهمی ایفا می‌کند. بخصوص زمانی که لازم است برای بسیاری از فعالیت‌های انسانی یا طبیعی که شامل تجزیه و تحلیل داده‌های کمی است، مدلی تصادفی ارائه شود. روش‌های نظریه احتمال همچنین در توصیف سیستم‌های پیچیده بسیار کارآمد هستند، بخصوص زمانی که اطلاعات کم و ناقصی از نحوه عملکرد آن‌ها در اختیارمان قرار دارد. مکانیک آماری و مکانیک کوانتومی که از علوم جدید قرن بیستم هستند، مثالی از کاربرد نظریه احتمال در بیان توصیف این گونه پدیده‌های تصادفی و عملکرد سیستم‌های پیچیده محسوب می‌شوند.

با توجه به این‌که مبحث احتمال، یکی از دروس ریاضی نهم نیز به شمار می‌آید، برای آشنایی بیشتر با این درس، مطالعه مطالب زیر پیشنهاد می‌شود.

• تدریس فصل اول ریاضی نهم — راهنمای کامل + منابع رایگان
• فرمول های ریاضی نهم در یک نگاه و با مثال

تاریخچه نظریه احتمال

شاید بتوان اولین کاربردهای احتمال را نزد ریاضیدانان ایرانی و عرب در قرن ۸ تا ۱۳ میلادی جستجو کرد. «ابو الخلیل» (Al-Khalil) در قرن هشتم میلادی کتابی به نام «کتاب رمزنگاری پیام‌ها» نوشت که شاید اولین کاربرد ترتیب (Permutation) و ترکیب (Compbination) را در آن مطرح نمود. به این ترتیب او سعی داشت که تمامی حالات ممکن قرار گیری حروف الفبای عربی (که زبان علمی آن زمان محسوب می‌شد) را مشخص و شمارش کند. همچنین «ابو الکیندی» (Al-Kindi) در قرن نهم، مبانی اولیه‌ای برای استنباط آماری را براساس تحلیل فراوانی پایه‌گذاری کرد. ابداعات و فعالیت‌های «ابن ادلان» (Ibn Adlan) در قرن دوازدهم نیز بر «حجم نمونه» (Sample Size) و خصوصیات آن در تجزیه و تحلیل‌هایی براساس استنباط فراوانی، تکیه داشت.

نظریه احتمال مبتنی بر ریاضیات، ریشه در تلاش برای تحلیل بازی‌های شانس دارد که توسط «گرولامو گردوانو» (Gerolamo Cardano) در قرن شانزدهم و همچنین «پیر فرما» (Pier de Fermat) و «بیلز پاسکال» (Blaise Pascal) در قرن هفدهم مورد کاوش قرار گرفت. «کریستیان هویگنس» (Christian Huygens) در سال 1657 میلادی کتابی با موضوع احتمال منتشر کرد و در قرن 19 نیز «پیر لاپلاس» (Pierre Laplace) آنچه را که امروزه به عنوان تفسیر کلاسیک از احتمال می‌شناسیم، به جهان معرفی کرد.

در بدو امر، نظریه احتمال به طور گسترده‌ای مربوط به وقایع و پدیده‌های تصادفی با مقادیر گسسته یا شمارشی بود و روش‌های به کار رفته برای حل معماهای احتمالی برمبنای ترکیب (Combination) و اصول شمارش (Counting Rules) صورت می‌گرفت. ولی به مرور با به کارگیری ریاضیات، روش‌های تحلیلی برای متغیرهای پیوسته نیز مطرح و توسعه داده شد.

جستجو و تعیین اصول کامل برای تعیین توابع احتمال در ریاضیات مدرن، در مبانی و اصول پایه‌گذاری شده توسط «آندری نیکولاویچ کولموگورف» (Andrey Nikolaevich Kolmogorov) در اوایل قرن بیستم به پایان رسید. کولموگروف در سال 1933، مفهوم فضای نمونه را که توسط «ریچارد فون میزز» (Richard von Mises) معرفی شده بود، با نظریه اندازه ترکیب کرد و اصول و قضیه‌های مهمی را برای تئوری و نظریه احتمال ارائه داد.

مبانی نظریه احتمال

آزمایشی را در نظر بگیرید که اجرای تکراری آن می‌تواند نتایج متفاوتی را ایجاد کند. مجموعه تمام نتایج ممکن برای چنین آزمایشی را به عنوان «فضای نمونه» (Sample Space) آزمایش تصادفی می‌شناسیم. «مجموعه توانی» (Power Set) حاصل از فضای نمونه یا معادل آن، «فضای پیشامد» (Event Space) با در نظر گرفتن کلیه مجموعه‌های مختلف از فضای نمونه، شکل می‌گیرد.

فیلم مجموعه آموزش آمار و احتمالات – از دروس دانشگاهی تا کاربردی در فرادرس

کلیک کنید

به عنوان مثال، پرتاب یک تاس (مکعب شش وجهی) را در نظر بگیرید. فضای نمونه که معمولا با $$\Omega$$ نشان داده می‌شود، برای چنین آزمایش تصادفی به صورت زیر است:

$$\large \Omega = \{1,2,3,4,5,6\}$$

هر یک از این پیشامدها که متعلق به فضای نمونه هستند را «پیشامد ساده» (Simple Event) نامیده و با $$\omega$$ نشان می‌دهیم. واضح است که رابطه زیر همیشه برقرار است.

$$\large \omega \in \Omega$$

فضای پیشامد که مجموعه توانی از $$\Omega$$ محسوب می‌شود، برای پرتاب تاس دارای $$2^6= 64$$ عضو دارد. در ادامه بعضی از اعضای مجموعه توانی یا فضای پیشامد که با $$F$$ نشان داده می‌شود، را برای آزمایش تصادفی تاس مشاهده می‌کنید.

$$\large F =\{ \{1\},\{2\},\{3\},\ldots,\{1,2,3,4,5,6\},\{1,3,5\}\}$$

به این ترتیب اگر $$E$$ یک پیشامد باشد، حتما متعلق به $$F$$ خواهد بود. برای مثال پیشامد مشاهده عدد فرد روی تاس به صورت مجموعه زیر در نظر گرفته می‌شود.

$$\large E=\{1,3,5\} \in F$$

با توجه به تعریف مجموعه $$E$$، اگر مشاهده عدد ۳ نتیجه پرتاب تاس باشد، می‌گوییم پیشامد $$E$$ رخ داده است.

احتمال روشی برای نسبت دادن یک عدد در بازه ۰ تا ۱ به هر یک از پیشامدها یا رویدادهای یک آزمایش تصادفی یا اعضای فضای پیشامد است. این شیوه انتساب مقادیر به پیشامد را به نام «تابع احتمال» (Probability Function) یا «توزیع احتمال» (Probability Distribution) می‌شناسیم. چنین تابعی باید در شرایطی به نام «اصول احتمال» (Probability Axiom) صدق کند.

یکی از روش‌ها محاسبه تابع احتمال، براساس تفسیر «فراوانی نسبی» (Relative Frequency) صورت می‌گیرد. به این معنی که برای هر پیشامد، تعداد اعضای آن شمارش شده و به تعداد اعضای فضای نمونه تقسیم می‌شود. به این ترتیب مقدار احتمال برای پیشامد $$E=\{1,3,5\}$$ به صورت زیر محاسبه خواهد شد.

$$\large P(E) = \dfrac{|E|}{|\Omega|} = \dfrac{3}{6} = \dfrac{1}{2}$$

نکته: واضح است که منظور از $$|.|$$ تعداد اعضای مجموعه است.

بر همین اساس مقدار احتمال برای پیشامدهای ساده (مشاهده یک عدد خاص روی تاس) برابر با $$\frac{1}{6}$$ خواهد بود:

$$\large P(\{1\}) = P(\{2\}) = P(\{3\}) = P(\{4\}) = P(\{5\}) = P(\{6\}) = \dfrac{1}{6}$$

هنگام انجام محاسبات با استفاده از فراوانی نسبی نتایج یک آزمایش تصادفی، لازم است که فضای نمونه و تعداد اعضای نتیجه آزمایش قابل شمارش و متناهی باشند.

ولی متاسفانه این کار همیشه میسر نیست. آزمایشی را در نظر بگیرید که در آن بازی شیر یا خط با سکه انجام می‌شود. پرتاب سکه تا زمانی ادامه دارد که اولین شیر مشاهده شود. در این صورت اگر پیشامد شیر را با $$H$$ و خط را با $$T$$ نشان دهیم، فضای نمونه به صورت زیر در خواهد آمد.

$$\large \Omega= \{ H , TH, TTH , \ldots \}$$

در نتیجه به کارگیری فراوانی نسبی برای محاسبه احتمال شکست خواهد خورد و نمی‌توانیم احتمال پیشامد $$E=\{TTTH\}$$ را بر این اساس محاسبه کنیم.

یکی از روش‌های معمول برای محاسبه احتمال این پیشامدها، تبدیل آن‌ها به متغیرهای تصادفی (Random Variable) است. به این ترتیب $$X$$ را به صورت زیر برحسب پیشامدها مشخص می‌کنیم.

$$\large X = \begin{cases}1 & H \text{ is occurred} \\ \large 0 & T \text{ is occurred } \end{cases}$$

در ادامه توزیع احتمال را برحسب اینگونه متغیرهای تصادفی مشخص خواهیم کرد.

توزیع‌های گسسته احتمال

متغیرهای تصادفی گسسته (Discrete Random Variables) در یک فضای «نمونه شمارش‌پذیر» (Countable Sample Space) رخ می‌دهند. برای مثال پرتاب تاس و سکه، قدم زدن‌های تصادفی و انتخاب یک کارت از بین کارت‌های بازی از انواع آزمایش‌های تصادفی با فضای نمونه گسسته (شمارشی) هستند.

فیلم آموزش ریاضیات گسسته – حل تست کنکور کارشناسی ارشد در فرادرس

کلیک کنید

اگر فضای نمونه برای چنین آزمایش‌های تصادفی، شمارش‌پذیر متناهی باشد از تعبیر فراوانی نسبی برای محاسبه احتمال می‌توان استفاده کرد ولی زمانی که $$\Omega$$ نامتناهی ولی شمارش‌پذیر باشد، روش‌های دیگری باید به کار گرفته شوند.

در این حالت تابع احتمال $$f(x)$$ برای هر $$x \in \Omega$$ باید شرایط زیر را داشته باشد:

$$ \large {\displaystyle f(x)\in [0,1]\mbox{ for all }}x\in \Omega \,;\\ \large {\displaystyle \sum _{x\in \Omega }f(x)=1\,.}.$$

به این ترتیب اگر پیشامد $$E$$ شامل چند پیشامد ساده باشد، مقدار احتمال برای این پیشامد به شکل زیر محاسبه خواهد شد.

$$\large P(E)=\sum _{x\in E}f(x),\, \;\;\;\;E \in F$$

این موضوع نشان می‌دهد که مقدار احتمال برای پیشامد $$E = \Omega$$ برابر با ۱ و برای پیشامد تهی ($$\emptyset$$) نیز برابر با صفر خواهد بود.

به کمک چنین تابعی، هر نقطه از فضای نمونه بوسیله احتمال به یک مقدار در بازه ۰ تا ۱ نسبت داده می‌شود.

نکته: در نظریه احتمال، موضوع اصلی وجود چنین تابعی برای پدیده یا آزمایش تصادفی است. شکل تابع احتمال و نحوه محاسبه آن به بخش دیگری از «نظریه آمار» (Statistical Theory) به نام «آمار ریاضی» (Mathematical Statistics) یا «نظریه توزیع‌ها» (Distribution Theory) مرتبط خواهد بود.

تابع توزیع احتمال پیوسته

متغیرهای تصادفی پیوسته، مربوط به پیشامدهایی است که در فضای نمونه پیوسته (Continuous Sample Space) رخ می‌دهند. اگر مجموعه مقادیر یک متغیر تصادفی، متعلق به مجموعه اعداد حقیقی (Real Numbers) یا زیرمجموعه‌ای از آن باشد، می‌توان «تابع توزیع تجمعی» (Cumulative Distribution Function) که به اختصار CDF نامیده می‌شود را برای آن محاسبه کرد. این تابع به صورت زیر تعریف می‌شود.

$$\large  F(x) = P(X \leq x)$$

این تعریف نشان می‌دهد که تابع توزیع تجمعی، مقدار احتمال برای متغیر تصادفی $$X$$ است که مقداری کمتر یا مساوی با $$x$$ داشته باشد.

چنین تابعی باید غیر نزولی و از راست پیوسته (Right-continuous) بوده و در شرایط زیر صدق کند:

$$\large\lim _{x\rightarrow -\infty }F(x)=0\,$$

$$\large \lim _{x\rightarrow \infty }F(x)=1\,$$

اگر تابع $$F$$، مطلقا پیوسته (Absolutely Continuous) باشد، مشتق آن موجود بوده و انتگرال آن همان تابع توزیع تجمعی را نتیجه می‌دهد. به این ترتیب مشتق تابع توزیع تجمعی را «تابع چگالی احتمال» (Probability Density Function) یا به اختصار PDF گفته و با $$f(x)$$ نشان می‌دهند.

$$\large f(x)={\frac {dF(x)}{dx}}\,$$

به این ترتیب برای هر $$E \subseteq R$$ تابع احتمالی برای متغیر تصادفی $$X$$ به شکل زیر خواهد بود.

$$\large P(X\in E)=\int _{x\in E}dF(x)\,$$

با شرط وجود تابع چگالی احتمال، رابطه زیر برقرار است.

$$\large P(X\in E)=\int _{x\in E}f(x)\,dx\,$$

هر چند تابع چگالی احتمال فقط برای متغیرهای تصادفی پیوسته وجود دارد ولی تابع توزیع تجمعی برای همه نوع متغیر تصادفی قابل استفاده است.

نکته: متغیر تصادفی را از حالت تک متغیره می‌توان تعمیم داده و در فضای $$R^n$$ نیز به کار برد. در این صورت توابع احتمال و توزیع احتمال نیز در تحلیل‌های چند متغیره به کار گرفته می‌شوند.

نظریه احتمال برمبنای اندازه

علت وجودی برای به کارگیری نظریه اندازه در توصیف تابع احتمال، یکسان‌سازی تعاریف و محاسبات برای هر دو نوع متغیر تصادفی گسسته و پیوسته است. نظریه احتمال پیشرفته که به تئوری اندازه (Measure Theory) تکیه دارد، قادر به تعیین مدل‌های احتمالی برای متغیرهای تصادفی آمیخته (گسسته و پیوسته) نیز هست.

فیلم آموزش ریاضیات گسسته – جامع و به زبان ساده در فرادرس

کلیک کنید

فرض کنید متغیر تصادفی $$X$$ مقدار ۰ را با احتمال $$1/2$$ و مقداری را براساس توزیع نرمال با احتمال $$1/2$$ می‌گیرد. به این ترتیب می‌توانیم تابع pdf آن را به صورت زیر بنویسیم.

$$\large (\delta[x] + \phi(x))/2$$

که در آن $$\delta[x]$$، تابع دلتای دیراک (Dirac delta Function) است.

استفاده از نظریه اندازه، این قابلیت را دارد که تابع احتمال را برای چنین متغیر تصادفی تعیین کند. حتی براساس نظریه اندازه می‌توانیم متغیرهای تصادفی را در نظر بگیریم که حتی برای تک نقطه‌‌ای‌ها نیز مقدار چگالی احتمال وجود نداشته باشند. برای مثال «توزیع کانتور» (Cantor Distribution)، دارای تابع چگالی نبوده و فقط براساس تابع توزیع تجمعی، محاسبات احتمالی برپایه نظریه اندازه، صورت می‌گیرد.

با مشخص بودن فضای نمونه (یعنی $$\Omega$$) و سیگما میدان (Algebra-$$\sigma$$) حاصل از آن که با $$F$$ مشخص می‌شود، اندازه $$P$$ که روی $$F$$ تعریف شده را اندازه احتمال (Probability Measure) می‌نامیم اگر $$P(\Omega) = 1$$.

شرط آن که این اندازه احتمال یکتا باشد آن است که $$F$$، یک سیگما میدان بورل (Borel Algebra-$$\sigma$$) روی مجموعه اعداد حقیقی باشد و برعکس.

به این ترتیب مقدار احتمال برای پیشامد (یا مجموعه) $$E$$ در این سیگما میدان را به صورت زیر نشان داده و محاسبه می‌کنیم.

$$\large P(E)=\int _{\omega \in E}\mu _{F}(d\omega )\,$$

واضح است که در اینجا $$\mu_F$$ اندازه روی سیگما میدان $$F$$ بوده و $$\omega$$ نیز پیشامدهای ساده هستند.

رویکرد نظریه اندازه در احتمال، در کنار درک بهتر و یکسان‌سازی احتمالات برای متغیرهای تصادفی گسسته و پیوسته، به ما این امکان را هم می‌دهد که روی احتمالات خارج از فضای $$R^n$$ نیز کار کنیم. به این ترتیب نظریه فرآیندهای تصادفی (مثلا مطالعه حرکت براونی) و احتمال در فضای توابع نیز قابل تعریف شده‌اند.

از قضیه‌های مهم در نظریه احتمال با رویکرد نظریه اندازه می‌توان به دو موضوع «قانون اعداد بزرگ» (Law of Large Number) و «قضیه حد مرکزی» (Central Limit theorem) و همچنین «همگرایی متغیرهای تصادفی» (Random Variable Convergence) اشاره کرد که در نوشتارهای دیگر مجله فرادرس به آن‌ها اشاره شده است.

خلاصه و جمع‌بندی

در این نوشتار با مفهوم و اصطلاحات مربوط به تئوری و نظریه احتمال آشنا شده و مبانی آن‌ها را مرور کردیم. همچنین تاریخچه و افرادی که نقش مهمی در کشف قوانین تصادفی داشتند نیز مطرح شد. کاربردهای نظریه احتمال در علوم دیگر مانند مکانیک آماری و مکانیک کوانتومی هم مورد اشاره قرار گرفت. همچنین به اصول و بعضی از قضیه‌های مهم در نظریه احتمال نیز در این متن اشاره داشتیم.