فرآیند ارگودیک چیست؟ | مفاهیم اولیه به زبان ساده

در نظریه احتمال، «فرآیندهای تصادفی» (Random Process)، پدیده‌هایی هستند که در طول یا بازه طولانی از زمان، تغییرات تصادفی و شانسی دارند. معمولا برای بیان شانس یا احتمال جابجایی یا تغییرپذیری چنین فرآیندهایی، از «توزیع‌های احتمال» (Probability Distribution) استفاده می‌شود. این فرآیندهای تصادفی، براساس ویژگی‌هایشان طبقه‌بندی می‌شوند. یکی از خصوصیات جالب برای بعضی از فرآیندها، داشتن خاصیت «ارگودیک» (Ergodic) است که در این صورت به آن، فرآیند ارگودیک می‌گویند. در این نوشتار می‌خواهیم بدانیم فرآیند ارگودیک چیست و چه خصوصیاتی دارد.

به منظور آشنایی بیشتر با مفاهیم به کار رفته در این نوشتار پیشنهاد می‌شود، مطالب دیگر از مجله فرادرس با عناوین فرایند تصادفی (Random Process) — مفاهیم اولیه و زنجیره و فرآیند مارکوف و مدل پنهان آن — به زبان ساده را مطالعه کنید. همچنین خواندن نوشتارهایی مانند متغیر تصادفی، تابع احتمال و تابع توزیع احتمال و کوواریانس و نحوه محاسبه آن — به زبان ساده نیز خالی از لطف نیست.

فرآیند ارگودیک چیست؟

در مباحث مربوط به حوزه «اقتصاد سنجی» (Econometrics) و همینطور «پردازش سیگنال» (Signal Processing)، اگر ویژگی‌های آماری فرآیند را بتوان براساس یک نمونه تصادفی، در یک بازه به اندازه کافی طولانی از فرآیند، مشخص کرد، آن را «فرآیند ارگودیک» (Ergodic Process) می‌نامند.

فیلم مجموعه آموزش پردازش سیگنال – از دروس دانشگاهی تا کاربردی در فرادرس

کلیک کنید

ممکن است هر نمونه تصادفی از فرآیندهای تصادفی بیانگر میانگین ویژگی‌های کل آن فرآیند باشد. به بیان دیگر این ویژگی نشان می‌دهد که بدون توجه به همه فرآیند، رفتار آن را به کمک یک نمونه می‌توان مشخص کرد. وجود چنین خاصیتی در فرآیند تصادفی، «ارگودیک بودن» (Ergodicity) را مشخص می‌کند.

طبق تعریف رسمی می‌توان گفت که یک فرآیند تصادفی ارگودیک است، اگر هر مجموعه‌ای از نمونه‌های تصادفی از آن فرآیند، بتواند میانگین ویژگی‌های آماری کل فرآیند را نشان دهد. به عبارت دیگر، صرف نظر از اینکه از کدام نمونه‌های تصادفی استفاده می‌کنیم، با تمرکز فقط روی یک نمونه از فرآیند، قادر به نمایش رفتار کل فرآیند و ویژگی‌هایی آن هستیم. برعکس، فرایند غیر ارگودیک، فرآیندی است که تغییرات آن دارای نرخ نامشخص و نامنظم است و نمونه‌های حاصل از آن نمی‌توانند رفتار کلی فرآیند را مشخص کنند. در انتهای این متن به مثال‌هایی از فرآیندهای ارگودیک و غیر ارگودیک خواهیم پرداخت.

شیوه‌های مختلفی برای بیان خاصیت ارگودیک یک فرآیند وجود دارد که یکی از آن‌ها، «ایستایی گسترده» (Wide-sense Stationary) یا طولانی مدت است. برای مثال فرآیند تصادفی $$X(t)$$ را در نظر بگیرید که دارای میانگین ثابت است.

$$\large {\displaystyle \mu_{X} = E[X(t)] }$$

همچنین «کوواریانس سریالی» (Autocovariance) آن را هم به شکل زیر در نظر بگیرید.

$$\large {\displaystyle r_{X}(\tau ) = E[(X(t) - \mu _{X})(X(t + \tau ) - \mu _{X})] }$$

رابطه‌های بالا نشان می‌دهند که ارتباط بین متغیرها، در طول زمان با فاصله یا وقفه زمانی $$\tau$$ صورت می‌گیرد و به زمان $$t$$ بستگی ندارد.

فرآیند $$X(t)$$ را «ارگودیک در میانگین» (Mean-Ergodic) یا  «مربع میانگین در گشتاور اول» (Means-Square Ergodic in the First Moment) گویند، اگر در زمانی که $$T \to \infty$$ می‌رود، برآورد میانگین زمانی فرآیند که توسط رابطه زیر مشخص شده در «مربع میانگین» (Squared Mean) همگرا به میانگین کلی باشد.

$$\large {\hat {\mu }}_{X} = {\frac {1}{T}} \int _{{0}}^{{T}}X(t) \,dt$$

در مقابل یک فرآیند را «ارگودیک کوواریانس سریالی» (Autocovariance-Ergodic) یا برحسب گشتاور d گویند اگر در زمانی که $$T \to \infty$$ می‌رود، برآورد میانگین، همگرا به میانگین کلی $$r_X(\tau)$$ باشد. برآورد میانگین زمانی را در رابطه زیر مشاهده می‌کنید.

$$\large {\displaystyle {\hat {r}}_{X}(\tau ) = {\frac {1}{T}} \int_{0}^{T} [X (t + \tau ) - \mu_{X}] [X(t) - \mu _{X}] \, dt }$$

نکته: اگر یک فرآیند در میانگین و کوواریانس سریالی، ارگودیک باشد، آن را یک فرآیند «ارگودیک طولانی مدت» (Ergodic in the Wide Sense) می‌گویند.

فرآیندهای تصادفی زمان-گسسته

تا به حال برای متغیر $$t$$ مقادیر پیوسته را در نظر گرفتیم. حال این پارامتر را به صورت گسسته (مقادیر صحیح) فرض می‌کنیم. به این ترتیب از اصطلاح ارگودیک برای «فرآیندهای زمان-گسسته» (Discrete-time Random Process) نیز می‌توان استفاده کرد. واضح است که در این حالت $$X[n]$$ به ازاء مقادیر صحیح $$n$$ یک فرآیند زمان-گسسته محسوب شده است. توجه داشته باشید که رابطه زیر برای چنین فرآیندی برقرار است.

$$\large {\hat {\mu }}_{X} = {\frac {1}{N}} \sum_{{n = 1} }^{{N}} X[n]$$

به یاد داشته باشید که رابطه بالا زمانی که $$N \to \infty$$ باشد، همگرا در مربع میانگین به میانگین کلی $$E[X]$$ است.

مثال‌هایی از فرآیندهای ارگودیک زمان-گسسته

همانطور که قبلا نیز اشاره کردیم، معنی و مفهوم «ارگودیک بودن» (Ergodicity) به معنی آن است که میانگین کلی با میانگین زمان برابر است. مثالهای زیر برای نشان دادن این اصل ارائه شده‌اند.

مرکز تلفن

هر اپراتور در مرکز تماس تلفنی به صورت متناوب عمل صحبت کردن و گوش دادن به تلفن را انجام می‌دهد و همچنین استراحت بین تماس نیز میسر است. هر استراحت و هر تماس دارای طول زمانی متفاوتی هستند. همچنین مدت زمان هر ارتباط (صحبت و گوش دادن) و سرعت انجام ارتباط در هر لحظه معین است که می‌توان هر یک را به عنوان یک فرایند تصادفی مدل‌بندی کرد.

• در این مثال تعداد اپراتورهای مرکز تماس را $$N$$ در نظر بگیرید ($$N$$ باید یک عدد صحیح بسیار بزرگ باشد) و تعداد کلمات گفته شده در هر دقیقه را برای هر اپراتور در طی یک دوره طولانی (چند شیفت کاری) ترسیم کنید. برای هر اپراتور یک سری امتیاز خواهید داشت که می‌توانند برای ایجاد یک «نمودار موجی» (Waveform Plot) به کار روند.
• مقدار میانگین آن نقاط را در شکل موج محاسبه کنید. این کار میانگین زمان را به شما می‌دهد.
• به این ترتیب به تعداد $$N$$ اپراتور ، $$N$$ نمودار موجی خواهید داشت. این نمودارهای موجی به عنوان یک کلیت یا گروه شناخته می‌شوند.
• اکنون یک لحظه یا زمان خاص را در تمام آن نمودارهای موجی مشخص کنید و مقدار میانگین تعداد کلمات گفته شده در آن زمان را پیدا کنید. این محاسبه، میانگین گروه را برای آن لحظه به شما می‌دهد.
• اگر میانگین گروه همیشه برابر با میانگین زمان باشد، سیستم دارای خاصیت ارگودیک است.

مقاومت‌های الکترونیکی

هر مقاومت دارای یک نویز حرارتی است که به درجه حرارت بستگی دارد. به تعداد $$N$$ مقاومت را مورد آزمایش قرار دهید (N باید بسیار بزرگ باشد) و برای مدت طولانی ولتاژ را در بین آن مقاومت‌ها برقرار کنید. نموداری برای ولتاژ خروجی این مقاومت‌ها ترسیم کنید. میزان ولتاژ خروجی نموداری به شکل موج می‌سازد. مقدار میانگین ولتاژ را برای هر یک از مقاومت‌ها محاسبه کنید. این کار میانگین زمان را به شما می‌دهد. از آنجایی که $$N$$‌ قطعه مقاومت موجود است، آن را به عنوان یک گروه خواهیم شناخت. اکنون یک لحظه یا بازه زمان خاص را در تمام آن نمودارها در نظر بگیرید و مقدار متوسط ولتاژ‌ها روی نمودارها را بیابید. این کار، میانگین گروه را برای هر نمودار به شما می‌دهد. اگر میانگین گروه و میانگین زمان یکسان باشد، پس فرآیند تغییرات ولتاژ یک فرآیند ارگودیک است.

مثال‌هایی از فرآیندهای غیر ارگودیک

در ادامه این بخش، به فرآیندهایی تصادفی اشاره می‌کنیم که غیر ارگودیک بوده و خاصیت ارگودیک ندارند.

• «گام برداری تصادفی» (Random Walk) که به شکل نااریب صورت گیرد، غیر ارگودیک است. مقدار مورد انتظار یا امید ریاضی آن در همه زمان‌ها صفر است، در حالی که میانگین زمان آن متغیر تصادفی با واریانس واگرا است.
• فرض کنید دو سکه داریم. یکی از سکه‌ها نااریب بوده و سکه دیگر در هر دو طرف شیر است. ابتدا یکی از سکه‌ها را انتخاب می‌کنیم (به طور تصادفی) و سپس دنباله‌ای از پرتاب‌های مستقل سکه انتخابی را انجام می‌دهیم. فرض کنید $$X [n]$$ نتیجه $$n$$امین پرتاب این سکه باشد که در آن مقدر 1 را برای شیر و 0 را برای خط در نظر گرفته‌ایم. حال میانگین مقدار مشاهده شده (برای مقطع زمان $$n$$) برابر است با $$\frac{1}{2} ( \frac{1}{2} + 1 )$$ که از آن $$\frac{3}{4}$$‌ به عنوان نتیجه جاصل می‌شود. همانطور که واضح است احتمال انتخاب هر یک از سکه‌ها برابر با $$\frac{1}{2}$$ بوده و در احتمال اینکه نتیجه پرتاب شیر باشد ضرب شده است. سکه اول با احتمال $$\frac{1}{2}$$ شیر خواهد بود و سکه دوم نیز با احتمال ۱ نتیجه شیر را به همراه دارد. در حالیکه در صورت انتخاب سکه نااریب، میانگین تعداد شیرها در بلند مدت برابر با $$\frac{1}{2}$$ بوده و برای سکه دیگر برابر با $$1$$ است. در نتیجه میانگین زمان با میانگین گروهی برابر نیست. بنابراین چنین فرآیندی یک فرآیند ارگودیک نخواهد بود.

خلاصه و جمع‌بندی

در این نوشتار با خصوصیات فرآیند ارگودیک و ویژگی‌هایی آن آشنا شدید. همانطور که دیدید، در یک فرآیند ارگودیک، یک نمونه می‌تواند بیانگر خصوصیات کل فرآیند باشد. در این صورت می‌توان اثبات کرد که چنین فرآیندی در طولانی مدت به نقطه آغازین بازگشت و رفتاری ایستا و منظمی خواهد داشت. البته در انتها نیز با ذکر مثال‌هایی، چنین فرآیندهایی را بهتر شناختیم. همچنین در بخش پایانی این متن با فرآیندهای غیر ارگودیک آشنا شدیم و مثال‌هایی از آن‌ها را معرفی کردیم.