עיבוד סטוכסטי של אותות ורעשים

Stochastic Signal and Noise Processing

תוכן הקורס

דנה פורת 26.6.2006

1. חזרה על הסתברות:

פונקצית הסתברותpmf: probability mass function למשתנים אקראיים בדידים p_x(a).

פונקצית צפיפות הפילוג pdf: probability distribution function למשתנים אקראיים רציפים f_x(a)

פונקצית הפילוג cdf: cumulative distribution function למשתנים משני הסוגים F_x(a)

מעבר בין משתנים אקראיים בדידים ורציפים ולהפך, משתנים אקראיים מעורבים. שימוש בפונקצית דלתא בצפיפות הפילוג.

תוחלת של משתנה אקראי, תוחלת של פונקציה של מ"א.

מומנטים ומומנטים ממורכזים.

שונות (וריאנס), וחישובה מתוך תוחלת ומומנט שני sigma^2=E[x^2]-E[x]^2

פונקציה אפיינית phi_x(s)=E[exp(jxs)]. הקשר בין הפונקציה האפיינית למומנטים.

משתנה אקראי גאוסי

2. זוג משתנים אקראיים:

הגדרת פונקצית הסתברות משותפת, פונקצית צפיפות פילוג משותפת ופונקצית פילוג משותפת. ציור הפונקציות האלה מעל המישור.

חישוב הפונקציות השוליות מתוך המשותפות.

מומנטים משולבים של שני משתנים אקראיים, קורלציה וקווריאנס

מקדם הקורלציה.

אי תלות סטטיסטית ואי תלות לינארית של שני משתנים אקראיים.

מעבר בין זוג משתנים אקראיים לזוג אחר שהוא פונקציה של הראשון, באמצעות היעקוביאן.

פונקצית הסתברות מותנית, צפיפות פילוג מותנית

3. וקטורים אקראיים:

פונקצית הסתברות, פונקצית צפיפות פילוג ופונקצית פילוג משותפות.

מעבר בין פונקציות משותפות לשוליות.

מטריצת קורלציה, מטריצת קווריאנס. שתי המטריצות האלה הן אי שליליות מוגדרות.

מעבר וקטור אקראי דרך מערכת לינארית (הכפלה במטריצה): my=A*mx, Ry=A*Rx*A^T

וקטור אקראי גאוסי.

הלבנה של וקטור אקראי גאוסי באמצעות הכפלה במטריצה.

4. שערוך של משתנה אקראי:

קריטריון מינימום שגיאה ריבועית ממוצעת

משערך אופטימלי: התוחלת המותנית x^optimal=E[x|y]

משערך לינארי אופטימלי x^ linear optimal=cov(x,y)/var(y)*(y-my)+mx

עבור משתנים גאוסיים במשותף, המשערך הלינארי האופטימלי זהה לאופטימלי

עקרון הניצבות: עבור מדידה y ושערוך x, שניהם עם תוחלת אפס

E[measurement y*(x-x^linear optimal)]=0

5. תהליכים אקראיים:

תוחלת, אוטו-קורלציה, אוטו-קווריאנס, קרוס-קורלציה וקרוס-קווריאנס

סטציונריות בזמן בדיד ורציף, סטציונריות במובן הרחב wss: wide sense stationarity, ארגודיות

סטציונריות במשותף וסטציונריות במשותף במובן הרחב

5.1 תהליכים בזמן בדיד:

תהליך IID, תהליך עם הפרשים IID (הילוך שיכור)

תהליך מניה

תהליכים מרקוביים בזמן בדיד

שרשרות מרקוב הומוגניות

מטריצת הסתברויות המעבר

דיאגרמת מעברים

הסתברות של סדרת מצבים

הסתברות המעבר מזמן n לזמן m

פילוג המצב היציב, הקשר בינו לבין מטריצת הסתברויות המעבר

5.2 תהליכים בזמן רציף:

תהליך אקראי גאוסי

רעש לבן

תהליך פואסוני, תוחלת וקווריאנס שלו, הפרש הזמנים בין מאורעות עוקבים מפולג אקספוננציאלית

5.3 מעבר תהליכים אקראיים בזמן רציף דרך מערכות לינאריות:

חישוב (בזמן) של מומנט ראשון ושני של מוצא מערכת לינארית

ספקטרום psd: power spectral density, חישוב הספקטרום של מוצא מערכת לינארית קבועה בזמן, שבכניסתה אות סטציונרי במובן הרחב.

סינון לינארי אופטימלי של סכום תהליכים סטציונריים במשותף במובן הרחב.