הצגת המקור של הדף "חסם צ'פמן-רובינס"

ב[[תורת האמידה]] וב[[סטטיסטיקה]], '''חסם צ'פמן-רובינס''' (Chapman-Robbins Bound; לעיתים חסם המרסלי-צ'פמן-רובינס) הוא [[חסם (מתמטיקה)|חסם תחתון]] על ה[[שונות]] של [[אומד]]ים של פרמטרים דטרמיניסטיים. חסם זה הוא הכללה של [[חסם קרמר-ראו]], ובהשוואה אליו - הוא הדוק יותר ומתאים למגוון רחב יותר של בעיות. עם זאת, חישובו לרוב מסובך יותר.

החסם נגזר לראשונה ובאופן בלתי-תלוי על ידי [[ג'ון המרסלי]] ב-[[1950]] ועל ידי [[דאגלס צ'פמן]] ו[[הרברט רובינס]] ב-[[1951]]. זהו [[מקרה פרטי]] של [[חסם ברנקין]] (Barankin) המורכב יותר.

== החסם ==
יהי <math>\ \theta</math> פרמטר דטרמיניסטי לא-ידוע, ויהיה <math>\ T(X)</math> [[אומד]] של פונקציה כלשהי של הפרמטר, <math>\ \psi(\theta)</math>. יהי <math>\ p(x;\theta)</math>. הפילוג של <math>\ X</math> (שתלוי ב-<math>\ \theta</math>), ונניח כי הוא מוגדר היטב וחיובי לכל <math>\ x</math> ולכל <math>\ \theta</math>.

אם <math>\ T(X)</math> הוא אומד חסר-הטיה של <math>\ \psi(\theta)</math>, כלומר:
:<math>\ \mathrm{E}\left[T(X)\right]=\psi(\theta) \, \, \forall \theta</math>

אז לפי חסם צ'פמן-רובינס:
:<math>\ Var(T(X)) \ge \sup_h \frac{\left[ \psi(\theta+h) - \psi(\theta) \right]^2}{E \left[ \tfrac{p(x;\theta+h)}{p(x;\theta)} - 1 \right]^2}</math>.

למעשה, אי השוויון (ללא הוצאת הסופרמום) מתקיים לכל <math>\ h</math>, ולכן החסם ההדוק ביותר הוא כאשר הביטוי מקבל את ה[[סופרמום]] שלו לפי <math>\ h</math>. התנאי לקיומו של החסם הוא שה[[תומך (אנליזה)|תומך]] של <math>\ p(x;\theta+h)</math> יהיה מוכל בתומך של <math>\ p(x;\theta)</math>.

== הקשר לחסם קרמר-ראו ==
חסם צ'פמן-רובינס (הביטוי ללא הסופרמום) מתכנס ל[[חסם קרמר-ראו]] כאשר <math>\ h \to 0</math>, בהנחה שהתנאים הרגולריים הדרושים מתקיימים (ראו בערך). מתוך כך, חסם צ'פמן-רובינס הוא תמיד הדוק לכל הפחות כמו קרמר-ראו. יתר על-כן, חסם צ'פמן-רובינס קיים תחת תנאים רגולריים חלשים משמעותית מאלו של חסם קרמר-ראו. כך למשל, להוכחת החסם לא נדרש כי הפילוג <math>\ p(x;\theta)</math> יהיה גזיר. במקרים כאלו, [[האינפורמציה של פישר]] לא מוגדרת, ולכן חסם קרמר-ראו לא קיים.

== הוכחת החסם ==
<math>\ T(X)</math> הוא משערך חסר-הטיה, ולכן מתקיים:
:<math>\ \int T(x)\cdot p(x;\theta) \, dx = \psi(\theta)</math>
:<math>\ \int T(x)\cdot p(x;\theta+h) \, dx = \psi(\theta+h)</math>
[[חיסור]] המשוואות:
:<math>\ \int T(x) \cdot (p(x;\theta+h)-p(x;\theta)) \, dx=\psi(\theta+h)-\psi(\theta)</math>
בנוסף מתקיים:
:<math> \ \int \psi(\theta) \cdot (p(x;\theta+h)-p(x;\theta)) \, dx=\psi(\theta) \cdot \int (p(x;\theta+h)-p(x;\theta)) \, dx=\psi(\theta) \cdot (1-1)=0</math>
נחסיר בין שתי המשוואות האחרונות, לקבלת:
:<math>\ \int (T(x)-\psi(\theta)) \cdot \frac{p(x;\theta+h)-p(x;\theta)}{p(x;\theta)} \cdot p(x;\theta) \, dx=\psi(\theta+h)-\psi(\theta)</math>
כלומר:
:<math>\ \mathrm{E} \left[(T(X)-\psi(\theta)) \cdot (\frac{p(x;\theta+h)}{p(x;\theta)}-1) \right]=\psi(\theta+h)-\psi(\theta)</math>
העלאת המשוואה בריבוע ו[[אי-שוויון קושי-שוורץ]] יניבו:
:<math>\ (\psi(\theta+h)-\psi(\theta))^2 = \mathrm{E} \left[(T(X)-\psi(\theta)) \cdot (\frac{p(x;\theta+h)}{p(x;\theta)}-1) \right] ^2 \le \mathrm{E} \left[(T(X)-\psi(\theta))^2 \right] \cdot \mathrm{E} \left[(\frac{p(x;\theta+h)}{p(x;\theta)}-1)^2\right]</math>
ומכאן:
:<math>\ Var(T(X)) \ge \frac{\left[\psi(\theta+h)-\psi(\theta)\right]^2}{(\tfrac{p(x;\theta+h)}{p(x;\theta)} - 1)^2}</math>
שזהו החסם המבוקש.

== ראו גם ==
* [[חסם קרמר-ראו]]
* [[תורת האמידה]]

== לקריאה נוספת ==
{{Ltr|
* Hammersley, J. M. (1950), "[http://jstor.org/stable/2983981 On estimating restricted parameters]", Journal of the Royal Statistical Society, Series B 12 (2): 192–240.
* Chapman, D. G.; Robbins, H. (1951), "[http://jstor.org/stable/2236927 Minimum variance estimation without regularity assumptions]", Annals of Mathematical Statistics 22 (4): 581–586.
* Lehmann, E. L.; Casella, G. (1998), Theory of Point Estimation (2nd ed.), Springer.
}}

[[קטגוריה:אי-שוויונות בתורת ההסתברות|צ'פמן-רובינס]]