הצגת המקור של הדף "חוק המספרים הגדולים"

ב[[תורת ההסתברות]] וב[[סטטיסטיקה]], '''חוק המספרים הגדולים''' הוא שמם המשותף של שני [[משפט (מתמטיקה)|משפטים]] העוסקים בהתנהגות ה[[ממוצע]] ב[[מדגם|מדגמים]] גדולים, הנקראים '''החוק החלש''' ו'''החוק החזק'''. [[משפט הגבול המרכזי]] מספק תיאור מדויק יותר של התנהגות הממוצע, אבל חוקי המספרים הגדולים חלים במקרים כלליים יותר.

== החוק החלש ==
'''החוק החלש של המספרים הגדולים''' קובע כי סדרת הממוצעים [[התכנסות (הסתברות)#התכנסות בהסתברות|מתכנסת בהסתברות]] אל ה[[תוחלת]], כלומר, הסיכוי של הממוצע להיות רחוק מן התוחלת שואף לאפס כאשר גודל המדגם [[שואף לאינסוף]].

===גרסה פרטית===
תהי <math>X_1,X_2,\dots</math> סדרה של [[משתנה מקרי|משתנים מקריים]] [[שונות משותפת|בלתי מתואמים]], בעלי אותה [[תוחלת]] סופית <math>\mu</math> ואותה שונות סופית <math>\sigma^2</math>. נסמן <math>\bar{X}_n=\frac{X_1+\dots+X_n}{n}</math>.

החוק החלש של המספרים הגדולים קובע שלכל <math>\varepsilon>0</math> מתקיים <math>\lim_{n\rightarrow \infty} {P(|\bar{X}_n-\mu|<\varepsilon)}=1</math>.

ניתן להוכיח גרסה זו מ[[אי-שוויון צ'בישב]]:

<math display="inline">[\operatorname{Var}(\bar{x})=\operatorname{Var}(\tfrac{1}{n} \sum_{k=1}^Nx_k)) = \tfrac{1}{n^2} \operatorname{Var}(\sum_{k=1}^Nx_k)) = \tfrac{1}{n^2}\cdot n \sigma^2 = \tfrac{\sigma^2}{n} ] </math>
<center>
<math>P(|\bar { X } _{ n }-\mu |>\varepsilon )\le \frac { { \operatorname{Var} }(\bar { X } _{ n }) }{ \varepsilon ^{ 2 } } =\frac { \sigma ^{ 2 }/n }{ \varepsilon ^{ 2 } } =\frac { \sigma ^{ 2 } }{ n\varepsilon ^{ 2 } } \to 0</math>
</center>

===גרסה מוכללת===
ניתן להחליש את תנאי המשפט – אין צורך להניח כי למשתנים המקריים יש שונות סופית, אם כי במקרה זה לא מספיק להניח שהמשתנים המקריים בלתי מתואמים, אלא צריך להניח אי תלות מלאה, וכן שהם שווי התפלגות. הוכחת גרסה זו מסובכת יותר.

ראשית נוכיח כי יש התכנסות של הממוצע אל התוחלת ב'''התפלגות'''. ידוע כי טענה זו שקולה לכך שיש התכנסות של [[פונקציה אופיינית (הסתברות)|הפונקציה האופיינית]]: <math>\varphi_{\bar{X}_n} \to \varphi_{\mu}</math>. בנוסף, ידוע ש-<math>\varphi_{X_i}(t)=1+i t \mu +o(t), t \to 0</math>, ולכן:
<center>
<math>\varphi_{\bar{X}_n}(t)= E[e^{it \bar{X}_n}]=E[e^{\frac{it}{n}(X_1+\dots+X_n)}]=\prod_{j=1}^{n}{E[e^{\frac{it}{n} X_j}]}=(\varphi_{X_1}(\frac{t}{n}))^n=(1+\frac{it \mu}{n}+o(\frac{t}{n}))^n=e^{n \ln{(1+\frac{it \mu}{n}+o(\frac{t}{n})}} \to e^{i t \mu}</math>
</center>
וזו אכן הפונקציה האופיינית של המ"מ הקבוע <math>\mu</math>.

כעת, ניתן להוכיח את טענת המשפט. מתקיים:
<center>
<math>P(|\bar{X}_n-\mu|>\varepsilon) = P(\bar{X}_n-\mu>\varepsilon) +P(\bar{X}_n-\mu<-\varepsilon) \le P(\bar{X}_n-\mu >\frac{\varepsilon}{2}) +F_{\bar{X}_n}(\mu-\varepsilon) =</math>

<math> =1-P(\bar{X}_n-\mu <\frac{\varepsilon}{2}) +F_{\bar{X}_n}(\mu-\varepsilon) =1-F_{\bar{X}_n}(\mu+\frac{\varepsilon}{2})+F_{\bar{X}_n}(\mu-\varepsilon) </math>
</center>
כעת, לפי החלק הראשון, מתקיים <math>F_{ \bar { X } _{ n } }(x)\to { F }_{ \mu }(x)=\begin{cases} 1\quad \quad x\ge \mu \\ 0\quad \quad x<\mu \end{cases}</math>, ולכן
<center>
<math>P(|\bar{X}_n-\mu|>\varepsilon) \le 1-F_{\bar{X}_n}(\mu+\frac{\varepsilon}{2}) +F_{\bar{X}_n}(\mu-\varepsilon) \to 1-1+0 =0</math>
</center>
כפי שנטען במשפט.

== החוק החזק ==
'''החוק החזק של המספרים הגדולים''' קובע שסדרת הממוצעים [[התכנסות (סטטיסטיקה)|מתכנסת]] [[התכנסות (סטטיסטיקה)#התכנסות כמעט בוודאות|כמעט בוודאות]], ושגבולה הוא ה[[תוחלת]]. מהתכנסות כמעט בוודאות הנובעת מהחוק החזק אפשר להסיק את החוק החלש; מצד שני, ה[[התכנסות (סטטיסטיקה)#התכנסות בהתפלגות|התכנסות בהתפלגות]] של <math>\frac{1}{\sqrt{n}}(X_1+\cdots+X_n)</math> שאותה מבטיח [[משפט הגבול המרכזי]], גוררת התכנסות כמעט בוודאות של הממוצעים.

תהי <math>X_1,X_2,\dots,X_n</math> סדרה של [[משתנה מקרי|משתנים מקריים]] בלתי תלויים בעלי אותה התפלגות, שיש לה [[תוחלת]] <math>\mu</math> סופית ו[[אינטגרל לבג|אינטגרבילית לבג]] (שונות סופית אינה נדרשת).

נסמן <math>\bar{X}_n=(X_1+\dots+X_n)/n</math>. החוק החזק של המספרים הגדולים קובע שב[[כמעט בכל מקום|הסתברות 1]], מתקיים <math>\lim_{n\rightarrow \infty} \bar{X}_n=\mu</math>.

המתמטיקאי [[אנדריי קולמוגורוב]] הראה שהמשפט מתקיים גם אם המשתנים אינם שווי התפלגות, ובלבד שיש להם אותה תוחלת, ושסדרת השונויות מקיימת את '''תנאי קולמוגורוב''': הטור <math>\sum\frac{V(X_n)}{n^2}</math> מתכנס.

==החוק החלש לעומת החוק החזק==
ייתכנו מקרים בהם החוק החזק אינו תקף מכיוון שערך התוחלת של המשתנה המקרי בערך מוחלט אינו סופי - כלומר מתקיים <math>EX^+=EX^-=\infty</math>, ואילו החוק החלש כן תקף. בתורת ההסתברות מנסים למצוא תנאים אחרים או חלשים יותר בהם מתקיימים משפטי גבול שונים.

שני החוקים שונים מהותית ואין חוק שמכליל את שניהם. התנאים עבור כל אחד מהחוקים נותר שונה; החוק החלש חל במקרים יותר כלליים מהחוק החזק.

מתמטיקאים חלוקים בדעתם לגבי האפשרות למצוא חוק אחד שיכליל את שני החוקים, ולגבי חשיבות החוק החלש לעומת החזק{{הערה|[https://books.google.co.il/books?id=-kzPBAAAQBAJ&pg=PA219&lpg=PA219&dq=is+of+very+limited+interest+and+should+be+replaced+by+the+more+precise+and+more+useful+strong+law+of+large+numbers&source=bl&ots=zPzj46pryl&sig=NE4BQwiI359doQ0A6nJtH4jz_GM&hl=iw&sa=X&ei=rPbUVOz2LMz9aPGyguAI&ved=0CB4Q6AEwAA#v=onepage&q=is%20of%20very%20limited%20interest%20and%20should%20be%20replaced%20by%20the%20more%20precise%20and%20more%20useful%20strong%20law%20of%20large%20numbers&f=false ראו גם כאן]}}

להלן מספר דוגמאות בהם תנאי החוק החזק אינם תקפים אך החוק החלש תקף:

# טרנספורמציה של מ"מ <math>X</math> המתפלג [[התפלגות מעריכית|מעריכית]] עם פרמטר 1, בעל התוחלת: <math>E\left(\frac{\sin(x)e^x}{x}\right) =\ \int_{0}^{\infty}\frac{\sin(x)e^x}{x}e^{-x}dx = \frac{\pi}{2}</math>.
# טרנספורמציה של מ"מ בדיד <math>X</math> המתפלג [[התפלגות גאומטרית|גאומטרית]] עם הסתברות 0.5 בעלת התוחלת : <math>E\left(\frac{2^x(-1)^x}{x}\right) =\ \sum_{1}^{\infty}\frac{2^x(-1)^x}{x}2^{-x}=-ln(2)</math>.
# עבור ההתפלגות <math>F(x)=\begin{cases} 1-\frac{e}{2x\ln(x)} & x\ge e\\ \frac{e}{-2x\ln(-x)} & x\le-e \end{cases} </math> (להרחבה ראו גם [https://stat.duke.edu/courses/Fall09/sta205/lec/lln.pdf כאן] {{Webarchive|url=https://web.archive.org/web/20140826222553/https://stat.duke.edu/courses/Fall09/sta205/lec/lln.pdf |date=2014-08-26 }})
==יישומים והכללות==
חוק המספרים הגדולים הוא משפט חשוב בתורת ההסתברות, לו יישומים בתורה עצמה ומחוצה לה.

===בתורת ההסתברות===
חוק המספרים הגדולים בעצם מפרמל את העובדה הפשוטה, שכשממצעים מספיק דגימות, ההתפלגות תהיה בערך כמו התוחלת. עובדה זו משמעותית ב[[סטטיסטיקה]], כי היא אומרת שגם אם לעיתים עלולות להיות שגיאות ב"ניסוי", לאורך זמן הן תהיינה זניחות (באופן מעשי משתמשים ב[[משפט הגבול המרכזי]], שגם מעריך את השגיאה בכל שלב; אבל בשביל האינטואיציה גם חוק המספרים הגדולים מספיק).

===מחוץ להסתברות===
====באנליזה====
בעזרת החוק החלש ניתן לחשב גבולות של אינטגרלים. למשל, נציג דרך לחישוב הגבול <math>L=\lim_{n\to\infty}\int_{0}^{1}\dots\int_{0}^{1}\sin\left(\frac{x_1+\dots+x_n}{n}\right)dx_{1}\dots dx_{n} </math>.

כדי לעשות זאת, ניקח משתנים מקריים בלתי תלויים <math>X_1,\dots,X_n</math> מתפלגים אחיד על <math>[0,1]</math> (עם [[מידת לבג]]). למשתנים אלו תוחלת <math>\frac{1}{2}</math>, ובפרט סופית. כעת, המשתנים <math>x_1,\dots,x_n</math> במרחב האוקלידי הם בלתי תלויים, ולכן האינטגרל הוא <math>E\left[\sin\left(\frac{X_1+\dots X_n}{n}\right)\right]</math>. כעת, לפי חוק המספרים החלש יש התכנסות <math>\frac{X_1+\dots+X_n}{n} \overset{d}{\to} \mu</math>; התכנסות בהתפלגות שקולה ל[[התכנסות (הסתברות)#התכנסות חלשה|התכנסות חלשה]], ולכן מתקיים
<center>
<math>L=E\left[\sin\left(\frac{1}{2}\right)\right]=\sin\left(\frac{1}{2}\right)</math>.
</center>

====ב[[תורת המספרים]]====
{{ערך מורחב|מספר נורמלי}}
בעזרת החוק החזק אפשר להוכיח ש[[כמעט כל (מתמטיקה)|כמעט כל]] המספרים הממשיים הם [[מספר נורמלי|מספרים נורמליים]], כלומר הספרות בפיתוח העשרוני שלהם מופיעות כאילו נבחרו באקראי תחת התפלגות שווה. עם זאת, קשה להצביע על מספרים קונקרטיים המקיימים את התכונה.

==== התורה הארגודית ====
[[תורה ארגודית|התורה הארגודית]] מכלילה את חוק המספרים הגדולים. ביתר פירוט, משפט הארגודיות של בירקהוף מוכיח את החוק החזק של המספרים הגדולים, ומאפשר גם להכליל אותו למקרים רבים נוספים (כגון מקרים מסוימים בהם יש תלות בין משתנים שונים).

==ראו גם==
*[[משפט הגבול המרכזי]]
*[[חוק המספרים הקטנים]]
*[[משפט ברי-אסן]]

==קישורים חיצוניים==
{{ויקישיתוף בשורה}}
* {{MathWorld}}
* {{בריטניקה}}
* {{נסיכת המדעים|160|חוק המספרים הגדולים}}
* {{הטלגרף|Robert Matthews|Not cricket|news/science/science-news/4766733/Not-cricket.html|18 October 2001}}

== הערות שוליים ==
{{הערות שוליים|יישור=ימין}}

{{בקרת זהויות}}

[[קטגוריה:משפטים בתורת ההסתברות]]