חוק המספרים הגדולים

מתוך המכלול, האנציקלופדיה היהודית
קפיצה לניווט קפיצה לחיפוש

בתורת ההסתברות ובסטטיסטיקה, חוק המספרים הגדולים הוא שמם המשותף של שני משפטים העוסקים בהתנהגות הממוצע במדגמים גדולים, הנקראים החוק החלש והחוק החזק. משפט הגבול המרכזי מספק תיאור מדויק יותר של התנהגות הממוצע, אבל חוקי המספרים הגדולים חלים במקרים כלליים יותר.

החוק החלש

החוק החלש של המספרים הגדולים קובע כי סדרת הממוצעים מתכנסת בהסתברות אל התוחלת, כלומר, הסיכוי של הממוצע להיות רחוק מן התוחלת שואף לאפס כאשר גודל המדגם שואף לאינסוף.

גרסה פרטית

תהי הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_1,X_2,\dots} סדרה של משתנים מקריים בלתי מתואמים, בעלי אותה תוחלת סופית הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \mu} ואותה שונות סופית הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \sigma^2} . נסמן הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \bar{X}_n=\frac{X_1+\dots+X_n}{n}} .

החוק החלש של המספרים הגדולים קובע שלכל הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \varepsilon>0} מתקיים הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \lim_{n\rightarrow \infty} {P(|\bar{X}_n-\mu|<\varepsilon)}=1} .

ניתן להוכיח גרסה זו מאי-שוויון צ'בישב:

הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle P(|\bar { X } _{ n }-\mu |>\varepsilon )\le \frac { { Var }(\bar { X } _{ n }) }{ \varepsilon ^{ 2 } } =\frac { \sigma ^{ 2 }/n }{ \varepsilon ^{ 2 } } =\frac { \sigma ^{ 2 } }{ n\varepsilon ^{ 2 } } \to 0}

גרסה מוכללת

ניתן להחליש את תנאי המשפט - אין צורך להניח כי למשתנים המקריים יש שונות סופית אם כי במקרה זה לא מספיק להניח שהמ"מ בלתי מתואמים וצריך להניח אי תלות מלאה. הוכחת גרסה זו מסובכת יותר.

ראשית נוכיח כי יש התכנסות של הממוצע אל התוחלת בהתפלגות. ידוע כי טענה זו שקולה לכך שיש התכנסות של הפונקציה האופיינית: הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \varphi_{\bar{X}_n} \to \varphi_{\mu}} . בנוסף, ידוע ש-הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \varphi_{X_i}(t)=1+i t \mu +o(t), t \to 0} , ולכן:

הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \varphi_{\bar{X}_n}(t)= E[e^{it \bar{X}_n}]=E[e^{\frac{it}{n}(X_1+\dots+X_n)}]=\prod_{j=1}^{n}{E[e^{\frac{it}{n} X_j}]}=(\varphi_{X_1}(t))^n=(1+\frac{it \mu}{n}+o(\frac{t}{n}))^n=e^{n \ln{(1+\frac{it \mu}{n}+o(\frac{t}{n})}}) \to e^{i t \mu}}

וזו אכן הפונקציה האופיינית של המ"מ הקבוע הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \mu} .

כעת, ניתן להוכיח את טענת המשפט. מתקיים:

הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle P(|\bar{X}_n-\mu|>\varepsilon) = P(\bar{X}_n-\mu>\varepsilon) +P(\bar{X}_n-\mu<-\varepsilon) \le P(\bar{X}_n-\mu >\frac{\varepsilon}{2}) +F_{\bar{X}_n}(\mu-\varepsilon) =}

הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle =1-P(\bar{X}_n-\mu <\frac{\varepsilon}{2}) +F_{\bar{X}_n}(\mu-\varepsilon) =1-F_{\bar{X}_n}(\mu+\frac{\varepsilon}{2})+F_{\bar{X}_n}(\mu-\varepsilon) }

כעת, לפי החלק הראשון, מתקיים הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle F_{ \bar { X } _{ n } }(x)\to { F }_{ \mu }(x)=\begin{cases} 1\quad \quad x\ge \mu \\ 0\quad \quad x<\mu \end{cases}} , ולכן

הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle P(|\bar{X}_n-\mu|>\varepsilon) \le 1-F_{\bar{X}_n}(\mu+\frac{\varepsilon}{2}) +F_{\bar{X}_n}(\mu-\varepsilon) \to 1-1+0 =0}

מש"ל

החוק החזק

החוק החזק של המספרים הגדולים קובע שסדרת הממוצעים מתכנסת כמעט בוודאות, ושגבולה הוא התוחלת. מהתכנסות כמעט בוודאות הנובעת מהחוק החזק אפשר להסיק את החוק החלש; מצד שני, ההתכנסות בהתפלגות של הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \frac{1}{\sqrt{n}}(X_1+\cdots+X_n)} שאותה מבטיח משפט הגבול המרכזי, גוררת התכנסות כמעט בוודאות של הממוצעים.

תהי הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_1,X_2,\dots,X_n} סדרה של משתנים מקריים בלתי תלויים בעלי אותה התפלגות, שיש לה תוחלת הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \mu} סופית ואינטגרבילית לבג (שונות סופית אינה נדרשת).

נסמן הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \bar{X}_n=(X_1+\dots+X_n)/n} . החוק החזק של המספרים הגדולים קובע שבהסתברות 1, מתקיים הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \lim_{n\rightarrow \infty} \bar{X}_n=\mu} .

המתמטיקאי אנדריי קולמוגורוב הראה שהמשפט מתקיים גם אם המשתנים אינם שווי התפלגות, ובלבד שיש להם אותה תוחלת, ושסדרת השונויות מקיימת את תנאי קולמוגורוב: הטור הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \sum\frac{V(X_n)}{n^2}} מתכנס.

החוק החלש לעומת החוק החזק

ייתכנו מקרים בהם החוק החזק אינו תקף מכיוון שערך התוחלת של המשתנה המקרי בערך מוחלט אינו סופי - כלומר מתקיים הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle EX^+=EX^-=\infty} , ואילו החוק החלש כן תקף. בתורת ההסתברות מנסים למצוא תנאים אחרים או חלשים יותר בהם מתקיימים משפטי גבול שונים.

שני החוקים שונים מהותית ואין חוק שמכליל את שניהם. התנאים עבור כל אחד מהחוקים נותר שונה; החוק החלש חל במקרים יותר כלליים מהחוק החזק.

מתמטיקאים חלוקים בדעתם לגביי אפשרות זו[1]

מקרה אחד כזה הוא המקרה של משתנים אקראיים מתחלפים (exchangeable random variables), הנותן תנאי הכרחי ומספיק להתכנסות ומכליל את החוק החלש, ובו החוק החזק איננו תקף[2].

להלן מספר דוגמאות:

  1. טרנספורמציה של מ"מ הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle X} המתפלג מעריכית עם פרמטר 1, בעל התוחלת: הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle E\left(\frac{sin(x)e^x}{x}\right) =\ \int_{0}^{\infty}\frac{sin(x)e^x}{x}e^{-x}dx = \frac{\pi}{2}} .
  2. טרנספורמציה של מ"מ בדיד הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle X} המתפלג גאומטרית עם הסתברות 0.5 בעלת התוחלת : הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle E\left(\frac{2^x(-1)^x}{x}\right) =\ \sum_{1}^{\infty}\frac{2^x(-1)^x}{x}2^{-x}=-ln(2)} .
  3. עבור ההתפלגות הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle F(x)=\begin{cases} 1-\frac{e}{2x\ln(x)} & x\ge e\\ \frac{e}{-2x\ln(-x)} & x\le-e \end{cases} } (להרחבה ראו גם כאן)

יישומים

חוק המספרים הוא משפט חשוב בתורת המספרים, לו יישומים בתורה עצמה ומחוצה שלה.

בתורת ההסתברות

ראשית, בעזרת החוק החלש מוכיחים את החוק החזק.

מחוץ להסתברות

באנליזה

בעזרת החוק החלש ניתן לחשב גבולות של אינטגרלים. למשל, נציג דרך לחישוב הגבול הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle L=\lim_{n\to\infty}\int_{0}^{1}\dots\int_{0}^{1}\sin\left(\frac{x_1+\dots+x_n}{n}\right)dx_{1}\dots dx_{n} } .

כדי לעשות זאת, ניקח משתנים מקריים בלתי תלויים הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle X_1,\dots,X_n} מתפלגים אחיד על הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle [0,1]} (עם מידת לבג). למשתנים אלו תוחלת הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \frac{1}{2}} , ובפרט סופית. כעת, המשתנים הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle x_1,\dots,x_n} במרחב האוקלידי הם בלתי תלויים, ולכן האינטגרל הוא הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle E\left[\sin\left(\frac{X_1+\dots X_n}{n}\right)\right]} . כעת, לפי חוק המספרים החלש יש התכנסות הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \frac{X_1+\dots+X_n}{n} \overset{d}{\to} \mu} ; התכנסות בהתפלגות שקולה להתכנסות חלשה, ולכן מתקיים

הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle L=E\left[\sin\left(\frac{1}{2}\right)\right]=\sin\left(\frac{1}{2}\right)} .

בתורת המספרים

ערך מורחב – מספר נורמלי

בעזרת החוק החזק אפשר להוכיח שכמעט כל המספרים הממשיים הם מספרים נורמליים, כלומר הספרות בפיתוח העשרוני שלהם מופיעות כאילו נבחרו באקראי תחת התפלגות שווה. עם זאת, קשה להצביע על מספרים קונקרטיים המקיימים את התכונה.

ראו גם


קישורים חיצוניים

הערך באדיבות ויקיפדיה העברית, קרדיט,
רשימת התורמים
רישיון cc-by-sa 3.0


הערות שוליים

חוק_המספרים_הגדולים21615308Q207952