שונות

בתורת ההסתברות וסטטיסטיקה, שונות (Variance) היא מדד לפיזור ערכים באוכלוסייה הנתונה ביחס לתוחלת שלה. באופן אינטואיטיבי, השונות היא גודל חיובי התלוי במרחק הממוצע של כל ערך מממוצע כל הערכים. ערך שונות גבוה מעיד על פיזור רחב של המשתנים, ערך נמוך מעיד על פיזור צר. שונות השווה זהותית לאפס משמעה שכל ערכי האוכלוסייה זהים ומרוכזים בנקודה אחת. השונות היא מדד למרחק ולכן תקבל תמיד ערך חיובי. יחידות השונות הן ריבוע יחידות האוכלוסייה דבר המקשה על השוואת גדלים, לכן הוצג המושג סטיית תקן השווה לשורש השונות ומציג את הפיזור הממוצע ביחידות המקוריות. השונות מוגדרת עבור משתנה רציף ועבור משתנה בדיד, וניתן לחשב אותה באופן תאורטי מפונקציית ההסתברות או לחשב אותה ביחס לאוכלוסייה או למדגם נתונים. מושג זה הוצג לראשונה על ידי רונלד פישר בשנת 1918.

הגדרה

השונות של המשתנה המקרי $X$, בדיד או רציף, מוגדרת כתוחלת של ריבוע המרחק מן המשתנה לתוחלת שלו: $\mathrm{var}(X)=\mathbb{𝔼}((X-\mu {)}^2)=\mathbb{𝔼}(X^2)-{\mu }^2$, כאשר $\mu =\mathbb{𝔼}(X)$ היא התוחלת של המשתנה. כל זאת בתנאי שהאינטגרלים או הסכומים המעורבים בחישוב מתכנסים; יש התפלגויות (כגון התפלגות קושי) שהתוחלת שלהן אינה מוגדרת; וכאלה שהתוחלת שלהן מוגדרת, אבל השונות אינה מוגדרת.

השונות שווה לשונות המשותפת של המשתנה עם עצמו: $\mathrm{Var}(X)=\mathrm{Cov}(X,X)$.

חישוב שונות

משתנה מקרי בדיד

בהינתן פונקציית הסתברות בדידה x₁ ↦ p₁, ..., x_n ↦ p_n ניתן לחשב את ערך השונות לפי הנוסחה

$\mathrm{Var}(X)=\sum _{i=1}^n{p}_i\cdot (x_i-\mu {)}^2$

כאשר $\mu$ הוא ערך התוחלת

$\mu =\sum _{i=1}^n{p}_i\cdot x_i$

מדגם סופי

בהינתן אוכלוסייה בגודל N נוכל לחשב את השונות על ידי לקיחת הסתברות אחידה:

$\mathrm{Var}(X)=\frac{1}{N}\sum _{i=1}^N{(x_i-\mu )}^2=\left(\frac{1}{N}\sum _{i=1}^N{x}_i^2\right)-{\mu }^2$

כאשר

$\mu =\frac{1}{N}\sum _{i=1}^N{x}_i$ הוא ערך התוחלת.

משתנה מקרי רציף

בהינתן פונקציית הסתברות רציפה, חישוב השונות נתון על ידי

$\mathrm{Var}(X)={\sigma }^2=\int (x-\mu {)}^{2}f(x)dx=\int x^{2}f(x)dx-{\mu }^2$

כאשר $\mu$ הוא ערך התוחלת

$\mu =\int xf(x)dx$

כאשר האינטגרל מחושב על פני כל מקור פונקציית ההסתברות, במקרה של תומך חסום על פני כל ערכי התומך.

דוגמאות

התפלגות נורמלית

ההתפלגות נורמלית עם הפרמטרים μ ו-σ היא התפלגות רציפה עבורה פונקציית צפיפות ההסתברות נתונה על ידי:

$f(x)=\frac{1}{\sqrt{2\pi {\sigma }^2}}{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}},$

כאשר μ הוא התוחלת, ערך השונות נתון על ידי:

$\mathrm{Var}(X)=\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}\frac{(x-\mu {)}^2}{\sqrt{2\pi {\sigma }^2}}{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}dx={\sigma }^2.$

חישוב אינטגרל זה על הפונקציה המכונה גאוסיין ניתן לביצוע באמצעות אינטגרלים כפולים ומעבר לקואורינטות פולריות. להתפלגות הנורמלית תפקיד מכריע בעולם ההסתברות עקב משפט הגבול המרכזי.

התפלגות מעריכית

ההתפלגות מעריכית עם הפרמטר λ ו-σ היא התפלגות רציפה עבורה תומך חצי אינסופי (הישר האי שלילי) פונקציית צפיפות ההסתברות נתונה על ידי:

$f(x)=\lambda e^{-\lambda x},$

ערך התוחלת שלה נתון על ידי μ = λ⁻¹. ערך השונות נתון על ידי:

$\mathrm{Var}(X)=\underset{0}{\overset{\mathrm{\infty }}{\int }}(x-{\lambda }^{-1}{)}^2\lambda e^{-\lambda x}dx={\lambda }^{-2}.$

לכן עבור משתנה מקרי המתפלג באופן מעריכי σ² = μ².

התפלגות פואסון

התפלגות פואסון עם הפרמטר λ היא התפלגות בדידה עבור אינדקס k מספר טבעי א-שלילי, פונקציית הסתברות עבור k נתונה על ידי:

$p(k)=\frac{{\lambda }^k}{k!}{e}^{-\lambda }$

ערך התוחלת הוא μ = λ. ערך השונות נתון על ידי:

$\mathrm{Var}(X)=\sum _{k=0}^{\mathrm{\infty }}\frac{{\lambda }^k}{k!}{e}^{-\lambda }(k-\lambda {)}^2=\lambda$

לכן עבור משתנה מקרי המתפלג פואסון σ² = μ.

התפלגות בינום

התפלגות פואסון עם הפרמטרים n וp היא התפלגות בדידה עבור אינדקס k מספר טבעי א-שלילי, פונקציית הסתברות עבור k נתונה על ידי:

$p(k)=(\genfrac{}{}{0ex}{}{n}{k})p^k(1-p{)}^{n-k}$

ערך התוחלת הוא μ = np. ערך השונות נתון על ידי::

$\mathrm{Var}(X)=\sum _{k=0}^n(\genfrac{}{}{0ex}{}{n}{k})p^k(1-p{)}^{n-k}(k-np{)}^2=np(1-p)$

הטלת מטבע

התפלגות בינומית עם מקדם $p=0.5$ מתארת את ההסתברות לקבלת $k$ עץ מתוך $n$ הטלות. לכן ערך התוחלת של כמות העצים שהתקבלו נתונה על ידי: $\frac{n}{2}$, וערך השונות על ידי: $\frac{n}{4}$.

קובייה הוגנת

ניתן למדל הטלת קובייה הוגנת בעלת 6 צדדים על ידי משתנה מקרי בדיד המקבל ערכים בין 1 ל-6, בהסתברות שווה והיא $\frac{1}{6}$. ערך התוחלת הוא: (1 + 2 + 3 + 4 + 5 + 6)/6 = 3.5. ולכן נחשב את השונות להיות

$\begin{array}{rl}\sum _{i=1}^6\frac{1}{6}(i-3.5{)}^2=\frac{1}{6}\sum _{i=1}^6(i-3.5{)}^2& =\frac{1}{6}((-2.5{)}^2+(-1.5{)}^2+(-0.5{)}^2+0.5^2+1.5^2+2.5^2)\\ & =\frac{1}{6}\cdot 17.50=\frac{35}{12}\approx 2.92\end{array}$

במקרה הכללי- משתנה מקרי X בעל התפלגות שווה $\frac{1}{n}$ אשר מקבל את הערכים הטבעיים בין 1 ל-n. נחשב את השונות על ידי:

$\begin{array}{r}\mathrm{Var}(X)=E(X^2)-(E(X){)}^2\\ & =\frac{1}{n}\sum _{i=1}^n{i}^2-{\left(\frac{1}{n}\sum _{i=1}^{n}i\right)}^2\\ & =\frac{1}{6}(n+1)(2n+1)-\frac{1}{4}(n+1{)}^2\\ & =\frac{n^2-1}{12}\end{array}$

תכונות השונות

• השונות תמיד אי שלילית $\mathrm{var}(X)\ge 0$
• שונות של משתנה מקרי שווה לאפס אם ורק אם המשתנה המקרי מקבל ערך קבוע בהסתברות 1
• השונות של טרנספורמציה לינארית על המשתנה המקרי $X$ מחושבת באופן הבא:

$\mathrm{var}(aX+b)=a^2\mathrm{var}(X)$

$a,b$ - קבועים ממשיים.

• השונות של סכום משתנים מקריים $X,Y$ היא:

$\mathrm{var}(X+Y)=\mathrm{var}(X)+2\mathrm{cov}(X,Y)+\mathrm{var}(Y)$

כאשר cov היא השונות המשותפת של המשתנים $X,Y$, יש לציין כי השונות המשותפת של שני משתנים מקריים שווה לאפס במקרה ואין תלות בין המשתנים. ניתן להרחיב את התכונה לחישוב שונות סכום משתנים מקריים כך:

$\mathrm{Var}\left(\sum _{i=1}^n{X}_i\right)=\sum _{i=1}^n\sum _{j=1}^n\mathrm{Cov}(X_i,X_j)=\sum _{i=1}^n\mathrm{Var}(X_i)+2\sum _{1\le i}\sum _{<j\le n}\mathrm{Cov}(X_i,X_j)$

• אם $X,Y$ משתנים מקריים, והשונות של $Y$ סופית, אפשר לפרק את השונות של $X$ באופן הבא:

$\mathrm{var}(X)=\mathbb{𝔼}(\mathrm{var}(X|Y))+\mathrm{var}(\mathbb{𝔼}(X|Y))$ (ראו גם משפט השונות השלמה).

שונות האוכלוסייה ושונות המדגם

שונות האוכלוסייה

עבור אוכלוסייה סופית (שהתפלגותה אינה ידועה) ניתן לחשב את השונות בעזרת הנוסחה:

${\sigma }^2=\frac{\sum _{i=1}^N{(x_i-\bar{x})}^2}{N}$

$\bar{x}$ - ממוצע האוכלוסייה.
$N$ - מספר האיברים באוכלוסייה.

נוסחה שימושית לחישוב שונות האוכלוסייה:

${\sigma }^2=\frac{\sum _{i=1}^N{x}_i^2}{N}-{\left(\frac{\sum _{i=1}^N{x}_i}{N}\right)}^2=\frac{\sum _{i=1}^N{x}_i^2-N*\stackrel{2}{\stackrel{‾}{x}}}{N}$

שונות המדגם

בהינתן מדגם מקרי פשוט $(y_1,\dots ,y_N)$ אם נסתכל על המדגם עצמו כעל אוכלוסייה בפני עצמה, אז שונות המדגם נתונה על ידי הנוסחה: $s^2=\frac{1}{N}\sum _{i=1}^N{(y_i-\bar{y})}^2$ .

שונות המדגם היא גם אומד מומנטים ואומד נראות מרבית עבור שונות האוכלוסייה.

אומד חסר הטיה לשונות האוכלוסייה

כאשר נתון מדגם מקרי פשוט $(y_1,\dots ,y_N)$ ניתן לאמוד את שונות האוכלוסייה על ידי הנוסחה: $s^2=\frac{1}{N-1}\sum _{i=1}^N{(y_i-\bar{y})}^2$ ; בתנאים רגילים, זהו אומד בלתי מוטה. אם הנתונים מעוגלים בזמן המדידה, יש להפעיל את תיקון שפרד. עקב היותו אומד חסר הטיה, אומד זה הוא המקובל בשימוש בתחום הסטטיסטיקה.

נוסחה שימושית אחרת לחישוב האומד לשונות: $s^2=\frac{\sum _{i=1}^N{x}_i^2-(\sum _{i=1}^N{x}_i{)}^2/N}{N-1}$.

ראו גם

• שונות משותפת
• סטיית תקן
• משתנה מקרי
• תוחלת