רגרסיה ליניארית פשוטה

חוק אוקון במקרו-כלכלה הוא דוגמה לרגרסיה ליניארית פשוטה. בדוגמה זו ההנחה היא שהמשתנה התלוי (גדילת התמ"ג) נמצא בקשר ליניארי עם השינויים בשיעור האבטלה.

רגרסיה ליניארית פשוטה בסטטיסטיקה היא מודל רגרסיה ליניארית עם משתנה תלוי או בלתי תלוי יחיד.

כלומר, עבור נקודות מדגם דו-ממדיות, $\{(x_{i},y_{i})|i=1,...,n\}$, עם משתנה בלתי תלוי אחד ומשתנה תלוי אחד (כמקובל, קואורדינטות $x$ ו-$y$ במערכת קואורדינטות קרטזית, כאשר $x$ המשתנה הבלתי תלוי, ו-$y$ המשתנה התלוי), מוצאים פונקציה ליניארית (קו ישר לא אנכי) שבדיוק אפשרי ככל הניתן, מנבאת את ערכי המשתנה התלוי כפונקציה של המשתנה הבלתי תלוי. שם התואר "פשוטה" מתייחס לכך שמשתנה התוצאה קשור לפרדיקטור יחיד. לפעמים, המשתנה $x$ נקרא המשתנה המסביר, והמשתנה $y$ נקרא המשתנה המוסבר.

שימושים בשיטות רגרסיה נוספות

מקובל לקבוע את הקביעה הנוספת כי יש להשתמש בשיטת הריבועים הפחותים הרגילים (OLS) המסבירה שהדיוק של כל ערך חזוי נמדד לפי ריבוע השאריות שלו (מרחק אנכי בין נקודת מערך הנתונים לקו המותאם), כשהמטרה היא להפוך את סכום הסטיות בריבוע לקטן ככל הניתן. שיטות רגרסיה אחרות שניתן להשתמש בהן במקום ריבועים קטנים רגילים כוללות סטיות פחותות מוחלטות (מזעור סכום הערכים המוחלטים של השאריות) ואת אומדן Theil-Sen (הבוחר קו שהשיפוע שלו הוא החציון של השיפועים שנקבע על ידי זוגות של נקודות לדוגמה). רגרסיית דמינג (סה"כ הריבועים הקטנים ביותר) מוצאת גם קו שמתאים לקבוצה של נקודות דגימה דו-ממדיות, אבל (בניגוד לריבועים הפחותים הרגילים, סטיות הכי פחותות מוחלטות ורגרסיית שיפוע חציוני) זה לא באמת מופע של רגרסיה ליניארית פשוטה, כי הוא לא מפריד את הקואורדינטות למשתנה אחד תלוי ואחד בלתי תלוי ויכול להחזיר קו אנכי כהתאמה שלו.

שאר המאמר מתייחס לרגרסיה רגילה של הריבועים הפחותים. בתרחיש זה, השיפוע של הקו המותאם שווה למתאם בין $x$ ל - $y$ אשר מתוקן על ידי היחס בין סטיות התקן של משתנים אלה. החותך של הקו המותאם הוא כזה שהקו עובר דרך מרכז המסה של נקודות הנתונים.

התאמת קו הרגרסיה

נניח תחילה כי קיים קשר ליניארי בין המשתנה הבלתי תלוי $x$ והמשתנה התלוי $y$. לכן נוכל להגדיר את הקשר כפונקציה הבאה:

$y=\alpha +\beta x$

המתאר ישר עם שיפוע $\beta$ ו-חותך $\alpha$. באופן כללי קשר כזה עשוי שלא להתקיים בדיוק עבור האוכלוסייה הכללית של המשתנים הבלתי תלויים והתלויים; אנו מכנים את הסטיות שלא נצפו מהמשוואה לעיל, שגיאות . נניח שאנו צופים ב $n$ זוגות נתונים ונקרא להם $\{(x_{i},y_{i})|i=1,...,n\}$. אנו יכולים לתאר את הקשר הבסיסי בין $x_{i}$ ו-$y_{i}$ הכולל את מונח השגיאה הזה $\varepsilon _{i}$ על ידי:

$y_{i}=\alpha +\beta x_{i}+\varepsilon _{i}$

קשר זה בין הפרמטרים הבסיסיים האמתיים (אך לא נצפים) $\alpha ,\beta$ לבין נקודות הנתונים נקרא מודל רגרסיה ליניארית.

המטרה היא לאמוד את ${\widehat {\alpha }}$ ו ${\widehat {\beta }}$ עבור הפרמטרים $\alpha ,\beta$ אשר יספקו את ההתאמה ה"מיטבית" במובן מסוים לנקודות הנתונים. כפי שהוזכר בהקדמה, במאמר זה ההתאמה ה"טובה ביותר" תהיה מובנת כמו בגישת הריבועים הפחותים: קו הממזער את סכום השאריות בריבוע (ראה גם שגיאות ושאריות ) ${\widehat {\varepsilon }}_{i}$ (הבדלים בין ערכים בפועל וחזוי של המשתנה התלוי y ), שכל אחד מהם נתון על ידי

${\widehat {\varepsilon }}_{i}=y_{i}-\alpha -\beta x_{i}.$

עבור $\alpha$ ו $\beta$ כלשהם.

במילים אחרות, ${\widehat {\alpha }}$ ו ${\widehat {\beta }}$ פותר את בעיית האופטימיזציה הבאה:

$\min _{\alpha ,\,\beta }f(\alpha ,\beta )=\min _{\alpha ,\,\beta }\sum _{i=1}^{n}{\widehat {\varepsilon }}_{i}^{\,2}=\min _{\alpha ,\,\beta }\sum _{i=1}^{n}(y_{i}-\alpha -\beta x_{i})^{2}\ .$

מציאת אומדנים ${\hat {\alpha }},{\hat {\beta }}$

תחילה נגדיר את הסימון ${\bar {x}}$ - הממוצע של המדגם $x$, כלומר ${\bar {x}}={\frac {\sum _{i=1}^{n}{x_{i}}}{n}}$.

על מנת למצוא את ${\hat {\alpha }}$, נגזור את הפונקציה:

${\begin{aligned}{\frac {\partial f}{\partial \alpha }}=\sum _{i=1}^{n}{-2(y_{i}-\alpha -\beta x_{i})}=0\\\sum _{i=1}^{n}{(y_{i}-\alpha -\beta x_{i})}=0\\\sum _{i=1}^{n}{y_{i}}-\sum _{i=1}^{n}{\alpha }-\sum _{i=1}^{n}{\beta x_{i}}=0\\\sum _{i=1}^{n}{y_{i}}-na-\sum _{i=1}^{n}{\beta x_{i}}=0\\\alpha ={\frac {\sum _{i=1}^{n}{y_{i}}-\beta \sum _{i=1}^{n}{x_{i}}}{n}}\\{\hat {\alpha }}={\bar {y}}-{\hat {\beta }}{\bar {x}}\end{aligned}}$

נראה כי ${\hat {\alpha }}$ תלוי ב ${\hat {\beta }}$. נמצא כעת את ${\hat {\beta }}$:

${\begin{aligned}{\frac {\partial f}{\partial \beta }}=\sum _{i=1}^{n}{-2x_{i}(y_{i}-\alpha -\beta x_{i})}=0\\\sum _{i=1}^{n}{x_{i}(y_{i}-\alpha -\beta x_{i})}=0\\\sum _{i=1}^{n}{(x_{i}y_{i}-\alpha x_{i}-\beta x_{i}^{2})}=0\\\sum _{i=1}^{n}{(x_{i}y_{i}-({\bar {y}}-\beta {\bar {x}})x_{i}-\beta x_{i}^{2})}=0\\\sum _{i=1}^{n}{(x_{i}y_{i}-{\bar {y}}x_{i}+\beta {\bar {x}}x_{i}-\beta x_{i}^{2})}=0\\\sum _{i=1}^{n}{(x_{i}y_{i}-{\bar {y}}x_{i})}+\sum _{i=1}^{n}{(\beta {\bar {x}}x_{i}-\beta x_{i}^{2})}=0\\\sum _{i=1}^{n}{(x_{i}y_{i}-{\bar {y}}x_{i})}-\beta \sum _{i=1}^{n}{(x_{i}^{2}-{\bar {x}}x_{i})}=0\\\beta ={\frac {\sum _{i=1}^{n}{(x_{i}y_{i}-{\bar {y}}x_{i})}}{\sum _{i=1}^{n}{(x_{i}^{2}-{\bar {x}}x_{i})}}}\\.\\.\\.\\{\hat {\beta }}={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}\end{aligned}}$

כאשר בנקודות אנחנו עושים פישוט אלגברי לביטוי. לכן נקבל סה"כ:

${\textstyle {\begin{aligned}{\widehat {\alpha }}&={\bar {y}}-({\widehat {\beta }}\,{\bar {x}}),\\[5pt]{\widehat {\beta }}&={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}\\[6pt]&={\frac {s_{x,y}}{s_{x}^{2}}}\\[5pt]&=r_{xy}{\frac {s_{y}}{s_{x}}}.\\[6pt]\end{aligned}}}$

כאן הצגנו

על ידי החלפה של הביטויים לעיל עבור ${\widehat {\alpha }}$ ו ${\widehat {\beta }}$ ל

$f={\widehat {\alpha }}+{\widehat {\beta }}x,$ נקבל

${\frac {f-{\bar {y}}}{s_{y}}}=r_{xy}{\frac {x-{\bar {x}}}{s_{x}}}.$

זה מראה ש-r_xy הוא השיפוע של קו הרגרסיה של נקודות הנתונים הסטנדרטיות (ושהקו הזה עובר דרך המקור).

נראה כי נקבל:

$r_{xy}={\frac {{\overline {xy}}-{\bar {x}}{\bar {y}}}{\sqrt {\left({\overline {x^{2}}}-{\bar {x}}^{2}\right)\left({\overline {y^{2}}}-{\bar {y}}^{2}\right)}}}.$

מקדם המתאם ("R בריבוע") שווה ל $r_{xy}^{2}$ כאשר המודל הוא ליניארי עם משתנה בלתי תלוי בודד. ראה מקדם מתאם לדוגמה לפרטים נוספים.

רגרסיה ליניארית פשוטה ללא חותך (רגרסור בודד)

לפעמים ראוי להכריח את קו הרגרסיה לעבור דרך המוצא, כי מניחים ש - $x$ ו-$y$ הם פרופורציונליים. עבור המודל ללא החותך, $y=\beta x$, אומדן OLS עבור β מפושט ל-

${\widehat {\beta }}={\frac {\sum _{i=1}^{n}x_{i}y_{i}}{\sum _{i=1}^{n}x_{i}^{2}}}={\frac {\overline {xy}}{\overline {x^{2}}}}$

שימוש בהתמרה $(x,y)\rightarrowtail (x-h,y-k)$ נותנת את הרגרסיה דרך $(h,k)$:

${\begin{aligned}{\widehat {\beta }}&={\frac {\sum _{i=1}^{n}(x_{i}-h)(y_{i}-k)}{\sum _{i=1}^{n}(x_{i}-h)^{2}}}={\frac {\overline {(x-h)(y-k)}}{\overline {(x-h)^{2}}}}\\[6pt]&={\frac {{\overline {xy}}-k{\bar {x}}-h{\bar {y}}+hk}{{\overline {x^{2}}}-2h{\bar {x}}+h^{2}}}\\[6pt]&={\frac {{\overline {xy}}-{\bar {x}}{\bar {y}}+({\bar {x}}-h)({\bar {y}}-k)}{{\overline {x^{2}}}-{\bar {x}}^{2}+({\bar {x}}-h)^{2}}}\\[6pt]&={\frac {\operatorname {Cov} (x,y)+({\bar {x}}-h)({\bar {y}}-k)}{\operatorname {Var} (x)+({\bar {x}}-h)^{2}}},\end{aligned}}$

כאשר $Cov,Var$ מתייחסים לשונות המשותפת והשונות (covariance and variance) של נתוני המדגם (לא מתוקן עבור הטיה).

הצורה האחרונה שלמעלה מדגימה כיצד הרחקת הקו ממרכז המסה של נקודות הנתונים משפיעה על השיפוע.

מאפיינים מבוססי מודל

תיאור המאפיינים הסטטיסטיים של אומדנים מאומדני הרגרסיה הליניארית הפשוטים מחייב שימוש במודל סטטיסטי. להלן מבוסס על הנחת תקפותו של מודל לפיו האומדנים אופטימליים. אפשר גם להעריך את המאפיינים תחת הנחות אחרות, כגון חוסר הומוגניות, אבל זה נדון במקום אחר.

אי הטיה

האומדים ${\widehat {\alpha }}$ ו ${\widehat {\beta }}$ הם אינם מוטים (unbiased)

כדי לבסס קביעה זו עלינו להגדיר מסגרת שבה האומדנים הללו הם משתנים אקראיים. אנו מחשיבים את השאריות $\varepsilon _{i}$ כמשתנים אקראיים הנדגמים באופן בלתי תלוי מהתפלגות כלשהי עם תוחלת 0. במילים אחרות, עבור כל ערך של $x$, הערך המתאים של $y$ נוצר כתגובה ממוצעת $\alpha +\beta x$ בתוספת משתנה אקראי נוסף $\varepsilon$ הנקרא מונח השגיאה, השווה לאפס בממוצע. לפי פרשנות כזו, האומדנים הקטנים ביותר בריבועים ${\widehat {\alpha }}$ ו ${\widehat {\beta }}$ יהיו עצמם משתנים אקראיים שהאמצעים שלהם ישתווה ל"ערכים האמתיים" $\alpha ,\beta$. זוהי ההגדרה של אומדן חסר הטיה.

רווחי סמך

הנוסחאות שניתנו בסעיף הקודם מאפשרות לחשב את אומדני הנקודות של α ו-β - כלומר, המקדמים של קו הרגרסיה עבור קבוצת הנתונים הנתונה. עם זאת, הנוסחאות הללו אינן אומרות לנו עד כמה ההערכות מדויקות, כלומר, כמה האומדנים ${\widehat {\alpha }}$ ו ${\widehat {\beta }}$ להשתנות ממדגם למדגם עבור גודל המדגם שצוין. רווחי סמך נוצרו כדי לתת קבוצה סבירה של ערכים לאומדנים שיכולים להיות אם יחזור על הניסוי מספר רב מאוד של פעמים.

השיטה הסטנדרטית לבניית רווחי סמך עבור מקדמי רגרסיה ליניארית מסתמכת על הנחת הנורמליות, המוצדקת אם אחת מהן:

1. השגיאות ברגרסיה מחולקות באופן נורמאלי (מה שנקרא הנחת רגרסיה קלאסית ), או
2. מספר התצפיות n גדול מספיק, ובמקרה זה האומדן (the estimator) מתפלג נורמלית בערך.

המקרה האחרון מוצדק על ידי משפט הגבול המרכזי.

הנחת נורמליות

על פי ההנחה הראשונה לעיל, זו של נורמליות איברי השגיאה, האומדן של מקדם השיפוע יתחלק באופן נורמלי עם ממוצע β ושונות $\sigma ^{2}\left/\sum (x_{i}-{\bar {x}})^{2}\right.,$ כאשר σ² היא השונות של איברי השגיאה (ראה הוכחות הכוללות ריבועים קטנים רגילים ). באותו זמן סכום השיירים בריבוע Q מתחלק באופן יחסי ל - χ² עם n − 2 דרגות חופש, ובאופן בלתי תלוי מ ${\widehat {\beta }}$. זה מאפשר לנו לבנות ערך t

$t={\frac {{\widehat {\beta }}-\beta }{s_{\widehat {\beta }}}}\ \sim \ t_{n-2},$

כאשר

$s_{\widehat {\beta }}={\sqrt {\frac {{\frac {1}{n-2}}\sum _{i=1}^{n}{\widehat {\varepsilon }}_{i}^{\,2}}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}}$

היא שגיאת התקן של האומדן ${\widehat {\beta }}$.

לערך t זה יש התפלגות t t תלמיד עם n − 2 דרגות חופש. באמצעותו נוכל לבנות רווח סמך עבור β:

$\beta \in \left[{\widehat {\beta }}-s_{\widehat {\beta }}t_{n-2}^{*},\ {\widehat {\beta }}+s_{\widehat {\beta }}t_{n-2}^{*}\right],$

ברמת ביטחון (1 − γ), שבו $t_{n-2}^{*}$ הוא ה $\scriptstyle \left(1\;-\;{\frac {\gamma }{2}}\right){\text{-th}}$ quantile של התפלגות t_n−2. לדוגמה, אם γ = 0.05 אז רמת הביטחון היא 95%.

באופן דומה, רווח הסמך עבור מקדם החותך α ניתן על ידי

$\alpha \in \left[{\widehat {\alpha }}-s_{\widehat {\alpha }}t_{n-2}^{*},\ {\widehat {\alpha }}+s_{\widehat {\alpha }}t_{n-2}^{*}\right],$

ברמת ביטחון (1 − γ ), שבו

$s_{\widehat {\alpha }}=s_{\widehat {\beta }}{\sqrt {{\frac {1}{n}}\sum _{i=1}^{n}x_{i}^{2}}}={\sqrt {{\frac {1}{n(n-2)}}\left(\sum _{i=1}^{n}{\widehat {\varepsilon }}_{i}^{\,2}\right){\frac {\sum _{i=1}^{n}x_{i}^{2}}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}}}$

רגרסיה של ארצות הברית בעקומה: "השינויים באבטלה - צמיחת התמ"ג" עם רווח סמך ברמת ביטחון של 95%.

רווחי הסמך עבור α ו-β נותנים לנו את הרעיון הכללי היכן יש סבירות גבוהה ביותר להיות מקדמי רגרסיה אלו. לדוגמה, ברגרסיית חוק האוקון המוצגת כאן, ההערכות הנקודתיות הן

${\widehat {\alpha }}=0.859,\qquad {\widehat {\beta }}=-1.817.$

רווחי הסמך של 95% לאומדנים אלה הם

$\alpha \in \left[\,0.76,0.96\right],\qquad \beta \in \left[-2.06,-1.58\,\right].$

על מנת לייצג מידע זה בצורה גרפית, בצורת פסי הביטחון סביב קו הרגרסיה, יש להתקדם בזהירות ולהתחשב בהתפלגות המשותפת של האומדנים. ניתן להראות שברמת ביטחון (1-γ ) לרצועת הביטחון יש צורה היפרבולית הניתנת על ידי המשוואה

$(\alpha +\beta \xi )\in \left[\,{\widehat {\alpha }}+{\widehat {\beta }}\xi \pm t_{n-2}^{*}{\sqrt {\left({\frac {1}{n-2}}\sum {\widehat {\varepsilon }}_{i}^{\,2}\right)\cdot \left({\frac {1}{n}}+{\frac {(\xi -{\bar {x}})^{2}}{\sum (x_{i}-{\bar {x}})^{2}}}\right)}}\,\right].$

כאשר המודל הניח ש $\alpha =0$, השגיאה הסטנדרטית של המדרון הופכת ל:

$s_{\widehat {\beta }}={\sqrt {{\frac {1}{n-1}}{\frac {\sum _{i=1}^{n}{\widehat {\varepsilon }}_{i}^{\,2}}{\sum _{i=1}^{n}x_{i}^{2}}}}}$

עם: ${\hat {\varepsilon }}_{i}=y_{i}-{\hat {y}}_{i}$

הנחה אסימפטוטית

ההנחה השנייה החלופית קובעת שכאשר מספר הנקודות במערך הנתונים "גדול מספיק", חוק המספרים הגדולים ומשפט הגבול המרכזי הופכים לישימים, ואז ההתפלגות של האומדנים היא נורמלית בקירוב. בהנחה זו כל הנוסחאות שנגזרו מהסעיף הקודם נשארות תקפות, למעט החריג היחיד שהquantile t* _{n −2} של התפלגות t-student מוחלף ב*quantile q של ההתפלגות הנורמלית הסטנדרטית.

דוגמה מספרית

מערך נתונים זה נותן מסות ממוצעות לנשים כפונקציה של גובהן במדגם של נשים אמריקאיות בגילאי 30-39. למרות שהמאמר של OLS טוען שיהיה נכון יותר להפעיל רגרסיה ריבועית עבור נתונים אלה, מודל הרגרסיה הליניארי הפשוט מיושם כאן במקום זאת.

גובה (מ'), xi	1.47	1.50	1.52	1.55	1.57	1.60	1.63	1.65	1.68	1.70	1.73	1.75	1.78	1.80	1.83
מסה (ק"ג), yi	52.21	53.12	54.48	55.84	57.20	58.57	59.93	61.29	63.11	64.47	66.28	68.10	69.92	72.19	74.46

$i$	$x_{i}$	$y_{i}$	$x_{i}^{2}$	$x_{i}y_{i}$	$y_{i}^{2}$
1	1.47	52.21	2.1609	76.7487	2725.8841
2	1.50	53.12	2.2500	79.6800	2821.7344
3	1.52	54.48	2.3104	82.8096	2968.0704
4	1.55	55.84	2.4025	86.5520	3118.1056
5	1.57	57.20	2.4649	89.8040	3271.8400
6	1.60	58.57	2.5600	93.7120	3430.4449
7	1.63	59.93	2.6569	97.6859	3591.6049
8	1.65	61.29	2.7225	101.1285	3756.4641
9	1.68	63.11	2.8224	106.0248	3982.8721
10	1.70	64.47	2.8900	109.5990	4156.3809
11	1.73	66.28	2.9929	114.6644	4393.0384
12	1.75	68.10	3.0625	119.1750	4637.6100
13	1.78	69.92	3.1684	124.4576	4888.8064
14	1.80	72.19	3.2400	129.9420	5211.3961
15	1.83	74.46	3.3489	136.2618	5544.2916
$\Sigma$	24.76	931.17	41.0532	1548.2453	58498.5439

ישנן n = 15 נקודות במערך הנתונים הזה. חישובי ידיים יתחילו על ידי מציאת חמשת הסכומים הבאים:

${\begin{aligned}S_{x}&=\sum x_{i}\,=24.76,\qquad S_{y}=\sum y_{i}\,=931.17,\\[5pt]S_{xx}&=\sum x_{i}^{2}=41.0532,\;\;\,S_{yy}=\sum y_{i}^{2}=58498.5439,\\[5pt]S_{xy}&=\sum x_{i}y_{i}=1548.2453\end{aligned}}$

כמויות אלה ישמשו לחישוב האומדנים של מקדמי הרגרסיה, ושגיאות התקן שלהם.

${\begin{aligned}{\widehat {\beta }}&={\frac {nS_{xy}-S_{x}S_{y}}{nS_{xx}-S_{x}^{2}}}=61.272\\[8pt]{\widehat {\alpha }}&={\frac {1}{n}}S_{y}-{\widehat {\beta }}{\frac {1}{n}}S_{x}=-39.062\\[8pt]s_{\varepsilon }^{2}&={\frac {1}{n(n-2)}}\left[nS_{yy}-S_{y}^{2}-{\widehat {\beta }}^{2}(nS_{xx}-S_{x}^{2})\right]=0.5762\\[8pt]s_{\widehat {\beta }}^{2}&={\frac {ns_{\varepsilon }^{2}}{nS_{xx}-S_{x}^{2}}}=3.1539\\[8pt]s_{\widehat {\alpha }}^{2}&=s_{\widehat {\beta }}^{2}{\frac {1}{n}}S_{xx}=8.63185\end{aligned}}$

גרף של נקודות וקווי ריבועים קטנים ליניאריים בדוגמה המספרית של רגרסיה ליניארית פשוטה

השברון 0.975 של התפלגות t-student עם 13 דרגות חופש הוא $t_{13}=2.1604$, ולפיכך רווחי הסמך של 95% עבור α ו-β הם

${\begin{aligned}&\alpha \in [\,{\widehat {\alpha }}\mp t_{13}^{*}s_{\alpha }\,]=[\,{-45.4},\ {-32.7}\,]\\[5pt]&\beta \in [\,{\widehat {\beta }}\mp t_{13}^{*}s_{\beta }\,]=[\,57.4,\ 65.1\,]\end{aligned}}$

ניתן גם לחשב את מקדם המתאם של מוצר-רגע:

${\widehat {r}}={\frac {nS_{xy}-S_{x}S_{y}}{\sqrt {(nS_{xx}-S_{x}^{2})(nS_{yy}-S_{y}^{2})}}}=0.9946$

דוגמה זו גם מדגימה שחישובים מתוחכמים לא יתגברו על השימוש בנתונים שהוכנו בצורה גרועה. הגבהים ניתנו במקור באינצ'ים, והוסבו לסנטימטר הקרוב ביותר. מכיוון שההמרה הציגה שגיאת עיגול, זו אינה המרה מדויקת. ניתן לשחזר את האינצ'ים המקוריים על ידי Round(x/0.0254) ולאחר מכן להמיר מחדש לשיטה מטרית ללא עיגול: אם זה נעשה, התוצאות הופכות

${\widehat {\beta }}=61.6746,\qquad {\widehat {\alpha }}=-39.7468.$

לפיכך לשונות קטנה לכאורה בנתונים יש השפעה ממשית.

ראו גם

• רגרסיה ליניארית
• רגרסיה מקומית
• שיטת הריבועים הפחותים
• רגרסיה
• משפט גאוס-מרקוב

לקריאה נוספת

• Bangdiwala, S. I. (2018). Regression: simple linear. International journal of injury control and safety promotion, 25(1), 113-115.
• Daniya, T., Geetha, M., Kumar, B. S., & Cristin, R. (2020). Least square estimation of parameters for linear regression. International Journal of Control and Automation, 13(2), 447-452.
• Hanley, J. A. (2016). Simple and multiple linear regression: sample size considerations. Journal of clinical epidemiology, 79, 112-119.

קישורים חיצוניים

מדיה וקבצים בנושא רגרסיה ליניארית פשוטה בוויקישיתוף

• סטטיסיקה א', רגרסיה לינארית פשוטה - סרטון הסברה ביוטיוב.
• סטטיסטיקה א, מקדם המתאם של פירסון - סרטון הסברה ביוטיוב
• רגרסיה ומודלים ליניאריים - ספר לימוד

הסבר של Wolfram MathWorld's על הריבועים הפחותים וחישובם (אנגלית)[1]

הערות שוליים

הערך באדיבות ויקיפדיה העברית, קרדיט,
רשימת התורמים
רישיון cc-by-sa 3.0

34576572רגרסיה ליניארית פשוטה