חסם הופדינג
קפיצה לניווט
קפיצה לחיפוש
בתורת ההסתברות, חסם הופדינג, על שמו של וסילי הופדינג (Hoeffding), הוא חסם עליון על ההסתברות שסכום של משתנים מקריים יהיה שונה מהתוחלת שלו.
חסם הופדינג הוא תוצאה של אי שוויון ברנשטיין.
הגדרה פורמלית
יהיו משתנים מקריים בלתי תלויים. בהסתברות 1. אזי הממוצע שלהם מקיים לכל t חיובי את האי-שוויונות הבאים (Hoeffding 1963):
![{\displaystyle X_{i}\in [a_{i},b_{i}]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ecb72d26d05b21f50202ce527cfbce8b5f7cfb51)
![{\displaystyle \Pr({\bar {X}}_{n}-\mathrm {E} [{\bar {X}}_{n}]\geq t)\leq \exp \left(-{\frac {2\,n^{2}\,t^{2}}{\sum _{i=1}^{n}(b_{i}-a_{i})^{2}}}\right)\!}](https://wikimedia.org/api/rest_v1/media/math/render/svg/685acd7b29066ab163bb49d1d3a3031902b0ecfb)
![{\displaystyle \Pr(|{\bar {X}}_{n}-\mathrm {E} [{\bar {X}}_{n}]|\geq t)\leq 2\exp \left(-{\frac {2\,n^{2}\,t^{2}}{\sum _{i=1}^{n}(b_{i}-a_{i})^{2}}}\right)\!}](https://wikimedia.org/api/rest_v1/media/math/render/svg/575ef82d241e97b1d8630f8f8e77161d25287216)
שימושים
משמעות החסם היא שההסתברות שמדגם כלשהו מתוך הסתברות, לא יהיה "מדגם מייצג", קטנה באופן מעריכי בגודל המדגם. לחסם זה חשיבות רבה בתחום של למידת מכונה, מכיוון שהוא נותן אינדיקציה לגבי גודל המדגם שדרוש כדי ללמוד על התפלגות.
ראו גם
לקריאה נוספת
