לוג'יט

גרף של logit(p) בטווח 0 עד 1, כאשר בסיס הלוגריתם הוא e.

בסטטיסטיקה, לוג'יט או Logit היא פונקציית שברון הקשורה להתפלגות לוגיסטית סטנדרטית. יש לה שימושים רבים בניתוח מידע ולמידת מכונה, ובפרט בטרנספורמציות נתונים.

מבחינה מתמטית, הלוג'יט הוא היפוך של הפונקציה הלוגיסטית הסטנדרטית $\sigma (x)=1/(1+e^{-x})$, כך שהלוגיט מוגדר כ

$\mathrm{logit}(p)={\sigma }^{-1}(p)=\ln \left(\frac{p}{1-p}\right)\text{for}p\in (0,1)$ .

בגלל זה, הלוג'יט נקרא גם הלוג של הסיכויים (log-odds) מכיוון שהוא שווה ללוגריתם של יחס הסיכויים $\frac{p}{1-p}$ כאשר תבנית:Mvar הוא הסתברות. לפיכך, הלוג'יט הוא סוג של פונקציה שממפה ערכי הסתברות מהמרחב $(0,1)$ למספרים ממשיים במרחב $(-\mathrm{\infty },+\mathrm{\infty })$, בדומה לפונקציית פרוביט.

הגדרה

אם תבנית:Mvar הוא הסתברות, אז תבנית:נוסחה הוא הסיכוי המתאים; לוג'יט של ההסתברות הוא הלוגריתם של הסיכויים, כלומר:

$\mathrm{logit}(p)=\ln \left(\frac{p}{1-p}\right)=\ln (p)-\ln (1-p)=-\ln (\frac{1}{p}-1).$

לבסיס של פונקציית הלוגריתם בשימוש חשיבות מועטה במאמר הנוכחי, כל עוד הוא גדול מ-1, אך הלוגריתם הטבעי עם בסיס e הוא הלוגריתם הנפוץ ביותר. בחירת הבסיס מתאימה לבחירת היחידה הלוגריתמית עבור הערך: בסיס 2 מתאים ל"shannon", בסיס תבנית:Mvar ל"nat", ובסיס 10 לhartley; יחידות אלו משמשות במיוחד בפירושים תאורטיים של מידע. עבור כל בחירה של בסיס, פונקציית לוג'יט לוקחת ערכים בין אינסוף שלילי לחיובי.

הפונקציה ה"לוגיסטית" של כל מספר $\alpha$ ניתן על ידי היפוך-לוג'יט:

${\mathrm{logit}}^{-1}(\alpha )=\mathrm{logistic}(\alpha )=\frac{1}{1+\exp (-\alpha )}=\frac{\exp (\alpha )}{\exp (\alpha )+1}$

ההבדל בין לוג'יט של שתי הסתברויות הוא הלוגריתם של יחס הסיכויים (תבנית:Mvar), ובכך מספק קיצור לכתיבת הקומבינציה הנכונה של יחסי סיכויים רק על ידי חיבור והפחתה:

$\ln (R)=\ln \left(\frac{p_1/(1-p_1)}{p_2/(1-p_2)}\right)=\ln \left(\frac{p_1}{1-p_1}\right)-\ln \left(\frac{p_2}{1-p_2}\right)=\mathrm{logit}(p_1)-\mathrm{logit}(p_2).$

היסטוריה

היו מספר מאמצים להתאים שיטות רגרסיה ליניאריות לתחום שבו הפלט הוא ערך הסתברות $(0,1)$, במקום כל מספר ממשי $(-\mathrm{\infty },+\mathrm{\infty })$ . במקרים רבים, מאמצים כאלה התמקדו במודלים של בעיה זו על ידי מיפוי הטווח $(0,1)$ ל $(-\mathrm{\infty },+\mathrm{\infty })$ ולאחר מכן הפעלת הרגרסיה הליניארית על הערכים שעברו טרנספורמציה אלו. בשנת 1934 השתמש צ'סטר איטנר בליס בפונקציית ההתפלגות הנורמלית המצטברת כדי לבצע מיפוי זה וכינה את המודל שלו probit (קיצור של "probability unit"). עם זאת, זה יקר יותר מבחינה חישובית. ב-1944, ג'וזף ברקסון השתמש ביומן הסיכויים וקרא לפונקציה הזו logit, קיצור של "logistic unit" בעקבות האנלוגיה של probit. צ'ארלס סנדרס פרס (סוף המאה ה-19) השתמש בהרחבה בלוגריתם הסיכויים. GA Barnard בשנת 1949 טבע את המונח הנפוץ "log-odds"; לוגריתם הסיכויים של אירוע הוא הלוג'יט של ההסתברות לאירוע.

השוואה עם פרוביט

השוואה של פונקציית הלוג'יט עם פרוביט בקנה מידה (כלומר ה-CDF ההפוך של ההתפלגות הנורמלית ), השוואה $\mathrm{logit}(x)$ לעומת. $\frac{{\mathrm{\Phi }}^{-1}(x)}{\sqrt{\pi /8}}$, מה שהופך את השיפועים להיות זהים במקור ה-תבנית:Mvar

קשורים קשר הדוק לפונקציית תבנית:נוסחה (ולמודל ה-logit) הם פונקציית probit ומודל probit. תבנית:נוסחה תבנית:נוסחה הן שתיהן פונקציות סיגמואידיות עם תחום בין 0 ל-1, מה שהופך את שתיהן לפונקציות קוונטיליות - כלומר, הפכים לפונקציית ההתפלגות המצטברת (CDF) של התפלגות הסתברות. למעשה, לוג'יט הוא הפונקציה הקוונטילית של ההתפלגות הלוגיסטית, בעוד תבנית:נוסחה היא הפונקציה הכמותית של ההתפלגות הנורמלית. הפונקציה תבנית:נוסחה ${\mathrm{\Phi }}^{-1}(x)$, איפה $\mathrm{\Phi }(x)$ היא ה-CDF של ההתפלגות הנורמלית, כאמור:

$\mathrm{\Phi }(x)=\frac{1}{\sqrt{2\pi }}\underset{-\mathrm{\infty }}{\overset{x}{\int }}{e}^{-\frac{y^2}{2}}dy.$

כפי שמוצג בגרף בצד ימין, הלוג'יט והפרוביט דומות מאוד כאשר פרוביט בקנה מידה, כך שהשיפוע שלה ב- תבנית:נוסחה תואם את שיפוע ה- תבנית:נוסחה . כתוצאה מכך, מודלים של פרוביט משמשים לפעמים במקום מודלים של לוגיט, כי עבור יישומים מסוימים (למשל, בסטטיסטיקה בייסיאנית) היישום קל יותר.

לקריאה נוספת

• תבנית:Cite book