הצגת המקור של הדף "הסתברות בייסיאנית"

'''[[הסתברות מותנית|הסתברות]] בייסיאנית''' (ב[[אנגלית]]: '''Bayesian probability''') היא גישה ל[[הסתברות]] על פיה מכמתים את ההסתברות של [[מאורע]] על פי הידע הנוכחי לגביו או על פי הערכה [[סובייקטיביות|סובייקטיבית]] לגבי ערכו. הסתברות בייסיאנית היא פרשנות של הסתברות, המכמתת הסתברות על פי מצב הידע הנוכחי. שינוי במצב הידע משנה גם את ההסתברות ואת התפלגות ההסתברויות. הסתברות בייסיאנית קרויה על שמו של ה[[סטטיסטיקאי]] ה[[אנגלים|אנגלי]] [[תומאס בייס]].

בהסתברות בייסיאנית מיוחסת [[הסתברות פריורית]] להשערה. הסתברות זו מתעדכנת בכל פעם שמתווסף מידע רלוונטי.{{הערה|1=JOHN ALLEN PAULOS, [http://www.nytimes.com/2011/08/07/books/review/the-theory-that-would-not-die-by-sharon-bertsch-mcgrayne-book-review.html?_r=2&scp=1&sq=thomas%20bayes&st=cse The Mathematics of Changing Your Mind], New York Times,August 5,2011}} לפי תפיסה זו, ב[[בדיקת השערות]] מייחסים לאירוע הסתברות ספציפית ומעדכנים אותה בהתאם לנתונים ולמידע הקיים. זאת בשונה מבדיקת השערות קלאסית, אשר משמשת כדי להחליט אם לקבל או לדחות השערה נתונה (בבדיקת השערות קלאסית בודקים האם הערך הסטטיסטי נופל בטווח התומך ב[[השערת האפס]] או מחוץ לטווח ולכן שולל את השערת האפס).

== מתודולוגיה ==
מאפייני המתודולוגיה של ההסתברות הבייסיאנית הם:
# השערה אינה מקבלת [[ערך אמת]] של 0 (שקר) או 1 (אמת), אלא מקבלת ערך שאינו 0 או 1 כשערך האמת שלה אינו ידוע. במובן זה הסטטיסטיקה המקובלת דומה ל[[לוגיקה בוליאנית]] וההסתברות הבייסיאנית דומה ל[[לוגיקה עמומה]].
# שימוש במשתנים רנדומליים או באופן כללי יותר שימוש בכימות לא ידוע למידול כל מקורות אי-הוודאות ב[[מודל (מדע)|מודל]] הסטטיסטי.{{הערה|1=Maurice J. Dupr´e
, and Frank J. Tipler†, [http://ba.stat.cmu.edu/journal/2009/vol04/issue03/dupre.pdf New Axioms for Rigorous Bayesian Probability], Bayesian Analysis (2009),4, Number 3, pp. 599–606}}
# קביעת התפלגות ההסתברות הפריורית מתבססת על הנתונים הידועים באותה נקודת [[זמן]].
==היסטוריה==
המונח הסתברות בייסיאנית נגזר משמו של תומאס בייס (1761-1702), שהיה זה שהגה את הפרשנות של המושג הסתברות, כהסתברות המשתנה על פי המידע הידוע בזמן מסוים ומתעדכנת כשנצבר מידע נוסף. בייס הוכיח [[מקרה פרטי]] של הטענה שלו הנקרא היום [[חוק בייס]]. המאמר הראשון על חוק בייס נקרא: An Essay towards solving a Problem in the Doctrine of Chances. הוא פורסם שנתיים אחרי מותו על בסיס מה שבייס כתב ולא פרסם.{{הערה|1=,Sharon Bertsch Mcgrayne, [https://books.google.co.il/books?id=_Kx5xVGuLRIC&pg=PA10&redir_esc=y#v=onepage&q&f=false ''The Theory that would not die - How bayes rule cracked the enigma code, hunted down russian submarines, and emerged triumphant from two centuries of controversy''], Google Books, Yale University Press New Haven and London p. 10}}
המקרה הספציפי הנדון במאמר זה, הוא מקרה המתייחס ל[[התפלגות בטא]] ולנתונים המתפלגים ב[[התפלגות בינומית]].

המתמטיקאי הצרפתי [[פייר-סימון לפלס]] (1827-1749) היה הראשון שהציג גרסה כוללנית של הגישה הבייסיאנית. לפלס התייחס לנושא בהקשר של היסקים סטטיסטיים בתחום ה[[פיזיקה]], הנוגעת ל[[מכניקה]] ול[[אסטרונומיה]] וגם לתחומים אחרים, כגון: [[רפואה]], [[משפטים]] ו[[מהימנות (שיטות מחקר)|מהימנות]].

היסקים מבוססי הסתברות בייסיאנית בתקופתו של לפלס התבססו על הסתברויות פריוריות קבועות, בהתאם ל[[עיקרון האדישות]] של לפלס. על פי העיקרון, אין מספיק מידע על מנת לייחס הסתברויות פריוריות שונות לאפשרויות שונות ולכן אם יש n אפשרויות, ההסתברות הפריורית של כל אחת מהן היא: <math> {1 \over n} </math>. העיקרון של לפלס כונה: "[[הסתברות הפוכה]]", משום שהוא מסיק מסקנות בכיוון ההפוך, כלומר: מערכי [[תצפית (מדע)|תצפיות]] לערכי [[פרמטר]]ים או ממסובב ל[[סיבה]].

אחרי שנת [[1920]] השלימו את "ההסתברות ההפוכה" אוסף שיטות שנקראו: היסקים שכיחותיים (באנגלית: Frequentist inference).

הרעיונות של לפלס התפתחו ב[[המאה ה-20|מאה ה-20]] לשני זרמים בייסיאנים שונים: סובייקטיבי ואובייקטיבי. תפקיד חשוב במיוחד מילא [[הרולד ג'פרי]]. ג'פרי פרסם בשנת [[1939]] את ספרו Theory of Probability. ספר זה מילא תפקיד חשוב בחזרה להסתברות בייסיאנית כתפיסה מרכזית בסטטיסטיקה. בעקבות העבודה של הרולד ג'פרי, פורסמו עבודות חשובות נוספות של [[אברהם ולד]] ב-[[1950]] ושל [[לאונרד סאוואג']] בשנת [[1954]]. 

המונח בייסיאני נוצר בשנת 1950. השימוש במונחים בייסיאניזם ונאו-בייסיאניזם, שנגזרו ממנו נעשה לראשונה בשנת [[1960]].{{הערה|1="The works of Wald, Statistical Decision Functions (1950) and Savage, The Foundation of Statistics (1954) are commonly regarded starting points for current Bayesian approaches"; "Recent developments of the so-called Bayesian approach to statistics" Marshall Dees Harris, Legal-economic research, University of Iowa. Agricultural Law Center (1959), p. 125 (fn. 52); p. 126. "This revolution, which may or may not succeed, is neo-Bayesianism. Jeffreys tried to introduce this approach, but did not succeed at the time in giving it general appeal." Annals of the Computation Laboratory of Harvard University 31 (1962), p. 180. "It is curious that even in its activities unrelated to ethics, humanity searches for a religion. At the present time, the religion being 'pushed' the hardest is Bayesianism." Oscar Kempthorne, 'The Classical Problem of Inference—Goodness of Fit', Proceedings of the Fifth Berkeley Symposium on Mathematical Statistics and Probability (1967), p. 235.}}

ב[[שנות ה-80 של המאה ה-20]] התרחבו המחקר של ההסתברות הבייסיאנית והשימוש בהסתברות הבייסיאנית באופן דרמטי. הגידול מיוחס לגילוי של שיטת [[אלגוריתם|אלגוריתמים]] הקרויה [[Markov chain Monte Carlo]] או בראשי תיבות MCMC. אלגוריתמים של MCMC מבוססים על שילוב של רעיונות של [[שרשרת מרקוב]] ושל [[שיטת מונטה קרלו]]. שיטות מבוסות MCMC חסכו חישובים מורכבים ומסובכים והגדילו את העניין ביישומים מורכבים ולא סטנדרטיים.

למרות הפופולריות הגדולה של מחקר של הסתברות בייסיאנית, עדיין לומדים לרוב את השיטות ההסתברויות הקלאסיות. למרות זאת, נעשה שימוש נרחב בשיטות בייסיאניות בתחומים כמו [[למידה חישובית]].{{הערה|1=Bishop, C.M. Pattern Recognition and Machine Learning. Springer, 2007}}

==הסתברות אובייקטיבית והסתברות סובייקטיבית==
קיימות שתי גישות של הסתברות בייסיאנית: הסתברות אובייקטיבית והסתברות סובייקטיבית.
ההבדל בין שתי הגישות מתייחס להסתברות הפריורית. 

===הסתברות אובייקטיבית===
בגישה האובייקטיבית, ההסתברות הפריורית היא [[אובייקטיביות|אובייקטיבית]], כלומר: האמונה שזו ההסתברות הפריורית היא סבירה בהנחה שלאדם או אפילו ל[[תוכנה|תוכנת מחשב]] יש את אותו מידע. ההסתברות הפריורית במקרה זה מבוססת על שיקולים רציונליים. עקרונות הכימות של הסתברות פריורית אובייקטיבית מבוססים על דרישות לרציונליות ועקביות הבאות לידי ביטוי ב[[משפט קוקס]].{{הערה|Wald, Abraham. Statistical Decision Functions. Wiley 1950.}}

===הסתברות סובייקטיבית===
בגישה הסובייקטיבית מבוסס החישוב על שיקולים [[סובייקטיביות|סובייקטיביים]]. לאנשים שלהם אותו מידע עשויות להיות הערכות סבירות שונות של ההסתברות הפריורית.
חוקרי [[תורת המשחקים]] עסקו באופן בו ניתן לייחס הסתברות פריורית סובייקטיבית. הם ניסו למצוא גישה רציונלית בקבלת החלטות. הם הסתמכו על [[משפט פון נוימן-מורגנשטרן]], המסביר את יחס ההעדפות בעזרת [[פונקציית תועלת]] ליניארית. בגישה זו נבנתה התפלגות הסתברויות של סוכן רציונלי. 

יוהאן פאנזגל (ב[[גרמנית]]: Johann Pfanzagl) הוסיף לתאוריה של [[ג'ון פון נוימן]] ושל [[אוסקר מורגנשטרן]] את האלמנט של ייחוס הסתברויות פריוריות סובייקטיביות שונות לסוכנים שונים.{{הערה|Pfanzagl, J (1967). "Subjective Probability Derived from the Morgenstern-von Neumann Utility Theory". In Martin Shubik}}
מורגנשטרן עצמו מייחס לפאנזגל את השלמת החסר בנושא זה בתאוריה של פון נוימן ושלו.{{הערה|Morgenstern, Oskar (1978). "Some Reflections on Utility". In Andrew Schotter. Selected Economic Writings of Oskar Morgenstern. New York University Press. pp. 65–70. {{ISBN|978-0-8147-7771-8}}.}}

[[פרנק רמזי]] ולאונרד סאוואג' הראו שניתן ללמוד על ההסתברות הסובייקטיבית האישית של סוכנים באמצעות [[ניסוי|ניסויים]]. ההבדלים בהסתברויות הסובייקטיביות הניתנות לאירועים על ידי סוכנים שונים, עשויות לבטא הבדל בהערכות הנובע מ[[פסיכולוגיה|מניעים פסיכולוגיים]] אבל גם משימוש בתהליכים שונים וכפי שהראה [[צ'ארלס פירס]] בעיקר משימוש בשיטות סטיסטיות שונות.{{הערה|Stigler, Stephen M. (1978). "Mathematical statistics in the early States". Annals of Statistics 6 (March): 239–265 esp. p. 248.doi:10.1214/aos/1176344123. JSTOR 2958876. MR 483118.}}
הביטוי המעשי של הטענה שלהם הוא [[מבחן רמזי]], שבו עסקו פסיכולוגים מחקריים במשך יותר מחמישים שנה. מבחן רמזי הראה שטיעונים של הסתברות בייסיאנית ניתנים ל[[הפרכה]] ולכן עומדים ב[[השיטה המדעית|קריטריון המדעי]] שהציב [[צ'ארלס פרס]]. היכולת להפריך [[תאוריה]] כמבחן להיותה [[תאוריה מדעית]] הוא נושא ש[[קרל פופר]] עסק בו בהרחבה בהקשר של [[פילוסופיה של המדע]].

==הצדקות לשימוש בהסתברות בייסיאנית==
השימוש בהסתברות בייסיאנית כבסיס ל[[הסקה סטטיסטית|היסקים סטטיסטיים]] נתמך על ידי נימוקים שונים: האקסיומות של משפט קוקס, הספר ההולנדי (באנגלית: Dutch book) ותאוריית [[קבלת החלטות]].
===גישה אקסיומטית על פי משפט קוקס===
{{הפניה לערך מורחב|משפט קוקס}}
[[ריצ'רד טרקלד קוקס]] הראה באמצעות [[אקסיומה|אקסיומות]], משוואות והנחות את הכללים שבאמצעותם מעדכנים [[הסתברות פריורית]] בגישה בייסיאנית. חלק מההנחות שהוא הציג שנויות במחלוקת. חלק מהמשוואות עודכנו באופן עקבי יותר מבחינה [[מתמטיקה|מתמטית]].

===גישת ההימור ההולנדי===
{{הפניה לערך מורחב|הימור הולנדי}}
'''גישת ההימור ההולנדי''' מתייחסת להימורים. על פי המשפט של [[ברונו דה-פינטי]], מהמר נבון שמאמץ את הגישה יזכה תמיד, [[אם ורק אם]] מארגן ההימורים לא ישתמש בחישובים המבוססים על הסתברות בייסיאנית. גישת ההימור ההולנדי מורכבת מאוסף [[הימור|הימורים]], שללא קשר לתוצאה יובילו לרווח, בהינתן התנאי שמארגן ההימורים לא אימץ את הגישה הבייסיאנית.

קיימת מחלוקת ביחס לטענתו של דה-פינטי. יש הטוענים שניתן לנצח בהימורים נגד גישת ההימור ההולנדי גם באמצעות חישובים שאינם בייסיאנים. איאן האקינג טוען, שההנמקות המסורתיות של גישת ההימור ההולנדי, אינן מגדירות את אופן עדכון ההסתברויות על בסיס מידע נוסף שנצבר.{{הערה|1=Ian Hacking, [http://www.jstor.org/stable/186120?seq=1#page_scan_tab_contents Slightly More Realistic Personal Probability], Chicago Journal, Philosophy of Science Vol. 34, No. 4 (Dec., 1967), pp. 311-325}}

===גישת קבלת החלטות===
אברהם ולד הצדיק את ההיסק הבייסיאני, וכתוצאה מכך גם את ההסתברות הבייסיאנית, באמצעות תאוריה של [[קבלת החלטות]]. ולד הוכיח שכל תהליך סטטיסטי קביל הוא תהליך בייסיאני או מקרה קיצון של תהליך בייסיאני. הוא הסיק מכך שכל תהליך בייסיאני הוא קביל.

== ראו גם ==
* [[בדיקת השערות]]
* [[תומאס בייס]]
* [[לוגיקה עמומה]]
* [[בעיית הטנק הגרמני]]
* [[משפט קוקס]]
* [[הפרדוקס של ברטראן]]
* [[חוק בייס]]

==לקריאה נוספת==
<div class="mw-content-ltr">
* Sharon Bertsch Mcgrayne,[https://books.google.co.il/books?id=_Kx5xVGuLRIC&pg=PA10&redir_esc=y#v=onepage&q&f=false, The Theory that would not die - How bayes rule cracked the enigma code, hunted down russian submarines, and emerged triumphant from two centuries of controversy], [[Google Books]], Yale University Press new haven and London
</div>

==קישורים חיצוניים==
* {{אנציקלופדיה למתמטיקה|Bayesian_approach}}
* JOHN ALLEN PAULOS, [http://www.nytimes.com/2011/08/07/books/review/the-theory-that-would-not-die-by-sharon-bertsch-mcgrayne-book-review.html?_r=2&scp=1&sq=thomas%20bayes&st=cse The Mathematics of Changing Your Mind], New York Times,August 5,2011

== הערות שוליים ==
{{הערות שוליים|יישור=שמאל}}

[[קטגוריה:תורת ההסתברות]]
[[קטגוריה:סטטיסטיקה בייסיאנית]]