הצגת המקור של הדף "מודל שפה"

'''מודל שפה''' הוא מודל [[הסתברות|הסתברותי]] של שפה טבעית. <ref>{{צ-ספר|מחבר=Christopher Manning and Hinrich Schütze|שם=Foundations of statistical natural language processing|מו"ל=MIT|שנת הוצאה=1999|ISBN=9780262133609}}</ref> הדוגמאות המוכרות ביותר של שימוש במודלי שפה הן "השלמה אוטומטית", המציעה את המילה או המילים הכי סבירות להשלמת טקסט שהוקלד עד כה, וכן כלי [[בינה מלאכותית]] טקסטואליים דוגמת [[ChatGPT]] או [[Bard|Gemini]].

מודלי שפה משמשים עבור מגוון בעיות ב[[בלשנות חישובית]]; [[מערכת זיהוי דיבור|זיהוי דיבור והפיכתו לטקסט]], כדי להבטיח שרצפי מילים בסבירות נמוכה לא יופיעו, ועד לשימוש רחב יותר ב[[תרגום מכונה]], יצירת טקסט ממוכן דמוי אדם, זיהוי חלקי דיבור, [[זיהוי תווים אופטי]], [[זיהוי ממוחשב של כתב יד]], ויישומים נוספים.

== סוגי מודלים ==
=== Unigram ===
ניתן להתייחס למודל Unigram כשילוב של כמה [[אוטומט סופי|אוטומטים סופיים]] של מצב אחד.<ref>Christopher D. Manning, Prabhakar Raghavan, Hinrich Schütze: An Introduction to Information Retrieval, pages 237–240. Cambridge University Press, 2009</ref> המודל מניח שההסתברויות של אסימונים ברצף אינן תלויות, למשל:

: <math>P_\text{uni}(t_1t_2t_3)=P(t_1)P(t_2)P(t_3).</math>

במודל זה, ההסתברות של כל מילה תלויה רק בהסתברות של אותה מילה במסמך, כך שיש לנו רק אוטומטים סופיים של מצב אחד כיחידות. לאוטומט עצמו יש התפלגות הסתברות על כל אוצר המילים של המודל, המסתכמת ל-1. להלן איור של דגם Unigram של מסמך.
{| class="wikitable"
!תנאים
! הסתברות במסמך
|-
| a
| 0.1
|-
| world
| 0.2
|-
| likes
| 0.05
|-
| we
| 0.05
|-
| share
| 0.3
|-
| ...
| ...
|}

: <math>\sum_{\text{term in doc}} P(\text{term}) = 1</math>

ההסתברות שנוצרת עבור שאילתה ספציפית מחושבת כ

: <math>P(\text{query}) = \prod_{\text{term in query}} P(\text{term})</math>

למסמכים שונים יש מודלי Unigram, עם הסתברויות פגיעה שונות של מילים. התפלגויות ההסתברות ממסמכים שונים משמשות ליצירת הסתברויות פגיעה עבור כל שאילתה. ניתן לדרג מסמכים עבור שאילתה לפי ההסתברויות. דוגמה למודלי Unigram של שני מסמכים:
{| class="wikitable"
!תנאים
! הסתברות ב-Doc1
! הסתברות ב-Doc2
|-
| a
| 0.1
| 0.3
|-
| world
| 0.2
| 0.1
|-
| likes
| 0.05
| 0.03
|-
| we
| 0.05
| 0.02
|-
| share
| 0.3
| 0.2
|-
| ...
| ...
| ...
|}
בהקשרים של אחזור מידע, מודלי Unigram מופשטים לעיתים קרובות כדי למנוע מקרים שבהם ''P'' (מונח)=0. גישה נפוצה היא ליצור מודל סבירות מקסימלית עבור כל האוסף [[אינטרפולציה ליניארית|ואינטרפולציה ליניארית]] של מודל האוסף עם מודל סבירות מקסימלית עבור כל מסמך כדי לפשט את המודל.<ref>Buttcher, Clarke, and Cormack. Information Retrieval: Implementing and Evaluating Search Engines. pg. 289–291. MIT Press.</ref>

=== n-gram ===
במודל n-gram, ההסתברות <math>P(w_1,\ldots,w_m)</math> של התבוננות במשפט <math>w_1,\ldots,w_m</math> משוער כ

: <math>P(w_1,\ldots,w_m) = \prod^m_{i=1} P(w_i\mid w_1,\ldots,w_{i-1})\approx \prod^m_{i=2} P(w_i\mid w_{i-(n-1)},\ldots,w_{i-1})</math>

ההנחה היא שההסתברות להתקלות במילה ''<sup>ה-</sup> i'' ''w <sub>i</sub>'' בהיסטוריית ההקשר של ה- ''i'' הקודם - ניתן להעריך 1 מילים לפי ההסתברות להתבונן בה בהיסטוריית ההקשר המקוצרת של ה- ''n'' הקודמת - 1 מילים ( נכס מרקוב <sup>מסדר</sup> ''n'' ). כדי להבהיר, עבור ''n=3'' ו- ''i=2'' יש לנו <math>P(w_i\mid w_{i-(n-1)},\ldots,w_{i-1})=P(w_2\mid w_1)</math>

ניתן לחשב את ההסתברות המותנית מתוך ספירת תדירות של מודל n-gram:

: <math>P(w_i\mid w_{i-(n-1)},\ldots,w_{i-1}) = \frac{\mathrm{count}(w_{i-(n-1)},\ldots,w_{i-1},w_i)}{\mathrm{count}(w_{i-(n-1)},\ldots,w_{i-1})}</math>

מודלי '''bigram וtrigram''' מציינים מודלי n-gram עם ''n''=2 ו- ''n''=3, בהתאמה.<ref>Craig Trim, [http://trimc-nlp.blogspot.com/2013/04/language-modeling.html ''What is Language Modeling?''], April 26th, 2013.</ref>

בדרך כלל, הסתברויות מודל n-gram אינן נגזרות ישירות מספירת תדרים, מכיוון שבמודלים שנגזרו כך צפות בעיות כאשר הם מתמודדים עם n-gram כלשהם שלא נראו במפורש קודם לכן.

במקום זאת, נחוצה צורה כלשהי של "החלקה", הקצאת חלק ממסת ההסתברות הכוללת למילים בלתי נראות או ל-n-gram. נעשה שימוש בשיטות שונות, החל מהחלקה פשוטה של "הוספה אחת" (הקצאת ספירה של 1 ל-''n-'' גרם בלתי נראה, כקודם לא [[הסתברות פריורית|אינפורמטיבי]]) ועד למודלים מתוחכמים יותר, כגון הנחות של Good-Turing או [[:en:Katz's_back-off_model|back-off models]].

==== דו-כיווני ====
ייצוגים דו-כיווניים מתנים הן לפני והן לאחר ההקשר (למשל, מילים) בכל השכבות.

==== דוגמה ====
במודל שפה bigram (''n''=2), ההסתברות של המשפט ''שראיתי את הבית האדום'' משוערת כמו

: <math>P(\text{I, saw, the, red, house}) \approx P(\text{I}\mid\langle s\rangle) P(\text{saw}\mid \text{I}) P(\text{the}\mid\text{saw}) P(\text{red}\mid\text{the}) P(\text{house}\mid\text{red}) P(\langle /s\rangle\mid \text{house})</math>

ואילו במודל שפה trigram (''נ''=3), הקירוב הוא

: <math>P(\text{I, saw, the, red, house}) \approx P(\text{I}\mid \langle s\rangle,\langle s\rangle) P(\text{saw}\mid\langle s\rangle,I) P(\text{the}\mid\text{I, saw}) P(\text{red}\mid\text{saw, the}) P(\text{house}\mid\text{the, red}) P(\langle /s\rangle\mid\text{red, house})</math>

שימו לב שההקשר של ה-''n'' הראשונה–1 ''n'' -גרם מלא בסמנים של תחילת המשפט, המסומנים בדרך כלל על ידי <nowiki><s></nowiki>.

=== אקספוננציאלי ===
מודלים של שפת אנטרופיה מקסימלית מקודדים את הקשר בין מילה להיסטוריה של n-gram באמצעות פונקציות תכונה. המשוואה היא

: <math> P(w_m \mid w_1,\ldots,w_{m-1}) = \frac{1}{Z(w_1,\ldots,w_{m-1})} \exp (a^T f(w_1,\ldots,w_m))</math>

כאשר <math>Z(w_1,\ldots,w_{m-1})</math> היא פונקציית המחיצה, <math>a</math> הוא וקטור הפרמטר, ו <math>f(w_1,\ldots,w_m)</math> היא פונקציית הפיצ'ר. במקרה הפשוט ביותר, פונקציית התכונה היא רק אינדיקטור לנוכחות של n-gram מסוים.

המודל הלוג-ביליניארי הוא דוגמה נוספת למודל שפה אקספוננציאלי.

=== רשת נוירונים ===
מודלי שפות מבוססי [[רשת נוירונים|רשתות נוירונים]] משתמשים בייצוגים או הטמעות מתמשכות של מילים כדי לבצע את התחזיות שלהם.<ref>{{Cite web|last=Karpathy|first=Andrej|title=The Unreasonable Effectiveness of Recurrent Neural Networks|url=https://karpathy.github.io/2015/05/21/rnn-effectiveness/}}</ref> מודלים אלה עושים שימוש ב[[רשת עצבית מלאכותית|רשתות עצביות מלאכותיות]].

ככל שמודלי שפה מאומנים על טקסטים גדולים יותר ויותר, אוצר המילים של המודל גדל. וכך גם מספר הרצפים האפשריים של מילים גדל ב[[גדילה מעריכית|אופן אקספוננציאלי]]. דבר זה גורם לבעיה של "דלילות נתונים" בגלל הרצפים הרבים האפשריים. לפיכך, יש צורך בסטטיסטיקה כדי להעריך נכון את הסתברות הופעת המילה. רשתות נוירונים נמנעות מבעיה זו על ידי ייצוג מילים בצורה [[רשת עצבית מלאכותית|מבוזרת]], כצירופים לא ליניאריים של משקלים ב"רשת נוירונים".<ref name="bengio">{{Cite encyclopedia|title=Neural net language models|first=Yoshua|last=Bengio|year=2008|encyclopedia=[[Scholarpedia]]|volume=3|page=3881|url=http://www.scholarpedia.org/article/Neural_net_language_models|doi=10.4249/scholarpedia.3881|bibcode=2008SchpJ...3.3881B}}</ref>

בדרך כלל, מודלים של שפת רשת נוירונים בנויים ומאומנים כמסווגים הסתברותיים הלומדים לחזות התפלגות הסתברות

: <math>P(w_t \mid \mathrm{context}) \, \forall t \in V</math>

כלומר, הרשת מאומנת לחזות את התפלגות ההסתברות על פני אוצר המילים, בהתחשב להקשר לשוני כלשהו. זה נעשה באמצעות [[אלגוריתם|אלגוריתמים]] סטנדרטיים לאימון רשת נוירונים כגון "ירידה בשיפוע סטוכסטי" עם "התפשטות לאחור". ההקשר עשוי להיות חלון בגודל קבוע של מילים קודמות, כך שהרשת מנבאת

: <math>P(w_t \mid w_{t-k}, \dots, w_{t-1})</math>

מ"וקטור תכונה" המייצג את {{Mvar|k}} המילים הקודמות. אפשרות נוספת היא להשתמש במילים "עתידיות" כמו גם במילים מה"עבר" כתכונות, כך שההסתברות המשוערת היא

: <math>P(w_t \mid w_{t-k}, \dots, w_{t-1}, w_{t+1}, \dots, w_{t+k})</math>

זה נקרא מודל "שק של מילים" ([[:en:Bag-of-words|bag-of-words]]). כאשר וקטורי התכונה של המילים בהקשר משולבים על ידי פעולה רציפה, המודל הזה מכונה ארכיטקטורת שקית המילים הרציפה (CBOW).

אפשרות שלישית שמתאמנת לאט יותר מה-CBOW אבל מתפקדת מעט יותר טוב היא להפוך את הבעיה הקודמת ולגרום לרשת נוירונים ללמוד את ההקשר בהינתן מילה. או בצורה מדויקת יותר, בהינתן רצף של מילות אימון <math>w_1, w_2, w_3, \dots, w_T</math>, אחד מגדיל את ההסתברות הממוצעת לlog

: <math>\frac{1}{T}\sum_{t=1}^T \sum_{-k \leq j \leq k, j \neq 0} \log P(w_{t+j} \mid w_t)</math>

כאשר {{Mvar|k}}, גודל ההקשר האימון, יכול להיות פונקציה של המילה המרכזית <math>w_t</math>. זה נקרא מודל שפת דילוג על גרם ([[:en:Skip-gram|skip-gram]]). מודלים של שקית מילים ודילוג על גרם הם הבסיס לתוכנית [[word2vec]].<ref>{{Cite web|last=Harris|first=Derrick|date=16 August 2013|title=We're on the cusp of deep learning for the masses. You can thank Google later|url=https://gigaom.com/2013/08/16/were-on-the-cusp-of-deep-learning-for-the-masses-you-can-thank-google-later/|website=Gigaom}}</ref>

== מודלי שפה בולטים ==
* מודל שפה כללי (GLaM) של טריליון פרמטרים, ממחקר של Google<ref>{{Cite web|last=Dai|first=Andrew M|last2=Du|first2=Nan|date=December 9, 2021|title=More Efficient In-Context Learning with GLaM|url=https://ai.googleblog.com/2021/12/more-efficient-in-context-learning-with.html|access-date=2022-12-05|website=ai.googleblog.com|language=en}}</ref>
* מודלי שפה ליישומי דיאלוג (LaMDA) מודל של 137 מיליארד פרמטרים מ-Google Research<ref>{{Cite web|last=Cheng|first=Heng-Tze|last2=Thoppilan|first2=Romal|date=January 21, 2022|title=LaMDA: Towards Safe, Grounded, and High-Quality Dialog Models for Everything|url=https://ai.googleblog.com/2022/01/lamda-towards-safe-grounded-and-high.html|access-date=2022-12-05|website=ai.googleblog.com|language=en}}</ref>
* Megatron-Turing מודל פרמטרים של 530 מיליארד NLG, מבית Microsoft/Nvidia<ref>{{Cite journal|last=Smith|first=Shaden|last2=Patwary|first2=Mostofa|last3=Norick|first3=Brandon|last4=LeGresley|first4=Patrick|last5=Rajbhandari|first5=Samyam|last6=Casper|first6=Jared|last7=Liu|first7=Zhun|last8=Prabhumoye|first8=Shrimai|last9=Zerveas|first9=George|last10=Korthikanti|first10=Vijay|last11=Zhang|first11=Elton|date=2022-02-04|title=Using DeepSpeed and Megatron to Train Megatron-Turing NLG 530B, A Large-Scale Generative Language Model|url=http://arxiv.org/abs/2201.11990|journal=arXiv:2201.11990 [cs]}}</ref>
* יצירת תמונה תלת-ממדית של DreamFusion/Imagen מ-Google Research<ref>{{Cite web|last=Poole|first=Ben|last2=Jain|first2=Ajay|last3=Barron|first3=Jonathan T.|last4=Mildenhall|first4=Ben|date=2022|title=DreamFusion: Text-to-3D using 2D Diffusion|url=https://dreamfusion3d.github.io/|access-date=2022-12-05}}</ref>
* Get3D מ-Nvidia<ref>{{Cite web|last=Gao|first=Jun|last2=Shen|first2=Tianchang|last3=Zian|first3=Wang|last4=Chen|first4=Wenzheng|last5=Yin|first5=Kangxue|last6=Li|first6=Diaqing|last7=Litany|first7=Or|last8=Gojcic|first8=Zan|last9=Fidler|first9=Sanja|date=2022|title=GET3D: A Generative Model of High Quality 3D Textured Shapes Learned from Images|url=https://nv-tlabs.github.io/GET3D/assets/paper.pdf|access-date=2022-12-05|website=nv-tlabs.github.io}}</ref>
* MineClip מ-Nvidia<ref>{{Cite journal|last=Fan|first=Linxi|last2=Wang|first2=Guanzhi|last3=Jiang|first3=Yunfan|last4=Mandlekar|first4=Ajay|last5=Yang|first5=Yuncong|last6=Zhu|first6=Haoyi|last7=Tang|first7=Andrew|last8=Huang|first8=De-An|last9=Zhu|first9=Yuke|last10=Anandkumar|first10=Anima|date=2022-06-17|title=MineDojo: Building Open-Ended Embodied Agents with Internet-Scale Knowledge|url=https://arxiv.org/abs/2206.08853v2|language=en|doi=10.48550/arXiv.2206.08853}}</ref>
* BigScience Large Open-Science (BLOOM) מודל שפה רב-לשונית פתוחה בגישה פתוחה עם 176 מיליארד פרמטרים.
* GPT-2: Generative Pre-trained Transformer 2 עם 1.5 מיליארד פרמטרים.
* [[GPT-3]]: Generative Pre-trained Transformer 3, עם גודל חסר תקדים של הקשר באורך 2048 אורך סמלי ו-175 מיליארד פרמטרים (דורש 800 GB של אחסון).
* GPT-3.5/ [[ChatGPT]] /InstructGPT וגרסאות מתקדמות יותר מ-OpenAI<ref>{{Cite web|date=2022-11-30|title=ChatGPT: Optimizing Language Models for Dialogue|url=https://openai.com/blog/chatgpt/|access-date=2022-12-05|website=OpenAI|language=en}}</ref>
* BERT: ייצוג מקודד דו-כיווני של רובוטריקים (BERT)
* GPT-NeoX-20B: מודל שפה [[מודל אוטו-רגרסיבי|אוטורגרסיבית]] בקוד פתוח עם 20 מיליארד פרמטרים.
* OPT-175B מאת Meta AI: מודל נוסף של שפה של 175 מיליארד פרמטרים. זה זמין לקהילת המחקר הרחבה יותר של AI.
* Point-E מאת OpenAI: מחולל מודלים תלת־ממדיים.<ref>{{Cite web|last=Wiggers|first=Kyle|date=2022-12-20|title=OpenAI releases Point-E, an AI that generates 3D models|url=https://techcrunch.com/2022/12/20/openai-releases-point-e-an-ai-that-generates-3d-models/|access-date=2022-12-25|website=TechCrunch|language=en}}</ref>

[[Hugging Face]] מארח קבוצה של דגמי שפה זמינים לציבור עבור מפתחים לבניית יישומים באמצעות [[למידת מכונה]].

== הערכת איכות של מודלים ==
הערכת האיכות של מודלי שפה נעשית בעיקר על ידי השוואה לאמות מידה מדגמיות שנוצרו על ידי אדם במשימות אופייניות למטרה הנמדדת.

מבחני איכות נוספים בודקים את האופי הפנימי של מודל שפה או משווים שני מודלים אחד לשני. מכיוון שמודלי שפה נועדו בדרך כלל להיות דינמיים וללמוד מנתונים שהם רואים, כמה מודלים מוצעים חוקרים את קצב הלמידה, למשל באמצעות בדיקה של עקומות הלמידה של המודלים.<ref>{{Citation|last=Karlgren|first=Jussi|last2=Schutze|first2=Hinrich|chapter=Evaluating Learning Language Representations|date=2015|pages=254–260|publisher=Springer International Publishing|isbn=9783319642055|doi=10.1007/978-3-319-64206-2_8|title=International Conference of the Cross-Language Evaluation Forum|series=Lecture Notes in Computer Science}}</ref>

מערכי נתונים שונים פותחו לשימוש כדי להעריך מערכות עיבוד שפה:
* קורפוס של קבילות לשונית<ref>{{Cite web|title=The Corpus of Linguistic Acceptability (CoLA)|url=https://nyu-mll.github.io/CoLA/|access-date=2019-02-25|website=nyu-mll.github.io}}</ref>
* מדד GLUE<ref>{{Cite web|title=GLUE Benchmark|url=https://gluebenchmark.com/|access-date=2019-02-25|website=gluebenchmark.com|language=en}}</ref>
* קורפוס הפרפראזה של מיקרוסופט<ref>{{Cite web|title=Microsoft Research Paraphrase Corpus|url=https://www.microsoft.com/en-us/download/details.aspx?id=52398|access-date=2019-02-25|website=Microsoft Download Center|language=en-us}}</ref>
* הסקת שפה טבעית רב-ז'אנרית
* שאלה בהסקת שפה טבעית
* צמדי שאלות Quora<ref>{{Citation|last=Aghaebrahimian|first=Ahmad|chapter=Quora Question Answer Dataset|date=2017|pages=66–73|publisher=Springer International Publishing|isbn=9783319642055|doi=10.1007/978-3-319-64206-2_8|title=Text, Speech, and Dialogue|volume=10415|series=Lecture Notes in Computer Science}}</ref>
* זיהוי מעורבות טקסטואלית<ref>{{Cite web|last=Sammons, V.G.Vinod Vydiswaran, Dan Roth|first=Mark|last2=Vydiswaran|first2=V.G.|last3=Roth|first3=Dan|title=Recognizing Textual Entailment|url=http://l2r.cs.uiuc.edu/~danr/Teaching/CS546-12/TeChapter.pdf|access-date=February 24, 2019}}</ref>
* מדד דמיון טקסטואלי סמנטי
* מבחן תשובה לשאלות SQuAD<ref>{{Cite web|title=The Stanford Question Answering Dataset|url=https://rajpurkar.github.io/SQuAD-explorer/|access-date=2019-02-25|website=rajpurkar.github.io}}</ref>
* Stanford Sentiment Treebank <ref>{{Cite web|title=Recursive Deep Models for Semantic Compositionality Over a Sentiment Treebank|url=https://nlp.stanford.edu/sentiment/treebank.html|access-date=2019-02-25|website=nlp.stanford.edu}}</ref>
* וינוגרד NLI

== ביקורת ==
למרות שניתן להראות שמודלי שפה בזמננו, דוגמת GPT-2, יכולים לבצע פעולות אנושיות בכמה סוגי משימות, לא הוכח עדיין שהם מודלים קוגניטיביים סבירים. לדוגמה, הוכח שרשתות עצביות חוזרות על דפוסים שבני אדם לא יוצרים באופן טבעי, ואינם מצליחים ללמוד דפוסים רבים שבני אדם כן לומדים.<ref>{{Cite book|last=Hornstein|first=Norbert|url=https://books.google.com/books?id=XoxsDwAAQBAJ&dq=adger+%22goldilocks%22&pg=PA153|title=Syntactic Structures after 60 Years: The Impact of the Chomskyan Revolution in Linguistics|last2=Lasnik|first2=Howard|last3=Patel-Grosz|first3=Pritty|last4=Yang|first4=Charles|date=2018-01-09|publisher=Walter de Gruyter GmbH & Co KG|isbn=978-1-5015-0692-5|language=en}}</ref>

== קישורים חיצוניים ==
* [https://www.ai-blog.co.il/2022/10/16/בחירה-נכונה-של-מודל-שפה/ בחירה נכונה של מודל שפה], באתר ai-blog

== הערות שוליים ==
{{הערות שוליים|יישור=שמאל}}

{{בינה מלאכותית}}

{{בקרת זהויות}}

[[קטגוריה:מודלים מרקוביים]]
[[קטגוריה:בינה מלאכותית]]