מודלים, טוקנים וחלון הקשר: איך זה עובד מאחורי הקלעים
כל פעם שאתם כותבים ל-Claude או ל-ChatGPT, יש שלושה דברים שקובעים את התוצאה: איזה מודל עונה, כמה טוקנים השיחה צורכת, וכמה מקום נשאר בחלון ההקשר. מי שמבין את שלושתם בוחר נכון, חוסך במכסת השימוש ומקבל תשובות מדויקות יותר.
01מה זה בכלל מודל שפה?
מודל שפה (LLM) הוא תוכנה שאומנה על כמות עצומה של טקסט: ספרים, אתרים, קוד, מסמכים. מהאימון הזה היא למדה דפוסים של שפה וידע.
בבסיס, המודל עושה דבר אחד: מנחש מה החלק הבא בטקסט. הוא מקבל את מה שכתבתם, מנבא את המילה (ליתר דיוק: הטוקן) הבאה, מוסיף אותה, וחוזר על זה שוב ושוב עד שנוצרת תשובה שלמה.
זה נשמע פשוט, אבל כשהמודל גדול ומאומן היטב, הניחוש הזה מספיק טוב כדי לכתוב מייל, לבדוק חישוב או לכתוב קוד.
02מנוע ושולחן עבודה
תחשבו על המודל כעל נפח המנוע של רכב: מנוע גדול חזק יותר, אבל צורך יותר דלק ולא תמיד צריך אותו כדי לקפוץ למכולת. חלון ההקשר הוא משטח השולחן שעליו עובדים: כל מסמך, תוכנית והודעה שמניחים עליו תופסים מקום. כשהשולחן מלא, צריך לסכם, לפנות ניירות או לפתוח שולחן חדש.
03מה קורה כשאתם לוחצים שליחה
- 1הטקסט שלכםהשאלה, הקבצים וכל ההודעות הקודמות בשיחה
- 2פירוק לטוקניםהטקסט נחתך לחתיכות קטנות של מילים
- 3המודלמחשב מה הטוקן הסביר ביותר שיבוא אחר כך
- 4טוקנים חדשיםנוצרים אחד אחרי השני, כל אחד על בסיס הקודמים
- 5התשובההטוקנים מתחברים חזרה לטקסט שאתם קוראים
04משפחות המודלים של Claude
Haiku
המודל הקטן והמהיר. מתאים למשימות קצרות וחוזרות: סיווג מיילים, חילוץ נתונים מטבלה, תשובה מהירה.
Sonnet
שילוב טוב של מהירות ואינטליגנציה. ברירת מחדל טובה לרוב העבודה היומיומית: כתיבה, סיכום, ניתוח מסמכים.
Opus
מודל גדול לעבודה מורכבת וארוכה: בדיקת חישוב מסובך, סוכני קוד, ניתוח של הרבה מסמכים יחד. איטי יותר וצורך יותר מכסה.
שכבה עליונה
נכון לאוקטובר 2026 יש מעל Opus גם מודל בשם Fable למשימות החשיבה הקשות ביותר. השמות והגרסאות מתחלפים, אז תמיד כדאי לבדוק בעמוד המודלים הרשמי.
ChatGPT ו-Gemini
גם OpenAI ו-Google מציעות מודלים גדולים וקטנים וגרסאות עם מצב חשיבה. ההיגיון זהה: גדול יותר = חכם יותר אבל איטי ויקר יותר.
05טוקנים, חלון הקשר וחשיבה: המושגים
טוקן
חתיכה של מילה. מילה קצרה יכולה להיות טוקן אחד, מילה ארוכה כמה טוקנים. כל מה שנכנס למודל ויוצא ממנו נספר בטוקנים.
עברית מול אנגלית
באופן כללי, אותו תוכן בעברית מתפרק לרוב ליותר טוקנים מאשר באנגלית, כי המודלים אומנו בעיקר על אנגלית. המשמעות: שיחות בעברית מתמלאות מהר יותר.
חלון הקשר
כמות הטוקנים שהמודל רואה בבת אחת בשיחה אחת: ההוראות, הקבצים, ההודעות שלכם והתשובות שלו. מעבר לזה הוא לא רואה. בכל הודעה המודל קורא מחדש את כל השיחה.
כשהחלון מתמלא
בתוכניות בתשלום Claude מסכם אוטומטית חלקים ישנים כדי לפנות מקום (ב-Claude Code קוראים לזה compaction). פרטים מתחילת השיחה עלולים להיטשטש, אז לנושא חדש עדיף לפתוח שיחה חדשה עם סיכום קצר.
מצב חשיבה
המודל חושב בשקט לפני שהוא עונה: מפרק את הבעיה, בודק את עצמו. משפר תשובות בחישובים וניתוחים, אבל לוקח יותר זמן וצורך יותר טוקנים.
מכסת שימוש
בתוכניות של Claude יש מגבלות שימוש. שיחות ארוכות, קבצים גדולים, מודלים כבדים ומצב חשיבה צורכים יותר מהמכסה.
06מייל מהיר ללקוח
07בדיקת דוח חישוב ארוך
08סוכן קוד שמתקן אפליקציה
09איזה מודל לבחור למשימה
| משימה | רמת מודל | מצב חשיבה | למה |
|---|---|---|---|
| מייל קצר או ניסוח מחדש | Haiku או Sonnet | כבוי | משימה פשוטה, חשובה מהירות |
| סיכום פרוטוקול ישיבה | Sonnet | כבוי | טקסט בינוני, אין חישוב |
| תרגום מפרט טכני לאנגלית | Sonnet | כבוי או נמוך | צריך דיוק במונחים, לא חשיבה עמוקה |
| חילוץ נתונים מעשרות חשבוניות | Haiku | כבוי | הרבה משימות קטנות וחוזרות |
| בדיקת דוח חישוב או תקן | Opus | פעיל | דורש היגיון, יחידות ובדיקה עצמית |
| השוואת הצעות מחיר מורכבות | Sonnet או Opus | פעיל | הרבה פרמטרים ותנאים |
| סוכן קוד או אוטומציה ארוכה | Opus | פעיל | הרבה צעדים, צריך לתכנן ולתקן |
| סיעור מוחות לכותרות למאמר | Sonnet | כבוי | יצירתיות, לא חישוב |
10איך לחסוך במכסת השימוש
- 1
התאימו מודל למשימה
אל תשתמשו ב-Opus למייל של שתי שורות. Sonnet או Haiku יעשו את זה מהר יותר ובזול יותר.
- 2
שיחה חדשה לכל נושא
שיחה ארוכה נקראת מחדש בכל הודעה. נושא חדש = שיחה חדשה עם סיכום קצר.
- 3
שלחו רק את מה שצריך
במקום PDF של 200 עמודים, צרפו את הפרק הרלוונטי או הדביקו את הטבלה הנדרשת.
- 4
השתמשו בפרויקטים
ב-Projects המסמכים נשלפים לפי הצורך ולא נטענים כולם לכל שיחה (ראו הקשר שנשאר).
- 5
כבו כלים שלא צריך
מחברים וכלים פעילים תופסים מקום בחלון ההקשר. השאירו פעילים רק את מה שבשימוש.
- 6
מצב חשיבה רק כשצריך
לחישובים וניתוחים כן, לניסוח מייל לא.
11למה תמיד לבדוק: הזיות
מה המודל עלול לעשות
- להמציא מספר סעיף בתקן שלא קיים
- לתת ערך מקדם שנשמע הגיוני אבל שגוי
- לצטט מקור שלא קיים
- להישמע בטוח לגמרי גם כשהוא טועה
מה אתם עושים
- בודקים כל מספר מול התקן או הקטלוג המקורי
- מבקשים מקור ובודקים אותו בעצמכם
- מצרפים את המסמך עצמו במקום לסמוך על הזיכרון של המודל
- חותמים רק על מה שבדקתם בעצמכם
12שאלות נפוצות
למה המודל "שוכח" דברים שאמרתי בתחילת השיחה?
כנראה שחלון ההקשר התמלא ו-Claude סיכם חלקים ישנים, או שהשיחה פשוט ארוכה מדי ופרטים הולכים לאיבוד. פתחו שיחה חדשה עם סיכום של הנקודות החשובות.
האם לכתוב באנגלית כדי לחסוך?
לא חובה. עברית בדרך כלל צורכת יותר טוקנים, אבל אם נוח לכם בעברית, התשובות טובות. למסמכים ארוכים מאוד אפשר לשקול אנגלית.
איך יודעים איזה מודל זמין לי?
בבורר המודלים בממשק של Claude. הרשימה תלויה בתוכנית שלכם, והשמות מתחלפים עם הזמן. הרשימה המעודכנת נמצאת בעמוד המודלים בתיעוד של Claude.
האם מודל גדול יותר תמיד עדיף?
לא. למשימות פשוטות הוא איטי יותר וצורך יותר מכסה בלי לשפר הרבה. בחרו את המודל הקטן ביותר שעושה את העבודה טוב.
מצב חשיבה מבטל הזיות?
הוא מפחית טעויות בחישובים ובהיגיון, אבל לא מבטל אותן. עדיין צריך לבדוק כל מספר חשוב.