עינת פינקו

שיעור 7 · 8 דקות

טוקנים ושיחות: איך לא לגמור את המכסה באמצע

בסוף השיעור: תביני על מה הולכת המכסה של המנוי, ותדעי לעבוד ככה שתספיק לך.

מה זה טוקן?

Claude לא קורא מילים, הוא קורא טוקנים: חתיכות קטנות של טקסט. מילה קצרה יכולה להיות טוקן אחד, ומילה ארוכה כמה. וכל מה שנכנס לשיחה נספר: מה שאת כותבת, מה שהוא עונה, כל קובץ שהוא קורא וכל תמונה שהוא מסתכל עליה.

המנוי שלך כולל מכסת שימוש, וברוב המנויים יש לה שני שעונים: חלון של חמש שעות, שמתחיל מההודעה הראשונה ומתחדש במלואו חמש שעות אחרי, ותקרה שבועית. כשהמכסה נגמרת, קלוד קוד אומר מתי היא מתחדשת.

למה שיחה ארוכה עולה יותר

כאן הסוד: Claude לא זוכר כלום בין הודעה להודעה. לכן בכל הודעה חדשה, קלוד קוד שולח לו מחדש את כל השיחה עד עכשיו. יש מנגנון שמוזיל את מה שכבר נשלח, אבל רק כל עוד השיחה טרייה. שיחה של שעתיים, עם עשרה קבצים ושלושה צילומי מסך, הופכת כל הודעה קטנה לכבדה.

ויש לזה עוד מחיר: בשיחה ארוכה מדי הוא מתחיל להתפזר. כשהשיחה מתקרבת לגבול שלה, קלוד קוד מסכם אותה לבד כדי לפנות מקום, ובסיכום פרטים קטנים יכולים ללכת לאיבוד.

שיחות (sessions): מתי חדשה ומתי ממשיכים

/clear
שיחה חדשה ונקייה. בכל פעם שעוברים למשימה אחרת. זה ההרגל שחוסך הכי הרבה.
/compact
מסכם את השיחה ומשאיר את העיקר, כשאת באמצע משימה. אפשר לכוון אותו: אחרי /compact כותבים על מה לשמור, למשל "הכיתובים של השבוע".
/resume
חזרה לשיחה קודמת מרשימה. ומהטרמינל, claude -c ממשיך את האחרונה.

ומה מחבר בין שיחות? CLAUDE.md. מה שחשוב לזכור, כותבים שם, וככה אפשר לפתוח שיחה חדשה בלי לאבד כלום.

כמה נשאר לי?

/usage
כמה מהמכסה של המנוי ניצלת, ועל מה היא הלכה.
/context
כמה מקום תופסת השיחה הנוכחית, ומה ממלא אותו.

שבעה הרגלים שחוסכים

  1. משימה חדשה = `/clear`. לא ממשיכים את שיחת התקציב כדי לכתוב הזמנה ליום הולדת.
  2. בקשה ברורה מראש. בקשה מעורפלת גורמת לו לחפש בכל מקום. בריף טוב חוסך חמישה סבבי "לא, התכוונתי ל...".
  3. תכנון למשימות גדולות, ו-`Esc` מוקדם. לתקן תוכנית זול בהרבה מלתקן עבודה שכבר נעשתה. הוא הולך לכיוון הלא נכון? עוצרים מיד.
  4. להצביע, לא לשפוך. במקום "תקרא את כל התיקייה", @ לקובץ הנכון.
  5. תמונות במידה. כל צילום מסך וכל תמונה עולים הרבה. שולחים את מה שבאמת צריך, ובפרויקטים של תמונות מתחילים מקבוצה קטנה.
  6. CLAUDE.md קצר. הוא נשלח בתחילת כל שיחה, אז כל שורה מיותרת עולה כל פעם מחדש. הוראות למשימה מסוימת שמים בסקיל, שנטען רק כשצריך.
  7. המודל המתאים, מההתחלה. מודל הוא הגרסה של Claude שעובדת בשבילך, וב-/model בוחרים אותו. לרוב המשימות המודל הסטנדרטי (Sonnet) מספיק בהחלט, והחזק ביותר (Opus) יקר יותר. בוחרים בתחילת שיחה, כי החלפה באמצע שולחת את כל השיחה מחדש, בלי הנחה.

נסי בעצמך

כתבי /context ותראי כמה מקום תופסת השיחה עכשיו. אחר כך /usage. ואז /clear, ושוב /context. רואה את ההבדל?

השיעור בשורה אחת

כל השיחה נשלחת מחדש בכל הודעה. שיחה קצרה וממוקדת חוסכת מכסה, וגם עובדת טוב יותר.