ChatGPT למתקדמים: Projects, זיכרון וכלים שרוב המשתמשים מבזבזים

בואו נטוס גבוה. רובכם משתמשים ב-ChatGPT כמו במנוע חיפוש משופר: שאלה נכנסת, תשובה יוצאת, חלון נסגר, וכל מה שלימדתם אותו על עצמכם מתאדה. זה בזבוז עצום של שלוש מערכות שיושבות שם, חינם כמעט, ורוב האנשים אפילו לא יודעים שהן קיימות: Projects (פרויקטים), זיכרון (Memory), וכלים (Tools). בכתבה הזו אני לוקח אתכם פנימה — לא "תלחצו פה", אלא מה קורה מתחת ולמה זה משנה.

קודם כל: מה זה בכלל "הקשר" (Context), ולמה הכל מתחיל ממנו

לפני שנוגעים בשום פיצ'ר, צריך מושג אחד. מודל שפה (Language Model) הוא תוכנה שאומנה על כמות עצומה של טקסט וכל מה שהיא עושה זה לחזות את המילה הבאה ברצף — ChatGPT הוא מודל כזה. מודל שפה כמו ChatGPT לא "זוכר" שום דבר בין שיחות — בכל פנייה הוא מקבל את כל הטקסט הרלוונטי מחדש, קורא אותו, ועונה. הטקסט הזה — ההוראות, ההיסטוריה, מה שאתם מקלידים עכשיו — נקרא חלון ההקשר (context window). תחשבו עליו כמו שולחן עבודה בגודל קבוע: כל מה שמונח עליו, המודל רואה; מה שלא על השולחן — לא קיים מבחינתו.

זאת האינטואיציה שמסבירה את כל השאר. שלושת הפיצ'רים הם שלוש דרכים שונות לשלוט במה שמונח על השולחן הזה — מה נכנס אוטומטית, מה נשאר בין שיחות, ומה נמשך מבחוץ בזמן אמת. בלי המושג הזה, כל פיצ'ר נראה כמו קסם אקראי. איתו, הכל מתחבר.

Projects: תיקייה עם מוח משלה

Project (פרויקט) ב-ChatGPT הוא לא סתם תיקייה לסדר שיחות. זה מרחב שבו אתם מגדירים הוראות קבועות וקבצים שנכנסים אוטומטית לחלון ההקשר של כל שיחה בתוכו. הנה הבעיה שזה פותר: נניח שאתם כותבים פוסטים לרשתות בקול אישי מסוים — אנרגטי, גוף ראשון, בלי קלישאות. בלי Project, אתם מדביקים את ההוראות האלה מחדש בתחילת כל צ'אט. שכחתם פעם אחת? קיבלתם תשובה גנרית.

עם Project, אתם כותבים את ההוראות פעם אחת בשדה "Instructions" (הוראות) של הפרויקט, מעלים אליו קובץ דוגמאות (נניח 5 פוסטים ישנים שלכם), וזהו. כל שיחה חדשה שתפתחו בתוך הפרויקט כבר יודעת את הקול, את הסגנון, את הקהל — כי הטקסט הזה מונח על השולחן עוד לפני שהקלדתם מילה.

דוגמה קונקרטית להוראות פרויקט שתוכלו להעתיק עכשיו:

"אתה עוזר כתיבה לערוץ טכנולוגיה. כתוב בעברית זורמת, גוף ראשון, משפטים קצרים. מונחים טכניים באנגלית. אסור: 'בעולם של היום', 'חשוב לציין', סימני קריאה כפולים. כל תשובה מתחילה ישר מהעניין, בלי הקדמה."

ה"למה" העמוק: הפרדה בין הקשרים מונעת זיהום צולב. אם תנהלו את כל החיים בצ'אט אחד ארוך, ההוראות לכתיבת קוד יזלגו לתשובות על תזונה, וההיסטוריה תתפח עד שהמודל מתחיל "לשכוח" דברים מההתחלה — כי השולחן (חלון ההקשר) מתמלא, והפריטים הישנים נדחפים החוצה כשנגמר המקום. פרויקט נפרד לכל תחום שומר על שולחן נקי וממוקד.

אתה עוזר כתיבה לערוץ טכנולוגיה בעברית. קול: גוף ראשון, אנרגטי, משפטים קצרים, מונחים טכניים באנגלית. אסור: 'בעולם של היום', 'חשוב לציין', אימוג'ים, סימני קריאה כפולים. כל פוסט: פתיח שובר-גלילה בשורה ראשונה, גוף עם דוגמה קונקרטית אחת, שורת סיום עם קריאה לפעולה. אורך: 80-120 מילים. הסתמך על קובץ הדוגמאות שצירפתי לקול.

זיכרון (Memory): מה נשאר כשהשיחה נסגרת

עכשיו לחלק שהכי הרבה אנשים מבינים לא נכון. ל-ChatGPT יש מנגנון Memory (זיכרון) — זיכרון מתמשך שעובר בין שיחות שונות, גם מחוץ לפרויקטים. כשאתם אומרים "אני טבעוני" או "אני מתכנת בפייתון", המודל יכול לשמור עובדה כזו ב"פנקס" קבוע, ובשיחות הבאות היא תיכנס אוטומטית להקשר — בלי שתחזרו עליה.

ההבדל מ-Project, וזו נקודה קריטית: הוראות פרויקט חלות רק בתוך אותו פרויקט; זיכרון חל גלובלית, כלומר על כל שיחה רגילה שתפתחו, בכל נושא. זאת אומרת שאם רשמתם בזיכרון "אני שונא אימוג'ים", זה ישפיע גם על שיחה על מתכונים וגם על שיחה על קוד.

ופה מגיע הבזבוז שבכותרת. זיכרון מתמלא בזבל בלי שתשימו לב, וזבל בזיכרון = הקשר מורעל בכל שיחה. המודל לפעמים שומר דברים אקראיים: "המשתמש שאל פעם על טיסה לברלין", "המשתמש התלבט לגבי צבע ספה". כל פריט כזה תופס מקום על השולחן הקבוע שלכם, ולפעמים גורם לתשובות מוזרות — המודל מנסה לקשור הכל לעובדה ישנה ולא רלוונטית. למה זה קורה? כי כל מה שיושב על השולחן נחשב מבחינת המודל ל"רלוונטי" — הוא לא יודע להבחין בין עובדה שחשובה לכם לבין רעש ישן, אז הוא מתחשב בהכל.

מה לעשות, צעד אחר צעד:

הבדיקה שאני עושה כל חודש: נכנסים ל-Settings (הגדרות) ← Personalization (התאמה אישית) ← Memory ← Manage (ניהול). רואים רשימה של כל מה שנשמר. כל שורה שלא תרצו שתשפיע על כל שיחה עתידית — מוחקים מיד. זה לוקח שתי דקות ומשפר את האיכות יותר מכל "טריק פרומפט" (ניסוח חכם של השאלה).

כלים (Tools): כשהמודל יוצא מהקופסה

עד עכשיו דיברנו על טקסט שמונח על השולחן. כלים (Tools) הם משהו אחר לגמרי: יכולת של המודל לבצע פעולה בעולם החיצוני באמצע השיחה ולהחזיר את התוצאה להקשר. שלושה כלים מרכזיים, וכל אחד פותר בעיית-יסוד אחרת.

1. גלישה (Web Search): המודל אומן על נתונים עד תאריך מסוים — אין לו מושג על מה שקרה אחרי. הכלי הזה שולח שאילתה (שאלת חיפוש) לאינטרנט, מושך תוצאות עדכניות, מכניס אותן לחלון ההקשר, ורק אז עונה. ה"למה": בלי זה, שאלה על מחיר מניה היום או על אירוע מהשבוע תקבל תשובה מומצאת — מה שנקרא "הזיה" (hallucination), כלומר המודל ממציא פרט בביטחון מלא כאילו הוא אמת, כי תפקידו לחזות מילה סבירה ולא לבדוק עובדות. עם גלישה, התשובה נשענת על מקור אמיתי שאתם יכולים לבדוק.

2. Code Interpreter (מפענח קוד / ניתוח נתונים): המודל כותב קוד בשפת פייתון (Python — שפת תכנות נפוצה לעיבוד נתונים), מריץ אותו בסביבה אמיתית ומבודדת, ומחזיר את הפלט. זה ההבדל בין מודל שמנחש כמה זה 847×392 לבין מודל שמחשב את זה. דוגמה אמיתית: גוררים קובץ CSV (קובץ טבלה פשוט של ערכים מופרדים בפסיקים) של הוצאות, מבקשים "תראה לי גרף הוצאות חודשי ותסמן חריגות" — והוא באמת מריץ קוד, מייצר גרף, ונותן מספרים מדויקים. בלי הכלי, הוא היה ממציא מגמה סבירה-למראה ושגויה.

3. יצירת תמונות (Image Generation): המודל מתרגם תיאור טקסטואלי לתמונה דרך מנוע ייעודי — אתם כותבים "חתול אסטרונאוט על המאדים בסגנון ציור שמן" ומקבלים תמונה.

ועכשיו ה"שמבזבזים" שבכותרת. הכלים האלה עולים זמן וכוח חישוב — והפעלה אוטומטית שלהם על כל שאלה מאיטה אתכם ושוחקת מכסות (המגבלה היומית/חודשית על כמה פעמים מותר להשתמש). הרבה אנשים מקבלים גלישה איטית על שאלה שהמודל ידע לענות עליה מהראש, או הרצת קוד מיותרת. הטיפ: היו מפורשים. "בלי לגלוש, תענה מהידע שלך" — מהיר. "תגלוש ותביא מקורות מהשבוע האחרון" — איטי אבל מעודכן. השליטה אצלכם.

הסיכום שמחבר הכל

שלושת הפיצ'רים הם שלוש ידיות על אותו דבר — חלון ההקשר, אותו שולחן עבודה בגודל קבוע שהמודל רואה. Projects קובע מה נכנס אוטומטית בתוך תחום מסוים. זיכרון קובע מה נשאר גלובלית בין שיחות (ולכן צריך ניקיון). כלים מושכים מידע טרי מבחוץ אל תוך ההקשר בזמן אמת. תבינו את השולחן — ותפסיקו לבזבז את שלושת אלה. בואו נטוס גבוה.