מילון פרומפטינג

כל הטקסט שאתם שולחים למודל - שאלה, הוראה, או הקשר. הקלט שעליו המודל מגיב.

יחידת טקסט בסיסית של המודל. לא מילה ולא אות - משהו באמצע. עברית עולה יותר טוקנים מאנגלית.

סך הטוקנים שהמודל יכול לראות בבת אחת. בקלוד 4 - 200K טוקנים. כולל את כל השיחה, לא רק את ההודעה האחרונה.

הוראות יציבות שמלוות כל פנייה - זהות, טון, מגבלות. ב-claude.ai דרך Projects, ב-API דרך role: system.

התשובה שהמודל מחזיר. נקראת completion כי טכנית המודל “משלים” את הטקסט שלכם.

תחביר טקסט פשוט שקלוד מבין ומפיק - כותרות, רשימות, קוד. הפורמט הברירת-מחדל של רוב התשובות.

לשאול בלי דוגמאות - רק לתאר את המשימה. עובד טוב למשימות פשוטות וברורות.

לתת דוגמה אחת של קלט→פלט לפני הקלט שלכם. מספיק לקבע פורמט.

2-5 דוגמאות של קלט→פלט. עובד מצוין לסיווג, המרת טון, וחילוץ מבני.

לבקש מהמודל לפרק את החשיבה לפני התשובה. “תחשוב צעד אחר צעד.” משפר דיוק במשימות לוגיות.

לחלק משימה מורכבת לשלבים שהמודל מבצע ברצף. מקרה פרטי של CoT, אבל מובנה יותר.

“אתה X” - מטה את ההסתברויות לטון ומונחים של תפקיד. כלי שימושי, אבל לא קסם.

לצרף לפרומפט את העובדות שעליהן צריך להישען (מסמך, נתון, תוצאת חיפוש). מפחית הזיות.

לבקש מהמודל לבדוק את התשובה שלו לפני שהוא מוסר אותה. “נמק למה זה נכון, ואז ענה.”

מ-0 ל-1. נמוך = תשובות צפויות וחזרתיות. גבוה = יצירתי ולא צפוי. לרוב ברירת-מחדל 0.7-1.

מסנן את אוסף הטוקנים האפשריים לפי הסתברות מצטברת. אלטרנטיבה לטמפרטורה. ברירת-מחדל 1.

התקרה לאורך התשובה. שימושי כדי לחסוך כסף ולמנוע תשובות-מגילה.

מחרוזת שכשהמודל מייצר אותה הוא עוצר. מועיל ליצירת פלט בפורמט מובנה.

מצב שמכריח את המודל להחזיר JSON תקני. שימושי לשרתים שצורכים פלט מובנה.

המודל שולח את הפלט בזרם - טוקן אחר טוקן - במקום להמתין לסיום. נותן חוויית “מקליד” חיה.

מידע שהמודל מייצר בביטחון - שאינו נכון. שמות בדויים, תאריכים שגויים, URLs שלא קיימים.

התרחקות הדרגתית של המודל מההוראות המקוריות במהלך שיחה ארוכה. הוראות בתחילת השיחה “נשחקות”.

המודל ממשיך הנחה שהופיעה מוקדם בפרומפט - גם אם היא שגויה. “למה X גרם ל-Y?” כשבכלל לא ידוע שזה קרה.

התקפה: טקסט חיצוני (מקובץ או מהאינטרנט) שמכיל הוראות חבויות שמשנות את התנהגות המודל.

חיפוש במאגר נתונים חיצוני לפני קריאה למודל, וצירוף התוצאות לפרומפט. הפתרון לידע ספציפי שלא נמצא באימון.

המודל קורא לפונקציות חיצוניות (חיפוש, מחשבון, API) כדי לבצע משימה. הופך אותו מטקסטואלי לפועל.

מקרה פרטי של Tool use - המודל מחזיר JSON עם שם פונקציה וארגומנטים, וקוד חיצוני מבצע.

פרוטוקול פתוח של אנתרופיק - דרך אחידה לחבר מודלים למקורות נתונים וכלים חיצוניים.

שמירת חלקים יציבים של הפרומפט (system prompt, מסמכי הקשר) במטמון. מפחית עלות API ב-90% ויותר.

כפיית פורמט פלט קבוע - לרוב JSON עם schema. דומה ל-JSON mode אבל קפדני יותר על המבנה.