מילון מושגים

מערך הטוקנים האפשריים של מודל. Claude יש לו אוצר של עשרות אלפי טוקנים. רוב הטוקנים הם באנגלית; חלק קטן בעברית. אינו ניתן לעריכה אחרי האימון - לכן אי אפשר לשפר את העברית בלי אימון מחדש.

ראו גם: BPE - Byte Pair Encoding, טוקן

שלב האימון הראשון של LLM - חשיפה לכמויות אדירות של טקסט מהאינטרנט, ספרים, ומאמרים. המטרה: ללמד את המודל לחזות את המילה הבאה. שלב זה לוקח שבועות עד חודשים ועולה מיליוני דולרים.

ראו גם: מודל שפה גדול, RLHF - חיזוק מבוסס משוב אנושי, נתוני אימון

תהליך הרצת המודל על קלט - הפקת תחזית. אינו אימון; זה השימוש במודל המאומן. כל בקשה ל-API היא inference. עלות ה-inference הוא רוב מה שמשלמים לאנתרופיק.

ראו גם: השהיה, מודל

ייצוג מספרי של טקסט - וקטור של מספרים שמתאר את המשמעות. מילים דומות במשמעות מקבלות וקטורים קרובים. משמשים לחיפוש סמנטי, RAG, וזיהוי קלסטרים. קלוד אינו מספק embeddings ישירות - יש מודלים מיוחדים לכך.

ראו גם: מודל שפה גדול

החברה שיוצרת את קלוד. נוסדה ב-2021 על ידי האחים דריו ודניאלה אמודי, אחרי שעזבו את OpenAI. החזון: AI safety-first. מטה בסן פרנסיסקו. משקיעים גדולים: Google, Amazon.

ראו גם: claude.ai

ערכים מספריים של אותיות עבריות (א=1, ב=2, וכו'). קלוד יודע גימטריה בסיסית - יכול לחשב ערך של מילים ולמצוא מילים עם גימטריה זהה. שימושי לשירה, לקבלה, ולמשחקי מילים.

ראו גם: עיבוד שפה טבעית בעברית

כשהמודל ממציא מידע ומציג אותו בביטחון. למשל - ציטוטים שלא קיימים, שמות מחברים שגויים, או עובדות שקריות. אינה באג - היא תכונה של איך מודלים עובדים. תמיד אמתו פרטים קריטיים.

ראו גם: מודל שפה גדול, כיוונון עדין

הזמן שלוקח לקלוד לענות. נמדד מהשליחה ועד התשובה הראשונה. Haiku - מאות מילישניות. Sonnet - 1-3 שניות. Opus - 3-10 שניות. ה-latency גדל עם אורך הפרומפט וההשלמה.

ראו גם: Streaming, תפוקה

התשובה שהמודל מייצר. כל מה שהמודל פולט מתחיל מהמילה הראשונה ונבנה טוקן אחרי טוקן. בעולם הצ'אט, ה-completion הוא ההודעה של ה-assistant. ב-API זה השדה content בתגובה.

ראו גם: פרומפט, Streaming

כמות הטוקנים שמודל יכול 'לראות' בבת אחת. קלוד תומך ב-200,000 טוקנים (≈150,000 מילים). זה כולל את הפרומפט, ההיסטוריה, וקבצים מצורפים. ברגע שעוברים את הסף - מילים ישנות נופלות החוצה.

ראו גם: טוקן, Memory

יחידת הטקסט הבסיסית שמודלי שפה רואים. אינו מילה - יכול להיות חלק ממילה, אות, או סימן. אנגלית = ~4 תווים לטוקן. עברית = ~2 תווים לטוקן (יותר יקר). כל בקשה ל-API נמדדת בטוקנים.

ראו גם: , BPE - Byte Pair Encoding, חלון הקשר

פירוק של טקסט עברי לטוקנים. הטוקנייזרים של רוב המודלים אומנו בעיקר על אנגלית, ולכן עברית נחתכת ליחידות קטנות יותר. תוצאה: אותו משפט עולה פי 2-3 טוקנים יותר בעברית מאשר באנגלית.

ראו גם: טוקן, BPE - Byte Pair Encoding

פרמטר ב-API ששולט ביצירתיות. 0 = דטרמיניסטי, אותו פלט בכל פעם. 1 = יצירתי, פלט שונה כל פעם. ל-Claude הטווח הוא 0-1. למשימות פקטואליות - 0. לכתיבה יצירתית - 0.7-0.9.

ראו גם: Top-p, Top-k

אימון נוסף של מודל קיים על מאגר נתונים ספציפי, כדי להתאים אותו למשימה. למשל - אימון של מודל גנרי על פרוטוקולים משפטיים כדי שיהיה טוב יותר במשפט. קלוד עצמו אינו פתוח לכיוונון עדין על ידי לקוחות.

ראו גם: אימון מקדים, RLHF - חיזוק מבוסס משוב אנושי

אימון נוסף של מודל גנרי על טקסט עברי, כדי לשפר את היכולות שלו בעברית. נעשה על ידי חברות ישראליות (למשל DictaBERT). קלוד עצמו לא עבר כיוונון עדין כזה - הוא מודל גנרי עם תמיכה טובה בעברית.

ראו גם: כיוונון עדין, עיבוד שפה טבעית בעברית

כתיב עברי מודרני עם אותיות עזר (וי"ו ויו"ד) שמייצגות תנועות. למשל 'יוסי' במקום 'יסי'. רוב הכתיבה היום במלא. קלוד עובד טוב גם בכתיב חסר וגם במלא.

ראו גם: ניקוד

התוכנה שמייצרת תחזיות מטקסט. מודל נוצר מאימון - אלפי מיליארדי פרמטרים שמאוחסנים כקובץ. כשאתם 'שולחים לקלוד' אתם בעצם שולחים בקשה לרץ של מודל באנתרופיק. אינו אדם - הוא אלגוריתם.

ראו גם: מודל שפה גדול, פרמטר

Large Language Model. מודל שאומן על כמויות עצומות של טקסט וייתן תחזית למילה הבאה בהקשר נתון. קלוד, GPT, ו-Gemini הם דוגמאות. ה-LLM אינו מאגר ידע - הוא מודל הסתברותי שלמד מהדפוסים בטקסט.

ראו גם: אימון מקדים, טוקן, מודל

מחרוזת סודית שמזהה אתכם מול Claude API. נוצרת בהגדרות החשבון ב-console.anthropic.com. אינה צריכה להיות בקוד הציבורי - השתמשו בקבצי סביבה (.env) או ב-secrets manager.

ראו גם: claude.ai, Rate Limit

סימני התנועה מתחת ומעל לאותיות העבריות. רוב הטקסט המודרני לא מנוקד. קלוד יודע להוסיף ניקוד לטקסט, ויכול לקרוא טקסט מנוקד, אבל בדרך כלל יענה בטקסט לא מנוקד.

ראו גם: עיבוד שפה טבעית בעברית

הטקסטים שמודל נחשף אליהם בזמן ה-pretraining. כוללים האינטרנט הציבורי, ספרים סרוקים, ויקיפדיה, מאגרי קוד. נתוני האימון של קלוד יש להם cutoff - תאריך שאחריו המודל לא יודע. אינם מתעדכנים אוטומטית.

ראו גם: אימון מקדים, מודל שפה גדול

התחום שעוסק בניתוח אוטומטי של עברית. כולל ניתוח מורפולוגי (שורש-משקל), זיהוי ישויות בעברית, ופירוש משמעות. אתגרים: דמיון אותיות, ניקוד אופציונלי, וריבוי משמעויות. קלוד טוב במונחי NLP בעברית.

ראו גם: מודל שפה גדול, כיוונון עדין לעברית

ההנחיה שאתם נותנים למודל. בשפה פשוטה - השאלה או הבקשה. פרומפט טוב כולל הקשר, משימה, מגבלות, ופורמט רצוי. פרומפט הוא הקלט; השלמה (completion) הוא הפלט.

ראו גם: System Prompt, Few-shot, השלמה

מספר שמאוחסן במודל. מודל גדול = יותר פרמטרים = יותר יכולות אבל גם איטיות וביוקר. Claude Opus יש לו מאות מיליארדים. Haiku - הרבה פחות. הפרמטרים נלמדים באימון; הם הזיכרון של המודל.

ראו גם: מודל, מודל שפה גדול

היכולת של מודל למלא בקשות בדיוק כפי שניתנו. למשל - 'תן לי 5 נקודות, כל נקודה ב-15 מילים'. מודלים מודרניים טובים בזה אבל לא מושלמים. הפרומפט שלכם הוא הניסוח של ההוראות.

ראו גם: פרומפט, Few-shot

כמה בקשות אפשר לעבד בשנייה. שונה מ-latency: latency = זמן לבקשה אחת, throughput = בקשות בו-זמנית. Batch API מאפשר throughput גבוה במחיר של latency.

ראו גם: השהיה, Rate Limit

בקשה מהמודל לאמץ דמות מסוימת. 'אתה עורך דין מנוסה'. עובד למידה - משפיע בעיקר על טון. אינו הופך את המודל למומחה אמיתי בתחום. שימוש מועיל: ליצירת קונסיסטנטיות לאורך שיחה.

ראו גם: System Prompt

התכנון של כמה טוקנים תרצו 'להוציא' על בקשה - קלט, פלט, ועתיד הקשר. למשל: 'יש לי תקציב 5000 טוקנים, מהם 3000 לקלט ו-2000 לפלט'. עוזר לתכנון עלויות ב-API.

ראו גם: max_tokens, טוקן

יחידת פירוק קטנה ממילה - חלק של מילה. למשל 'משחק' עשוי להתפרק ל-'מש' + 'חק'. עברית עם הפועל-שורש מתפרקת לתת-מילים רבות. תוצאה: טוקנים יקרים יותר.

ראו גם: טוקן, BPE - Byte Pair Encoding

פיצ'ר ב-claude.ai שמציג קוד, מצגת, או דף HTML בצד ימין של המסך, במקום בתוך הצ'אט. שימושי לבנייה איטרטיבית של תוכן ממושך. אומר לקלוד 'בנה לי דאשבורד' - הוא יוצר Artifact ותוכלו לראות אותו רץ.

ראו גם: claude.ai

ה'הודעה' מהצד של המודל. ב-API ניתן להזין הודעה בתפקיד assistant כדי לעצב את ההתחלה של התשובה - שיטה נקראת prefilling. שימושי לפורמט מבוקר ולמניעת התחלות לא רצויות.

ראו גם: User Prompt, System Prompt

אופציה לשלוח אלפי בקשות בבת אחת, ולקבל את כל התשובות תוך 24 שעות. מתאים לעיבוד נתונים בנפח גבוה כשאין חיפזון. הנחה של 50% מהמחיר הרגיל. אינו real-time.

ראו גם: תפוקה

האלגוריתם הסטנדרטי לטוקניזציה. מתחיל מאותיות בודדות וצובר זוגות נפוצים יחד. מילים נפוצות באנגלית = טוקן יחיד. מילים נדירות וזרות = פירוק לחלקים. עברית = הרבה פירוקים.

ראו גם: טוקן, טוקניזציה של עברית

בקשה מהמודל 'לחשוב בקול' לפני שיענה. 'הסבר את שלבי החשיבה שלך, ואז תן את התשובה'. עוזר במשימות מתמטיות, לוגיות, ותכנון. צורכת יותר טוקנים אבל משפרת דיוק במשימות מורכבות.

ראו גם:

ה-CLI הרשמי של אנתרופיק. מאפשר להריץ את קלוד מהטרמינל, עם גישה לקבצי הפרויקט. מתחבר ל-MCP servers, יודע לעשות refactor, debug, ולכתוב קוד שלם. עובד על Mac, Linux, ו-Windows (WSL).

ראו גם: MCP - Model Context Protocol

אתר הצ'אט הרשמי של אנתרופיק. הממשק לבני אדם - לא ל-API. תומך ב-Free, Pro ($20/חודש), Max, ו-Team. שם תוכלו לדבר עם Sonnet, Opus, להעלות קבצים, ולעבוד עם Projects.

ראו גם: מפתח API

פיצ'ר חדש (2024) שמאפשר לקלוד להפעיל מחשב - להזיז עכבר, להקליד, וללחוץ. בעיקר ל-developers. עדיין ב-beta ועם הגבלות. סיכון אבטחה ברור - לא להשתמש על מחשב עם נתונים רגישים.

ראו גם: , Tool Use

שיטת אימון של אנתרופיק. במקום שאנשים יסמנו רק תשובות טובות, נוצרת 'חוקה' של עקרונות (הימנע מנזק, היה מועיל, היה ישר) שהמודל לומד ליישם. הופך את ההתנהגות של קלוד לעקבית ושקופה יותר.

ראו גם: RLHF - חיזוק מבוסס משוב אנושי

מתן 2-5 דוגמאות לפני המשימה, כדי לחנך את המודל לפורמט הרצוי. 'לפי הדוגמאות הבאות, המשך את הסדרה'. עובד טוב למשימות מובנות שקשה להסביר אותן במילים.

ראו גם: Zero-shot

כינוי נרדף ל-tool use, בעיקר במונחים של OpenAI. הרעיון זהה: המודל מחליט לקרוא לפונקציה ספציפית, מעביר ארגומנטים, ומקבל תוצאה. ה-API מספק את התשתית; אתם מבצעים את הפונקציות.

ראו גם: Tool Use

המודל הקטן והמהיר ביותר של קלוד. מצוין לסיווג, חילוץ, ושיחות פשוטות בנפח. מהיר מאוד - מאות מילישניות. זול - 0.80$ למיליון קלט ו-4$ לפלט. פחות חזק במשימות מורכבות.

ראו גם: Sonnet, Opus

ניסיון לעקוף את מנגנוני הבטיחות של המודל - לגרום לו לעשות דברים שאמור לסרב להם. מודלים מתעדכנים כל הזמן נגד jailbreaks ידועים. שימוש זדוני אסור על פי תנאי השירות של אנתרופיק.

ראו גם: Constitutional AI

המקסימום של טוקני פלט שהמודל יכול להוציא בתשובה. ב-Claude Sonnet זה עד 8,192. אם המגבלה גבוהה מדי לא יקרה כלום; אם נמוכה - התשובה תקטע באמצע. הגדירו לפי המשימה.

ראו גם: טוקן, חלון הקשר

פרוטוקול פתוח של אנתרופיק לחיבור של מודלי AI לכלים חיצוניים בצורה סטנדרטית. במקום שכל כלי יבנה אינטגרציה משלו - הוא חושף MCP server, וכל מודל יכול להשתמש. נתמך ב-Claude Desktop ו-Claude Code.

ראו גם: Tool Use, Claude Code

פיצ'ר שמאפשר לקלוד לזכור דברים על המשתמש בין שיחות. למשל - שאתם מעדיפים תשובות קצרות, או שאתם רוקדים מוצקים. נשמר אוטומטית; אפשר לראות ולערוך בהגדרות. נפרד מ-Projects.

ראו גם: Projects, חלון הקשר

המודל הגדול והעמוק ביותר של קלוד. מצוין בהסקה מורכבת, החלטות אסטרטגיות, ובעיות לוגיות קשות. איטי יותר ויקר משמעותית - 15$ למיליון קלט ו-75$ לפלט. שווה רק למשימות שדורשות זאת.

ראו גם: Sonnet, Haiku

מקום ב-claude.ai לשמור הקשר משותף לכמה שיחות. אפשר להעלות קבצים, להגדיר instructions קבועות, ולקבל שיחה שזוכרת מי אתם. שונה מ-Memory - Projects הוא בקרת המשתמש; Memory הוא של המודל.

ראו גם: Memory, claude.ai

פיצ'ר ב-Claude API שמאפשר לשמור הקשר חוזר (כמו system prompt ארוך) ולחסוך 90% מהעלות בבקשות הבאות. שימושי כשמשתמשים בקלוד עם אותו הקשר פעמים רבות. עובד גם עם streaming.

ראו גם: מפתח API, טוקן

מגבלת מספר הבקשות שאפשר לשלוח ל-API בפרק זמן. נמדד ב-RPM (requests per minute), TPM (tokens per minute), ו-RPD (requests per day). כשעוברים - HTTP 429. אנתרופיק מעלה את המגבלות לפי שימוש.

ראו גם: Retries, מפתח API

ניסיונות חוזרים אוטומטיים כשבקשה נכשלת. מומלץ ליישם עם exponential backoff - לחכות יותר זמן בין ניסיון לניסיון (1s, 2s, 4s, 8s). מטפל ב-429 (rate limit) ובשגיאות זמניות של השרת.

ראו גם: Rate Limit

Reinforcement Learning from Human Feedback. השלב שמלמד את המודל מה אנשים מצפים. לאחר ה-pretraining, אנשים מסמנים אילו תשובות טובות יותר, והמודל לומד להפיק כאלה. RLHF הוא הסיבה שקלוד נשמע מנומס ומועיל.

ראו גם: אימון מקדים, Constitutional AI

Right-to-Left. הכיוון של עברית, ערבית, ופרסית. claude.ai מזהה עברית ומציג מימין לשמאל אוטומטית. בכתיבת קוד ב-HTML צריך dir="rtl" על האלמנט הרלוונטי.

ראו גם: עיבוד שפה טבעית בעברית

המודל האמצעי של קלוד - האיזון בין איכות, מהירות ועלות. המומלץ לרוב המשימות. מצוין בקוד, כתיבה ארוכה, ועיבוד מסמכים. עולה 3$ למיליון טוקני קלט ו-15$ לפלט.

ראו גם: Opus, Haiku

פרוטוקול HTTP שמאפשר לשרת לשלוח אירועים ללקוח בזרם. השיטה הסטנדרטית של streaming ב-Claude API. כל אירוע הוא נתח של התשובה. נתמך מקורית בדפדפנים דרך EventSource.

ראו גם: Streaming

מחרוזת שגורמת למודל להפסיק לכתוב כשהוא מגיע אליה. שימושי לפורמט מבוקר - למשל, להפסיק לפני מילים מסוימות, או בסוף קטע מובנה. אפשר לתת עד 4 stop sequences לבקשה.

ראו גם: max_tokens

מצב בו ה-API מחזיר את התשובה תוך כדי שהיא נכתבת, מילה אחר מילה. במקום לחכות לכל התשובה - אפשר להציג אותה במהירות. משפר את ה-UX משמעותית. ב-Claude API: stream: true.

ראו גם: SSE - Server-Sent Events, השהיה

ההנחיות הקבועות שמכוונות את המודל לאורך כל השיחה. מוגדר פעם אחת, ופועל בכל ההודעות. ב-API זה שדה system. ב-claude.ai - יש את זה ב-Projects. שונה מ-user prompt שמשתנה בכל הודעה.

ראו גם: Projects, תפקיד

היכולת של קלוד לקרוא לפונקציות חיצוניות שאתם מגדירים. אתם נותנים schema של 'כלים' (חיפוש, חישוב, API חיצוני) - וקלוד בוחר להשתמש בהם. הבסיס לסוכנים. נקרא גם function calling.

ראו גם: Function Calling, MCP - Model Context Protocol

פרמטר ששולט במספר המילים הסבירות שהמודל שוקל. 1 = רק המילה הסבירה ביותר. 50 = 50 האפשרויות הסבירות ביותר. פחות נפוץ מ-temperature ו-top-p.

ראו גם: טמפרטורה, Top-p

פרמטר חלופי ל-temperature. מגדיר 'כמה מילים אפשריות לשקול בכל שלב'. 0.1 = רק 10% הסבירים ביותר. 0.9 = רוב האפשרויות. בדרך כלל משתמשים ב-temperature או top-p, לא בשניהם.

ראו גם: טמפרטורה, Top-k

ההודעה הספציפית של המשתמש - השאלה או הבקשה. ב-claude.ai זה מה שאתם כותבים בתיבת ההודעה. ב-API זה שדה content בתפקיד user. משתנה בכל אינטראקציה.

ראו גם: System Prompt, Assistant Prompt

תקן הקידוד הסטנדרטי שבו עברית מאוחסנת בקבצים. כל אות עברית = 2 בייטים. תקן זה מומלץ ל-HTML, JSON, ולכל קלט/פלט מ-API. בלעדיו - מילים ייראו כסימני שאלה.

ראו גם: RTL - מימין לשמאל

היכולת של קלוד לקרוא תמונות. אפשר להעלות צילום מסך, סקיצה, או דיאגרמה, ולקבל תיאור, פירוש, או ניתוח. תומך ב-PNG, JPG, GIF, WEBP. אינו מייצר תמונות - רק קורא.

ראו גם:

היכולת של קלוד לחפש באינטרנט בזמן אמת. נכנס לפעולה אוטומטית כשהוא לא בטוח, או כשמבקשים מפורש. השולחן מיועד לידע עדכני שלא הופיע בנתוני האימון. ב-API קוראים לזה web_search tool.

ראו גם: Tool Use

בקשה ממודל לבצע משימה בלי לתת לו דוגמאות. למשל - 'תרגם את המשפט הבא לאנגלית'. המודל עובד מהידע שלו לבדו. שיטה זו עובדת היטב לרוב המשימות הסטנדרטיות.

ראו גם: Few-shot, פרומפט