לבקש מהמודל לפרק את החשיבה לפני שהוא עונה. כשזה עוזר דרמטית - וכשזה רק מבזבז טוקנים.
כששואלים את קלוד שאלה מורכבת, הוא נוטה לקפוץ ישר לתשובה. הוא לא עוצר רגע לחשוב. וברגעים האלה - בעיקר בלוגיקה, בחישוב, ובניתוח - הוא מועד.
לפעמים תשובה ב-3 שניות שווה פחות מתשובה ב-15. אם תפנו לו מקום לחשוב, הוא יחשוב.
בקשו מהמודל לפרק את הצעדים שלו בקול רם - לפני שהוא נותן מסקנה.
בלי מילות קסם. שורה אחת בסוף הפרומפט - “תחשוב צעד אחר צעד” - משנה את אופי התשובה.
השיטה תועדה במאמר אקדמי ב-2022. עובדת היום בכל מודל גדול, וקלוד לא יוצא דופן.
זוכרים שקלוד הוא “מנגן” שממשיך את התבנית? כל טוקן שהוא מייצר הוא הזדמנות לתקן את המסלול. כשהוא כותב 3 שורות של חשיבה לפני המסקנה, יש לו פי 3 יותר מקום לבחון את עצמו ולתקן הנחה שגויה.
זה לא קסם. זו פיזיקה של מודלי שפה.
ראיתם את המנגנון בעומק במצגת מה זה LLM - כאן הופכים אותו לכלי.
חשיבה ליניארית. מצוין למתמטיקה, לוגיקה, השוואות.
חלקו את הבעיה למרכיבים לפני התשובה.
תוכנית קודם, ביצוע אחר כך, אישור באמצע.
כולם עובדים עם אותו עיקרון - לפנות למודל מקום לחשוב לפני שמבקשים מסקנה.
הדפוס הקלאסי. מוסיפים שורה אחת בסוף הפרומפט, והמודל מתחיל לכתוב את החשיבה לפני התשובה.
מילים נוספות שעובדות: “נמק”, “פרק את החישוב”, “הצג את החשיבה”.
במקום לבקש סיכום ישיר, מבקשים מהמודל לעבוד בשלבים מוגדרים מראש.
עובד טוב לניתוח חוזים, בדיקת מסמכים, סיכום פידבק. המודל לא יחמיץ קטגוריה שהוגדרה במפורש.
במשימות גדולות (קוד, מאמר, מסמך מורכב), לבקש קודם מתאר - ורק אחרי אישור להמשיך לביצוע.
חוסך גלגול ארוך אחרי שהבנת שהמודל הלך לכיוון הלא נכון. שתי דקות תכנון = חצי שעה פחות של תיקונים.
CoT עולה בטוקנים, בזמן תגובה, ובסיכון של פטפוט. יש מצבים שבהם עדיף לוותר.
תרגום קצר, סיווג של מילה, תשובת כן/לא. אין מה לפרק.
צ'אטבוטים שצריכים לענות תוך 2 שניות - CoT שובר את חוויית המשתמש.
כשמבקשים JSON או תשובה במבנה קבוע, CoT לרוב שובר את המבנה.
אם המודל נותן תשובות טובות בלי - אל תוסיפו טוקנים מיותרים.
המילה הזאת לבדה גורמת לרוב לחזרה על השאלה. צריך מבנה: "צעד אחר צעד", "נמק", או רשימה ממוספרת של מה לחשוב עליו.
אם בדוגמאות שנתתם המודל ענה ישר בלי לחשוב - הוא יחקה את הקיצור. הוסיפו חשיבה גם בדוגמאות.
"תחשוב צעד אחר צעד וענה בשורה אחת" - סתירה. המודל יבחר אחת מהשתיים, ובדרך כלל הלא נכונה.
אם לא צריך לראות את החשיבה - בקשו "חשוב פנימית, החזר רק את התשובה הסופית". מקבלים את היתרון בלי הרעש.
“אתה עורך-דין” עובד - אבל אולי לא בדיוק כמו שחשבתם.
30 מונחים שכדאי להכיר. דף עזר אחד, לחיפוש מהיר תוך כדי עבודה.
ClaudeLearn · סוף מודול 23 · חזרה לקטלוג