לא באג, פיצ'ר. מתי לצפות לזה, ואיך לעצב את הבקשה כדי שיקרה פחות.
קלוד נתן לכם תאריך שגוי, ספר שלא קיים, שם של חוקר שמעולם לא חי. בטון רהוט, כאילו בא מהוויקיפדיה של האמת.
בעולם המקצועי קוראים לזה הלוצינציה (הזיה או חזיון שווא). ועכשיו נבין למה זה קורה.
מידע שהמודל מייצר בביטחון - שאינו נכון.
לא אי-הבנה של השאלה. לא מידע ישן. מידע שהמודל יצר - ושאין בו סימן לכך שהוא לא בטוח.
המונח שאול מהפסיכיאטריה. שם - ראיית דברים שאינם. כאן - “ידיעת” דברים שאינם.
מחזיר שגיאה: “לא נמצא”. ברור לכם שהמידע חסר.
ממשיך לנגן. מאלתר. נשמע שלם ונכון - גם כשאינו.
הלוצינציה היא אלתור שהלך לאיבוד. לא תקלה - תוצאה מתחייבת של האדריכלות.
המודל לא בודק עובדות. הוא בודק הסתברות.
“מה נשמע נכון?” ≠ “מה נכון?”
אין לו מנגנון של “רגע, תן לי לבדוק”. הוא מייצר ומסיים. הביטחון בסגנון אינו ביטחון בעובדה.
המודל לא יכול לדעת. אבל הוא ממשיך לחזות - ובוחר שם שנשמע סביר.
שימו לב: “אינני יודע” מקבל פחות מ-2%.
שמות, תאריכים, מספרים - נשמעים מדויקים. לפעמים אינם.
מאמרים, ספרים, URLs שנוצרו כדי להישמע מהימנים. לא לסמוך בלי לבדוק.
ביוגרפיות שמשלבות אמת ובדיה - לפעמים בלי שום אזהרה.
פרמטרים, פונקציות, ספריות שלא קיימות - נכתבות בביטחון מלא.
תמיד ביטחון.
גם כשטועה.
זה לא פגם אישיותי - זו ארכיטקטורה. המודל לא יודע מה הוא לא יודע.
ומזה נובע הכל.
כשהתשובה מנוסחת יפה, בלי גמגומים, עם פרטים ספציפיים - קשה לחשוד בה. המוח מקשר “ניסוח מדויק” עם “מידע מדויק”. זה לא נכון.
ניסוח מדויק ≠ עובדה מדויקת
הביטחון בסגנון מגיע מהאימון על מיליארדי טקסטים. לא מהאמת.
ההוראות האלה לא מבטלות הלוצינציות - אבל מפחיתות אותן משמעותית.
“עמית חכם
שיכול לטעות.”
קלוד יודע הרבה. הוא יכול לטעות. הוא לא יודע שהוא טועה. אתם לא מקבלים כל מה שהוא אומר כמשפט - אבל גם לא מזרקים אותו.
עיבוד, ניסוח, יצירה, הסבר, קוד מבוסס-הקשר
עובדות, מספרים, מקורות, שמות ותאריכים
המבנה שמפחית הלוצינציות: הקשר, משימה, מגבלות, פורמט. ממש בפועל.
כשנותנים לקלוד את כל המסמכים - הוא לא צריך לנחש. פחות הלוצינציות.
ClaudeLearn · קץ המודול 03 · חזרה לקטלוג