לא באג, פיצ'ר. מתי לצפות לזה, ואיך לעצב את הבקשה כדי שיקרה פחות.
קלוד נתן לכם תאריך שגוי, ספר שלא קיים, שם של חוקר שמעולם לא חי. בטון רהוט, כאילו בא מהוויקיפדיה של האמת.
בעולם המקצועי קוראים לזה Hallucination - הזיה, או חזיון שווא. ועכשיו נבין למה זה קורה.
מידע שהמודל מייצר בביטחון - שאינו נכון.
לא אי-הבנה של השאלה. לא מידע ישן. מידע שהמודל יצר - ושאין בו סימן לכך שהוא לא בטוח.
המונח שאול מהפסיכיאטריה. שם - ראיית דברים שאינם. כאן - “ידיעת” דברים שאינם.
מחזיר שגיאה: “לא נמצא”. ברור לכם שהמידע חסר.
ממשיך לנגן. מאלתר. נשמע שלם ונכון - גם כשאינו.
הזיה היא אלתור שהלך לאיבוד. לא תקלה - תוצאה מתחייבת של הארכיטקטורה.
המודל לא בודק עובדות. הוא בודק הסתברות.
“מה נשמע נכון?” ≠ “מה נכון?”
אין לו מנגנון של “רגע, תן לי לבדוק”. הוא מייצר ומסיים. הביטחון בסגנון אינו ביטחון בעובדה.
המודל לא יכול לדעת. אבל הוא ממשיך לחזות - ובוחר שם שנשמע סביר.
שימו לב: “אינני יודע” מקבל פחות מ-2%.
שמות, תאריכים, מספרים - נשמעים מדויקים. לפעמים אינם.
מאמרים, ספרים, URLs שנוצרו כדי להישמע מהימנים. לא לסמוך בלי לבדוק.
ביוגרפיות שמשלבות אמת ובדיה - לפעמים בלי שום אזהרה.
פרמטרים, פונקציות, ספריות שלא קיימות - נכתבות בביטחון מלא.
תמיד ביטחון.
גם כשטועה.
זה לא פגם אישיותי - זו ארכיטקטורה. המודל לא יודע מה הוא לא יודע.
ומזה נובע הכל.
כשהתשובה מנוסחת יפה, בלי גמגומים, עם פרטים ספציפיים - קשה לחשוד בה. המוח מקשר “ניסוח מדויק” עם “מידע מדויק”. זה לא נכון.
ניסוח מדויק ≠ עובדה מדויקת
הביטחון בסגנון מגיע מהאימון על מיליארדי טקסטים. לא מהאמת.
ההוראות האלה לא מבטלות הזיות - אבל מפחיתות אותן משמעותית.
“עמית חכם
שיכול לטעות.”
קלוד יודע הרבה. הוא יכול לטעות. הוא לא יודע שהוא טועה. אתם לא מקבלים כמובן מאליו כל מה שהוא אומר - אבל גם לא פוסלים אותו על הסף.
עיבוד, ניסוח, יצירה, הסבר, קוד מבוסס-הקשר
עובדות, מספרים, מקורות, שמות ותאריכים
המבנה שמפחית הזיות: הקשר, משימה, מגבלות, פורמט. ממש בפועל.
המשך טבעי 02כשנותנים לקלוד את כל המסמכים - הוא לא צריך לנחש. פחות הזיות.
ClaudeLearn · סוף מודול 03 · חזרה לקטלוג