Prefill: התרגיל שהפסיק לעבוד, ומה בא במקומו

במשך שנים זה היה התרגיל השימושי ביותר: לסיים את מערך ההודעות בתור של העוזר, עם תחילת התשובה כתובה מראש. סוגר מסולסל פותח כדי לכפות JSON, שם תווית כדי לכפות סיווג, מילה ראשונה כדי לוותר על פתיח.

בדורות המודלים החדשים זה מחזיר שגיאת ארבע מאות.

מה שעדיין מותר

הודעות עוזר באמצע השיחה תקינות לגמרי. דוגמאות מעטות שמורכבות מזוגות שאלה-תשובה עובדות כרגיל.

הגבול הוא המיקום האחרון בלבד. וכאן יש מלכודת: גוש דוגמאות שנגמר בצד העוזר הוא prefill לכל דבר, גם אם לא התכוונתם לכך. אם המערך שלכם נגמר בתשובה לדוגמה, צריך להוסיף אחריה תור משתמש.

החלפה לפי מה שהתרגיל עשה

כפיית JSON או סכימה מוחלפת בפלט מובנה. זה לא פתרון עוקף אלא היכולת שנבנתה במיוחד בשבילו, וכל מנגנון החילוץ סביבה, רצפי עצירה, רגקס ולולאת ניסיון חוזר על שגיאת פענוח, הופך למיותר. אל תתקנו רק את הפרומפט, מחקו גם את הקוד שהיה משרת אותו.

כפיית תווית סיווג מוחלפת בכלי עם שדה מסוג רשימה סגורה, או בפלט מובנה.

ביטול פתיח הופך להנחיה בפרומפט המערכת: לענות ישירות, בלי לפתוח במשפט כמו "הנה הסיכום".

המשך תשובה שנקטעה עובר לתור המשתמש: לתאר מה הייתה התשובה הקודמת ואיפה היא נעצרה, ולבקש להמשיך משם.

הזרקת תזכורות והקשר עוברת גם היא לתור המשתמש. בסוכנים מורכבים, לכלי או לשלב הכיווץ.

עקיפת סירובים בדרך כלל כבר לא נחוצה. חלק מהתרגילים האלה נכתבו מול מודלים שסירבו יותר מדי, וזו התנהגות שהשתנתה.

היוצא מן הכלל היחיד

בזרימת אשראי הנסיגה, כשתשובה שסורבה נשלחת שוב למודל אחר עם אסימון זיכוי, השרת מקבל תור עוזר שמהדהד את התוכן שסורב. זה מסלול ייעודי, לא פתח חזרה לתרגיל הישן.