חשיבה

2 ידיעות

המודל מחליט לבד כמה לחשוב בכל בקשה. מי שנשאר עם budget_tokens מקבל שגיאה, ומי שמעביר קוד ישן צריך להחליף גישה ולא רק פרמטר.

חמש רמות שקובעות כמה המודל חושב ופועל. ברוב המקרים הורדת רמה חוסכת יותר מהחלפת מודל, ובלי לשלם באיכות.