کاهش هزینه LLM در Apex
چطور هزینه LLM در Apex را حدود ۹۵ درصد پایین آوردم و محصول هم بهتر شد.
در نسخه اول کار زیادی را به یک مدل گران سپرده بودم. هم داده بازار را میگرفت، هم بخش بزرگی از تحلیل را انجام میداد و هم متن را مینوشت. خروجی هوشمند به نظر میرسید، اما گران بود و هر بار هم دقیقاً تکرار نمیشد.