کاهش هزینه مدل‌های OpenAI با قابلیت Prompt Caching
شاید متوجه شده باشید که وقتی توی یک مکالمه کلی پیام رد و بدل کردید، هزینه تولید پیام جدید بیشتر میشه. علتش اینه که مدل برای ایجاد هر پاسخ جدید، همه پیام‌های قبلی رو یک دور از اول مرور میکنه تا اگر سوالتون به پیام‌های قبلی اشاره‌ای کرده باشه، بتونه به‌درستی اون رو تشخیص بده و پاسخ بده. برای همین تعداد توکن‌های مصرفی و هزینه ایجاد پیام جدید به تدریج بیشتر میشه. اینجاست که پرامپت کشینگ به کار میاد. با این قابلیت، وقتی توی یک مکالمه طولانی (حدود ۵۰۰ کلمه به بالا) پیام جدید بدید، مدل به مدت ۵ دقیقه کل مکالمه قبلی رو حفظ میکنه...این یعنی اینکه اگر مکالمه شما ادامه پیدا کنه و در هر 5 دقیقه حداقل یک پیام بدهید، هزینه مکالمه شما تا 50 درصد کاهش پیدا میکنه.
برای استفاده از این قابلیت نیاز به هیچ کاری نیست و از امروز برای مدل‌های OpenAI مثل GPT-4o-mini ،GPT-4 و GPT 4o در زیرک فعال شده!
کاهش هزینه مدل‌های OpenAI با قابلیت Prompt Caching
شاید متوجه شده باشید که وقتی توی یک مکالمه کلی پیام رد و بدل کردید، هزینه تولید پیام جدید بیشتر میشه. علتش اینه که مدل برای ایجاد هر پاسخ جدید، همه پیام‌های قبلی رو یک دور از اول مرور میکنه تا اگر سوالتون به پیام‌های قبلی اشاره‌ای کرده باشه، بتونه به‌درستی اون رو تشخیص بده و پاسخ بده. برای همین تعداد توکن‌های مصرفی و هزینه ایجاد پیام جدید به تدریج بیشتر میشه. اینجاست که پرامپت کشینگ به کار میاد. با این قابلیت، وقتی توی یک مکالمه طولانی (حدود ۵۰۰ کلمه به بالا) پیام جدید بدید، مدل به مدت ۵ دقیقه کل مکالمه قبلی رو حفظ میکنه...این یعنی اینکه اگر مکالمه شما ادامه پیدا کنه و در هر 5 دقیقه حداقل یک پیام بدهید، هزینه مکالمه شما تا 50 درصد کاهش پیدا میکنه.
برای استفاده از این قابلیت نیاز به هیچ کاری نیست و از امروز برای مدل‌های OpenAI مثل GPT-4o-mini ،GPT-4 و GPT 4o در زیرک فعال شده!
The group also hosted discussions on committing arson, Judge Hui said, including setting roadblocks on fire, hurling petrol bombs at police stations and teaching people to make such weapons. The conversation linked to arson went on for two to three months, Hui said. The imprisonment came as Telegram said it was "surprised" by claims that privacy commissioner Ada Chung Lai-ling is seeking to block the messaging app due to doxxing content targeting police and politicians. A few years ago, you had to use a special bot to run a poll on Telegram. Now you can easily do that yourself in two clicks. Hit the Menu icon and select “Create Poll.” Write your question and add up to 10 options. Running polls is a powerful strategy for getting feedback from your audience. If you’re considering the possibility of modifying your channel in any way, be sure to ask your subscribers’ opinions first. While the character limit is 255, try to fit into 200 characters. This way, users will be able to take in your text fast and efficiently. Reveal the essence of your channel and provide contact information. For example, you can add a bot name, link to your pricing plans, etc. Telegram iOS app: In the “Chats” tab, click the new message icon in the right upper corner. Select “New Channel.”
from us
