Fusions by Saeed Abhari@fusion_to_future P.40

FUSION_TO_FUTURE Telegram 40

Fusions by Saeed Abhari

Forwarded from Xerac.ir

کاهش هزینه مدل‌های OpenAI با قابلیت Prompt Caching

شاید متوجه شده باشید که وقتی توی یک مکالمه کلی پیام رد و بدل کردید، هزینه تولید پیام جدید بیشتر میشه. علتش اینه که مدل برای ایجاد هر پاسخ جدید، همه پیام‌های قبلی رو یک دور از اول مرور می‌کنه تا اگر سوالتون به پیام‌های قبلی اشاره‌ای کرده باشه، بتونه به‌درستی اون رو تشخیص بده و پاسخ بده. برای همین تعداد توکن‌های مصرفی و هزینه ایجاد پیام جدید به تدریج بیشتر میشه.
اینجاست که پرامپت کشینگ به کار میاد. با این قابلیت، وقتی توی یک مکالمه طولانی (حدود ۵۰۰ کلمه به بالا) پیام جدید بدید، مدل به مدت ۵ دقیقه کل مکالمه قبلی رو حفظ می‌کنه...این یعنی اینکه اگر مکالمه شما ادامه پیدا کنه و در هر 5 دقیقه حداقل یک پیام بدهید، هزینه مکالمه شما تا 50 درصد کاهش پیدا میکنه.

برای استفاده از این قابلیت نیاز به هیچ کاری نیست و از امروز برای مدل‌های OpenAI مثل GPT-4o-mini ،GPT-4 و GPT 4o در زیرک فعال شده!

❤5👍2🤯1

www.tgoop.com/fusion_to_future/40

352 viewsOct 14, 2024 at 20:40

tgoop.com/fusion_to_future/40

Create: 2024-10-14
Last Update: 2025-12-07 15:15:18

کاهش هزینه مدل‌های OpenAI با قابلیت Prompt Caching

شاید متوجه شده باشید که وقتی توی یک مکالمه کلی پیام رد و بدل کردید، هزینه تولید پیام جدید بیشتر میشه. علتش اینه که مدل برای ایجاد هر پاسخ جدید، همه پیام‌های قبلی رو یک دور از اول مرور می‌کنه تا اگر سوالتون به پیام‌های قبلی اشاره‌ای کرده باشه، بتونه به‌درستی اون رو تشخیص بده و پاسخ بده. برای همین تعداد توکن‌های مصرفی و هزینه ایجاد پیام جدید به تدریج بیشتر میشه.
اینجاست که پرامپت کشینگ به کار میاد. با این قابلیت، وقتی توی یک مکالمه طولانی (حدود ۵۰۰ کلمه به بالا) پیام جدید بدید، مدل به مدت ۵ دقیقه کل مکالمه قبلی رو حفظ می‌کنه...این یعنی اینکه اگر مکالمه شما ادامه پیدا کنه و در هر 5 دقیقه حداقل یک پیام بدهید، هزینه مکالمه شما تا 50 درصد کاهش پیدا میکنه.

برای استفاده از این قابلیت نیاز به هیچ کاری نیست و از امروز برای مدل‌های OpenAI مثل GPT-4o-mini ،GPT-4 و GPT 4o در زیرک فعال شده!

BY Fusions by Saeed Abhari

Share with your friend now:
tgoop.com/fusion_to_future/40

Open in Telegram

Telegram News

Date: 2025-12-07|

The Standard Channel Telegram iOS app: In the “Chats” tab, click the new message icon in the right upper corner. Select “New Channel.” Just at this time, Bitcoin and the broader crypto market have dropped to new 2022 lows. The Bitcoin price has tanked 10 percent dropping to $20,000. On the other hand, the altcoin space is witnessing even more brutal correction. Bitcoin has dropped nearly 60 percent year-to-date and more than 70 percent since its all-time high in November 2021. How to Create a Private or Public Channel on Telegram? During the meeting with TSE Minister Edson Fachin, Perekopsky also mentioned the TSE channel on the platform as one of the firm's key success stories. Launched as part of the company's commitments to tackle the spread of fake news in Brazil, the verified channel has attracted more than 184,000 members in less than a month.
from us

Telegram Fusions by Saeed Abhari
FROM American