DLeX: AI Python

تا حالا به این فکر کرده بودید که رعایت ادب چه قدر می تونه برای استفاده مدل های زبانی هزینه آور باشه؟ برای مثال اگر کلمه لطفن رو از پرامپت هامون حذف کنیم، هزینه کم تری برای استفاده از API می پردازیم. چون توکن کم تری استفاده می کنیم!

@ai_python

البته طبیعتن این موضوع در برنامه های در Scale بسیار بزرگ (برای مثال چند هزار کاربر) شدید تر خودش رو نشون می ده. تخمین زده می شه که کلمات مودبانه مثل مرسی، لطفن و ... میلیون ها یورو هزینه اضافه و شاید غیر ضروری برای برخی سازمان ها در پی داشته اند. حتی وقتی که ما انتظار جواب مودبانه از LLM داریم!

در این نوشتار آلمانی زبان که در روزنامه اتریشی Der Standard منتشر شده، بیش تر به این موضوع جذاب پرداخته شده است:

https://www.derstandard.at/story/3000000266546/danke-chatgpt-hoeflichkeit-kostet-openai-millionen

لینک گروه پرسش و پاسخ علوم کامپیوتر

DER STANDARD

"Danke, ChatGPT": Höflichkeit kostet OpenAI Millionen

Floskeln steigern den Energieverbrauch von KI-Modellen. Dennoch können gute Umgangsformen bessere Ergebnisse bringen, aber auch fluchen hilft manchmal

www.tgoop.com/ai_python/17527

2.3K viewsNaviD DariYa, Apr 26 at 17:53

تا حالا به این فکر کرده بودید که رعایت ادب چه قدر می تونه برای استفاده مدل های زبانی هزینه آور باشه؟ برای مثال اگر کلمه لطفن رو از پرامپت هامون حذف کنیم، هزینه کم تری برای استفاده از API می پردازیم. چون توکن کم تری استفاده می کنیم!

@ai_python

البته طبیعتن این موضوع در برنامه های در Scale بسیار بزرگ (برای مثال چند هزار کاربر) شدید تر خودش رو نشون می ده. تخمین زده می شه که کلمات مودبانه مثل مرسی، لطفن و ... میلیون ها یورو هزینه اضافه و شاید غیر ضروری برای برخی سازمان ها در پی داشته اند. حتی وقتی که ما انتظار جواب مودبانه از LLM داریم!

در این نوشتار آلمانی زبان که در روزنامه اتریشی Der Standard منتشر شده، بیش تر به این موضوع جذاب پرداخته شده است:

https://www.derstandard.at/story/3000000266546/danke-chatgpt-hoeflichkeit-kostet-openai-millionen

لینک گروه پرسش و پاسخ علوم کامپیوتر

BY DLeX: AI Python