@machinelearningnet

@machinelearningnet

بالاتر یک پست در باره استفاده از bloombergGPT حرف زده بودم، این یه پرزنت در مورد استفاده از اون در فاینانس هست. جالبه👌 https://www.youtube.com/watch?v=FxMDrHnKWnk

اینجا در مورد Bloomberg GPT پرزنتی فرستاده شده، مدل بهتری ازش با hugging face دولوپ شده به اسم FinGPT که خیلی از مشکلات( مخصوصا هزینه fine tune ) رو نداره،

BloombergGPT trained an LLM using a mixture of finance data and general-purpose data, which took about 53 days, at a cost of around $3M). It is costly to retrain an LLM model like BloombergGPT every month or every week, thus lightweight adaptation is highly favorable. FinGPT can be fine-tuned swiftly to incorporate new data (the cost falls significantly, less than $300 per fine-tuning).

2). Democratizing Internet-scale financial data is critical, say allowing timely updates of the model (monthly or weekly updates) using an automatic data curation pipeline. BloombergGPT has privileged data access and APIs, while FinGPT presents a more accessible alternative. It prioritizes lightweight adaptation, leveraging the best available open-source LLMs.

3). The key technology is "RLHF (Reinforcement learning from human feedback)", which is missing in BloombergGPT. RLHF enables an LLM model to learn individual preferences (risk-aversion level, investing habits, personalized robo-advisor, etc.), which is the "secret" ingredient of ChatGPT and GPT4.

دیروز FinGpt - forecaster رو هم ارائه کردن، که stock price رو بر اساس دیتای نیوز اون شرکت پیشبینی میکنه! با Llama 2 و بر اساس متد LoRA فاین تیون کردن و میتونه پیشبینی هفتگی بده، قضیه جذاب‌تر میشه 😉،

❌قبلا هم گفتم، بهتره کلا همه چیز رو ول کنید ، یه ماه وقت بزارین برای دولوپ کردن و کار کردن با مدلهای اپن سورس LLM, چون علنا هیچ کاری بزودی بدون اونا کارایی خاصی نخواهد داشت و در صورت عدم استفاده ، شمارو براحتی از رقیباتون عقب خواهد انداخت، edge مارکت فاینانس هم داره با این سختر میشه و آلفا کمتر 😏

FinGPT: Open-Source Financial LLM

Telegram

@machinelearningnet

بالاتر یک پست در باره استفاده از bloombergGPT حرف زده بودم، این یه پرزنت در مورد استفاده از اون در فاینانس هست. جالبه👌

https://www.youtube.com/watch?v=FxMDrHnKWnk

www.tgoop.com/machinelearningnet2/420

2.5K viewsSasan Barak, edited  Nov 17, 2023 at 06:45

اینجا در مورد Bloomberg GPT پرزنتی فرستاده شده، مدل بهتری ازش با hugging face دولوپ شده به اسم FinGPT که خیلی از مشکلات( مخصوصا هزینه fine tune ) رو نداره،

BloombergGPT trained an LLM using a mixture of finance data and general-purpose data, which took about 53 days, at a cost of around $3M). It is costly to retrain an LLM model like BloombergGPT every month or every week, thus lightweight adaptation is highly favorable. FinGPT can be fine-tuned swiftly to incorporate new data (the cost falls significantly, less than $300 per fine-tuning).

2). Democratizing Internet-scale financial data is critical, say allowing timely updates of the model (monthly or weekly updates) using an automatic data curation pipeline. BloombergGPT has privileged data access and APIs, while FinGPT presents a more accessible alternative. It prioritizes lightweight adaptation, leveraging the best available open-source LLMs.

3). The key technology is "RLHF (Reinforcement learning from human feedback)", which is missing in BloombergGPT. RLHF enables an LLM model to learn individual preferences (risk-aversion level, investing habits, personalized robo-advisor, etc.), which is the "secret" ingredient of ChatGPT and GPT4.

دیروز FinGpt - forecaster رو هم ارائه کردن، که stock price رو بر اساس دیتای نیوز اون شرکت پیشبینی میکنه! با Llama 2 و بر اساس متد LoRA فاین تیون کردن و میتونه پیشبینی هفتگی بده، قضیه جذاب‌تر میشه 😉،

❌قبلا هم گفتم، بهتره کلا همه چیز رو ول کنید ، یه ماه وقت بزارین برای دولوپ کردن و کار کردن با مدلهای اپن سورس LLM, چون علنا هیچ کاری بزودی بدون اونا کارایی خاصی نخواهد داشت و در صورت عدم استفاده ، شمارو براحتی از رقیباتون عقب خواهد انداخت، edge مارکت فاینانس هم داره با این سختر میشه و آلفا کمتر 😏

FinGPT: Open-Source Financial LLM

BY @machinelearningnet