tgoop.com/machinelearningnet2/420
Last Update:
اینجا در مورد Bloomberg GPT پرزنتی فرستاده شده، مدل بهتری ازش با hugging face دولوپ شده به اسم FinGPT که خیلی از مشکلات( مخصوصا هزینه fine tune ) رو نداره،
BloombergGPT trained an LLM using a mixture of finance data and general-purpose data, which took about 53 days, at a cost of around $3M). It is costly to retrain an LLM model like BloombergGPT every month or every week, thus lightweight adaptation is highly favorable. FinGPT can be fine-tuned swiftly to incorporate new data (the cost falls significantly, less than $300 per fine-tuning).
2). Democratizing Internet-scale financial data is critical, say allowing timely updates of the model (monthly or weekly updates) using an automatic data curation pipeline. BloombergGPT has privileged data access and APIs, while FinGPT presents a more accessible alternative. It prioritizes lightweight adaptation, leveraging the best available open-source LLMs.
3). The key technology is "RLHF (Reinforcement learning from human feedback)", which is missing in BloombergGPT. RLHF enables an LLM model to learn individual preferences (risk-aversion level, investing habits, personalized robo-advisor, etc.), which is the "secret" ingredient of ChatGPT and GPT4.
دیروز FinGpt - forecaster رو هم ارائه کردن، که stock price رو بر اساس دیتای نیوز اون شرکت پیشبینی میکنه! با Llama 2 و بر اساس متد LoRA فاین تیون کردن و میتونه پیشبینی هفتگی بده، قضیه جذاب‌تر میشه 😉،
❌قبلا هم گفتم، بهتره کلا همه چیز رو ول کنید ، یه ماه وقت بزارین برای دولوپ کردن و کار کردن با مدلهای اپن سورس LLM, چون علنا هیچ کاری بزودی بدون اونا کارایی خاصی نخواهد داشت و در صورت عدم استفاده ، شمارو براحتی از رقیباتون عقب خواهد انداخت، edge مارکت فاینانس هم داره با این سختر میشه و آلفا کمتر 😏
FinGPT: Open-Source Financial LLM
BY @machinelearningnet
Share with your friend now:
tgoop.com/machinelearningnet2/420