tgoop.com/gonzo_ML/2857
Last Update:
Про новости LLM писать уже поднадоело, но вот краткое саммари анонсов последних дней:
🤖#1 OpenAI выкатил замену старой доброй GPT-3.5 Turbo — GPT-4o mini. То же, но дешевле и качественнее. Контекст 128k, поддержка языков как в большой GPT-4o, цена $0.15/$0.60 за 1M входных/выходных токенов (у 3.5 было $0.50/$1.50).
https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/
Теперь у каждого большого игрока есть большая, качественная и медленная модель + маленькая и быстрая (GPT-4o mini, Gemini Flash, Claude Haiku/Sonnet)
🐬 #2 Mistral натренировал с NVIDIA 12B Mistral NeMo. Apache 2.0 лицензия, контекст 128k, вроде как бьют Gemma 2 9B и Llama 3 8B. Ну в целом неудивительно, она и побольше на треть.
Из важного, модель мультиязычная и с function calling! Совпадает с моими ожиданиями в https://www.tgoop.com/gonzo_ML/2821.
https://mistral.ai/news/mistral-nemo/
А ещё Мистраль выкатил MathΣtral для математики (https://mistral.ai/news/mathstral/) и Codestral Mamba на базе Mamba 2 для кода (https://mistral.ai/news/codestral-mamba/).
😼 #3 Apple разродился своей опенсорсной 7B LLM под названием DCLM-7B. Из плюсов, более открытая чем некоторые благодаря открытому датасету. Но в целом непонятно что с ней делать, когда есть Llama3, Gemma2 и Qwen2.
https://x.com/_philschmid/status/1814274909775995087
🐁#4 А, да, HuggingFace выложил открытую SmolLM размерами 135M, 360M, и 1.7B для on-device инференса. Вроде как бьют Phi-1.5 и Qwen2 1.5B.
https://huggingface.co/blog/smollm
BY gonzo-обзоры ML статей
![](https://photo2.tgoop.com/u/cdn4.cdn-telegram.org/file/c2tMi55Mqjs8OcC4b5hM_Nv9A0lzDI-Yvsc04uzAN8G2SjmR0O15ZYsd-UCOYe1zmNVaDYLAlpwVRz0_dkOqd4JrMhj4eBeLstF7zzPIRv4CnhdVrMBRVvd3PV-6lF470i9bIRmUgWly8Zw3APo6M7MFaqB3xmcIuJ57Ha3VDkT4a6qkVfO97Gm8OUbh1zXUN3Z-PlFlmIZa3E9hyZWtwQtGnHAvSVBGUTX5gU_vbv2lq9ct9IxqmOCStywhrtvDYMrUrBb6utbXbbXqHgR9Giq25wLVULjqGy7XUIc6bLm0gemhUSAuM4_ggv1sRGswdjzQ2TjDTlwMIk6qWAXdOQ.jpg)
Share with your friend now:
tgoop.com/gonzo_ML/2857