мне нравится новая китайская мода заставлять clevels тильтовать и оправдыватся перед инвесторами почему у них хуже за х10 денег

папир

Отдельные ресечеры аири пахнут как бомжи после выполнения KPI внедрений Rl — админ

Low precision training and inference affect both the quality and cost of language models,
but current scaling laws do not account for this. In this work, we devise “precision-aware” scaling laws for both training and inference. We propose that training in lower precision reduces
the model’s effective parameter count, allowing us to predict the additional loss incurred from
training in low precision and post-train quantization. For inference, we find that the degradation introduced by post-training quantization increases as models are trained on more data,
eventually making additional pretraining data actively harmful. For training, our scaling laws
allow us to predict the loss of a model with different parts in different precisions, and suggest
that training larger models in lower precision may be compute optimal. We unify the scaling
laws for post and pretraining quantization to arrive at a single functional form that predicts
degradation from training and inference in varied precisions. We fit on over 465 pretraining runs
and validate our predictions on model sizes up to 1.7B parameters trained on up to 26B tokens.
paper

Влияние ножа в печень на скоры ребатла

Влияние локации автора и ревьювера на результаты ревью

Посты для младших классов?
Всегда.

https://personal.math.ubc.ca/~PLP/assets/plp.pdf

Prompt caching

В любом нормальном LLM API есть возможность закэшить какой нибудь текст и затем подтянуть по хэшу или как нибудь ещё. Как работает и почему выгодно читайте ниже:

https://sankalp.bearblog.dev/how-prompt-caching-works/

вот выходит mistral3 large, доступен по ap и как модель , 675bA41b mixtral like, похуже китайского опенсурса. Это фронтир? ну нет. Субфронтир? ну да. Агентность мистраль не проучили(по меньшей мере не репортят бенчи)

а еще выложили ministral но зачем они если есть gpt oss


blog

канада индийская криптоколония сосать, в этом году god bless america

втф а почему компании выпускают мерч в виде курток, но в виде BOLSHIE KURTKI неь

я пожалуй оставлю тут видео с роботом unitree g1 которые в свободной продаже + имеют открытый апи

Я знаю штук 7 способов измерить mmlu и показать результаты от около рандома до около идеала. А зачем

https://huggingface.co/spaces/OpenEvals/evaluation-guidebook

Goldman Sachs Ai bubble analysis


На небе только и разговоров что о инвестициях. И о хайпе.
Как видимая прибыль тонет в глубине хайповых заявлений о agi.

зарабатывают сотни миллиардов тратят +- столько же или чуть больше меньше.

Большая часть трат направлена на рост/будущее, прямо сейчас штат и карты на инференс работают в небольшой плюс. Ща сунут рекламу и шоппинг агентов и будет вполне сустейнбл рынок из нескольких топов и сотни непонятно кого. Конкурировать с us топ3 прям сейчас уже даже из us почти не возможно (cм grok, perplexity и прочих)

Одна из лаб первой волны(openai, anthropic, Google, meta, mistral) должна сдохнуть и очистить поляну, я поставлю на meta и mistral - челы проебали все маркеты из возможных, делают непонятно что(cделать в отсутствии санкций, при ебейших вилках и таком нетворке аналог гигачата это позор прям)

realtime

(1sec latency btw)