В Госдуме предложили полностью списывать ипотеку семьям при рождении троих детей

❓Интересно, справедливороссы просто так пиарятся или эта инициатива будет действительно реализована?

Лидер партии "Справедливая Россия — За правду" Сергей Миронов предложил конкретный механизм: при рождении первого ребенка списывать 25% суммы кредита, второго — 50%, а после появления третьего ребенка полностью аннулировать оставшуюся задолженность.

💬"Таким образом мы скажем семьям: "Спасибо, вы выполнили важную для государства задачу", — пояснил политик.

Какой мир мы построим для наших детей? Зависит от нас
✅Подписаться на РВС

Вторую неделю медиа полны победных реляций про "медицинский сверхразум" 🤯в исполнении Microsoft, который якобы "в сложных диагностических случаях" дает результат в 85% против жалких 20% у докторов людей. "

💬Искусственный интеллект превзошел человека!", "Скоро врачи станут не нужны!", “ИИ привносит в медицину радикальную революцию" и все как мы любим.

Что на самом деле?
1️⃣Cценарий выглядел так: пять языковых моделей (GPT 4o, Сlaude Sonnet и аналоги) выступают в роли "агентов", каждый из которых играет определённую медицинскую роль: врач-первички, радиолог, терапевт, контролер качества и т.д. Они обмениваются сообщениями, задают друг другу вопросы, ищут в интернете, цитируют научные источники и в итоге формируют дифференциальный диагноз.

При этом реальные врачи, с которыми соревновались "агенты" были:
•  Ограничены по времени;
•  Без доступа к интернету, PubMed, справочникам;
•  Работали в одиночку.

ИИ — коллектив, объединённый нейросетевым мозгом с поисковиком и архивом на борту. Врач — один человек без доступа к открытой даже информации. То есть "открытие" в том, что ИИ с доступом в интернет более точен, чем человек без доступа в интернет. На сверхразум не очень тянет.

2️⃣ Все кейсы из знакомой панели. Все случаи для тестирования Microsoft взяла из журнала New England Journal of Medicine (NEJM)  — одного из самых престижных медицинских изданий в мире. Проблема в том, что статьи из этого журнала входят в стандартные обучающие панели, на которых тренировались все современные языковые модели, включая те, что использовал Microsoft.

Т.е., система не решала новые задачи — она вспоминала ответы на экзаменационные вопросы, которые видела во время подготовки. В машинном обучении это называется "data leakage" (утечка данных) и считается грубейшей методологической ошибкой, обесценивающей любой эксперимент.

3️⃣ Возникает интересный вопрос. Если ИИ тестировали на тех же данных, на которых он обучался, почему результат не 100%? Есть два объяснения, и оба не очень для Микрософт.

Первое — они намеренно занизили результат до "правдоподобных" 85%, потому что 100% выглядело бы слишком подозрительно даже для наивной публики. Это классический маркетинговый ход — добавить немного "человечности", реалистичности.

Второе объяснение еще хуже — их ИИ настолько плох, что даже при наличии ответов к экзамену не может их правильно воспроизвести. Классический "троечник", который даже зная ответы не может их повторить в полной мере.

История Microsoft — не исключение, а правило в мире медицинского ИИ.
Сразу вспоминает Epic Sepsis Model — алгоритм для раннего обнаружения внутрибольничного сепсиса, смертельно опасного осложнения многих видов терапий. В пресс-релизе система ставила сепсис в 87% правильно. Все были в восторге.

Потом выяснилось, что система "предсказывает" сепсис в основном у тех пациентов, которых врачи уже начали лечить от сепсиса. Алгоритм просто анализировал назначения антибиотиков и "предупреждал" докторов о том, что они уже знали. Когда систему тестировали на данных до начала лечения, результат был ок. 50% - или есть сепсис, или нет.

В лабораторных условиях легко создать впечатляющие цифры, а в реальной клинической практике все оказывается намного сложнее. Поэтому, когда больницы пытались внедрить разрекламированные ИИ-системы, точность падала с обещанных 99% до 60-70% в лучшем случае.

А теперь лайфхак – как распознать вранье в ситуации с медицинским ИИ:
✔️Тестирование на маленьких выборках (у Microsoft – 28 случаев)
✔️Сравнение ИИ с изолированными врачами
✔️Заявления о "сверхчеловеческой" точности
✔️Отсутствие внешних подтверждающих исследований
✔️Результаты только в пресс-релизах

ИИ — мощный инструмент. Но когда его демонстрируют как чудо, "забывая" рассказать про манипуляции с данными и условиями тестирования, мы имеем дело не с наукой, а с маркетингом.Пока что единственное, в чем ИИ точно превосходит врачей — это способность генерировать хайп и зарабатывать благодаря ему деньги владельцам алгоритмов. Глебсмит

Какой мир мы построим для наших детей? Зависит от нас
✅Подписаться на РВС

История с самоубийством бывшего министра транспорта и бывшего губернатора Курской области Старовойта — страшная. Не тем только, что человек добровольно (а возможно, и нет) свел счеты с жизнью, и вообще не тем, что он умер.

Страшно другое. Как только это произошло, тут же у покойника нашли недвижимости на миллиард рублей, причем это только навскидку, второпях — наверняка можно умножать на десять. И ведь нельзя сказать, что недвижимость на миллиард — это такая мелочь, которую можно надежно скрывать многие годы. То есть все знали, но считали, что это нормально — когда губернатор или министр имеет столько собственности и денег? А это нормально?

Да и вообще… По итогам этой истории создается стойкое впечатление, что в любого высокого чиновника ткни — найдешь миллиард или 10 млрд, или 20 млрд. И система считает, что это нормально. А это нормально?

Если это нормально — это значит, что высокие чиновники заняты в первую очередь не решением каких-нибудь общественно-значимых проблем, не достижением каких-нибудь общенациональных целей, не определением и отстаиванием интересов страны, это значит, что они заняты собой, и главный приоритет в их жизни — личное обогащение. Кроме того, это значит, что система выдвигает и продвигает таких людей, что другим в ней не то что продвинуться — просто выжить чрезвычайно трудно. Получается, что если это нормально — тогда можно сливать воду, это — окончательный приговор системе: она неработоспособна и неисправима, значит, задачи, стоящие перед страной, решены не будут.

А если это всё же ненормально, тогда… почему мы десятилетиями видим одни и те же лица, которые «прекрасно справляются со своими обязанностями» ровно до того момента, как выясняется, что они ничего не сделали, а все деньги украдены, почему высшая бюрократия так отделилась от народа, что ей всё позволяется и при этом от нее ничего (для страны) не требуется? Если бы это было ненормально, то было бы всё совсем не так, как мы имеем «счастье» наблюдать в последние три с половиной года.

Конечно, сейчас нам расскажут про то, что «работа ведется», что уже посадили три с половиной человека! А еще — что не все чиновники «такие», есть ведь и честные люди! Мы согласны — и посадили, и есть честные люди. Только это, к сожалению, не меняет общей мрачной картины.

Система тяжело больна. И болезнь становится всё более очевидна. Страшная история.

🛫Подписаться