Квантовая теорема Байеса
Вероятность того, что событие произойдёт, всегда зависит от наших прежних представлений о ситуации. Именно эту интуитивную идею формализует правило Байеса, сформулированное ещё в XVIII веке. Теперь международная команда физиков показала, что этот принцип можно распространить на квантовую область, разработав первую строгую формулировку квантового правила Байеса — на основе фундаментальных физических закономерностей, а не математических аналогий.
Правило Байеса — это способ обновлять наши представления о мире, когда появляется новая информация. Его можно вывести из принципа минимального изменения: новые убеждения должны соответствовать новым данным, но при этом как можно меньше отличаться от прежних.
В этой работе авторы предлагают квантовую версию этого принципа. Они рассматривают не просто вероятности, а квантовые процессы (вход-выход) и минимизируют изменения между ними. Это похоже на классический случай, где правило Байеса получается через минимизацию различий между распределениями.
Если при этом изменение максимизирует так называемую «верность» (fidelity), то решение оказывается единственным. В результате получается квантовое правило Байеса, которое во многих случаях совпадает с известным преобразованием Петца — важным понятием в квантовой теории информации.
https://journals.aps.org/prl/abstract/10.1103/5n4p-bxhm
На русском https://www.securitylab.ru/news/564603.php
Вероятность того, что событие произойдёт, всегда зависит от наших прежних представлений о ситуации. Именно эту интуитивную идею формализует правило Байеса, сформулированное ещё в XVIII веке. Теперь международная команда физиков показала, что этот принцип можно распространить на квантовую область, разработав первую строгую формулировку квантового правила Байеса — на основе фундаментальных физических закономерностей, а не математических аналогий.
Правило Байеса — это способ обновлять наши представления о мире, когда появляется новая информация. Его можно вывести из принципа минимального изменения: новые убеждения должны соответствовать новым данным, но при этом как можно меньше отличаться от прежних.
В этой работе авторы предлагают квантовую версию этого принципа. Они рассматривают не просто вероятности, а квантовые процессы (вход-выход) и минимизируют изменения между ними. Это похоже на классический случай, где правило Байеса получается через минимизацию различий между распределениями.
Если при этом изменение максимизирует так называемую «верность» (fidelity), то решение оказывается единственным. В результате получается квантовое правило Байеса, которое во многих случаях совпадает с известным преобразованием Петца — важным понятием в квантовой теории информации.
https://journals.aps.org/prl/abstract/10.1103/5n4p-bxhm
На русском https://www.securitylab.ru/news/564603.php
Physical Review Letters
Quantum Bayes' Rule and Petz Transpose Map from the Minimum Change Principle
Bayes' rule, which is routinely used to update beliefs based on new evidence, can be derived from a principle of minimum change. This principle states that updated beliefs must be consistent with new data, while deviating minimally from the prior belief.…
👏2🤔1
Даже небольшое количество специально подобранных примеров может отравить LLM любого размера
Большие языковые модели, вроде Claude, предварительно обучаются на огромных массивах открытых текстов из интернета, включая персональные сайты и блоги. Это означает, что любой человек может создать онлайн-контент, который в итоге попадёт в обучающие данные модели. В этом есть риск: злоумышленники могут внедрить в такие тексты специальные фразы, заставляющие модель усвоить нежелательное или опасное поведение — процесс, известный как отравление данных.
Одним из примеров такой атаки является внедрение бэкдоров. Бэкдор — это особая фраза-триггер, вызывающая определённое поведение модели, которое в обычных условиях не проявляется. Например, LLM можно «отравить» так, что при вводе специального триггера вроде
В совместном исследовании с Британским институтом безопасности ИИ и Институтом Алана Тьюринга было обнаружено, что всего 250 вредоносных документов достаточно, чтобы создать «бэкдор»-уязвимость в большой языковой модели — независимо от её размера или объёма обучающих данных.
https://habr.com/ru/articles/956948/
Большие языковые модели, вроде Claude, предварительно обучаются на огромных массивах открытых текстов из интернета, включая персональные сайты и блоги. Это означает, что любой человек может создать онлайн-контент, который в итоге попадёт в обучающие данные модели. В этом есть риск: злоумышленники могут внедрить в такие тексты специальные фразы, заставляющие модель усвоить нежелательное или опасное поведение — процесс, известный как отравление данных.
Одним из примеров такой атаки является внедрение бэкдоров. Бэкдор — это особая фраза-триггер, вызывающая определённое поведение модели, которое в обычных условиях не проявляется. Например, LLM можно «отравить» так, что при вводе специального триггера вроде
<SUDO> модель начнёт выдавать или пересылать конфиденциальные данные. Подобные уязвимости несут серьёзную угрозу безопасности ИИ и ограничивают возможности его использования в ответственных областях.В совместном исследовании с Британским институтом безопасности ИИ и Институтом Алана Тьюринга было обнаружено, что всего 250 вредоносных документов достаточно, чтобы создать «бэкдор»-уязвимость в большой языковой модели — независимо от её размера или объёма обучающих данных.
https://habr.com/ru/articles/956948/
arXiv.org
Universal Jailbreak Backdoors from Poisoned Human Feedback
Reinforcement Learning from Human Feedback (RLHF) is used to align large language models to produce helpful and harmless responses. Yet, prior work showed these models can be jailbroken by finding...
👏3
Сгенерированные нейросетью микрофотографии материалов достигли такого уровня, что отличить подделку не могут даже профильные специалисты. Во всяком случае, к таком выводу пришли авторы статьи, в Nature Nanotechnology, после того, как разослали реальные и сгенерированные фотографии 250 ученым со степенью в области материаловедения.
Микрофотографиями материалов называют снимки, полученные с помощью микроскопа: просвечивающего, сканирующего или атомно-силового. На хорошей микрофотографии можно рассмотреть текстуру материала, кристалличность, размер пор, количество и разновидности дефектов. Без таких изображений не обходится сегодня ни одно исследование по материаловедению и нанотехнологиям. Удачные микрофотографии нередко попадают на обложки научных журналов, в научно-популярные публикации и учебники.
https://www.nature.com/articles/s41565-025-02009-9
На русском https://nplus1.ru/news/2025/10/13/micro-fake
Микрофотографиями материалов называют снимки, полученные с помощью микроскопа: просвечивающего, сканирующего или атомно-силового. На хорошей микрофотографии можно рассмотреть текстуру материала, кристалличность, размер пор, количество и разновидности дефектов. Без таких изображений не обходится сегодня ни одно исследование по материаловедению и нанотехнологиям. Удачные микрофотографии нередко попадают на обложки научных журналов, в научно-популярные публикации и учебники.
https://www.nature.com/articles/s41565-025-02009-9
На русском https://nplus1.ru/news/2025/10/13/micro-fake
Nature
The rising danger of AI-generated images in nanomaterials science and what we can do about it
Nature Nanotechnology - Generative AI has made it trivial to generate fake microscopy images that are indistinguishable from real images, even for experts. As researchers in nanoscience, it is time...
👍4
Мозг может заранее распознать угрозу инфекции — даже виртуальной — и активировать иммунную систему
Исследователи проверили, может ли человеческий мозг при приближении инфекции заранее подготовить иммунный ответ, ещё до реального контакта с патогеном. Для этого они использовали виртуальную реальность, где участникам показывали аватары людей с признаками болезни, которые приближались.
Что было обнаружено:
Мозг реагирует на приближение «заражённых» аватаров, активируя сети внимания и сенсомоторные зоны.
Эта реакция запускает изменения в работе врождённого иммунитета, особенно в естественных киллерах (NK-клетках) и врождённых лимфоидных клетках (ILC) — так же, как при настоящей инфекции.
Изменения в связях между зонами мозга, отвечающими за восприятие инфекции, и гипоталамусом указывают на участие гипоталамо-гипофизарно-надпочечниковой оси — важной системы регуляции иммунного и гормонального ответа.
Моделирование подтвердило, что между мозгом и иммунной системой существует перекрёстная связь, которая может активироваться даже при виртуальной угрозе.
Исследование было довольно необычным и многослойным — вот как его проводили:
Эксперимент в виртуальной реальности (VR):
Участников помещали в VR-среду, где к ним приближались аватары с признаками инфекции (например, лица с сыпью, покраснением и другими визуальными симптомами).
Эти аватары входили в периперсональное пространство — область вокруг тела, которую мозг воспринимает как «личную зону».
Измерение нейронной активности:
Использовали ЭЭГ (электроэнцефалографию) и фМРТ (функциональную МРТ), чтобы отслеживать, какие зоны мозга активируются при приближении «заражённых» аватаров.
Особое внимание уделялось сенсомоторным зонам и сети значимости (salience network) — они отвечают за восприятие угроз и подготовку к действию.
Оценка иммунного ответа:
До и после VR-экспозиции у участников брали образцы крови.
С помощью проточной цитометрии и масс-спектрометрии измеряли количество и активность врождённых лимфоидных клеток (ILC) и естественных киллеров (NK-клеток).
Для сравнения использовали контрольные стимулы и реальную иммунную активацию — например, после прививки от гриппа.
Анализ связей между мозгом и иммунной системой:
Исследовали, как изменяется связность между зонами мозга, воспринимающими инфекцию, и гипоталамусом — ключевым регулятором гормонального и иммунного ответа.
Также изучали влияние на гипоталамо-гипофизарно-надпочечниковую ось (HPA) — систему, запускающую стресс-реакции.
Моделирование нейросетей:
Создали компьютерную модель, чтобы воспроизвести взаимодействие между нейронной и иммунной реакцией.
Итог: даже виртуальное приближение «заражённого» объекта может активировать мозг и запустить иммунную реакцию, как при настоящей угрозе.
https://www.nature.com/articles/s41593-025-02008-y
Исследователи проверили, может ли человеческий мозг при приближении инфекции заранее подготовить иммунный ответ, ещё до реального контакта с патогеном. Для этого они использовали виртуальную реальность, где участникам показывали аватары людей с признаками болезни, которые приближались.
Что было обнаружено:
Мозг реагирует на приближение «заражённых» аватаров, активируя сети внимания и сенсомоторные зоны.
Эта реакция запускает изменения в работе врождённого иммунитета, особенно в естественных киллерах (NK-клетках) и врождённых лимфоидных клетках (ILC) — так же, как при настоящей инфекции.
Изменения в связях между зонами мозга, отвечающими за восприятие инфекции, и гипоталамусом указывают на участие гипоталамо-гипофизарно-надпочечниковой оси — важной системы регуляции иммунного и гормонального ответа.
Моделирование подтвердило, что между мозгом и иммунной системой существует перекрёстная связь, которая может активироваться даже при виртуальной угрозе.
Исследование было довольно необычным и многослойным — вот как его проводили:
Эксперимент в виртуальной реальности (VR):
Участников помещали в VR-среду, где к ним приближались аватары с признаками инфекции (например, лица с сыпью, покраснением и другими визуальными симптомами).
Эти аватары входили в периперсональное пространство — область вокруг тела, которую мозг воспринимает как «личную зону».
Измерение нейронной активности:
Использовали ЭЭГ (электроэнцефалографию) и фМРТ (функциональную МРТ), чтобы отслеживать, какие зоны мозга активируются при приближении «заражённых» аватаров.
Особое внимание уделялось сенсомоторным зонам и сети значимости (salience network) — они отвечают за восприятие угроз и подготовку к действию.
Оценка иммунного ответа:
До и после VR-экспозиции у участников брали образцы крови.
С помощью проточной цитометрии и масс-спектрометрии измеряли количество и активность врождённых лимфоидных клеток (ILC) и естественных киллеров (NK-клеток).
Для сравнения использовали контрольные стимулы и реальную иммунную активацию — например, после прививки от гриппа.
Анализ связей между мозгом и иммунной системой:
Исследовали, как изменяется связность между зонами мозга, воспринимающими инфекцию, и гипоталамусом — ключевым регулятором гормонального и иммунного ответа.
Также изучали влияние на гипоталамо-гипофизарно-надпочечниковую ось (HPA) — систему, запускающую стресс-реакции.
Моделирование нейросетей:
Создали компьютерную модель, чтобы воспроизвести взаимодействие между нейронной и иммунной реакцией.
Итог: даже виртуальное приближение «заражённого» объекта может активировать мозг и запустить иммунную реакцию, как при настоящей угрозе.
https://www.nature.com/articles/s41593-025-02008-y
Nature
Neural anticipation of virtual infection triggers an immune response
Nature Neuroscience - Serino et al. show that seeing an infectious avatar approach the body in virtual reality triggers an immune response, indicating that the brain prepares the body to fight...
👍4🤔1
Про большие волны в океане
Веками моряки рассказывали истории о том как они встречали в океане уединённые чудовищные волны, которые были больше и круче окружающих. Часто речь шла о «стенах воды», или о «дырах в море», или о нескольких последовательных высоких волнах («три сестры»), которые появляются без видимых причин. Долгое время эти байки были лишь частью морского фольклора. Но с 70-х годов прошлого века океанографы начали в них верить. Наблюдения, собранные нефтяной и судоходной промышленностью, свидетельствуют о том, что существуют настоящие монстры глубин, которые пожирают корабли и моряков без пощады и предупреждения. Существует несколько определений для таких удивительных огромных волн. Очень часто термин «экстремальные волны» используется для обозначения хвоста некоторого типичного статистического распределения высот волн (обычно распределения Рэлея), в то время как термин «волны-убийцы» («чудовища», «гиганты», «изгои») описывает волны большой амплитуды и аномальной крутизны, возникающие чаще, чем можно было бы ожидать.
Для прогнозирования высоты волн обычно используются линейные модели, для которых справедлив принцип суперпозиции: результатом совпадения двух независимых возмущений будет сумма этих возмущений. Такой подход не накладывает ограничения на максимальную высоту, но подразумевает необходимость множества совпадений, что делает экстремальные волны весьма редким явлением. Общепринятое в океанологии распределение Рэлея предсказывало, что при сильном шторме, когда высота волн достигает 12 метров, шансы встретить 30 метровую составляли 1 к 100 000. И на такие модели полагались в многомиллиардной кораблестроительной индустрии и логистике корпораций.
И в конце двадцатого века исследователи всерьёз задались вопросом о том, что такое волна-убийца: редкая реализация типичной статистики или типичная реализация редкой популяции. Часто определение волн-чудовищ включает в себя то, что такие волны слишком высокие (в 2-3 раза выше окружающих), слишком асимметричные и слишком крутые. Они возникают во время шторма, после него, но могут появляться в ясную погоду. Появление может быть неожиданным, с таким же быстрым исчезновением, либо же волна воплощается как стена воды и в такой форме преодолевает десятки километров.
В настоящее время вопрос волн-убийц сформирован как полноправное направление научных исследований. Разрабатываются математические модели, проводится компьютерное моделирование, ставятся эксперименты, собирается статистика с помощью метеорологических буёв, разбросанных по ключевым зонам, радаров на буровых платформах и танкерах, а также с помощью спутниковых систем.
https://habr.com/ru/companies/ruvds/articles/585414/
Веками моряки рассказывали истории о том как они встречали в океане уединённые чудовищные волны, которые были больше и круче окружающих. Часто речь шла о «стенах воды», или о «дырах в море», или о нескольких последовательных высоких волнах («три сестры»), которые появляются без видимых причин. Долгое время эти байки были лишь частью морского фольклора. Но с 70-х годов прошлого века океанографы начали в них верить. Наблюдения, собранные нефтяной и судоходной промышленностью, свидетельствуют о том, что существуют настоящие монстры глубин, которые пожирают корабли и моряков без пощады и предупреждения. Существует несколько определений для таких удивительных огромных волн. Очень часто термин «экстремальные волны» используется для обозначения хвоста некоторого типичного статистического распределения высот волн (обычно распределения Рэлея), в то время как термин «волны-убийцы» («чудовища», «гиганты», «изгои») описывает волны большой амплитуды и аномальной крутизны, возникающие чаще, чем можно было бы ожидать.
Для прогнозирования высоты волн обычно используются линейные модели, для которых справедлив принцип суперпозиции: результатом совпадения двух независимых возмущений будет сумма этих возмущений. Такой подход не накладывает ограничения на максимальную высоту, но подразумевает необходимость множества совпадений, что делает экстремальные волны весьма редким явлением. Общепринятое в океанологии распределение Рэлея предсказывало, что при сильном шторме, когда высота волн достигает 12 метров, шансы встретить 30 метровую составляли 1 к 100 000. И на такие модели полагались в многомиллиардной кораблестроительной индустрии и логистике корпораций.
И в конце двадцатого века исследователи всерьёз задались вопросом о том, что такое волна-убийца: редкая реализация типичной статистики или типичная реализация редкой популяции. Часто определение волн-чудовищ включает в себя то, что такие волны слишком высокие (в 2-3 раза выше окружающих), слишком асимметричные и слишком крутые. Они возникают во время шторма, после него, но могут появляться в ясную погоду. Появление может быть неожиданным, с таким же быстрым исчезновением, либо же волна воплощается как стена воды и в такой форме преодолевает десятки километров.
В настоящее время вопрос волн-убийц сформирован как полноправное направление научных исследований. Разрабатываются математические модели, проводится компьютерное моделирование, ставятся эксперименты, собирается статистика с помощью метеорологических буёв, разбросанных по ключевым зонам, радаров на буровых платформах и танкерах, а также с помощью спутниковых систем.
https://habr.com/ru/companies/ruvds/articles/585414/
Хабр
Волны, которые появляются из ниоткуда и исчезают бесследно
Это было утро 12 апреля 1966 года. Элегантный лайнер «Микеланджело» направлялся через Атлантику в Нью-Йорк. 275-метровый красавец водоизмещением 46 тысяч тонн некоторое время был флагманом флота...
🤔3👍2