❓Зачем искать поверхность атаки для своего проекта и как это нужно делать?
✔️Ответы на эти и другие вопросы — в нашем новом материале на Хабре! Автор — Павел Довгалюк.
https://habr.com/ru/companies/isp_ras/articles/801459/
✔️Ответы на эти и другие вопросы — в нашем новом материале на Хабре! Автор — Павел Довгалюк.
https://habr.com/ru/companies/isp_ras/articles/801459/
Хабр
Зачем искать поверхность атаки для своего проекта
Любые программные системы включают в себя нужные и не очень нужные пакеты. Получается огромный объём кода (для одного несложного сайта npm list -a выдаёт список из 4256 зависимостей). А так как «весь...
Дмитрий Чернышенко открыл учебный корпус цифровых и информационных технологий РЭУ им.Г.В. Плеханова
Новый корпус цифровых и информационных технологий – это площадка для реализации инновационных идей. В 8-этажном корпусе расположены лаборатории и учебные аудитории более 30 индустриальных партнеров учебного заведения.
Вице-премьеру и гостям были представлены последние разработки университета в области искусственного интеллекта и беспилотных летательных аппаратов.
Участники церемонии также посетили Ситуационный центр экономического развития регионов РФ и осмотрели совместную лабораторию РЭУ им. Плеханова и Института системного программирования РАН, где будут готовить IT-специалистов мирового уровня
https://vk.com/wall-112292509_49965
Новый корпус цифровых и информационных технологий – это площадка для реализации инновационных идей. В 8-этажном корпусе расположены лаборатории и учебные аудитории более 30 индустриальных партнеров учебного заведения.
Вице-премьеру и гостям были представлены последние разработки университета в области искусственного интеллекта и беспилотных летательных аппаратов.
Участники церемонии также посетили Ситуационный центр экономического развития регионов РФ и осмотрели совместную лабораторию РЭУ им. Плеханова и Института системного программирования РАН, где будут готовить IT-специалистов мирового уровня
https://vk.com/wall-112292509_49965
VK
Правительство России. Запись со стены.
Дмитрий Чернышенко открыл учебный корпус цифровых и информационных технологий РЭУ им.Г.В. Плеханова< Смотрите полностью ВКонтакте.
Директор ИСП РАН Арутюн Аветисян: ситуация с глобальным техническим сбоем "подчеркивает важность правильно поставленных процессов разработки ПО"
➡️https://tass.ru/obschestvo/21405347
➡️https://tass.ru/obschestvo/21405347
TACC
Эксперт: обновление ПО, повлиявшее на сбой Windows, могло не пройти должного тестирования
Директор ИСП РАН Арутюн Аветисян сообщил, что этот случай "подчеркивает важность правильно поставленных процессов разработки ПО"
Forwarded from NoML Digest (Pavel Snurnitsyn)
Семинар про FL в медицине
▫️ 24 июля (среда), 17:00 МСК
▫️ Подключение→
Выступают: Евгений Попов (Yandex Cloud), Никита Лазарев (ИСП РАН), Юрий Маркин (ИСП РАН)
Тема: Практический опыт применения FL в медицине на примере обучения модели по классификации ЭКГ-синдромов
Аннотация
На семинаре рассмотрим следующие вопросы:
▫️ Федеративное обучение (FL): основные классы решаемых задач, возможности и ограничения, обзор основных алгоритмов агрегации в FL;
▫️ Предпосылки пилота для Сеченовского Университета, особенности предметной области при обучении моделей классификации ЭКГ-синдромов;
▫️ Архитектура FL-фреймворка NVFlare, особенности настройки инфраструктуры для FL, процесс разработки FL моделей с помощью NVFlare;
▫️ Эксперимент с обучением FL модели для классификации ЭКГ, основные результаты, дальнейшие планы.
▫️ 24 июля (среда), 17:00 МСК
▫️ Подключение→
Выступают: Евгений Попов (Yandex Cloud), Никита Лазарев (ИСП РАН), Юрий Маркин (ИСП РАН)
Тема: Практический опыт применения FL в медицине на примере обучения модели по классификации ЭКГ-синдромов
Аннотация
На семинаре рассмотрим следующие вопросы:
▫️ Федеративное обучение (FL): основные классы решаемых задач, возможности и ограничения, обзор основных алгоритмов агрегации в FL;
▫️ Предпосылки пилота для Сеченовского Университета, особенности предметной области при обучении моделей классификации ЭКГ-синдромов;
▫️ Архитектура FL-фреймворка NVFlare, особенности настройки инфраструктуры для FL, процесс разработки FL моделей с помощью NVFlare;
▫️ Эксперимент с обучением FL модели для классификации ЭКГ, основные результаты, дальнейшие планы.
В октябре мы снова в «Сириусе»!
✔️С 7 по 18 октября пройдёт образовательная программа «Доверенный искусственный интеллект», организованная университетом «Сириус», ИСП РАН, а также МФТИ, ННГУ, Сколтехом, AIRI и Университетом Иннополис.
В числе преподавателей:
- руководитель Исследовательского центра доверенного искусственного интеллекта ИСП РАН Денис Турдаков
- ректор Университета Иннополис, сотрудник ИСП РАН, МФТИ, ВШЭ и Сколтеха Александр Гасников
и многие другие!
✔️Кто может принять участие в программе, как проходит отбор, какие знания можно будет получить?
Обо всём этом – на сайте университета «Сириус»!
➡️https://siriusuniversity.ru/admission/educational-modules-and-activities/doverennyy-iskusstvennyy-intellekt/
✔️С 7 по 18 октября пройдёт образовательная программа «Доверенный искусственный интеллект», организованная университетом «Сириус», ИСП РАН, а также МФТИ, ННГУ, Сколтехом, AIRI и Университетом Иннополис.
В числе преподавателей:
- руководитель Исследовательского центра доверенного искусственного интеллекта ИСП РАН Денис Турдаков
- ректор Университета Иннополис, сотрудник ИСП РАН, МФТИ, ВШЭ и Сколтеха Александр Гасников
и многие другие!
✔️Кто может принять участие в программе, как проходит отбор, какие знания можно будет получить?
Обо всём этом – на сайте университета «Сириус»!
➡️https://siriusuniversity.ru/admission/educational-modules-and-activities/doverennyy-iskusstvennyy-intellekt/
Университет «Сириус»
Университет «Сириус» • Поступление
Поступление в Университет «Сириус»: правила приема 2024 года, программы среднего и высшего образования, вступительные испытания, приемная комиссия
❗️Новая статья в блоге ИСП РАН на Хабре!
На этот раз -- про уязвимость к атакам российских больших языковых моделей с открытым исходным кодом:
➡️https://habr.com/ru/companies/isp_ras/articles/831550/
На этот раз -- про уязвимость к атакам российских больших языковых моделей с открытым исходным кодом:
➡️https://habr.com/ru/companies/isp_ras/articles/831550/
Хабр
Уязвимость к атакам российских больших языковых моделей с открытым исходным кодом
Маленькая ремарка С появлением больших языковых моделей обществу был брошен вызов. Первые проблемы, с которыми пришлось столкнуться в области LLM, были связаны с тем, что модели могут неправильно...
✔️В Южной Корее проходит 33-я международная конференция IJCAI 2024, посвященная исследованиям в области искусственного интеллекта. Это одна из самых значимых конференций по тематике ИИ; ежегодно она собирает участников из многих стран мира.
➡️В программе 2024 года представлены и работы российских учёных, в том числе из Исследовательского центра доверенного искусственного интеллекта ИСП РАН (выполнены совместно с коллегами из AIRI, Сколтеха и ВШЭ):
Probabilistically Robust Watermarking of Neural Networks https://www.ijcai.org/proceedings/2024/0528
Do You Remember the Future? Weak-to-Strong Generalization in 3D Object Detection https://www.ijcai.org/proceedings/2024/1001
AADMIP: Adversarial Attacks and Defenses Modeling in Industrial Processes https://www.ijcai.org/proceedings/2024/1030
❗️Статьи доступны по ссылкам!
➡️В программе 2024 года представлены и работы российских учёных, в том числе из Исследовательского центра доверенного искусственного интеллекта ИСП РАН (выполнены совместно с коллегами из AIRI, Сколтеха и ВШЭ):
Probabilistically Robust Watermarking of Neural Networks https://www.ijcai.org/proceedings/2024/0528
Do You Remember the Future? Weak-to-Strong Generalization in 3D Object Detection https://www.ijcai.org/proceedings/2024/1001
AADMIP: Adversarial Attacks and Defenses Modeling in Industrial Processes https://www.ijcai.org/proceedings/2024/1030
❗️Статьи доступны по ссылкам!
www.ispras.ru
Исследовательский центр доверенного искусственного интеллекта
Исследовательский центр доверенного искусственного интеллекта осуществляет свою деятельность на базе ИСП РАН.
❗️ИСП РАН представит ряд своих технологий на Международном военно-техническом форуме «Армия-2024», который состоится с 12 по 14 августа в КВЦ «Патриот»!
➡️На стенде 1Е9-2 в Павильоне А будут представлены:
✔️Платформа доверенного искусственного интеллекта, разработанная в Исследовательском центре доверенного ИИ ИСП РАН. Платформа объединяет программные инструменты и методики для противодействия принципиально новым угрозам, возникающим на всех этапах жизненного цикла технологий ИИ
✔️Механизм защиты нейронных сетей от состязательных атак на основе стикеров (технология, наглядно демонстрирующая возможности Платформы)
✔️Инструменты жизненного цикла разработки доверенного программного обеспечения, внедрённые более чем в 100 компаниях в России и за рубежом
✔️И впервые на форуме будет представлена система предотвращения анонимных утечек документов — DocMarking. Система предназначена для повышения уровня информационной безопасности и разработана на основе исследований в областях стеганографии, цифровой обработки изображений и машинного обучения
Будем рады видеть вас в числе гостей!
➡️На стенде 1Е9-2 в Павильоне А будут представлены:
✔️Платформа доверенного искусственного интеллекта, разработанная в Исследовательском центре доверенного ИИ ИСП РАН. Платформа объединяет программные инструменты и методики для противодействия принципиально новым угрозам, возникающим на всех этапах жизненного цикла технологий ИИ
✔️Механизм защиты нейронных сетей от состязательных атак на основе стикеров (технология, наглядно демонстрирующая возможности Платформы)
✔️Инструменты жизненного цикла разработки доверенного программного обеспечения, внедрённые более чем в 100 компаниях в России и за рубежом
✔️И впервые на форуме будет представлена система предотвращения анонимных утечек документов — DocMarking. Система предназначена для повышения уровня информационной безопасности и разработана на основе исследований в областях стеганографии, цифровой обработки изображений и машинного обучения
Будем рады видеть вас в числе гостей!
❗️Опубликована запись семинара, который подготовили и провели сотрудники ИСП РАН и Yandex Cloud
Евгений Попов (Yandex Cloud), Никита Лазарев (ИСП РАН), Юрий Маркин (ИСП РАН) — Практический опыт применения FL в медицине на примере обучения модели по классификации ЭКГ-синдромов
https://rutube.ru/video/25b6f6cc0078886bf56e544fe95041bd/
YouTube, Дзен, RuTube (1 час 35 минут)
Презентация в базе знаний→
Евгений Попов (Yandex Cloud), Никита Лазарев (ИСП РАН), Юрий Маркин (ИСП РАН) — Практический опыт применения FL в медицине на примере обучения модели по классификации ЭКГ-синдромов
https://rutube.ru/video/25b6f6cc0078886bf56e544fe95041bd/
YouTube, Дзен, RuTube (1 час 35 минут)
Презентация в базе знаний→
RUTUBE
Семинар: Евгений Попов, Никита Лазарев, Юрий Маркин - Применение FL для классификации ЭКГ-синдромов
Вопросы и комментарии — в Telegram-чате сообщества NoML:
https://www.tgoop.com/noml_community
Презентация — в базе знаний:
https://noml.notion.site/FL-9430576758d541d0b612898994f349b3
Рекомендуем также посмотреть:
https://rutube.ru/video/8f841f1db5cd25fa61aeba01e7ceb516/…
https://www.tgoop.com/noml_community
Презентация — в базе знаний:
https://noml.notion.site/FL-9430576758d541d0b612898994f349b3
Рекомендуем также посмотреть:
https://rutube.ru/video/8f841f1db5cd25fa61aeba01e7ceb516/…
✔️В Клиническом санатории «Барвиха» состоялась научная встреча, в которой приняли участие представители ИСП РАН: директор института Арутюн Аветисян, ведущий научный сотрудник Сергей Прохоров и советник по цифровой медицине Андрей Бурсов.
➡️ Врачи санатория выступили в рамках научной дискуссии о современном состоянии использования искусственного интеллекта (ИИ) в диагностике заболеваний; был заслушан доклад «Применение технологии ИИ в кардиологии».
➡️ Сотрудники ИСП РАН провели демонстрацию системы расшифровки цифровых ЭКГ, разработанной в институте.
➡️ Все участники встречи обсудили вопросы практического применения модели диагностики нарушений ритма с использованием ИИ, а также перспективы сотрудничества.
Источник: https://www.tgoop.com/barvihamed
➡️ Врачи санатория выступили в рамках научной дискуссии о современном состоянии использования искусственного интеллекта (ИИ) в диагностике заболеваний; был заслушан доклад «Применение технологии ИИ в кардиологии».
➡️ Сотрудники ИСП РАН провели демонстрацию системы расшифровки цифровых ЭКГ, разработанной в институте.
➡️ Все участники встречи обсудили вопросы практического применения модели диагностики нарушений ритма с использованием ИИ, а также перспективы сотрудничества.
Источник: https://www.tgoop.com/barvihamed
❗️Аспирант ИСП РАН Владислав Ананьев стал победителем конкурсного отбора на получение стипендии Президента РФ.
➡️Всего на конкурсный отбор поступило более 4700 заявок. Исследования соискателей должны были опираться на приоритеты, определенные Стратегией научно-технологического развития РФ. В итоге были отобраны 500 победителей.
✔️Владислав Ананьев работает в Лаборатории системного программирования ИСП РАН в Новгородском государственном университете и занимается исследованием и разработкой методов машинного обучения для анализа биомедицинских изображений. Цель его работы — внедрение новых решений, которые помогут сделать клинические процессы более эффективными.
➡️Всего на конкурсный отбор поступило более 4700 заявок. Исследования соискателей должны были опираться на приоритеты, определенные Стратегией научно-технологического развития РФ. В итоге были отобраны 500 победителей.
✔️Владислав Ананьев работает в Лаборатории системного программирования ИСП РАН в Новгородском государственном университете и занимается исследованием и разработкой методов машинного обучения для анализа биомедицинских изображений. Цель его работы — внедрение новых решений, которые помогут сделать клинические процессы более эффективными.
Министерство науки и высшего образования Российской Федерации
Новости
Министерство науки и высшего образования Российской Федерации осуществляет функции по выработке и реализации государственной политики и нормативно-правовому регулированию в сфере высшего образования, а также функции по нормативно-правовому регулированию и…
❗️Сегодня на Международном военно-техническом форуме «Армия-2024» начал работу выставочный стенд ИСП РАН, где представлены самые современные технологии в области системного программирования!
В их числе:
✔️Платформа доверенного искусственного интеллекта, разработанная в Исследовательском центре доверенного ИИ ИСП РАН.
✔️Механизм защиты нейронных сетей от состязательных атак на основе стикеров (технология, наглядно демонстрирующая возможности Платформы)
✔️Инструменты жизненного цикла разработки доверенного программного обеспечения, внедрённые более чем в 100 компаниях в России и за рубежом
✔️И впервые на форуме представлена система предотвращения анонимных утечек документов — DocMarking
➡️ Будем рады видеть вас на нашем стенде: 1Е9-2 в Павильоне А!
В их числе:
✔️Платформа доверенного искусственного интеллекта, разработанная в Исследовательском центре доверенного ИИ ИСП РАН.
✔️Механизм защиты нейронных сетей от состязательных атак на основе стикеров (технология, наглядно демонстрирующая возможности Платформы)
✔️Инструменты жизненного цикла разработки доверенного программного обеспечения, внедрённые более чем в 100 компаниях в России и за рубежом
✔️И впервые на форуме представлена система предотвращения анонимных утечек документов — DocMarking
➡️ Будем рады видеть вас на нашем стенде: 1Е9-2 в Павильоне А!
❗️Новый пост в блоге ИСП РАН на Хабре!
➡️ Обучаете модели машинного обучения на открытых данных? Уверены, что в них нет ошибок, и что модель не получает "мусор на входе"?
✔️ Дмитрий Рыболовлев с коллегами делятся опытом своей работы:
https://habr.com/ru/companies/isp_ras/articles/829506/
➡️ Обучаете модели машинного обучения на открытых данных? Уверены, что в них нет ошибок, и что модель не получает "мусор на входе"?
✔️ Дмитрий Рыболовлев с коллегами делятся опытом своей работы:
https://habr.com/ru/companies/isp_ras/articles/829506/
Хабр
Я больше не верю публичным датасетам
Когда я прочитал новость о том, что исследователи MIT обнаружили вплоть до 10% ошибок в разметке самых популярных датасетов для обучения нейросетей, то решил, что нужно рассказать и о нашем опыте...