tgoop.com/jdata_blog/377
Last Update:
Привет, друзья!
#Быстропост на канале
Я редко публикую быстрые посты, потому что у меня гипер-тревожность за каждый кусочек контента. Но очень хочется с вами поделиться. Можно поддержать сердечком =)
Сегодня прочитала пост от исследователя AIRI про атаки на модели. Важным и приятным показался тейк об XAI в конце статьи:
" ключевые проблемы кибербезопасности ИИ неразрывно связаны с объяснимостью, интерпретируемостью и устойчивостью моделей. Именно поэтому глубокая теоретическая обоснованность разработки ИИ-архитектур становится не просто актуальной, но жизненно-необходимой."
В такие моменты я очень радуюсь. Потому что 3 года назад, когда я только начала копаться, вокруг XAI было сильно тише. Наблюдаю, как область всё ярче и ярче проявляет себя — в исследованиях, медиа и практике. Ну, восторг! Прям больше сил становится делать новые туториалы — сейчас пишу 2 — про ViT и Autoencoders для извлечения признаков и про Logit Lens. В течение марта опубликую!
И важной видится задача поддержки и развития курса и себя как специалиста. Будто чем больше и лучше будет информация, тем легче будет изучить и внедрить методы XAI к тому, что уже есть в ML и DL. Стараюсь, чтобы это было так!
И немного мыслей про атаки:
Атаки это злобно и опасно безумно красиво и интересно (если будете читать статью, то просто прочувствуйте, сколько простых и хитрых способов есть для обмана обученных моделей!), и здесь я очень верю в то, что методы объяснимости и разработки более контроллируемых моделей будут вести к осмысленному использованию приложений на основе ИИ.
И немного несвязных updates, помимо туториалов в марте:
В среду выйдет видео по CAM на ютуб. С полным разбором, тетрадкой и моим котом, конечно.
В субботу буду вести вебинар по CAM для CNN в рамках буткемпа коллег "Мир глазами машины". Буткемп для начинающих. Ссылочку скину сюда в комментарии!
А ещё в этом месяце мне удаётся поассистировать на курсе по безопаcности LLM. Я в диком восторге и может быть мы с преподавателем курса что-то сделаем из открытых материалов!
Такие почти все мартовские задачи!
Надеюсь, вам будет также интересно, как и мне! ❤️
Отличного вечера,
Ваш дата-автор!
BY Data Blog
Share with your friend now:
tgoop.com/jdata_blog/377