Атаки на полные по Тьюрингу системы 😱

Ранее я упоминал выступление Владимира Кочеткова про разницу между мышлением хакера и программиста, но не написал главное: а что же приводит к атакам на системы и как избежать атак? 🤔

Давайте разбираться 👨‍🏫

Самое важное, что необходимо знать: хакер использует то, что разработчик изначально в приложение не закладывал, но почему-то реализовал 👨‍💻

Уязвимости в коде — это всегда избыточная функциональность, добавленная разработчиком в рамках реализации фичей. Косвенно хакер всегда использует эту избыточность.

Разработчики нечаянно создают полные по Тьюрингу системы, когда решают проблемы, например, Minecraft, LaTeX, Unicode и др. являются полными по Тьюрингу (смотрите список здесь и здесь) 📕

Причем тут полнота по Тьюрингу? 🤔

Если мы можем построить машину Тьюринга, то способны решить любую алгоритмически вычислимую задачу на такой машине. Отсюда следует, что хакер тоже программист, который программирует избыточную систему для достижения собственных целей 🥷

Что с этим делать?

В приложении должен быть только тот код, который пишется в рамках реализации фичей. Не надо бороться с определенными типами атак в коде 🤷

Например, нужно ограничивать входные и выходные данные в соответствии с теми фичами, которые реализуются: если веб-приложение ожидает на входе е-мейл, то нужно проверять, что это, действительно е-мейлы, и отбрасывать весь мусор 🗑

И несколько слов про подготовку кадров 👨‍🏫

На мой взгляд, такую тему точно надо добавить в курс по безопасной разработке для программистов ✍️

#безопасная_разработка

Подготовка продвинутых ИБэшников в рамках нацпроекта Минцифры

Минцифры 🔢 продолжает активно развивать ИТ-образование. С одной стороны, вынуждая ИТ-компании заходить в вузы, с другой — среди вузов, выдавая гранты на запуск углубленного ИТ-образования 😍

Поговорим подробнее про проект углубленного ИТ-образования 🔥, т. к. в перечне направлений Минцифры значится бакалавр по ИБ. Получается, что не только ФСТЭК РФ заинтересован в ИБэшниках 🤔

Цель проекта — до конца 2030 года подготовить не менее 3,5 тысяч продвинутых ИТ-специалистов, которые смогут решать сложные задачи 💪

В результате проведения конкурса определили 26 вузов. Главным условием для вузов стало привлечение софинансирования в размере не менее 30% от суммы грантов 🤑 За методическую поддержку проекта отвечает Высшая школа программной инженерии МФТИ 👍

Как предполагается достигать цели? 🤔

Если вспомнить схему ролей в кибербезе (на рисунке), то классический выпускник бакалавриата по ИБ после окончания вуза выбирает направление и далее по нему развивается, начиная с начальных позиций 👨‍💻 А Минцифры предлагает производственные практики перенести на первый курс, чтобы последующие три года студенты уже профессионально развивались и выпускались на уровне мидл🔥

Я с большим воодушевлением смотрю на инициативы, которые заставляют систему высшего образования выйти из "зоны комфорта" и начать готовить ИБ-специалистов не только в соответствии со стандартами (нормами, примерными учебными планами итд) 👨‍🎓👩‍🎓, но и по-настоящему востребованных на рынке труда 🔧

#Минцифры #кадры_в_ИБ

Запретить нельзя использовать: как обучать инженеров в эпоху нейросетей 👨‍💻

Хорошая статья Игоря Никифорова (Политех, YADRO) про использование LLM в учебном процессе 🤔

Далее несколько цитат 👨‍🏫

Рекомендации по применению LLM-моделей в образовании

Полностью запретить использование LLM-моделей среди студентов уже невозможно — да и вряд ли нужно. Важно не игнорировать реальность, а научиться с ней работать. Вот несколько принципов, которые могут помочь не только уменьшить вред от нейросетей, но и получить от них пользу при обучении:

1️⃣ На младших курсах основной акцент — на базовые знания и фундаментальные навыки.
2️⃣ Пересмотреть учебные задачи так, чтобы их нельзя было решить «в лоб» с использованием LLM-моделей. Возможно, за счет повышения сложности заданий или их творческой постановки.
3️⃣ Разрешить и поощрять использование LLM-моделей только на старших курсах, проводить анализ, осмысление результатов применения.

В образовательном процессе и проверке работа

Современные инструменты позволяют выстроить новую, более прозрачную и эффективную систему проверки лабораторных и практических заданий. Я бы предложил следующий подход:

1️⃣ Автоматическая проверка через GitLab и CI. Студент загружает работу в систему, запускаются автотесты и статический анализ. Только после прохождения всех проверок он допускается к следующему этапу.
2️⃣ Устное собеседование. Важно убедиться, что студент понимает свой код. Для этого можно провести устное собеседование: как устроено решение, почему так, какие есть альтернативы.
3️⃣ Лайвкодинг. Предложить студенту на месте написать кусочек кода, улучшив существующее решение.
4️⃣ Можно записывать, как студент работает с кодом в редакторе — чтобы увидеть, писал ли он сам или просто вставлял готовые куски. Для этого подойдет специальное расширение. Такой плагин, кстати, сам по себе отличная тема для ВКР.

В работе над курсовыми и ВКР

1️⃣ При подготовке курсовых объясняем студенту, что LLM это полезный инструмент, который не заменяет самостоятельную работу. Студент должен уметь эффективно объединять различные маленькие кусочки когенерации в единое целое, отразить в работе свой опыт и знания.
2️⃣ ВКР. Рекомендуем писать черновик текста вручную, а генерацию — использовать осознанно. Если студент применяет LLM-модель, стоит попросить его добавить раздел с описанием того, как он ее использовал: какие запросы задавал, какие ограничения заметил. Это позволяет сделать применение LLM осознанным, а преподавателю даст обратную связь о трудностях, ограничениях и тонкостях применения новых технологий.

Для преподавателей

1️⃣ Используйте LLM сами — в работе, в повседневной жизни. Тогда вы не будете бояться новых технологий, лучше поймете студентов и сможете учить их на собственном примере.
2️⃣ Зафиксируйте правила в рабочих программах дисциплин. Если вы разрешаете или ограничиваете применение LLM в учебных заданиях — запишите это явно. Так и студенту, и преподавателю будет проще соблюдать общие принципы.

#заметки_для_преподавателя

Обновление схемы карьерных треков в кибербезе 😎

Продолжаю обновлять схему cybersecurity-roadmap.ru и ее PDF-версию.

В этот раз перекрасил логотипы, добавил ссылки на бесплатные курсы по сетям от мат-меха СПбГУ и новую роль вирусного аналитика в связи с открытием в Positive Technologies 🤟 антивирусной лаборатории 😎

Поставьте 👍, если вы используете схему карьерных треков в своей работе или учебе 👨‍🏫

#карьера_в_ИБ #схема