tgoop.com/pwnai/679
Last Update:
Отлично. Вы набрали множество голосов за то, чтобы провести такую встречу.
Дата: 7 января, в 13:00 - 19:00. Онлайн, в зуме яндекс телемост. Ссылка на встречу.
Что вообще будет на встрече ?
Во первых, мы попытаемся понять - что такое агент, основные его свойства, как сейчас его интегрируют куда-либо.
Дальше мы пробежимся по модели угроз для агентов. С практическими примерами мы поймём что это действительно крутой ландшафт для реализации различных атак.
После чего мы попробуем атаковать Claude Desktop(нужен будет api-ключ claude и VPN, с первым могу помочь в ходе встречи, также докер)
А также попробуем атаковать open source приложение, с агентами.
Длительность встречи примерно 1,5 часа. Будет также время на q&a и запись. 60 процентов мы разбираемся с базой и подноготной, а остальное время встречи мы делаем атаки.
Для вашего удобства, предоставлю конспект с командами, чтобы можно было быстро реализовывать все по ходу занятия.
До встречи в зуме яндекс телемосте.
Пока можно почитать это:
https://habr.com/ru/companies/ods/articles/776478/
https://kryptonite.ru/articles/multiagentnost-llm-neiroslovar-vypu/
Репост этой записи поможет гораздо большему количеству людей погрузится в проблемы безопасности агентов и мне.