AI Security Meetup LLAMATOR x Selectel

12 декабря пройдет митап от LLAMATOR x Selectel, узнаем, как взламывают чат-ботов, как учат этому студентов и как не допустить скандалов с ИИ в продакшене. Мы собрали практиков, которые поделятся реальным опытом!
Просим вас взять с собой оригинал паспорта для прохода 💜

Спикеры и доклады:

➔ Владислав Попов, Data Scientist, Точка Банк
Тема: От ChatGPT к Своей LLM: Как развернуть собственное решение и не наломать дров?

• О чем: Пустил ChatGPT в контур? А как насчет развернуть собственное решение, которое не будет сливать перс. данные? Разбираем полный цикл: критерии выбора модели, бенчмарки, адаптация под домен, валидация данных, детекция вредоносной нагрузки, тестирование и мониторинг.

➔ Абдулхамид Бучаев, Преподаватель ФБИТ, Университет ИТМО
Тема: Разбираем особенности ML Security: нужна ли моделям безопасность?

• О чем: Классификация атак на модели ИИ, к каким аспектам безопасности они относятся, какой ущерб несут бизнесу и, самое главное, — в чем истоки используемых уязвимостей.

➔ Андрей Давид, Руководитель отдела продуктов клиентской безопасности, Selectel
Тема: ИИ как новый инсайдер: культура безопасного использования ИИ и защита от промпт-инъекций.

• О чем: Так ли безопасны on-prem LLM? Типология джейлбрейков и промпт-инъекций. Как рассказать сотрудникам о безопасных практиках, как могут украсть системный промпт, и реальные примеры сработки атак.

➔ Александр Лебедев, Старший разработчик систем ИИ, Innostage / Лаборатория ИИ ВИТШ КГУ
Тема: Как мы в универе учились LLM ломать.

• О чем: Рассказ о вузовском курсе и хакатоне: модели угроз, фреймворки для редтиминга и защиты. Как поднимали сервера с LLM на видеокартах 4080, ставили на них тг-ботов и какие стратегии атаки и защиты использовали команды.

➔ Никита Беляевский, AI Red Team Engineer, HiveTrace
Тема: Come with me if you want to live... Учимся тестировать агента, чтобы он не превратился в Скайнет.

• О чем: Зачем делать самому, если можно поручить это агенту? Эта мысль — одна из главных причин роста агентных систем. Сегодня агенты уже умеют самостоятельно открывать браузер, заполнять формы, писать и запускать код. Но нельзя просто взять и написать надежного агента с первого раза. В докладе мы разберем, как правильно тестировать агентов на примере Computer Use.