Евгений Кокуйкин - Анализ атак на LLM, техники промпт-инъекций и защиты от них

Ближайшая конференция: SafeCode 2025, даты будут анонсированы позднее. Подробности: jrg.su/hbNqzs
- -
Скачать презентацию с сайта SafeCode - jrg.su/eh7yJq
Рекомендации по практическому подходу к защите прикладных решений в 2024 году.
Спикер показал, в чем причина уязвимости приложений на основе LLM, как это связано с устройством моделей и как работает safety layer. Обсудил классификацию рисков безопасности по фреймворку OWASP, разобрал основные классы угроз. Предоставил дополнительную информацию для самостоятельного изучения.
В практической части доклада Евгений сфокусировался на анализе промпт-инъекций и джейлбрейков в LLM, рассмотрел различные виды атак и обсудил техники защиты приложений.