Уязвимости GenAI-систем — Тимур Низамов, AI Security Lab

▪️ Полезно про AI в нашем Telegram-канале: http://t.me/aitalenthubnews
▪️ AI Talent Hub: https://ai.itmo.ru/?utm_source=youtub...
▪️ Спикеры: Данила Калиникин — организатор AI Product Hack, AI Talent Hub Тимур Низамов — MLSecOps в Альфа-Банк, разработчик LLAMATOR, магистрант AI Talent Hub Тайм-коды: 00:03 Введение 00:55 Проблемы безопасности ИИ 04:33 Внедрение агентов 10:55 Этапы обучения моделей 12:45 Методы анализа моделей 12:59 Адверсарные атаки на модели компьютерного зрения 15:57 Джейл брейки 19:30 Угрозы для LLM 23:55 Интеграция с внешними сервисами 26:39 Проблемы модерации ответов 32:29 Обход защиты через язык 36:16 Многоступенчатые атаки 37:06 Проблемы и стратегии атак 39:00 Инструменты для тестирования 48:52 Оценка рисков и модель угроз 51:30 Вопросы и ответы 57:00 Завершение