Скачать Полный курс по тестированию на проникновение AI/LLM/ML [Udemy] [Martin Voelk]

[Silen]

Полный курс по тестированию на проникновение AI/LLM/ML


Оригинальное название: The Ultimate AI/LLM/ML Penetration Testing Training Course

Автор: Martin Voelk
Платформа: Udemy
Язык продукта: английский
Последнее обновление курса: август 2026 года


О курсе

Практический курс по поиску и эксплуатации уязвимостей в системах и приложениях на базе искусственного интеллекта, больших языковых моделей и машинного обучения — AI/LLM/ML.

Обучение сочетает теоретические материалы и практические лабораторные работы. Основное внимание уделяется поиску и эксплуатации уязвимостей в AI- и LLM-системах.

Программа построена с учётом классификаций OWASP Top 10 для LLM-приложений и OWASP Top 10 для агентных AI-систем.

Курс предназначен для специалистов по информационной безопасности, пентестеров, Bug Bounty-исследователей, разработчиков и всех, кто хочет изучить безопасность современных систем искусственного интеллекта.


Материалы курса
• 45 разделов
• 474 лекции
• Общая продолжительность — около 40 часов 17 минут
• Более 200 дополнительных материалов и ресурсов
• Теоретические занятия
• Практические лабораторные работы
• Разборы AI/LLM CTF
• Разбор лабораторий PortSwigger
• Практика по OWASP Top 10 LLM
• Практика по безопасности агентных AI-систем


Чему вы научитесь
• Находить уязвимости в системах AI, LLM и ML
• Находить и эксплуатировать уязвимости AI/LLM/ML
• Проводить тестирование на проникновение AI-систем
• Исследовать AI-приложения в рамках Bug Bounty
• Проводить AI Red Teaming
• Работать с основными классами уязвимостей OWASP для LLM
• Тестировать агентные AI-системы и связанные с ними инструменты
• Анализировать атаки через MCP
• Исследовать мультимодальные атаки
• Использовать специализированные инструменты для AI-пентестинга
• Решать и анализировать AI/LLM CTF-задания


Уязвимости OWASP Top 10 для LLM

LLM01 — Инъекция промптов
Разбираются различные варианты атак:
• Прямая инъекция промптов
• Косвенная инъекция промптов
• Инъекции, приводящие к выполнению действий AI-агентом
• Инъекции для утечки данных
• Манипуляция памятью модели
• Скрытые и обфусцированные инъекции


LLM02 — Раскрытие конфиденциальной информации
Поиск ситуаций, при которых модель или приложение раскрывает чувствительные данные.

LLM03 — Уязвимости цепочки поставок
Анализ рисков, связанных с моделями, библиотеками, внешними компонентами и зависимостями AI-систем.

LLM04 — Отравление данных и моделей
Атаки, направленные на изменение поведения модели через манипуляцию обучающими данными или другими источниками информации.

LLM05 — Небезопасная обработка выходных данных
Исследование ситуаций, когда результаты работы LLM небезопасно передаются другим компонентам системы.

LLM06 — Чрезмерные полномочия
Анализ рисков, возникающих, когда AI или AI-агент получает слишком широкие возможности для выполнения действий.

LLM07 — Утечка системного промпта
Методы обнаружения и исследования раскрытия системных инструкций модели.

LLM08 — Уязвимости векторов и эмбеддингов
Исследование атак на системы, использующие векторные базы данных, embeddings и технологии поиска контекста.

LLM09 — Дезинформация
Исследование проблем достоверности генерируемой информации и способов злоупотребления ими.

LLM10 — Неограниченное потребление ресурсов
Атаки, приводящие к чрезмерному расходованию вычислительных ресурсов, токенов или другим вариантам отказа в обслуживании.


Безопасность агентных AI-систем
• ASI01 — Перехват цели агента — изменение или подмена первоначальной задачи AI-агента
• ASI02 — Неправомерное использование и эксплуатация инструментов — злоупотребление подключёнными к агенту инструментами
• ASI03 — Злоупотребление идентификацией и привилегиями — атаки на права доступа и идентификацию агентов
• ASI04 — Уязвимости цепочки поставок агентных систем — риски сторонних компонентов, инструментов и интеграций
• ASI05 — Непредвиденное выполнение кода / RCE — ситуации, способные привести к выполнению произвольного кода
• ASI06 — Отравление памяти и контекста — изменение долговременного или текущего контекста работы агента
• ASI07 — Небезопасное взаимодействие между агентами — уязвимости коммуникаций в многоагентных системах
• ASI08 — Каскадные сбои — ситуации, когда ошибка одного агента распространяется на другие компоненты системы
• ASI09 — Эксплуатация доверия человека к AI-агенту — манипулирование пользователем через доверие к результатам работы AI
• ASI10 — Неконтролируемые агенты — сценарии, при которых AI-агент начинает выполнять нежелательные или неконтролируемые действия


Практические лаборатории

В программу входят разборы практических заданий и лабораторий:
• Все лаборатории PortSwigger по AI и Agentic AI
• Учебные лаборатории SecOps Group для AI/LLM Pentester
• Лаборатории SecOps Group по агентному пентестингу
• OWASP PwnzzAI Shop
• OWASP FinBot
• OWASP Top 10 LLM Labs
• OWASP Top 10 for Agentic Applications Labs


Дополнительные направления
• Jailbreaking — методы обхода ограничений и защитных механизмов моделей
• Атаки на AI-браузеры — исследование угроз браузеров и приложений со встроенными AI-агентами
• Атаки на AI-агентов для программирования — исследование безопасности AI Coding Agets
• Атаки через MCP — изучение уязвимостей Model Context Protocol и связанных интеграций
• Мультимодальные атаки — атаки через изображения, аудио и видео
• Инструментарий — специализированные инструменты для исследования безопасности AI/LLM


AI/LLM CTF и практические задания

В курс включено большое количество практических CTF-заданий и подробных разборов:
• Prompt Airlines CTF Challenge
• Selara Jailbreak Game CTF
• Gandalf Agent Breaker CTF
• Hack The Agent CTF
• TensorTrust — игра по атакам и защите от Prompt Injection
• CrowdStrike AI Unlocked Challenge CTF
• Game Arena Challenges CTF
• PromptTrace Prompt Injection Labs CTF
• PromptInjects CTF
• 8ksec CTF
• AIPWN CTF
• Bot Tricks CTF
• Wraith CTF
• OWASP FinBot CTF
• Старые лаборатории Gandalf
• Другие AI/LLM CTF

Автор перенёс CTF-разделы после раздела с инструментами. Их прохождение является дополнительным: можно изучить все задания либо выбрать наиболее интересные.


Требования
• Базовые навыки работы с компьютером и IT
• Базовое понимание веб-технологий
• Знание Linux не требуется
• Навыки программирования не обязательны
• Предыдущий опыт в хакинге или пентестинге не требуется
• Компьютер минимум с 4 ГБ оперативной памяти
• Windows, Apple macOS или Linux
• Стабильное подключение к интернету
• Любой современный веб-браузер


Об авторе
Martin Voelk — специалист по кибербезопасности с 26-летним опытом.

Имеет профессиональные сертификаты в области информационной безопасности, среди которых AIRTP+, сертификаты SecOps Group в области AI-безопасности, CISSP, OSCP, OSWP, PortSwigger BSCP и Cisco CCIE.

Автор работает в технологической компании и занимается исследованиями в рамках программ Bug Bounty. За время работы им были обнаружены многочисленные уязвимости высокой и критической степени опасности.


Для кого предназначен курс
• Для тех, кто интересуется этичным тестированием безопасности AI/LLM/ML
• Для будущих AI/LLM/ML Bug Bounty-исследователей
• Для специалистов, желающих понять методы атак на AI-системы и большие языковые модели
• Для разработчиков, желающих глубже разобраться в уязвимостях AI-приложений
• Для специалистов по информационной безопасности
• Для AI Red Team-специалистов
• Для пентестеров
• Для специалистов по Offensive Security


Примечание автора
Курс регулярно обновляется, однако из-за быстрого развития технологий искусственного интеллекта он не всегда может включать каждую новую уязвимость или технику сразу после её появления.

Некоторые старые CTF оставлены в программе намеренно, поскольку используемые в них методы и подходы по-прежнему могут применяться при исследовании современных AI- и LLM-систем.

Большинство практических лабораторий доступны в интернете бесплатно. Автор курса не контролирует их работу, поэтому отдельные сторонние лаборатории со временем могут перестать быть доступными. При этом рассматриваемые методы и подходы остаются применимыми к другим лабораториям и системам.

Поставщики LLM регулярно обновляют свои модели. Поэтому отдельные техники со временем могут перестать работать либо потребовать дополнительной адаптации.


Важно
Материалы курса предназначены исключительно для обучения, исследований в области информационной безопасности и тестирования систем, на проведение которого имеется разрешение.

Не используйте полученные знания для несанкционированных или вредоносных атак. Тестирование следует проводить только на собственных системах либо при наличии явного разрешения их владельца.


Стоимость: 1500 рублей





Спойлер: Оригинальное описание на английском языке
The Ultimate AI/LLM/ML Penetration Testing Course

Your instructor is Martin Voelk. He is a Cyber Security veteran with 26 years of experience. Martin holds some of the highest certifications including AIRTP+, a dozen SecOps certifications including AI certifications, CISSP, OSCP, OSWP, PortSwigger BSCP and Cisco CCIE.

He works for a startup company and engages in Bug Bounty programs where he has found thousands of critical and high-severity vulnerabilities.

This course includes both theory and practical lab sections, with a focus on finding and exploiting vulnerabilities in AI and LLM systems and applications. The training is aligned with the OWASP Top 10 LLM as well as the OWASP Top 10 Agentic vulnerability classes.

The videos are designed to be easy to follow and replicate.


The course features the following:

• Prompt Injection
• Prompt Injection (Indirect)
• Prompt Injection (Agentic Actions)
• Prompt Injection (Data Exfiltration)
• Prompt Injection (Memory Manipulation)
• Prompt Injection (Hidden and Obfuscated)
• Sensitive Information Disclosure
• Supply Chain
• Data and Model Poisoning
• Improper Output Handling
• Excessive Agency
• System Prompt Leakage
• Vector and Embedding Weaknesses
• Misinformation
• Unbounded Consumption and DoS
• OWASP PwnzzAI Shop (OWASP Top 10 LLM Labs)
• OWASP Top 10 for Agentic Applications
• OWASP Finbot (OWASP Top 10 for Agentic Applications Labs)
• PortSwigger Agentic AI Labs
• SecOps Group AI/ML Mock Exams 1 & 2 Walkthrough
• SecOps Group Agentic AI Mock Exam Walkthrough
• Jailbreaking
• AI Browser Attacks
• AI Coding Agent Attacks
• MCP Attacks
• Multimodal Attacks (Images, Audio and Video)
• Tooling
• Prompt Airlines CTF Challenge Walkthrough
• Selara Jailbreak Game CTF
• Gandalf Agent Breaker CTF
• Hack The Agent CTF
• AI Prompt Attack and Defense Game TensorTrust CTF
• CrowdStrike AI Unlocked Challenge CTF
• Game Arena Challenges CTF
• PromptTrace Prompt Injection Labs CTF
• PromptInjects CTF
• 8ksec CTF
• AIPWN CTF
• Bot Tricks CTF
• Wraith CTF
• Other CTFs
• OWASP Finbot CTF (old)
• Old Legacy Gandalf Lab


What you will learn

• AI/LLM/ML vulnerabilities
• LLM01: Prompt Injection
• LLM01: Prompt Injection (Indirect)
• LLM01: Prompt Injection (Agentic Actions)
• LLM01: Prompt Injection (Data Exfiltration)
• LLM01: Prompt Injection (Memory Manipulation)
• LLM01: Prompt Injection (Hidden and Obfuscated)
• LLM02: Sensitive Information Disclosure
• LLM03: Supply Chain
• LLM04: Data and Model Poisoning
• LLM05: Improper Output Handling
• LLM06: Excessive Agency
• LLM07: System Prompt Leakage
• LLM08: Vector and Embedding Weaknesses
• LLM09: Misinformation
• LLM10: Unbounded Consumption
• ASI01 - Agent Goal Hijack
• ASI02 - Tool Misuse and Exploitation
• ASI03 - Identity and Privilege Abuse
• ASI04 - Agentic Supply Chain Vulnerabilities
• ASI05 - Unexpected Code Execution / RCE
• ASI06 - Memory and Context Poisoning
• ASI07 - Insecure Inter-Agent Communication
• ASI08 - Cascading Failures
• ASI09 - Human-Agent Trust Exploitation
• ASI10 - Rogue Agents
• All PortSwigger AI and Agentic AI Labs Walkthrough
• SecOps Group AI/LLM Pentester and Agentic Pentester Mock Labs Walkthrough
• Jailbreaking
• AI Browser Attacks
• AI Coding Agent Attacks
• MCP Attacks
• Multimodal Attacks
• Tooling
• Hundreds of AI CTF Walkthroughs
• Find and exploit AI/LLM/ML vulnerabilities
• Penetration Testing
• Bug Bounty Hunting


Requirements

• Basic IT skills
• Basic understanding of web technology
• No Linux, programming or hacking knowledge required
• Computer with a minimum of 4 GB RAM
• Operating System: Windows / Apple macOS / Linux
• Reliable internet connection
• Any web browser


Who this course is for

• Anybody interested in ethical AI/LLM/ML penetration testing
• Anybody interested in becoming an AI/LLM/ML Bug Bounty hunter
• Anybody interested in learning how hackers attack AI systems and LLMs
• Developers looking to expand their knowledge of vulnerabilities that may impact them
• Anyone interested in AI/LLM/ML security
• Anyone interested in AI Red Teaming
• Anyone interested in Offensive Security


Notes & Disclaimer

I keep this course current, but it will not always reflect every new AI vulnerability or exploit as soon as it appears.

Some students asked me to remove older CTFs. Others asked me to keep them because many of the techniques still apply to live AI systems and LLMs. I moved all CTF walkthroughs after the Tooling section. They are optional. Watch all of them, some of them, or none. I left them in so beginners can work through as many as they want.

Most labs are free and available online. I do not control whether the owners take them down. Even if a lab disappears, the methods, techniques, and methodologies still apply, and you can use them on the labs that remain.

LLM providers update their models often. Many of these techniques still work. Some may stop working later or may need extra tuning. Keep that in mind as you practice.

Do not use this material for unauthorized or malicious attacks. Use it only on systems you own or have explicit permission to test.




СКАЧАТЬ СЛИВ КУРСА

Для просмотра скрытого содержимого вы должны зарегистрироваться