Positive Education запускает спринт по безопасной разработке с ИИ-агентами

Positive Education, образовательный центр практического обучения Positive Technologies, запустил программу «Безопасная разработка с ИИ-агентами». Организаторы называют ее первым в отрасли отдельным образовательным спринтом, объединяющим практики разработки и защиты систем на базе ИИ-агентов.

Первый поток начнется 23 ноября и пройдет онлайн. Обучение рассчитано примерно на 40 часов и продлится три недели. Регистрация на программу уже открыта.

Зачем разработчикам нужны новые подходы

ИИ-агенты все чаще получают доступ к репозиториям, данным и внешним инструментам. Они могут выполнять команды и самостоятельно вносить изменения в исходный код. Это расширяет возможности автоматизации, но одновременно увеличивает потенциальную поверхность атаки.

Согласно исследованию CodeRabbit, код, созданный с помощью ИИ, содержит в 2,7 раза больше уязвимостей, чем код, написанный разработчиками вручную. Поэтому командам приходится отдельно контролировать качество и безопасность таких изменений, а также права агента, его доступ к данным, секретам и подключенным инструментам.

Что входит в программу

Спринт разработали практикующие эксперты Positive Technologies, работающие в области безопасности приложений, исследований ИИ-технологий и их применения в разработке и кибербезопасности. В основу курса вошли задачи и подходы, которые используются в реальных проектах.

Участники разберут два направления: безопасное применение кодинг-агентов в разработке и проектирование собственных агентных систем с учетом новых угроз. В программе предусмотрены:

• моделирование угроз для агентных решений;
• управление контекстом и правами доступа;
• защита памяти и внешних инструментов;
• проверка кода, созданного агентом;
• обязательные проверки безопасности перед выпуском продукта.

Основная часть обучения посвящена практике. Участники проведут аудит готовых проектов, найдут уязвимости и исправят их. В итоговой работе им предстоит создать собственного ИИ-агента, а затем проверить его безопасность перед запуском.

Программа рассчитана на разработчиков, AppSec- и DevSecOps-инженеров, архитекторов приложений, инженеров и владельцев проектов, использующих искусственный интеллект.