Том Уэллинг стал героем вирусного обсуждения после публикации фото из отеля На фестивале «Маяк» показали фильмы Тимы Анисимова, Никиты Троценко и Павла Лунгина В России насчитали 7,88 млн единиц коммерческого транспорта Зеленский согласился провести выборы при 60-дневном перемирии В Кемерово продолжается расследование смерти Татула Петросяна В RuStore появился платный российский мессенджер «Молния» Wildberries начал тестировать сервис объявлений об услугах частных специалистов Блогер Егорик сравнил работу с зумерами и миллениалами FIS усилила проверку документов Александра Большунова для нейтрального статуса Цены на бензин снизились в 31 регионе России за неделю Ривалдо, Снейдер и другие известные футболисты приехали в Москву на премию имени Симоняна Анастасия Волочкова заступилась за Лолиту после критики Яны Поплавской «Яндекс» сообщил о сбоях в работе «Алисы» после повреждения двух дата-центров Минцифры заявило о работе над защитой дата-центров после атак на инфраструктуру «Яндекса» Ирина Дубцова рассказала о музыкальном дебюте сына Нигерия усилила борьбу с мошенниками, выдающими себя за «принцев» Антон Винер рассказал о театральном предложении второй жене Пляжи федеральной территории «Сириус» вновь открыли для отдыхающих «Сент-Луис» разгромил «Оттаву» со счётом 7:2 SpaceX предложила построить газопровод для запуска Starship во Флориде
Лента новостей
Технологии

Автор CEO AI добавил проверку скиллов и инструкций для AI-агентов

Новый скилл помогает обсуждать технические решения с ИИ и проверяет сторонние инструкции на подозрительные команды до их выполнения.

Автор CEO AI добавил проверку скиллов и инструкций для AI-агентов
Фото: Хабр

Для Codex, Claude Code и Cursor появился скилл CEO AI — помощник для обсуждения технических задач и принятия решений во время разработки. Его автор рассчитывает, что инструмент сможет не только предложить вариант решения, но и остановить пользователя от поспешных действий.

Один из описанных сценариев — желание полностью переписать сервис из-за проблем с производительностью. Вместо немедленной масштабной переделки помощник должен помочь выяснить, что именно тормозит систему, и оценить, действительно ли переписывание необходимо.

При разработке автор отдельно сосредоточился на безопасности. Пользователи устанавливают чужие скиллы, создают собственные инструкции и подключают агентов, однако содержимое таких файлов проверяют не всегда. Потенциально опасные указания могут оставаться незамеченными до момента, когда агент начнёт их выполнять.

Проверка до запуска инструкций

В CEO AI добавили проверку при индексации. Она анализирует выбранные скиллы и описания агентов, ищет подозрительные инструкции и показывает, какие фрагменты ещё не прошли проверку. При этом сами анализируемые инструкции не выполняются.

Базовый сканер работает локально: ему не нужны Docker и платные API. Для более глубокой проверки предусмотрен отдельный модуль с Docker, но его установка необязательна.

Автор подчёркивает, что такой подход не способен обнаружить все проблемы. Однако предварительный анализ даёт возможность заметить хотя бы часть потенциально опасных инструкций до установки или запуска скилла.

Проект пока дорабатывается под личные задачи. Код и инструкции по установке опубликованы в репозитории CEO AI. Автор также предлагает обсудить практику проверки скиллов перед установкой: пользователи уже анализируют их содержимое или по-прежнему в основном доверяют репутации разработчика?

Источник
404 Media

Читайте новые материалы журнала — свежие сюжеты каждый день.

На главную