«Ростелеком» изучает создание корпоративного LLM-фаервола

«Ростелеком» изучает возможность создания специализированной системы контроля коммуникаций LLM-приложений. По данным профильных источников в IT-отрасли, проект должен стать корпоративным фаерволом для языковых моделей и связанных с ними сервисов.

‹›

Сейчас компания принимает информацию от потенциальных разработчиков решения. Речь идёт не о тендере, а о запросе информации: заявки от поставщиков принимаются до 19 октября 2026 года.

В экосистеме «Ростелекома» уже используются различные решения на базе искусственного интеллекта. По мере роста их числа проверять безопасность каждого приложения отдельно становится сложнее. Поэтому компании может потребоваться единый уровень контроля, способный отслеживать обмен данными между пользователями, внутренними системами и внешними языковыми моделями.

Проверка промптов и ответов в реальном времени

Согласно техническому заданию, система должна анализировать диалоги в реальном времени. Проверке будут подвергаться как пользовательские промпты, поступающие в модель, так и ответы, которые генерирует ИИ.

Шлюз должен выявлять попытки обойти ограничения языковой модели, внедрить вредоносные инструкции, получить системные настройки или скрытно вывести закрытые данные с помощью цепочки наводящих вопросов. Таким образом, решение должно контролировать не только содержимое запросов, но и потенциально опасное поведение в ходе взаимодействия с моделью.

В техническом задании также указано, что программный код проекта должен находиться в реестре российского программного обеспечения Минцифры. В качестве базового стека для системы выбрана СУБД Platform V Pangolin SE на базе PostgreSQL.

Профильные эксперты считают, что после тестирования и внедрения проект может стать одним из крупнейших в России примеров защиты генеративного искусственного интеллекта на уровне всей компании. Потребность в подобных системах, вероятно, будет увеличиваться по мере распространения LLM-приложений, автономных ИИ-агентов и новых типов угроз для нейросетевых сервисов.