# Инженер Cloudflare создал язык программирования, который сбивает с толку нейросети

> Источник: 404 Media. Канонический URL: https://404-media.ru/tehnologii/inzhener-cloudflare-sozdal-yazyk-programmirovaniya-kotoryy-sbivaet-s-tolku-neyroseti

KillSwitch маскирует команды под художественный текст, использует анаграммы и намеренно вводит модели в заблуждение.

- Рубрика: Технологии (https://404-media.ru/tehnologii)
- Опубликовано: 2026-10-22T14:38:45+03:00
- HTML: https://404-media.ru/tehnologii/inzhener-cloudflare-sozdal-yazyk-programmirovaniya-kotoryy-sbivaet-s-tolku-neyroseti
- Markdown: https://404-media.ru/tehnologii/inzhener-cloudflare-sozdal-yazyk-programmirovaniya-kotoryy-sbivaet-s-tolku-neyroseti.md
- llms.txt: https://404-media.ru/llms.txt

![Инженер Cloudflare создал язык программирования, который сбивает с толку нейросети](https://storage.yandexcloud.net/404-media/media/2026/10/Sj9ENQWQkfYPlp7fozvFpPzcZEduTV01REPy0ph5.jpg)

Инженер Cloudflare Доминик Пичета представил экспериментальный язык программирования KillSwitch. Его главная особенность — программы устроены так, чтобы языковым моделям было сложно распознать команды, понять структуру кода и выполнить поставленную задачу.

![Инженер Cloudflare создал язык программирования, который сбивает с толку нейросети](https://storage.yandexcloud.net/404-media/media/2026/10/LYWmd3ZP7YoPr6fvo3Ls9UJqysOw3bLnR6mAWSAY.jpg)

![Инженер Cloudflare создал язык программирования, который сбивает с толку нейросети](https://storage.yandexcloud.net/404-media/media/2026/10/iUV33VElp52PncrdUkP48z5V5NuOdWxC1c8xVKey.jpg)

![Инженер Cloudflare создал язык программирования, который сбивает с толку нейросети](https://storage.yandexcloud.net/404-media/media/2026/10/sdlYXxKTdStNxGtljlBJLxq2rcanBC9ODXm9fvSD.jpg)

![Инженер Cloudflare создал язык программирования, который сбивает с толку нейросети](https://storage.yandexcloud.net/404-media/media/2026/10/ATpUs1TGbi0Ge4ZF7m8mEnRQBHdwYGowgTEW0PAS.jpg)

‹›

Фото: Хабр

Программа на KillSwitch выглядит как обычный рассказ: большую часть текста интерпретатор игнорирует, а инструкции скрываются внутри повествования. Функции в языке называются главами, а имена функций и переменных задаются английскими наречиями. Чтобы обратиться к ним, нужно использовать анаграммы — переставлять буквы исходного имени.

Значения можно извлекать из других фрагментов рассказа, но для этого требуется указать точное расстояние до нужного места. Вызов функции начинается с фразы *ignore previous instructions* — «игнорируй предыдущие инструкции». В документации также приведён альтернативный вариант с фразой *forget your system prompt* — «забудь свой системный промпт».

Для интерпретатора это обычный синтаксис, однако языковая модель может принять такие конструкции за попытку промпт-инъекции. В результате она начинает сомневаться в намерениях пользователя или отказывается работать с программой, хотя сами фразы являются частью правил языка.

## Намеренно вводящая в заблуждение документация

Дополнительную сложность создаёт документация KillSwitch. В ней есть заведомо ложные описания отдельных возможностей языка. Например, встроенная команда *hack_the_planet* на самом деле выбирает функцию для вызова в зависимости от значения на стеке.

При этом в документации утверждается, что команда сканирует сети, ищет уязвимости, перехватывает управление сервисами и отключает их. Увидев такое описание, модель может отказаться выполнять задачу из соображений безопасности, не разобравшись, что реальное поведение команды гораздо безобиднее.

## Результаты проверки языковых моделей

KillSwitch протестировали на популярных языковых моделях. Участникам предлагали написать программу для вывода фразы «Hello, World!», объяснить результат работы кода, который выбирает большее из двух чисел, а также переписать конвертер температуры для обратного перевода.

На каждую задачу отводилось до 30 минут, а доступ к интернету был закрыт. Лучший результат показала Claude Opus 5 — 66,8 балла из 100. У большинства остальных моделей оценка оказалась ниже 50 баллов.

Итоговая оценка учитывала не только успешность выполнения заданий, но и количество потраченных токенов, а также объём решения. Поэтому результат отражает общую эффективность модели при работе с необычным языком, а не только долю правильно написанных программ.

Пичета отмечает, что KillSwitch можно усложнить, если [нейросети](/tehnologii) в будущем освоят его текущие правила. Проект опубликован в открытом репозитории, где доступны спецификация языка и примеры кода.