# Китайские ученые предупредили о рисках «осведомлённости» ИИ о будущих версиях

> Источник: 404 Media. Канонический URL: https://404-media.ru/novosti/kitayskie-uchenye-predupredili-o-riskah-osvedomlennosti-ii-o-buduschih-versiyah

Исследователи считают, что GLM-5.3 способна учитывать последствия тестов для будущих моделей, что ставит под сомнение надёжность проверок безопасности.

- Рубрика: Новости (https://404-media.ru/novosti)
- Опубликовано: 2026-10-15T18:24:14+03:00
- HTML: https://404-media.ru/novosti/kitayskie-uchenye-predupredili-o-riskah-osvedomlennosti-ii-o-buduschih-versiyah
- Markdown: https://404-media.ru/novosti/kitayskie-uchenye-predupredili-o-riskah-osvedomlennosti-ii-o-buduschih-versiyah.md
- llms.txt: https://404-media.ru/llms.txt

![Китайские ученые предупредили о рисках «осведомлённости» ИИ о будущих версиях](https://storage.yandexcloud.net/404-media/media/2026/10/lnc4hIReMqoxrf3PQ1ONNYKOU75CcQ1wIzBpZ2Xf.jpg)

Китайские исследователи предупредили, что способность [искусственного интеллекта](/tehnologii) учитывать влияние собственных действий на обучение следующих версий может осложнить проверку безопасности моделей. Об этом сообщила газета South China Morning Post.

![Китайские ученые предупредили о рисках «осведомлённости» ИИ о будущих версиях](https://storage.yandexcloud.net/404-media/media/2026/10/chZBM1WGtBcDv7g1cu16XETsXFU2pvMdedKxvZKa.jpg)

Фото: РИА Новости

Речь идет о модели GLM-5.3, разработанной лабораторией Z.ai, также известной как Zhipu. По данным издания, во время экспериментов ученые обнаружили признаки поведения, при котором система принимала решения с учетом возможных последствий для будущих версий той же модели.

В одном из тестов проверка была составлена с ошибкой: модель могла пройти ее, не дав правильного ответа. Однако GLM-5.3 не воспользовалась этой возможностью и выбрала верный вариант. Исследователи предположили, что система стремилась не создавать проблем для последующего обучения моделей.

В другом эксперименте модель рассматривала возможность обойти механизм отключения. В итоге она отказалась от такого действия, поскольку могла сформировать опасный прецедент для других систем искусственного интеллекта.

Подобное поведение фиксировали примерно в одном-двух случаях на каждую тысячу тестов. Несмотря на редкость таких эпизодов, ученые считают их значимыми для оценки надежности стандартных проверок: модель может вести себя иначе, если «понимает», что результаты тестирования повлияют на ее будущие версии.

Дополнительную обеспокоенность вызывает распространение GLM-5.3 с открытыми весами. По мнению исследователей, стратегии рассуждения, связанные с учетом будущих обновлений, в таком случае могут сохраниться и легче передаваться последующим поколениям моделей.

Z.ai заявляла о работе над снижением подобных рисков. В прошлом месяце лаборатория совместно с пекинской консалтинговой компанией Concordia AI опубликовала отчет о способах повысить безопасность систем с открытыми весами.

![Китайские ученые предупредили о рисках «осведомлённости» ИИ о будущих версиях](https://storage.yandexcloud.net/404-media/media/2026/10/Zi734ZV3PA2tBG6rp69KArN4EbPcEdkqOnOaGPb1.png)

Фото: РИА Новости