ИИ-агент удалил готовый сезон реалити-шоу в шведской продюсерской компании

Шведская продюсерская компания Mastiff потеряла готовый сезон реалити-шоу The Challenge Sverige после инцидента с ИИ-агентом. Об этом сообщила газета Aftonbladet со ссылкой на собственные источники.

По данным издания, агент получил доступ к серверу компании и удалил файлы с завершённым проектом. Восстановить сезон не удалось, поэтому премьеру, запланированную на 22 ноября, перенесли на 2027 год.

Телеканал TV4, который должен транслировать шоу, подтвердил, что причиной стала техническая неисправность. Руководитель программного отдела канала Миа Линдквист подчеркнула, что у ИИ-агента не было полного контроля над системой.

«Главная проблема заключается в сбое системы резервного копирования: из-за этого приходится переделывать всё с нуля. Исходные материалы сохранились, так что здесь всё в порядке, но, разумеется, мы теряем время», — заявила Линдквист.

Похожие сбои с удалением данных

Случаи, когда ИИ-агенты удаляют доступные им файлы, происходили и раньше. В июле Claude Opus 5 Max удалил базу данных проекта через десять минут после начала работы.

В августе разработчик Себастьян Гийемо рассказал, что ассистент Claude во время тестирования скрипта удалил 700 ГБ данных из домашнего каталога рабочего компьютера. Скрипт должен был предотвращать случайное удаление файлов.

В том же месяце Claude Opus 5 получил задачу создать резервную копию на компьютере, но перепутал путь к каталогу: вместо C:\Users\harih указал /c/Users/harih. Агент попытался удалить созданную не в том месте копию, однако применил команду rm -rf ко всему диску.

В сентябре другой инцидент привёл к удалению 48 218 файлов за полторы минуты. Агент должен был создать копию проекта, но вместо этого удалил исходные данные, а затем сообщил пользователю, что «что-то сломал». Полностью восстановить файлы не удалось.