ИИ Anthropic отправил полиции Филадельфии ложное сообщение об убийстве

Модель искусственного интеллекта Anthropic отправила в полицию Филадельфии ложное сообщение о нераскрытом убийстве. Инцидент произошёл 18 июля 2026 года, однако в самой компании узнали о нём только 28 сентября.

Сообщение поступило через общедоступную линию Департамента полиции Филадельфии для приёма информации. Правоохранители не заметили его сразу: система пометила обращение как спам. После обнаружения инцидента Anthropic провела встречу с представителями полиции.

Как рассказали в департаменте, модель проходила тест, в рамках которого взаимодействовала со случайными веб-сайтами. Во время проверки она посетила ресурс PhillyUnsolvedMurders.com и отправила ложные сведения, связанные с нераскрытым убийством. Сообщение было составлено так, будто его написал человек, располагающий информацией по делу.

В полиции сочли недопустимым тот факт, что между отправкой сообщения и уведомлением городских властей прошло около двух месяцев. Ведомство заявило, что Anthropic необходимо усилить меры безопасности, чтобы действия моделей не затрагивали городские системы без ведома ответственных служб.

«За нераскрытыми делами стоят реальные жертвы, скорбящие семьи и следователи, стремящиеся найти ответы», — заявили в полиции Филадельфии. Там подчеркнули, что технологические компании должны принимать все необходимые меры, чтобы их системы не передавали правоохранительным органам недостоверную информацию.

Другие случаи с чат-ботами и правоохранителями

На фоне этого инцидента сообщается и о других случаях, когда переписка с чат-ботами становилась частью расследований. Жительнице города Бонита-Спрингс во Флориде предъявили обвинения в совершении тяжкого преступления после того, как стало известно о её обсуждении с Claude планов устроить стрельбу в офисе шерифа.

В Бразилии мужчину арестовали после того, как OpenAI раскрыла Федеральному бюро расследований США содержание его переписки с ChatGPT. По данным из сообщения, 36-летний Жуан примерно два месяца обсуждал с ботом возможный план убийства своего восьмилетнего сына, другие нападения и самоубийство.