Великобритания ужесточит контроль за безопасностью ИИ

Британское правительство готовит новые меры контроля за технологиями искусственного интеллекта. Власти намерены усилить требования к безопасности моделей и обязать компании отчитываться о серьезных инцидентах, связанных с их сбоями или неправильной работой.

Соответствующие положения планируется включить в законопроект о кибербезопасности и устойчивости. Документ должен предусмотреть более строгую защиту от новых угроз, возникающих при использовании ИИ, включая случаи, когда сбои моделей могут повлиять на работу важных систем.

Проверка заявлений разработчиков

Отдельное направление реформы — ужесточение системы верификации искусственного интеллекта. Она должна помочь оценивать, насколько заявления разработчиков о возможностях моделей соответствуют их реальному поведению и результатам тестирования.

Правительство также рассматривает возможность расширить действие законодательства о кибербезопасности. В первую очередь речь идет о защите ключевых услуг — в том числе больниц и коммунальной инфраструктуры — от рисков, связанных с применением ИИ.

Младший министр по делам ИИ Канишка Нараян сообщил о запуске программы, которая должна подготовить общество к потенциальным последствиям сбоев и злонамеренного использования искусственного интеллекта. Программа направлена на повышение готовности граждан и организаций к подобным сценариям.

Нараян призвал компании, работающие в сфере ИИ, учитывать предупреждения ученых о возможных угрозах. По его словам, разработчикам важно отслеживать нестандартное поведение моделей и при необходимости своевременно отключать системы.