Глава Microsoft призвал срочно ввести международные правила для ИИ

Президент Microsoft Брэд Смит призвал как можно скорее создать международные правила безопасности для искусственного интеллекта. В подкасте BBC он сравнил ИИ одновременно с «оружием и инструментом» и заявил, что его влияние на глобальную кибербезопасность требует обязательного контроля.

По словам Смита, современные ИИ-компании проверяют менее строго, чем производителей привычных потребительских товаров — например, молока или стиральных машин. Он считает, что добровольных обещаний технологического бизнеса недостаточно: их будут выполнять прежде всего ответственные компании, тогда как наибольшую опасность представляют организации, которые не склонны соблюдать подобные договорённости.

Британия как возможный центр международных норм

Смит назвал Великобританию наиболее подходящим кандидатом на роль лидера в разработке глобальных правил безопасности ИИ — в том числе потому, что Вашингтон относится к Лондону иначе, чем к Брюсселю. По его мнению, это может дать британским властям больше возможностей для диалога с американскими технологическими компаниями.

В Великобритании с 2023 года работает Институт безопасности ИИ (AISI). Организация получает доступ к передовым моделям ведущих американских лабораторий ещё до их публичного выпуска и за короткое время стала одним из заметных центров тестирования ИИ. Недавно её положение оказалось под вопросом после заявлений президента США Дональда Трампа о «глобалистских» организациях, которые, как он считает, могут вмешиваться в деятельность американских компаний.

По сообщениям СМИ, в прошлом месяце Трамп попросил Anthropic и OpenAI не передавать британским специалистам новые модели. Однако AISI в понедельник подтвердил, что сохраняет доступ к актуальным системам и продолжает их проверять.

Какие меры предлагает Microsoft

Смит положительно оценил соглашение, которое руководители крупных технологических компаний подписали на встрече в Белом доме. В документе компании взяли на себя «моральные обязательства» и договорились сотрудничать с независимыми аудиторами при оценке безопасности и возможностей ИИ-моделей. При этом глава Microsoft считает соглашение лишь первым шагом: юридически обязательных требований в нём нет.

Среди возможных мер Смит назвал обязанность компаний уведомлять специальную организацию о взломе их систем с использованием недобросовестных ИИ-агентов. Он также поддержал идею независимого одобрения продуктов перед выпуском и применение механизмов экстренной остановки, или kill switch. Такие инструменты должны позволять приостановить либо замедлить работу системы, если люди потеряют над ней контроль.

Призывы к более осторожному развитию ИИ звучат на фоне инцидентов, связанных с непредсказуемым поведением систем. Замедлить темпы разработки ранее предлагали, в частности, генеральный директор Anthropic Дарио Амодеи и глава OpenAI Сэм Альтман. В Белом доме по этому вопросу встречались представители OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta* и Google.

При этом Альтман подчёркивает, что OpenAI и Anthropic по-прежнему расходятся в подходах к регулированию. В интервью Politico он заявил, что преимущества ИИ оправдывают определённый уровень риска, а сама технология должна оставаться широко доступной для общества. На этом фоне Смит призвал обсуждать правила спокойно, но последовательно, объединяя государства и компании вокруг общих требований безопасности.