Глава Microsoft призвал ввести глобальные правила безопасности для ИИ

Глава Microsoft Брэд Смит заявил о необходимости выработать глобальные правила безопасности для систем искусственного интеллекта. По его словам, требования к безопасности стиральных машин сегодня строже, чем к технологиям ИИ.

Смит считает, что новые нормы должны предусматривать обязательные механизмы экстренного прекращения работы системы. Такой «аварийный тормоз» мог бы помочь предотвратить кибератаку, организованную злонамеренным ИИ-агентом.

По мнению руководителя Microsoft, компаниям, разрабатывающим искусственный интеллект, также следует ввести юридическую обязанность составлять отчёты о подобных инцидентах. Это позволило бы систематизировать сведения об угрозах и эффективнее реагировать на них.

Опасения вокруг развития ИИ

Дискуссия о регулировании искусственного интеллекта усиливается на фоне растущих опасений по поводу потенциальных рисков технологии. Среди возможных сценариев называют выход сложных систем из-под контроля и их использование для кибератак.

Ранее в сентябре глава компании Anthropic Дарио Амодей призвал замедлить разработку более мощных моделей искусственного интеллекта. Он связал эту позицию с соображениями безопасности.

Предложения Смита отражают стремление закрепить единые требования к разработчикам ИИ на международном уровне. В числе ключевых мер он выделяет возможность быстро остановить опасную систему и обязательное раскрытие информации о серьёзных инцидентах.