Сатья Наделла пересмотрел взгляд на автоматическую согласованность ИИ с ценностями человека

Генеральный директор Microsoft Сатья Наделла пересмотрел свою позицию относительно согласованности искусственного интеллекта с человеческими ценностями и целями. Ранее он полагал, что по мере развития технологий эта проблема будет решаться естественным образом, однако теперь считает такой сценарий маловероятным.

Об этом Наделла рассказал в подкасте 20VC, отвечая на вопрос ведущего Гарри Стеббингса о том, какие взгляды он изменил за последний год. По словам главы Microsoft, масштабирование ИИ действительно происходило в соответствии с ожиданиями, а возможности моделей продолжали расти, но сама проблема согласованности не исчезла.

«Раньше я всегда думал, что согласованность возникнет сама собой. Теперь я так не считаю», — сказал Наделла. Он добавил, что согласованность может оказаться отдельной и, вероятно, более сложной задачей, чем предполагалось.

Microsoft призывает усиливать контроль над моделями

Ещё 10 октября Наделла предупреждал о рисках, связанных с искусственным интеллектом, в публикации на платформе X. Он призвал компании рассматривать ИИ-модели как потенциальную внутреннюю угрозу и исходить из того, что они уже могут быть скомпрометированы.

По мнению руководителя Microsoft, недетерминированные модели необходимо окружать надёжной детерминированной архитектурой, системами человеческого контроля и понятными рабочими процедурами. Кроме того, он выступил за разработку отраслевых стандартов в тех областях, где существующих мер безопасности недостаточно.

Такая позиция отражает более широкий сдвиг в обсуждении рисков ИИ: рост производительности моделей сам по себе не гарантирует сохранения человеческого контроля. С похожими предупреждениями ранее выступали генеральный директор OpenAI Сэм Альтман и глава Anthropic Дарио Амодеи.

В июле более 1000 специалистов по искусственному интеллекту подписали открытое письмо, в котором предупредили: развитие возможностей ИИ может опередить способность людей понимать работу таких систем и управлять ими.

У технологических компаний разные взгляды на регулирование

При этом внутри индустрии сохраняются заметные разногласия по поводу допустимого уровня рисков и регулирования. Сэм Альтман в интервью Politico заявил, что преимущества ИИ оправдывают принятие определённых рисков, а сама технология должна оставаться широко доступной для общества.

Таким образом, Microsoft делает акцент на многоуровневой защите и внешнем контроле, тогда как OpenAI подчёркивает необходимость сохранять доступность ИИ. Различия в подходах показывают, что вопрос о том, как совместить развитие технологий, безопасность и человеческий контроль, пока остаётся открытым.