Глава Instagram предупредил о росте недоверия к ИИ и проблеме дипфейков

Глава Instagram Адам Моссери заявил, что негативное отношение к искусственному интеллекту становится всё более заметным. По его словам, речь идёт не только о молодых пользователях и представителях творческих профессий: тревожность, разочарование и раздражение распространяются шире, особенно в креативных индустриях.

Моссери считает, что в ближайшие годы ситуация может стать ещё напряжённее. Он ожидает нового роста недовольства и гнева — как обоснованного, так и вызванного преувеличенными опасениями. Это, по его мнению, создаст серьёзные трудности для многих людей и отраслей.

Instagram не выделяет ИИ-контент в отдельную категорию

По словам руководителя Instagram, платформа не использует специальные алгоритмы ранжирования для публикаций, созданных с помощью нейросетей. При этом Моссери признал, что сервис пока не всегда способен одинаково эффективно оценивать материалы, созданные людьми и ИИ.

Он отметил, что среди нейросетевого контента встречаются как качественные работы, так и низкосортные публикации, которые часто называют «AI slop» — «ИИ-мусором». Однако, по мнению Моссери, этот термин сейчас применяют слишком широко и не ко всему контенту, который действительно заслуживает такой характеристики.

Платформа усиливает работу с ИИ-фейками

Отдельной проблемой остаётся вводящий в заблуждение контент, включая дипфейки с участием знаменитостей. В августе Instagram начал принимать более жёсткие меры в отношении некоторых профилей, использующих искусственный интеллект. Ранее Моссери также говорил, что компания активно ищет способы противодействовать распространению фейков.

При этом полностью запрещать созданные ИИ материалы в Instagram не планируют. Моссери назвал такой подход непрактичным, поскольку нейросети используются для самых разных задач и не весь подобный контент представляет угрозу.

Вместо полного запрета Instagram намерен добиваться большей прозрачности. По словам Моссери, платформа начинает требовать от аккаунтов, использующих ИИ, соответствующей маркировки. Компания рассчитывает, что пользователи должны понимать, является ли увиденное изображение, видео или другой материал реальным.

Meta Platforms, а также принадлежащие ей Facebook и Instagram признаны экстремистскими организациями, их деятельность в России запрещена.