Google DeepMind открыл публичный проверяющий сервис SynthID

Google DeepMind открыл для всех пользователей сайт synthid.com. Сервис позволяет загрузить изображение, аудиозапись или видеоролик и проверить, есть ли в файле фирменная криптографическая маркировка, связанная с генерацией искусственного интеллекта.

До публичного запуска доступ к инструменту предоставляли только аккредитованным журналистам и организациям, занимающимся проверкой фактов. Теперь проверить контент может любой пользователь интернета.

Как развивалась SynthID

Google представила SynthID летом 2023 года. Изначально технологию использовали для защиты изображений, созданных нейросетью Imagen на облачной платформе Vertex AI. В конце того же года маркировку внедрили в генератор музыки Lyria: система стала добавлять в звуковые волны неслышимый для человека код.

Весной 2024 года поддержку SynthID расширили на видеогенератор Veo. Тогда же Google опубликовала открытый модуль для текстовых моделей. В течение последнего года сервис тестировали в закрытом пуле исследователей, а среди его партнеров были OpenAI и NVIDIA.

Маркировка вместо поиска визуальных артефактов

SynthID отличается от стандартных сервисов, которые пытаются определить искусственное происхождение файла по внешним признакам — например, характерным искажениям, размытию или ошибкам в деталях. Вместо этого система ищет встроенную цифровую подпись.

При генерации контента SynthID добавляет в структуру изображения, аудиодорожки или видеоматериала скрытый псевдослучайный математический паттерн. Для человека он остается незаметным, но специальный детектор может распознать этот след.

По данным Google, маркировка сохраняется даже после заметного сжатия файла, кадрирования или пересылки через социальные сети. Это должно помочь отличать контент, созданный поддерживаемыми инструментами искусственного интеллекта, от обычных пользовательских материалов, хотя сама проверка не устанавливает происхождение любого файла без такой подписи.