Яндекс и ИСП РАН разрабатывают маркировку ИИ-контента

В России ведется разработка многоуровневой системы для отслеживания и определения контента, созданного с использованием искусственного интеллекта. Как сообщает издание «Ведомости», данный проект осуществляется в рамках сотрудничества между компанией «Яндекс» и Институтом системного программирования РАН.

Предлагаемое технологическое решение базируется на внедрении микроскопических артефакт-меток непосредственно в структуру мультимедийных файлов. Ключевое отличие от обычных «водяных знаков» состоит в том, что эти метки невидимы для человека, но легко распознаются специализированными алгоритмами анализа. Такой подход предотвращает возможность легкого удаления маркировки путем кадрирования или ретуширования, значительно повышая достоверность определения источника контента.

Для реализации системы проверки подлинности «Яндекс» параллельно разрабатывает сервис для распознавания маркировки, предназначенный для широкого круга пользователей.

Этот инструмент позволит как обычным пользователям, так и профессионалам медиаиндустрии эффективно проверять происхождение цифрового контента. Это создаст основу для формирования единого стандарта маркировки контента, созданного с помощью генеративных технологий, что необходимо для эффективной работы системы в разнообразной технологической среде.

Первоначально технология будет применяться для маркировки изображений, созданных нейросетью «Шедеврум», но архитектура системы предусматривает возможность масштабирования на другие виды синтетического контента, такие как аудио- и видеоматериалы.