В России планируют разработать платформу для выявления дипфейков

22 марта 2024 г.

Министерство цифрового развития, связи и массовых коммуникаций может создать платформу для выявления дипфейков, функционирующую на основе искусственного интеллекта, сообщают «Ведомости».

Поручение по созданию соответствующей платформы дал глава кабмина России Михаил Мишустин по итогам прошедшей еще в конце прошлого года стратегической сессии, посвященной нацпроекту «Экономика данных».

«Обсуждается возможность создания единой платформы, которая будет выявлять недостоверную информацию, сгенерированную в том числе с помощью технологий ИИ, — рассказал представитель Минцифры. — Предложено предварительно провести научно-исследовательские работы по обозначенной тематике». Однако сроки запуска платформы пока неизвестны.

ИT-система могла бы выявлять в видео и изображениях неестественные изменения или аномалии, считает заместитель директора Центра компетенций НТИ «Технологии доверенного взаимодействия» на базе ТУСУРа Руслан Пермяков. Однако более эффективная стратегия — выявление не внешних признаков дипфейка, а использование конкретной методики создания контента, отмечает руководитель департамента расследований T.Hunter, эксперт рынка НТИ SafeNet («Сейфнет») Игорь Бедеров. «То есть, эффективнее было бы детектировать конкретную технологию. Это правильнее, поскольку дипфейк-технологии постоянно улучшаются», — пояснил эксперт.

Проблема дипфейков довольно быстро стала актуальной, отметил член комитета Госдумы по информационной политике, информационным технологиям и связи Антон Немкин. «Биометрические данные любого гражданина могут быть использованы мошенниками для создания дипфейка. При этом технология становится все более популярной у мошенников. Уже не раз фиксировались случаи использования аудиодипфейков для вымогательства денежных средств. Все это — вызовы, которые и государство, и бизнес должны преодолеть», — отметил депутат.

По словам Немкина, сегодня выявление дипфейков, как правило, происходит вручную. «Этим занимаются правоохранительные органы, а также специалисты в сфере информационной безопасности. Конечно, в условиях роста популярности технологии автоматизация процесса проверки станет необходимостью — иначе специалисты физически не смогут справиться с объемом информации», — пояснил парламентарий.

В настоящий момент Минцифры России должно определиться со стратегией выявления дипфейков, считает депутат. «Например, будет ли это отдельный сервис, либо плагин браузера, который в фоновом режиме будет анализировать все потоки информации? Это касается и выбора целевой группы: будет ли сервис доступен для всех граждан или только, например, для правоохранительных органов», — сказал депутат.

Немкин согласился с тем, что создание платформы влечет за собой крупные инвестиции, а также необходимость проведения качественной научно-исследовательской работы. Депутат отметил, что альтернативным решением может стать введение обязательной маркировки контента, созданного ИИ. «Например, при скачивании контента, созданного посредством нейросети Sora, автоматически появляется водяной знак. Кроме того, ряд платформ уже обязал авторов самостоятельно маркировать созданный искусственным интеллектом контент. Потенциально возможно введение обязательства маркировки любого контента, созданного ИИ на территории нашей страны», — отметил Немкин.

Поскольку в России пока отсутствует полноценное регулирование сегмента, необходимо рассмотреть все возможные как нормативные, так и прикладные инструменты регулирования дипфейков, подчеркнул Немкин. «Это позволит прийти к оптимальному решению», — заключил парламентарий.

Источник: Пресс-служба депутата ГосДумы РФ Антона Немкина