Борьба с дипфейками
Дипфейки (от англ. deepfakes) — синтезированное с помощью искусственного интеллекта и нейросетей видеоизображение, в результате чего получается поддельное видео, внешне неотличимое от настоящего. Такими же методами можно синтезировать голос человека.
К 2024 году точность отечественных решений по выявлению сгенерированного и выдаваемого за реальный контента (так называемые дипфейки), а также инфоповодов, распространяемых ботами, должна достичь 70%. Такой целевой показатель содержится в «дорожной карте» под названием «Новые коммуникационные интернет-технологии», которую, как сообщило во вторник, 27 июля, Минцифры, утвердила правительственная комиссия по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности.
Документ также предполагает развитие разного рода сервисов, в том числе:
- рекомендательных, основанных на прогнозах пользовательского поведения, исходя из накопленной информации об интересах и вкусах других пользователей;
- сервисов интеллектуального анализа видеопотока на всем потоке данных и систем выявления цепочек распространения инфоповодов и идентификации инфоповодов, распространяемых ботами;
- сервисов подбора собеседников по интересам, потребностям в соцсетях и др.
- программного комплекса автоматического формирования титров для аудиовизуального контента, включая платформу распознавания речи и перевода в текст;
- сервиса по выявлению нарушений прав граждан в интернете на основе автоматического анализа коммуникационных сред (соцсетей, мессенджеров, многопользовательских игр);
- сервисов динамической адаптации элементов контента в режиме реального времени (выбор внешности актеров и т.д.) на основе пользовательских настроек и/или адаптации видео под новый текст, генерации персонажа с повторением крупной и мелкой моторики и мимики;
- сервисов генерации комплексного развлекательного контента на базе вводных от автора (генерация видеофильма на базе сценария) и/или генерации и автоматизации генерации комплексного контента на базе персонального профиля потребителя с минимальным участием автора и др.
Об опасности дипфейков говорили разные представители власти. Например, в мае пресс-секретарь президента России Дмитрий Песков назвал их «новой угрозой» и «очень страшной штукой». «Вот я стою, и вместо меня на компьютере можно вставить другую голову, другой голос. Если все это оказывается в руках и головах других ребят — вы представляете, сколько они могут наделать вреда? И отличить это будет очень и очень сложно», — указывал представитель Кремля.
В начале этого года МВД объявило тендер по выбору подрядчика в проект «Верблюд», целью которого станет разработка технологии для выявления дипфейков. Его выиграло московское АО «Научно-промышленная компания «Высокие технологии и стратегические системы». Технология должна быть разработана к ноябрю 2022 года.
По словам представителя АНО «Диалог», «дорожная карта» «Новые коммуникационные интернет-технологии» направлена на создание и развитие технологий, «которые должны обеспечить возможность качественных цифровых коммуникаций между людьми», поэтому в ней предусмотрена поддержка развития игровых технологий, различных аудио- и видеосервисов, рекомендательных систем, которые используются уже практически во всех развитых цифровых сервисах. «Значения показателей формировались экспертами на основании российских и зарубежных исследований рынка с учетом существующих трендов и прогнозов развития технологий», — сказал он.
06.08.2021