Ответ дипфейкам: инновационная система «Зефир» выявляет генеративный контент с точностью 81%

В рамках форума «Диалог о фейках», который 22 ноября провел в Москве АНО «Диалог Регионы», состоялась профильная секция «Уникальные ИТ-решения для борьбы с недостоверной информацией и генеративными фейками», посвященная обсуждению современных вызовов, связанных с распознаванием и противодействием дипфейкам.

За последние несколько лет качество генеративного контента улучшилось, а стоимость его производства значительно снизилась. Соответственно, развивать системы детекции становится все сложнее и дороже, поэтому необходимо консолидировать усилия различных акторов для развития этих систем и моделей. Об этом заявил Сергей Маклаков, руководитель отдела аналитического обеспечения Управления по противодействию распространению недостоверной информации АНО «Диалог Регионы».

«Зефир» — это система мониторинга, разработанная АНО «Диалог Регионы», для анализа и мониторинга сфабрикованного аудиовизуального контента, в том числе дипфейков, на основе сочетания моделей машинного обучения.

«Точность “Зефира” составляет 81%. Это динамичный показатель, который сложно поддерживать, так как появляются новые типы атак», — подчеркнул Сергей Маклаков.

Любая система детекции должна совмещать несколько решений, считает эксперт. Так, функционал системы «Зефир» обеспечивает комплексную оценку материала: распознавание дипфейков, анализ спуфинга голоса, транскрибирование и перевод аудио, поиск дубликатов и первоисточников, детекция персон на видео- и аудиозаписях, а также определение съемки на хромакее. При этом анализ текста с помощью ИИ позволяет определить вероятность фейка.

Директор по развитию бизнеса ООО «Центр речевых технологий» Олег Глебов также убежден, что к оценке дипфейков необходимо подходить комплексно, поэтому важно развивать мультимодальный подход при разработке систем выявления генеративного контента.

Участники круглого стола также затронули вопрос значения технологии: дипфейк — источник угроз или перспективный инструмент. Точки зрения экспертов разделились. О позитивных примерах применения дипфейков рассказал CEO Agenda Media Group Алексей Парфун.

«К 2025 году ваша виртуальная копия сможет примерить любую одежду в онлайн-магазине, поучаствовать в интерактивном фильме или стать персонажем компьютерной игры», — рассказал эксперт. Также он обратил внимание, что в вопросе использования образов реальных людей для создания дипфейков существует этическая неопределенность.

Влияние алгоритмизирующего контента на человека в ходе круглого стола разобрал Михаил Канавцев, руководитель проекта «Мастерская новых медиа», к.э.н. Он отметил, что воздействие такого контента направлено на логику, стереотипы и ценности пользователя. При этом эксперт выразил мнение, что киберпространство нельзя рассматривать как бизнес-пространство. «Выделение киберпространства как нового типа среды требует выработки принципиально новых наступательных и оборонительных инструментов», — считает Михаил Канавцев.

Кроме того, в круглом столе приняли участие представители ИТМО, ФГУП «НИИ “Квант”», ФКУ НПО «СТиС» МВД России и ФГУП «ГРЧЦ». Борьба с дипфейками требует скоординированных действий со стороны правительств, компаний и общественности. Форум «Диалог о фейках» стал платформой для обмена идеями и опытом, необходимыми для разработки и внедрения эффективных решений в этой области.

Источник: argumenti.ru