По мере того как манипулируемые медиа становятся дешевле, быстрее и труднее обнаруживаемыми, стоимость всё больше ложится на жертв, а не на платформы.

Юлия Якименко — основатель и генеральный директор Cyberette.ai, голландского стартапа, основанного в 2024 году, который разрабатывает программное обеспечение на базе ИИ для обнаружения, анализа и объяснения манипулируемого цифрового контента — включая дипфейки, клонирование голоса, изменённые изображения, видео и текст — с особым акцентом на случаи мошенничества и расследования.

Я поговорил с Якименко, пока команда готовилась к CES, чтобы узнать больше.

До работы в Cyberette Якименко работал в области безопасности данных и комплаенса в банковской сфере. Следуя этим тенденциям, она увидела появление встроенных инструментов с ИИ, таких как замена лиц и обработка изображений. Но всё стало личным, когда лицо и тело друга использовались для создания изображений, которые выкладывались на сайты знакомств, чтобы обмануть мужчин ради денег.

Она вспоминает: «Она чувствовала себя ужасно и даже отправила деньги одной из жертв, потому что чувствовала себя ответственной. Она была не единственной. Я видела, как это происходило снова и снова, особенно с женщинами.»

Более 80 процентов дипфейковых откровенных изображений направлены на женщин, и большинство остаются нерешёнными, особенно дела о секс-вымогательстве. Якименко вдохновился актёрством.

Её работа дала ей понимание рабочих процессов в области безопасности и доступ к техническим специалистам. Итак, Якименко построил первоначальный прототип вместе с бывшим коллегой из VU Bank.

«Мы выставляли её на Web Summit, вызвали большой интерес, а затем начали строить, основываясь на полученных лидах. Позже мы получили финансирование от Rabobank и грант от Microsoft, что позволило нам продолжить разработку продукта.»

После этого компания сформировала команду исследователей в области ИИ, специалистов по данным и специалистов по безопасности, а также наладила партнёрства с ведущими техническими университетами.

Cyberette обеспечивает обнаружение манипулируемых медиа в реальном времени, поддерживая медиа-криминалистические инсайты и аутентификацию контента с использованием стандартов C2PA и водяных знаков, поддерживая правительства, медиаорганизации и предприятия.

Стартап стремится поддержать расследовательские команды, занимающиеся дипфейками, предоставляя объяснимость, происхождение и структурированные доказательства, которые они действительно могут использовать.

Зачем нам ещё один инструмент обнаружения дипфейков? Помимо «настоящего или поддельного»

По словам Якименко, большинство существующих инструментов сосредоточены на оценке «реальный или поддельный» с простой объяснимостью, например, выделением артефактов на лице. Cyberette сосредоточена на выявлении мошенничества, а не на обычных дипфейках. Она объясняет:

«Мы анализируем, как был изменён контент, почему он был изменён и окружающий контекст.

Мы предоставляем информацию о происхождении — такую как паттерны манипуляций, вероятные используемые модели, приблизительные даты и иногда индикаторы на уровне IP, если они доступны.»

Объяснимость как доказательство

Подходы Cyberette к обнаружению сочетают несколько техник для быстрого и точного обнаружения манипулируемых или синтетических сред. Cyberette использует обнаружение ориентиров для выявления несоответствий в геометрии лица, позе и движении, а также анализ на основе тепловых карт, который выделяет изменённые области с помощью оценки аномалий.

Анализ настроений добавляет ещё один слой, отмечая необычные эмоциональные сигналы, такие как изменения тона или колебания, а обнаружение в реальном времени даёт результаты менее чем за две секунды для живых сценариев.

Дополнительные возможности включают водяные знаки и анализ метаданных, а также более широкую судебную экспертизу и разведку угроз для поддержки более глубоких расследований.

Создано для рабочих процессов в реальном времени и с высокими ставками

Платформа специально разработана для расследования и мониторинга рабочих процессов, используя собственные модели ИИ, созданные с нуля и оптимизированные для точных задач обнаружения в реальном времени.

«В расследовательных случаях мы также объясняем намерение, когда это актуально, например, анализируя несоответствия между голосом, визуальными сигналами и контекстуальным значением», — объяснил Якименко.

Точность, задержка и архитектурное преимущество

Технологическое преимущество Cyberette заключается в способности обеспечивать точность 99,7% по тестируемым наборам данных, одновременно предоставляя результаты в реальном времени с низкой задержкой в масштабах.

По словам Ярименко:

«Это результат нашей сильной архитектуры бэкенда и лёгких моделей. Наши API разработаны для обнаружения в реальном времени.

Кроме того, Cyberette может работать как в облаке, так и полностью локально.

Многие наши клиенты оснащены сильной локальной инфраструктурой и GPU, что позволяет системе эффективно работать без зависимости от нашего облака.»

Создано для рабочих процессов расследования в реальном времени

Основной хранитель CyberetteMER — это расследования и мониторинговые группы, включая платформы мониторинга оборонных угроз, государственные организации и частные подразделения по борьбе с мошенничеством и расследованием.

В государственном секторе он укрепляет критически важную коммуникацию через живую верификацию, биометрические проверки и поведенческий анализ для обороны, разведки и правоохранительных органов.

Для предприятий платформа помогает предотвратить мошенничество, анализируя поведение, интегрируясь с существующими системами безопасности и работая в больших масштабах для банков и финансовых учреждений. Он также защищает лицензированный контент через проверку метаданных, интеллектуальную водяную маркировку, кроссплатформенный мониторинг и верификацию C2PA для создателей, брендов и агентств талантов.

Кроме того, Cyberette интегрируется с инструментами видеоконференций (Teams, Zoom, Google Meet) для обеспечения безопасной видеоконференции с верификацией участников и мгновенным обнаружением манипуляций, защищённой проверки личности в большом объеме с помощью биометрического анализа и SDK, а также улучшенные платформы электронного обучения с простыми в использовании инструментами обнаружения, практическими учебными модулями и бесшовной интеграцией.

Платформа разработана для поддержки миллионов пользователей и миллиардов файлов без компромиссов с производительностью, эффективно работает как на GPU, так и на CPU, чтобы снизить затраты и повысить доступность. Разработанная для глобального внедрения, Cyberette по своей конструкции готова к соответствию, соответствуя строгим требованиям стандартов GDPR, ISO и PII.

«Мы интегрируем инструменты происхождения и аутентификации C2PA, которые поддерживаются такими организациями, как Microsoft и Adobe, и которые всё больше пользуются доверием в отрасли. Системы происхождения становятся необходимыми по мере роста дезинформации», — поделился Ярименко.

С точки зрения дорожной карты компании, она находится между пилотным и полным коммерческим развертыванием:

«У нас уже есть платные клиенты, но мы сознательно выбрали конкретных клиентов и отрасли, где проблема наиболее острая.»

Некоторые дела связаны с небольшими финансовыми потерями, но другие — с жизней — например, угрозы похищения, кибербуллинг, секс-шантаж и случаи насилия:

«Мы работали с судебной экспертизой в Колумбии и с правительственной оборонной организацией в Сингапуре. Также у нас был интерес со стороны правительств Германии и Нидерландов. В прошлом году правительство Нидерландов заявило, что пока не наблюдает достаточного количества случаев. Я ожидаю, что это изменится.»

Дипфейки становятся лучше — и платформы их не останавливают

Ярименко не видит признаков снижения дипфейков, веря, что они будут расти и улучшаться в качестве:

«Мы движемся к ситуации, когда результаты, созданные ИИ, продвигаются браузерами и платформами как доверенная информация. Это создаёт путаницу и отсутствие доверия.

Сейчас у платформ мало стимулов останавливать это. Вот почему мы сосредотачиваемся на командах, которые уже занимаются мошенничеством и преступностью.»

Cyberette выйдет на рынок в ближайшие месяцы, одновременно собирая посевный раунд. Планируется расширить деятельность на поведенческий и сентиментальный анализ там, где это актуально для следственных контекстов, а позже — исследовать более ранние этапы жизненного цикла манипуляций. Но пока она сосредоточена на случаях с высоким воздействием и риском.