Когда в прошлом году у бабушки Кларка Хофнагельса украли 27 000 долларов (21 000 фунтов стерлингов), он почувствовал себя обязанным что-то с этим сделать.

«Мне казалось, что моя семья уязвима, и мне нужно было что-то сделать, чтобы защитить их», — говорит он.

«У моей семьи было чувство ответственности за все, что связано с технологиями».

В рамках своих усилий г-н Хофнагельс, который живет в Онтарио, Канада, просматривал мошеннические или «фишинговые» электронные письма, которые его бабушка получала через популярного чат-бота с искусственным интеллектом ChatGPT.

Ему было любопытно посмотреть, распознает ли он их как мошеннические, и он немедленно это сделал.

Из этого зачатка родилась идея, которая с тех пор переросла в бизнес под названием Catch. Это система искусственного интеллекта, обученная обнаруживать мошеннические электронные письма.

В настоящее время Catch совместим с Gmail от Google. Он сканирует входящие электронные письма и выделяет все сообщения, которые считаются мошенническими или потенциально мошенническими.

Инструменты искусственного интеллекта, такие как ChatGPT, Google Gemini, Claude и Microsoft Copilot, также известны как генеративный искусственный интеллект. Это потому, что они могут генерировать новый контент.

Изначально это был текстовый ответ в ответ на вопрос, просьбу или на то, что вы начали с ними разговор. Но теперь приложения с генеративным искусственным интеллектом могут все чаще создавать фотографии и картины, голосовой контент, сочинять музыку или создавать документы.

Люди из всех сфер жизни и отраслей все чаще используют такой ИИ для улучшения своей работы. К сожалению, мошенники тоже.

Фактически, в темной сети продается продукт под названием FraudGPT, который позволяет преступникам создавать контент для облегчения различных видов мошенничества, включая создание фишинговых электронных писем, связанных с банками, или создание мошеннических веб-страниц, предназначенных для кражи личной информации.

Еще большее беспокойство вызывает использование клонирования голоса, которое можно использовать, чтобы убедить родственника в том, что его любимый человек нуждается в финансовой помощи, или даже в некоторых случаях, чтобы убедить его, что человека похитили и ему требуется выкуп.

Есть довольно тревожная статистика о масштабах растущей проблемы мошенничества с использованием ИИ.

Сообщения об использовании инструментов искусственного интеллекта для обмана банковских систем увеличился на 84% в 2022 году, учитывая самые последние данные организации Cifas по борьбе с мошенничеством.

Аналогичная ситуация и в США, где отчет в этом месяце заявил, что ИИ «привел к значительному усложнению киберпреступности».

Учитывая возросшую глобальную угрозу, можно предположить, что продукт Catch г-на Хофнагельса будет популярен среди общественности. К сожалению, это не так.

«Люди этого не хотят», — говорит он. «Мы узнали, что люди не беспокоятся о мошенничестве, даже после того, как их обманули.

«Мы поговорили с парнем, который потерял 15 000 долларов, и сказали ему, что получим электронное письмо, но он не заинтересовался. Людей не интересует какой-либо уровень защиты».

Г-н Хофнагельс добавляет, что этот конкретный человек просто не думал, что с ним такое повторится.

По его словам, группа, которая обеспокоена тем, что их могут обмануть, — это пожилые люди. Однако, по его словам, вместо того, чтобы покупать защиту, их страхи чаще всего смягчаются очень примитивной тактикой: дети говорят им просто ни на что не отвечать и не реагировать.

Г-н Хофнагельс говорит, что полностью понимает такой подход. «После того, что случилось с моей бабушкой, мы практически сказали: «Не отвечайте на телефонные звонки, если его нет в ваших контактах, и больше не пишите по электронной почте».

По словам Хофнагеля, из-за апатии, с которой столкнулся Catch, он сейчас сворачивает бизнес, а также ищет потенциального покупателя.

В то время как люди могут быть пресыщены мошенничеством, а мошенники все чаще используют именно ИИ, банки не могут себе этого позволить.

Две трети финансовых компаний теперь рассматривают мошенничество с использованием искусственного интеллекта как «растущая угроза», согласно глобальному опросу, проведенному в январе.

Между тем, отдельное британское исследование, проведенное в декабре прошлого года, показало, что «Это был лишь вопрос времени прежде чем мошенники начнут использовать ИИ для мошенничества и мошенничества в больших масштабах».

К счастью, банки теперь все чаще используют ИИ для борьбы.

Программное обеспечение на базе искусственного интеллекта, созданное норвежским стартапом Strise, помогает европейским банкам выявлять мошеннические транзакции и отмывание денег с 2022 года. Оно автоматически и быстро отслеживает миллионы транзакций в день.

«Есть множество частей головоломки, которые вам нужно собрать вместе, а программное обеспечение искусственного интеллекта позволяет автоматизировать проверки», — говорит соучредитель Strise Марит Рёдеванд.

«Это очень сложный бизнес, и в последние годы команды по соблюдению требований значительно увеличили штат, но ИИ может помочь очень быстро объединить эту информацию».

Г-жа Рёдеванд добавляет, что все дело в том, чтобы быть на шаг впереди преступников. «Преступнику не нужно заботиться о законодательстве или его соблюдении. И они также хорошо умеют делиться данными, тогда как банки не могут делиться ими из-за регулирования, поэтому преступники могут быстрее осваивать новые технологии».

Featurespace, еще одна технологическая фирма, создающая программное обеспечение искусственного интеллекта, помогающее банкам бороться с мошенничеством, заявляет, что замечает необычные вещи.

«Мы не отслеживаем поведение мошенника, вместо этого мы отслеживаем поведение настоящего клиента», — говорит Мартина Кинг, исполнительный директор англо-американской компании.

«Мы строим статистический профиль вокруг того, как выглядит хороший нормальный человек. Основываясь на данных, которыми располагает банк, мы можем увидеть, является ли что-то поведение нормальным или аномальным и неправильным».

Фирма заявляет, что сейчас работает с такими банками, как HSBC, NatWest и TSB, и имеет контракты в 27 различных странах.

Вернувшись в Онтарио, г-н Хофнагельс говорит, что, хотя поначалу он был разочарован тем, что все больше представителей общественности не осознают растущего риска мошенничества, теперь он понимает, что люди просто не думают, что с ними такое произойдет.

«Это привело меня к большей симпатии к отдельным людям, и [instead] попытаться еще больше подтолкнуть компании и правительства».