Цюрихская компания по обеспечению безопасности генеративного искусственного интеллекта Lakera привлекла 20 миллионов долларов США в рамках серии А, в результате чего общий объем финансирования составил 30 миллионов долларов США.

Традиционные киберинструменты плохо приспособлены для устранения новых опасностей генеративного ИИ. Этот создает острую потребность в решениях безопасности, которые устраняют риски, связанные с GenAI, без которых предприятия не смогут разблокировать ИИ преимущества.

По словам Дэвида Хабера, основателя и генерального директора Lakera, старые методы кибербезопасности нет достаточный.

«Э Сегодня предприятия работают в мире, где любой, кто умеет говорить, знает, как взломать. Решения в области безопасности должны измениться но они не мочь мешать пользовательскому опыту.

Существует потребность в решениях безопасности с использованием искусственного интеллекта, работающих в режиме реального времени, которые постоянно развиваются и обеспечивают потрясающий пользовательский опыт. ».

Проблемы безопасности генеративного искусственного интеллекта

LLM подвержены ряду уязвимостей:

• GenAI представляет быстрые атаки как наиболее широко доступный метод взлома.
• Оперативные атаки могут легко использоваться к манипулировать GenAI, чтобы злоумышленник мог получить несанкционированный доступ к компании системы, крадут конфиденциальные данные, предпринимают несанкционированные действия и создают вредоносный контент.
• ИИ « спящие агенты » может находиться в спящем режиме, пока не будет активирован в злонамеренных целях.
• Черви, нацеленные на ИИ, могут обходить меры безопасности. сбор урожая данные и запуск широкомасштабные атаки.
• Самое тревожное то, что исследователи продемонстрировали возможность взломать миллион агентов LLM. с одним изображением всего за 27-31 раунд чата.

Лакера Безопасность ИИ в реальном времени не ставит под угрозу интерактивность приложений. компании API может быть интегрирован с одной строкой код, обеспечивающий уровень безопасности со сверхмалой задержкой, совместимый с любой моделью GenAI. Централизованный контроль позволяет командам безопасности настраивать политики для конкретных приложений и устранять возникающие угрозы без изменения кода.

Гэндальф обучает более миллиона пользователей безопасности ИИ

Компания также создала Gandalf — образовательную платформу по искусственному интеллекту, которая является крупнейшей в мире красной командой по искусственному интеллекту. Имея более 250 тысяч уникальных пользователей по всему миру, включая такие компании, как Microsoft, где он используется в обучении безопасности, Gandalf создает в режиме реального времени базу данных угроз ИИ, которая ежедневно пополняется на 100 тысяч уникальных новых атак. Он поддерживает актуальность программного обеспечения Lakera, обеспечивая постоянную защиту клиентов.

Более 50 миллионов точек данных, сгенерированных Гэндальфом, в сочетании с глубоким опытом команды основателей в создании систем искусственного интеллекта с требованиями реального времени означают, что клиенты Lakera могут опережать угрозы и обеспечивать потрясающий пользовательский опыт.

Atomico возглавила финансирование при участии Citi Ventures, Dropbox Ventures и существующих инвесторов, включая Redalpine.
Партнер Atomico Саша Видоборский, который войдет в совет директоров Lakera, сказал:

«Lakera добилась впечатляющего коммерческого успеха, привлекая таких клиентов, как Dropbox и один из трех крупнейших банков США, и уже более 35 процентов компаний из списка Fortune 100 стучатся в их двери».

«В Dropbox обеспечение безопасности наших систем и данных клиентов является главным приоритетом», — сказал Дональд Такер, руководитель отдела корпоративного развития и венчурных инвестиций Dropbox.

«Команда Lakera обладает обширным опытом и глубоким пониманием сложных проблем безопасности, с которыми компании сталкиваются в рамках программ LLM и генеративного искусственного интеллекта. Их передовые технологии помогают таким компаниям, как Dropbox, защищаться от уязвимостей, которые создают эти новые технологии».

Lakera планирует использовать этот раунд финансирования для дальнейших инвестиций в разработку своей продукции и расширения своего присутствия в США, где у нее уже есть плацдарм в Кремниевой долине.

Главное изображение: Лакера. Фото: в титрах не указано.