Британская компания по производству чипов искусственного интеллекта Хрупкий сегодня вышел из скрытности и объявил о посевном финансировании в размере 15 миллионов долларов.
Компания Fractile, основанная в 2022 году 28-летним доктором наук в области искусственного интеллекта Уолтером Гудвином, создает свой первый новый чип искусственного интеллекта, способный запускать самые современные модели искусственного интеллекта до 100 раз быстрее и в 10 раз дешевле, чем существующее оборудование.
Сегодняшние ИИ-чипы являются самым большим препятствием на пути повышения производительности ИИ. — Каждая крупная компания, занимающаяся искусственным интеллектом, в настоящее время полагается на принципиально схожие чипы, которые хорошо подходят для обучения LLM, но не для вывода (процесс обработки живых данных через обученную модель).
Это означает, что эксплуатация моделей ИИ очень дорога, их производительность снижается, а их потенциальные будущие возможности ограничены. Разработчикам моделей ИИ также становится сложнее обеспечить значимую дифференциацию.
У компании, пытающейся создать лучшее оборудование для вывода ИИ, есть два пути. Первый — это специализация: оттачивание работы над очень специфическими рабочими нагрузками и создание микросхем, которые уникально подходят для этих конкретных требований.
Поскольку в мире искусственного интеллекта архитектура моделей быстро развивается, а проектирование, проверка, изготовление и тестирование микросхем занимают значительное время, компании, реализующие этот подход, сталкиваются с проблемой стрельбы по движущейся цели, точное направление которой неизвестно.
Трансформация вычислительных операций
Второй путь — фундаментально изменить способ выполнения самих вычислительных операций, создать совершенно другие чипы из этих новых строительных блоков и построить на их основе масштабируемые системы. Это подход Fractile, который откроет революционную производительность целого ряда моделей искусственного интеллекта, как нынешних, так и будущих.
Система Fractile достигнет поразительной производительности при выводе моделей ИИ — первоначальные цели будут в 100 раз быстрее и в 10 раз дешевле — за счет использования новых схем для выполнения 99,99 процентов операций, необходимых для выполнения вывода моделей.
Ключевым аспектом является переход к вычислениям в памяти, что устраняет необходимость передачи параметров модели в процессорные чипы и обратно, вместо этого вычислительные операции записываются непосредственно в память.
Технология Fractile полностью совместима с немодифицированными процессами литья кремния, на которых построены все ведущие чипы искусственного интеллекта.
Меньший расход энергии
Fractile не только обеспечит огромные преимущества в скорости и стоимости, но и сделает это при существенном снижении энергопотребления. Мощность, иногда измеряемая в Тера операций в секунду на ватт (ТОПС/Вт), является самым большим фундаментальным ограничением, когда дело доходит до увеличения производительности вычислений ИИ ( более подробную информацию смотрите в примечаниях ниже ).
Система Fractile нацелена на увеличение TOPS/W в 20 раз по сравнению с любой другой системой, доступной компании сегодня. Это позволяет параллельно обслуживать больше пользователей в каждой системе вывода, при этом (например, в случае LLM) этим пользователям возвращается больше слов в секунду, что позволяет обслуживать гораздо больше пользователей за ту же стоимость.
Скачок производительности Fractile в области вывода ускорит способность ИИ решать самые большие научные и сложные вычислительные задачи, от открытия лекарств до моделирования климата и создания видео.
Kindred Capital, Инновационный фонд НАТО и Oxford Science Enterprises возглавили раунд при участии Cocoa и Inovia Capital, а также инвесторов-ангелов, в том числе Германа Хаузера (соучредитель Acorn, Amadeus Capital), Стэна Боланда (экс-Icera, NVIDIA, Element 14 и Five AI) и Амар Шах (соучредитель Wayve). На сегодняшний день общий объем финансирования Fractile составил 17,5 миллионов долларов.
По словам доктора Уолтера Гудвина, генерального директора и основателя Fractile:
«В сегодняшней гонке ИИ ограничения существующего оборудования — почти все из которого предоставляется одной компанией — представляют собой самый большой барьер на пути к повышению производительности, снижению затрат и более широкому внедрению.
Подход Fractile усиливает логические выводы, обеспечивая удивительные улучшения с точки зрения скорости и стоимости. Это больше, чем просто ускорение: изменение точки производительности для вывода позволяет нам исследовать совершенно новые способы использования ведущих сегодня моделей ИИ для решения самых сложных мировых проблем».
Джон Кэссиди, партнер Kindred Capital:, сказал
«ИИ развивается настолько быстро, что создание оборудования для него сродни стрельбе по движущейся цели в темноте.
Поскольку команда Fractile имеет глубокий опыт в области искусственного интеллекта, у компании есть глубокие знания, чтобы понять, как модели искусственного интеллекта могут развиваться и как создавать оборудование, отвечающее требованиям не только следующих двух лет, но и 5-10 лет. будущее. Мы рады сотрудничать с Уолтером и его командой в этом путешествии».
По словам Стэна Боланда, инвестора-ангела:
«Нет сомнений в том, что в Fractile Уолтер строит одну из будущих мировых компаний-суперзвезд. Он блестящий практик в области искусственного интеллекта, но он также внимательно прислушивается к рынку, чтобы быть уверенным в создании действительно привлекательных продуктов, которые другие эксперты захотят использовать в больших масштабах.
Для достижения этой цели он уже начинает формировать одну из лучших в мире команд экспертов в области полупроводников, программного обеспечения и инструментов с безупречной репутацией. Я не сомневаюсь, что Fractile в ближайшее время станет самым надежным партнером для крупных поставщиков моделей искусственного интеллекта».
Fractile уже сформировала команду мирового класса из старших сотрудников NVIDIA, ARM и Imagination и подала патенты, защищающие ключевые схемы и свой уникальный подход к вычислениям в памяти.
Компания уже ведет переговоры с потенциальными партнерами и рассчитывает подписать партнерские отношения перед производством первого коммерческого аппаратного ускорителя искусственного интеллекта.
Fractile будет использовать финансирование для продолжения роста своей команды и ускорения прогресса в создании первого продукта компании.
Ведущее изображение: