Т вот немного сомневаюсь в преданности Сэма Альтмана Open ай фирма, находящаяся в авангарде искусственного интеллекта ( ай ) революция. В качестве соучредителя и руководителя он, похоже, работал так же неустанно ради успеха, как и в предыдущем стартапе, где его целеустремленность привела к приступу цинги, болезни, которая чаще всего ассоциируется с моряками ушедшей эпохи, которые слишком долго оставались в море, не имея доступа к воде. свежая еда. Поэтому его внезапное увольнение 17 ноября стало шоком. Причины, по которым совет директоров фирмы потерял доверие к г-ну Альтману, неясны. Слухи указывают на беспокойство по поводу его побочных проектов и на опасения, что он слишком поторопился с расширением Open. ай Коммерческие предложения компании без учета последствий для безопасности, в фирме, которая также пообещала разработать технологию для «максимального блага человечества».

Инвесторы компании и некоторые ее сотрудники теперь добиваются восстановления Альтмана на работе. Независимо от того, удастся им это или нет, ясно, что события на Open ай являются наиболее драматичным проявлением более широкого раскола в Кремниевой долине. С одной стороны находятся «обреченники», которые считают, что, если их не остановить, ай представляет экзистенциальный риск для человечества и, следовательно, выступает за более строгие правила. Им противостоят «бумеры», преуменьшающие опасения перед ай апокалипсиса и подчеркнуть его потенциал для ускорения прогресса. Лагерь, который окажется более влиятельным, может либо поощрять, либо препятствовать ужесточению регулирования, что, в свою очередь, может определить, кто получит наибольшую выгоду от ай в будущем.

Открыть ай Корпоративная структура России преодолевает этот разрыв. Основанная как некоммерческая организация в 2015 году, компания три года спустя создала коммерческую дочернюю компанию для финансирования своих потребностей в дорогостоящих вычислительных мощностях и интеллектуальных силах для продвижения технологии вперед. Удовлетворение конкурирующих целей думеров и бумеров всегда было трудным.

Раскол частично отражает философские разногласия. Многие в лагере думеров находятся под влиянием «эффективного альтруизма», движения, обеспокоенного возможностью ай истребление всего человечества. В число вызывающих беспокойство входит Дарио Амодей, который покинул OpenAI, чтобы запустить Anthropic, еще одного производителя моделей. Другие крупные технологические компании, в том числе Microsoft и Amazon, также обеспокоены ситуацией. ай безопасность.

Бумеры поддерживают мировоззрение под названием «эффективный акселерационизм», которое противоречит тому, что развитие ай если позволить беспрепятственно продолжаться, то его следует ускорить. Возглавляет инициативу Марк Андриссен, соучредитель компании венчурного капитала Andreessen Horowitz. Другой ай ученые, похоже, сочувствуют этому делу. Ян Лекун из Meta и Эндрю Нг, а также множество стартапов, включая Hugging Face и Mistral. ай выступали за менее ограничительное регулирование.

Г-н Альтман, похоже, симпатизировал обеим группам, публично призывая к установлению «ограждений», чтобы сделать ай безопасно, одновременно нажимая кнопку «Открыть» ай разработать более мощные модели и запустить новые инструменты, такие как магазин приложений, позволяющий пользователям создавать собственных чат-ботов. Ее крупнейший инвестор, Microsoft, вложил в Open более 10 миллиардов долларов. ай за 49% акций без получения каких-либо мест в совете директоров материнской компании, как говорят, недоволен, поскольку узнал об увольнении всего за несколько минут до того, как это сделал г-н Альтман. Если он не вернется, вполне вероятно, что Опен ай более твердо встанет на сторону обреченных.

Однако, похоже, здесь происходит нечто большее, чем просто абстрактная философия. Как оказалось, эти две группы также разделены по более коммерческим направлениям. Думеры — первопроходцы в ай расы, имеют более глубокие карманы и поддерживают запатентованные модели. С другой стороны, бумеры, скорее всего, будут догоняющими фирмами, меньшими по размеру и предпочитающими программное обеспечение с открытым исходным кодом.

Начните с первых победителей. Открыть ай чат gpt добавило 100 миллионов пользователей всего за два месяца после запуска, за ним следует Anthropic, основанная перебежчиками из Open. ай и сейчас оценивается в 25 миллиардов долларов. Исследователи из Google написали оригинальную статью о больших языковых моделях, программном обеспечении, которое обучается на огромных объемах данных и лежит в основе чат-ботов, включая Chat. gpt . Фирма выпускает более крупные и умные модели, а также чат-бота под названием Bard.

Между тем, лидерство Microsoft во многом основано на ее большой ставке на Open ай . Amazon планирует инвестировать в Anthropic до $4 млрд. Но в сфере технологий движение первым не всегда гарантирует успех. На рынке, где технологии и спрос быстро развиваются, у новых участников есть широкие возможности потеснить действующих игроков.

Это может придать дополнительную силу стремлению сторонников ужесточения правил. Выступая перед американским Конгрессом в мае, г-н Альтман выразил опасения, что эта отрасль может «нанести значительный вред миру», и призвал политиков принять конкретные правила для ай . В том же месяце группа из 350 ай ученые и технические руководители, в том числе из Open ай Anthropic и Google подписали однострочное заявление, предупреждающее о «риске исчезновения», создаваемом ай наравне с ядерной войной и пандемиями. Несмотря на ужасающие перспективы, ни одна из компаний, поддержавших это заявление, не приостановила свою работу по созданию более мощных ай модели.

Политики изо всех сил стараются показать, что они серьезно относятся к рискам. В июле администрация президента Джо Байдена подтолкнула семь ведущих производителей моделей, включая Microsoft, Open ай Meta и Google, брать на себя «добровольные обязательства», иметь свои ай продукты проверяются экспертами перед выпуском их в продажу. 1 ноября британское правительство заставило аналогичную группу подписать еще одно необязательное соглашение, которое позволило регулирующим органам проверить свои ай продукты на предмет надежности и вредоносных возможностей, таких как угроза национальной безопасности. За несколько дней до этого Байден издал гораздо более резкий указ. Это вынуждает любого ай Компания, создающая модели сверх определенного размера (определяемого вычислительной мощностью, необходимой для программного обеспечения), уведомляет правительство и делится результатами испытаний на безопасность.

Еще одна линия разногласия между этими двумя группами — будущее открытого исходного кода. ай . лм либо были проприетарными, как у Open ай, Anthropic и Google, или с открытым исходным кодом. Релиз в феврале лама модель, созданная Meta, стимулировала активность в области открытого исходного кода. ай (см. график). Сторонники утверждают, что модели с открытым исходным кодом безопаснее, поскольку они открыты для тщательного изучения. ай Публичные модели позволят злоумышленникам использовать их в злонамеренных целях.

Но спор по поводу открытого исходного кода может также отражать коммерческие мотивы. Венчурные капиталисты, например, являются его большими поклонниками, возможно, потому, что они подсматривают способ для стартапов, которые они поддерживают, догнать передовые рубежи или получить свободный доступ к моделям. Действующие игроки могут опасаться конкурентной угрозы. В опубликованной в мае записке, написанной инсайдерами Google, признается, что модели с открытым исходным кодом достигают результатов в некоторых задачах, сравнимых с результатами их проприетарных собратьев, и их создание обходится гораздо дешевле. В меморандуме делается вывод, что ни Google, ни Open ай имеет какой-либо защитный «ров» против конкурентов с открытым исходным кодом.

Пока регуляторы, кажется, восприимчивы к аргументам обреченных. Указ Байдена может затормозить развитие открытого исходного кода ай . Широкое определение моделей «двойного назначения», которые могут иметь как военные, так и гражданские цели, в указе налагает сложные требования к отчетности для производителей таких моделей, которые со временем могут также охватывать модели с открытым исходным кодом. Степень, в которой эти правила могут быть соблюдены сегодня, неясна. Но со временем они могут нарастить зубы, скажем, если будут приняты новые законы.

Не каждая крупная технологическая фирма попадает по обе стороны этой границы. Решение Meta открыть исходный код ай models сделало его неожиданным лидером среди стартапов, предоставив им доступ к мощной модели, на основе которой можно создавать инновационные продукты. Meta делает ставку на то, что всплеск инноваций, вызванный инструментами с открытым исходным кодом, в конечном итоге поможет ей, создавая новые формы контента, которые будут привлекать пользователей и радовать рекламодателей. Apple является еще одним исключением. Крупнейшая в мире технологическая фирма особенно молчат о ай . На презентации нового iPhone в сентябре компания продемонстрировала многочисленные ай -управляемые функции без упоминания этого термина. Когда его подталкивают, его руководители склонны превозносить «машинное обучение» — еще один термин, обозначающий ай .

Это выглядит умно. Крах на Open ай показывает, насколько разрушительны культурные войны из-за ай возможно. Но именно эти войны будут определять, как будут развиваться технологии, как они будут регулироваться и кто уйдет с добычей. ■