С хина лица проблема, знакомая диктатурам на протяжении всей истории: как найти баланс между стимулирующими экономический рост инновациями, которые процветают в свободном обществе, и паранойей авторитарного государства. Ее лидер Си Цзиньпин хочет, чтобы страна стала сверхразвитой экономикой. Его правительство агрессивно продвигает коммерциализацию понравившихся ему высоких технологий — от электромобилей до квантовых компьютеров.

В то же время он ужесточает гайки против тех, кого он не одобряет. В 2021 году он почти в мгновение ока уничтожил бурно развивающуюся индустрию онлайн-репетиторства, по-видимому, из-за опасений, что высокая плата за обучение сделает образование детей настолько дорогим, что китайцы откажутся от идеи стать родителями. 22 декабря правительство вмешалось в индустрию видеоигр, введя правила, среди прочего ограничивающие сумму, которую игроки могут тратить на внутриигровые покупки, и, следовательно, сумму, которую могут зарабатывать разработчики. Рыночная стоимость Tencent, одной из самых инновационных компаний Китая, которая также имеет крупный игровой бизнес, упала на 12%.

Нигде это противоречие не проявляется так явно, как в самой популярной технологии 2023 года — искусственном интеллекте ( ИИ ). Во многих странах командование ИИ рассматривается как экономически и стратегически важное. Политики повсюду беспокоятся о том, что машины выходят из-под контроля или, что более реалистично, их используют злодеи-люди. В Пекине дополнительное беспокойство вызывает то, что технология, которая процветает благодаря неограниченному объему данных и на нынешнем этапе развития применяется в нерегулируемых пространствах, может оказаться подрывной, если ее не держать под контролем. Поэтому оно усердно укрепляет свой «великий брандмауэр» для ИИ возраст.

В 2000 году Билл Клинтон, тогдашний президент Америки, сравнил попытку Китая контролировать Интернет с «попыткой прибить желе к стене». Сегодня желе, кажется, прочно заняло свое место. Западные интернет-сервисы, от Facebook и поиска Google до Netflix, недоступны большинству китайцев (кроме тех, кто готов рискнуть использовать незаконные «виртуальные частные сети»). На локальных платформах любой нежелательный контент удаляется либо заранее самими платформами с использованием алгоритмов и армии модераторов, либо впоследствии, как только его заметят государственные цензоры. Репрессии в сфере технологий в 2020 году заставили могущественных технологических гигантов Китая, таких как Tencent и Alibaba, подчиниться и приблизиться к правительству, которое приобретает небольшие доли в компаниях и проявляет большой интерес к их повседневной деятельности.

Результатом является цифровая экономика, которая очищена, но, тем не менее, процветает. Суперприложение Tencent, WeChat, которое сочетает в себе обмен сообщениями, социальные сети, электронную коммерцию и платежи, одно только генерирует сотни миллиардов долларов в виде ежегодных транзакций. Си Цзиньпин теперь надеется провести аналогичный баланс с ИИ. В очередной раз некоторые зарубежные эксперты прогнозируют тяжелейшую ситуацию. И снова Коммунистическая партия создает инструменты, чтобы доказать их неправоту.

Усилия партии начинаются с самых жестких в мире правил для китайских эквивалентов чата. GPT (который, как и ожидалось, запрещен в Китае) и другие ориентированные на потребителя «генеративные» ИИ . С марта компании вынуждены регистрировать у чиновников любые алгоритмы, которые дают рекомендации или могут влиять на решения людей. На практике это означает, по сути, любое такое программное обеспечение, предназначенное для потребителей. В июле правительство издало правила, требующие от всех ИИ — созданный контент для «поддержки социалистических ценностей» — другими словами, никаких непристойных песен, антипартийных лозунгов или, не дай бог, высмеивания Си Цзиньпина. В сентябре он опубликовал список из 110 зарегистрированных услуг. Только их разработчики и правительство знают все тонкости процесса регистрации и точные критерии.

В октябре комитет по стандартам национальной информационной безопасности опубликовал список рекомендаций по безопасности, требующих детальной самооценки данных, используемых для обучения генеративных специалистов. ИИ модели. Одно правило требует ручного тестирования не менее 4000 подмножеств общих обучающих данных; по крайней мере 96% из них должны квалифицироваться как «приемлемые», согласно списку из 31 расплывчато сформулированного риска безопасности. Первым критерием неприемлемого содержания является все, что «подстрекает к подрыву государственной власти или свержению социалистической системы». Чат-боты должны отказываться отвечать на 95% запросов, которые могут вызвать неприемлемый контент (любые, которые все-таки пройдут, предположительно, будут подвергнуты цензуре постфактум). Они также должны отклонить не более 5% безобидных вопросов.

Все, что создано с помощью незарегистрированных алгоритмов, должно быть заблокировано, а его создатели наказаны. В мае в провинции Ганьсу арестовали мужчину после того, как он воспользовался чатом. GPT создать текст и изображения фальшивой железнодорожной катастрофы и опубликовать их в социальных сетях. Возможно, он был первым китайцем, задержанным за распространение ИИ — сгенерированная дезинформация. Он не будет последним.

Эта жесткая стратегия замедлила внедрение генеративных технологий, ориентированных на потребителя. ИИ в стране. Ernie Bot, созданный Baidu, другой технологической фирмой, был готов примерно во времена Chat. GPT был выпущен, но выпущен только девять месяцев спустя, в августе — целая вечность, учитывая, как быстро развиваются технологии. Она по-прежнему неуклюжа, когда дело доходит до выражения своей преданности партии. Когда ему задают деликатные вопросы о Си Цзиньпине, оно послушно подвергает цензуре, не предлагая ответа и удаляя вопрос.

Модельные социалисты

При большей работе партия, возможно, сможет добиться ИИ моделирует не просто хороших коммунистов, но и бегло владеющих языком. Это устранило бы необходимость в цензуре ex post, говорит Лучано Флориди из Йельского университета. Однако власти, похоже, не торопятся с этим. Вместо этого они продвигают бизнес-приложения этой технологии.

В отличие от потребительского ИИ предприятие ИИ сталкивается с небольшими ограничениями в развитии, отмечает Мими Цзоу из исследовательского института Оксфордской школы Мартина. Как объясняет Стивен Рольф из британского аналитического центра Digital Futures at Work Research Centre, это приводит к перенаправлению капитала и рабочей силы от таких вещей, как потребительские чат-боты, к машинному обучению для бизнеса. Правительство, судя по всему, делает ставку на то, что это позволит Китаю догнать и даже перегнать Америку в области искусственного интеллекта без хлопот, связанных с потенциально подрывной деятельностью. ИИ -генерируемый контент.

В мае южный город Шэньчжэнь объявил о запуске проекта стоимостью 100 млрд юаней (14 млрд долларов США). ИИ -ориентированный инвестиционный фонд, крупнейший в своем роде в мире. Ряд городских властей создали аналогичные инвестиционные фонды. Большая часть этих денег пойдет таким фирмам, как Qi An Xin, предлагающим генеративные технологии. ИИ который управляет рисками безопасности данных для компаний. Компания утверждает, что бот может выполнять работу 60 экспертов по безопасности 24 часа в сутки. Прежде чем выйти на биржу в 2020 году, он, как и многие подобные стартапы, получил крупные инвестиции от государственных компаний.

Чтобы эта стратегия сработала, предприятие ИИ фирмам нужен правильный вид сырья. Потребительские чат-боты используют ИИ модели, обученные на участках общедоступного Интернета. Корпоративным приложениям нужны корпоративные данные, большая часть которых хранится внутри компаний. Таким образом, другой элемент стратегии Китая — превратить корпоративные данные в общественное благо. Государство не хочет владеть данными, но, как и в случае с другими факторами, хочет контролировать каналы, по которым они передаются.

С этой целью правительство поощряет обмен данными. Они предназначены для того, чтобы позволить предприятиям торговать информацией, упакованной в стандартизированные продукты, обо всех сферах коммерческой жизни, от деятельности на отдельных заводах до данных о продажах в отдельных магазинах. Малые фирмы получат доступ к знаниям, которые раньше принадлежали технологическим гигантам. Банки и брокеры получат картину экономики в реальном времени.

Китайские города начали обмениваться данными около десяти лет назад. Сейчас их около 50 по всему Китаю. И они наконец набирают скорость. Шанхайский обмен данными ( СДЕ ), запущенная в 2021 году, начала заниматься рядом новых продуктов для обработки данных. В одной из первых сделок ICBC , банк купил информацию из энергетического сектора. Это можно использовать для оценки энергопотребления компаний и, поскольку оно отражает реальный уровень активности, для создания альтернативных кредитных профилей для компаний. СДЕ продает полученные со спутников данные о производстве стали в центре Китая и экологических нарушениях горнодобывающих компаний. Другой продукт предоставляет в режиме реального времени данные о врачах, медсестрах и больничных койках по всей стране, чтобы помочь медицинским фирмам принимать бизнес-решения. СДЕ также экспериментирует с использованием данных в качестве залога по кредитам.

По словам Тома Нанлиста из консалтинговой компании Trivium в Пекине, в масштабе передача данных в промышленности может обеспечить значительный экономический рост. И вскоре на биржи могут поступить дополнительные данные. В августе центральное правительство поручило государственным компаниям подумать о том, как оценить их данные. В последние несколько месяцев группы аудиторов пытались придумать способы сделать это, чтобы добавить такие данные в балансы компаний в качестве нематериальных активов. Они должны представить отчет к 1 января (хотя этот срок, похоже, будет пропущен, учитывая беспрецедентный характер задачи).

Ставка правительства на предпринимательство ИИ однако не без проблем. Ярким примером является автомобильная промышленность. В 2022 году около 185 миллионов автомобилей на китайских дорогах имели подключение к Интернету, а национальный план предусматривает массовое производство полуавтономных автомобилей к 2025 году. Чтобы это произошло, компаниям, разрабатывающим алгоритмы беспилотного вождения, необходимо много данных для обучения своих систем. Компания под названием ВИКВ создает платформу для данных, которые начинают поступать из автомобилей.

На данный момент, ВИКВ возвращает данные об автомобиле автопроизводителю, который его построил, поэтому БИД получает данные от BYD , Нио из Ниоса и так далее. Но в конечном итоге планируется, что данные будут продаваться на биржах, где их смогут покупать другие разработчики систем беспилотного вождения. Однако для того, чтобы это произошло, данные о вождении сначала должны быть «снижены чувствительностью», объясняет Чу Вэньфу. ВИКВ Основатель компании, удаляя биометрические данные и данные геолокации, которые могли бы помочь злоумышленникам отслеживать перемещения конкретных людей.

Возможность такого отслеживания пугает китайские власти. Основной причиной, по которой они расправились с Didi Global через несколько дней после первичного публичного размещения акций компании по вызову пассажиров в Нью-Йорке в 2021 году, было, как позже выяснилось, опасение, что данные о 25 миллионах ежедневных поездок Didi, включая информацию о геолокации, связанную с пассажирами, могут упасть. в руки американских властей. Китайское правительство превентивно составляет карту обширных территорий Китая, где сбор данных потенциально может представлять угрозу национальной безопасности.

Многие автопроизводители, в том числе западные, такие как BMW , у них нет другого выбора, кроме как объединиться с поддерживаемыми государством компаниями для обработки информации о вождении и обеспечения соблюдения местных правил соответствия данных. На всякий случай некоторые автомобильные компании отказываются от некоторых функций, например, от возможности водителям просматривать на своих телефонах живые кадры того, что происходит внутри и снаружи автомобиля. В конце концов, некоторые из этих кадров могут случайно запечатлеть что-то конфиденциальное.

Такой компромисс между инновациями и безопасностью вряд ли будет ограничиваться автомобилями. Другие промышленные и корпоративные данные, вероятно, также потребуют снижения чувствительности, прежде чем их можно будет продавать в больших масштабах на биржах. Это замедлит развитие предпринимательства ИИ , даже если алгоритмы остаются раскованными. Это цена, которую партия, похоже, готова заплатить за свою паранойю. ■