Б Линг внутри воздух. 9 сентября Apple представила свою последнюю серию iPhone 16 на мероприятии под названием «It’s Glowtime». Название отсылало к блеску вокруг Siri, ее усовершенствованного голосового помощника. Но он вполне соответствовал новому цвету самой эффектной модели iPhone 16 Pro: «пустынный титан» — другими словами, золотой.

Однако чего-то не хватало. Тим Кук, глава Apple, преувеличил обещание создания в телефонах генеративного искусственного интеллекта ( ИИ ) функции, которые он с большой шумихой продвигал в июне под прозвищем «Apple Intelligence». Хотя устройства оснащены новым сверхбыстрым процессором Apple А 18 чипов для питания ИИ Покупателям iPhone придется подождать как минимум до октября, чтобы увидеть первые функции. Демо-версии выглядят скучно. Если вы наведете камеру на ресторан, Apple Intelligence сможет узнать, что в меню. Вы можете набрать запрос к Siri, а также задать ей вопросы. Инвесторы надеются, что со временем они станут более разговорными и персонализированными. ИИ функции перезагрузят продажи iPhone, на которые приходится около половины доходов Apple, но в последнее время они упали (см. график). Они могли бы подождать некоторое время.

Apple — одна из многих компаний, которые хотят использовать генеративную ИИ за пределами гигантских центров обработки данных, известных как облако, и запускать их на меньших устройствах, известных как периферия. Samsung, главный конкурент Apple в области смартфонов, получил преимущество, выпустив Galaxy С 24 с некоторыми ИИ особенности ранее в этом году. То же самое сделала и Microsoft, выпустившая Windows. ПК он предназначен для ИИ называемый Copilot+. Но в целом рынок все еще открыт. Взломать его будет непросто.

Большинство больших языковых моделей ( Магистр права s) обучаются с помощью графических процессоров ( графический процессор s), которые потребляют столько энергии, что для их питания может потребоваться атомная электростанция. Им также нужны огромные объемы памяти и непостижимые объемы данных. Все это может стоить сотни миллионов долларов.

Даже если они обучены, эксплуатация этих мегамоделей обходится дорого. По одной из оценок, это стоит Открыть ИИ создатель Чата GPT 36 центов каждый раз, когда кто-то задает боту вопрос. Вместо этого на периферийных устройствах используются модели меньшего размера, созданные на основе своих старших облачных братьев. Это дешевле, а также быстрее. Цель состоит в том, чтобы достичь такого низкого уровня задержки, чтобы время отклика казалось почти человеческим. Край ИИ также может узнать о пользователе по его взаимодействию с его устройством (Apple называет это «семантическим индексированием»).

Однако на практике смещение ИИ до края не так просто. Одна проблема — производительность. Сложные запросы, такие как использование ИИ бот для планирования отпуска все равно потребует более умных облачных технологий Магистр права с. Другая проблема — вычислительная мощность. Еще меньше ИИ моделям для работы требуется очень много энергии, что быстро разряжает аккумуляторы устройства.

Компании экспериментируют с различными решениями. Apple Intelligence будет предлагать на устройстве ИИ в качестве первого пункта захода, но отправляйте более сложные запросы в частное облако фирмы. Сервис будет направлять самые уникальные запросы сторонним организациям. Магистр права например, чат GPT . Apple обещает сделать это только с разрешения пользователя, но подход все еще может беспокоить тех, кто заботится о конфиденциальности. Устройства, особенно смартфоны, имеют доступ к огромному количеству персональных данных пользователей: кому они звонят, где живут, что тратят, как выглядят. Некоторые могут предпочесть, чтобы это было генеративно ИИ инструменты используют такую ​​информацию, она остается на устройстве.

Технологические компании также используют альтернативы графический процессор которые используют меньше энергии, такие как нейронные процессоры ( НПУ с), бежать ИИ модели на грани. Qualcomm, которая производит НПУ s и различных других чипов для периферийных устройств, говорится о максимизации «производительности на ватт». По сравнению с графический процессор s, чьи затраты могут быть заоблачными, НПУ также дешевле. В конце концов, никому не нужен телефон, который стоит столько же, сколько центр обработки данных.

Многие фирмы заинтересованы в смене ИИ устройствам. Облачный Магистр права сильно зависят от Nvidia, ведущего производителя графический процессор с. Но в краю ИИ «Никто не доминирует», — говорит Танер Озчелик, управляющий Mythic, стартапом, производящим энергоэффективные чипы для ИИ устройства.

Хотя ни одна отдельная фирма не может получить столько выгоды от преимуществ ИИ Как и в случае с облачными решениями у Nvidia, крупные победители все равно будут, говорит Нил Шах из исследовательской фирмы Counterpoint. Запуск этой технологии может не только вызвать суперцикл продаж устройств, но и создать новые возможности для приложений и цифровой рекламы. На данный момент, однако, край ИИ едва готов к выступлению, не говоря уже о Glowtime. ■

Чтобы быть в курсе самых важных новостей в сфере бизнеса и технологий, подпишитесь на Bottom Line, наш еженедельный информационный бюллетень, предназначенный только для подписчиков.