Инновации становятся все более трудными. Мало того, что компании тратят все больше средств на исследования, но и исследователи становятся все менее и менее продуктивными. Таковы выводы американского исследования, опубликованного в 2020 году. Они применимы как к ИТ, так и к сельскому хозяйству и медицине. Однако LLM (большие языковые модели) дают новую надежду, которая обещает произвести революцию в исследованиях. Производительность исследователей, использующих эти LLM, может быть значительно увеличена.

Закон Мура — прекрасный пример снижения производительности

Закон Мура предполагает, что плотность транзисторов удваивается каждые 2 года. Это соответствует постоянное 35% ежегодное увеличение плотности. В период с 1970 по 2020 год закон Мура полностью соблюдался (см. график ниже). Это, несомненно, стало целью для производителей, которые приложили беспрецедентные усилия в области исследований для ее достижения (это само по себе является добродетельным применением закона Гудхарта).

Четыре автора статьи показывают, что число исследователей, необходимых для удвоения количества транзисторов, в 18 раз больше, чем в 1970 году. Достижение целей, установленных законом Мура, предполагает постоянное ежегодное увеличение плотности транзисторов на 35%. В период с 1970 по 2015 год исследователи проанализировали расходы на исследовательский персонал всех компаний, занимающихся разработкой чипов. Результаты ясны из графика ниже, взятого из их статьи.

Как пишут авторы исследования:

«Научно-исследовательские усилия выросли в 18 раз с 1971 года. Это увеличение происходит в то время, когда темпы роста плотности чипов более или менее стабильны: постоянный экспоненциальный рост, подразумеваемый законом Мура, был достигнут только за счет массового увеличения количества ресурсов. посвятил себя продвижению границ вперед».

Это 18-кратное увеличение количества исследователей в конечном итоге соответствует среднегодовому падению производительности на 6,8%.

Почему это? Достижение целей закона Мура означает еще больше отодвинуть технические и физические ограничения (точность травления, рассеивание тепла). За этим «падением производительности» с течением времени скрываются экспоненциальные технологические проблемы. Мы можем поблагодарить Гордона Мура, чье предсказание в 1965 году, несомненно, превратилось в неосознанную индустриальную цель, которая помогла продвинуть информатику вперед.

Сельскохозяйственные исследования не справляются с проблемами производительности

Конечно, исследовательские задачи не ограничиваются вычислениями. Сельское хозяйство является еще одной областью, где исследования имеют решающее значение для решения проблем планеты. Объединив все виды сельскохозяйственных культур, авторы показывают, что возможности повышения урожайности (синяя линия) снижаются, в то время как в то же время исследовательские усилия увеличиваются (зеленые линии).

График, по общему признанию, читается не так легко, как график, касающийся закона Мура. Но выводы те же. Проще говоря, требуется больше исследователей, чтобы проводить меньше исследований, чем раньше. В период с 1970 по 2007 год снижение производительности сельскохозяйственных исследований составляло в среднем 3,7% в год.

Авторы более подробно проанализировали исследовательскую деятельность по типам культур: кукуруза, пшеница, соя и хлопок. И, конечно же, результаты на этом уровне также согласуются (см. изображение ниже). Что касается кукурузы и сои, число исследователей увеличилось на 24 в период с 1970 по 2010 год.

Медицина дает пациентам все меньше и меньше надежды

Если и есть область, в которой исследовательская деятельность видна широкой публике, так это медицинские исследования. Поиск лекарств от болезней, которые мешают нам стареть, является приоритетом.

• количество лет жизни, «сэкономленных» при различных видах заболеваний (рак, рак молочной железы, болезни сердца)
• Количество научных публикаций по этим различным заболеваниям как показатель исследовательской деятельности.

Они показывают, что исследовательские усилия растут линейно, а результаты исследований уменьшаются. Какое бы заболевание ни исследовали, результаты одинаковы.

Выводы

Становится все больше работы по поддержанию темпов инноваций. Однако вы измеряете результаты (количество транзисторов, урожайность, сэкономленные годы жизни), и над этим работает все больше исследователей.

«Доходность» исследований постоянно снижается, потому что их просто «найти» становится все сложнее. Мы отодвигаем границы материи, пределы жизни, чтобы попытаться улучшить то, что можно улучшить. Но выходить за эти рамки становится все труднее. Это объясняет, почему отдельные исследователи становятся все менее и менее эффективными. Итак, они ведут всё больше, чтобы идти в ногу (закон Мура), а иногда этого даже недостаточно (сельское хозяйство, медицина).

Именно здесь LLM (большие языковые модели) приносят надежду. Эта революционная технология может позволить этим же исследователям добиться повышения производительности. Первые испытания были многообещающими. Хакатон выявил различные преимущества повышения производительности при поиске новых материалов. LLM также может упростить открытие новых лекарств. Короче говоря, помимо таких единичных приложений, как создание контента, LLM открывают поле возможностей, которые, вероятно, повысят производительность исследователей во всех областях.

Эта статья Становится все труднее и труднее генерировать идеи — это лучший инструмент для консалтинга в области маркетинговых исследований.

прямой эфирпромо канала