Крупные успехи искусственного интеллекта ускоряют исчерпание новых идей — NauLife Перейти к содержанию

Крупные успехи искусственного интеллекта ускоряют исчерпание новых идей

Д
Дмитрий Автор
schedule 4 мин visibility 0 просм.
Крупные успехи искусственного интеллекта ускоряют исчерпание новых идей
Масштабный анализ более семи миллионов научных статей показал, что каждый следующий крупный успех технологий машинного обучения стягивает на себя ресурсы исследователей и быстрее исчерпывает запас свежих идей для будущих прорывов.

Исследователи Бейчен Лу, Хунлинь Бао, Ци Хуан, Цинго Мэн и Джеймс Эванс из Университета Цинхуа, Чикагского университета и Института Санта-Фе опубликовали в препринте на сервере arXiv масштабный анализ развития компьютерных наук за последние 36 лет. В индустрии искусственного интеллекта принято считать, что открытия прямо зависят от масштаба ресурсов: чем больше учёных, публикаций, вычислительных мощностей и инвестиций вовлечено в работу, тем быстрее движется прогресс. Авторы проверили эту предпосылку на массиве из более чем 7,1 миллиона научных статей с 1990 по 2025 год и выяснили, что чрезмерная концентрация внимания вокруг одной успешной технологии истощает концептуальное разнообразие, необходимое для следующего прорыва.

Переток внимания и кадров

До 2017 года распределение исследовательского внимания в компьютерных науках оставалось стабильным на протяжении почти трёх десятилетий. Учёные измерили это распределение с помощью коэффициента Джини для ключевых слов в аннотациях статей, где ноль означает полное равенство тем, а единица — сосредоточенность всех авторов на одном понятии. Показатель держался на отметке 0,26 и не реагировал на спады интереса к нейросетям в девяностые годы, появление интернета, распространение смартфонов или появление свёрточных сетей в 2012 году. Ситуация изменилась после публикации статьи об архитектуре трансформеров в 2017 году: за следующие восемь лет коэффициент Джини вырос на 27% и достиг 0,33. Одновременно неравенство в цитированиях статей поднялось с 0,60 до пикового значения 0,69.

Внимание сообщества изменило структуру всей отрасли. Доля статей по искусственному интеллекту среди всех публикаций в компьютерных науках составляла 40% в 2017 году, а к 2025 году превысила 55%. Направления архитектуры вычислительных систем и теоретической информатики при этом столкнулись с оттоком авторов. Из 918 862 зафиксированных переходов исследователей между дисциплинами 53,8% вели в область машинного обучения.

Основу этого потока составили опытные специалисты середины карьеры. Вероятность перехода в область машинного обучения достигает пика в академическом возрасте около 32 лет (в среднем 31,8 года с момента выхода первой статьи) и среди авторов на 82-м процентиле по цитируемости или числу публикаций. Начинающие исследователи обычно продолжают работать по теме своей диссертации, а учёные на поздних этапах карьеры редко меняют специализацию. Состоявшиеся исследователи переходят в сферу машинного обучения даже вопреки издержкам: смена темы на несколько лет снижает регулярность выхода публикаций. При этом стабильно высокая текущая продуктивность и многолетняя работа над одной темой удерживают авторов в своей области, а паузы в публикациях повышают вероятность смены профиля.

Почему система рецензирования теряет уверенность

Смещение исследовательского фокуса вызвало ощутимое напряжение в академической экспертизе. Авторы статьи изучили 73 089 рецензий на 26 731 работу, поданную на 45 конференций платформы OpenReview с 2017 по 2025 год. За этот период средняя уверенность рецензентов в собственных оценках снизилась с 3,9 до 2,9 балла по пятибалльной шкале. Показатель упал не только на профильных конференциях по машинному обучению, но и на мероприятиях по другим разделам информатики.

Падение уверенности связано с тремя факторами. Стремительный рост числа заявок привёл в составы программных комитетов много неопытных экспертов. Одновременно методы машинного обучения стали массово проникать в прикладные статьи из других областей, где рецензентам не хватает профильной подготовки для оценки нейросетевых архитектур. Наконец, организаторам конференций стало технически трудно подбирать компетентных рецензентов под узкие темы, из-за чего итоговый отбор докладов стал более случайным.

Анализ тональности отзывов с помощью языковой модели ParaDetox показал, что резкость и грубость формулировок рецензентов устойчиво росли после 2017 года. Единственное временное снижение произошло в 2021 году, когда конференция NeurIPS перевела рецензирование на публичную платформу OpenReview, сделав отзывы открытыми для сообщества. Однако после этого кратковременного спада показатели резкости возобновили рост.

Сжатие инновационных циклов и биологическая параллель

Чтобы проследить круговорот концепций, авторы выделили из заголовков и аннотаций устойчивые понятия — слова и словосочетания, которые встречаются минимум в десяти статьях за год и сохраняются на следующий год. Если понятие исчезает из стабильного набора на три года подряд, его относили к угасшим. Каждый технологический скачок — появление свёрточной сети AlexNet в 2012 году, трансформеров в 2017 году и больших языковых моделей в 2022 году — резко поднимал планку общей ёмкости идей в науке. При этом каждый следующий цикл исчерпывал себя быстрее предыдущего. После 2012 года спад разнообразия шёл умеренно, после 2017 года он стал глубоким, а в волне языковых моделей после 2022 года число активных понятий начало снижаться ещё до выхода на расчётный предел.

Аналогичную закономерность исследователи зафиксировали в структурной биологии на массиве публикаций с 2010 по 2025 год. В этой дисциплине произошли две последовательные технологические революции: внедрение криоэлектронной микроскопии высокого разрешения и появление алгоритма предсказания структуры белков AlphaFold. Доля новых терминов в криоэлектронной микроскопии начала падать ещё до официального признания метода технологией 2015 года журналом Nature Methods. Алгоритм AlphaFold вызвал вторую волну активных понятий, но в основном за счёт возвращения биологов к старым нерешённым структурам белков, тогда как приток принципиально новых концепций оказался заметно ниже, чем в эпоху микроскопии.

Ограничения расчётов и ловушка взаимной оценки

Попытки научных сообществ справиться с наплывом статей с помощью административных мер несут скрытые риски. На нескольких крупных конференциях по машинному обучению ввели правило взаимного рецензирования: число назначаемых рецензенту статей привязали к количеству поданных им самим работ. Авторы проверили эту практику на агентной компьютерной модели со 100 виртуальными исследователями. Моделирование показало, что при строгой взаимности высокопродуктивные авторы заполняют пул рецензентов. Оценивая чужие рукописи с позиций собственного научного вкуса, они систематически отклоняют работы с альтернативными подходами, что ускоряет сужение разнообразия тем.

У проведённого исследования есть несколько методологических ограничений. Вывод о более быстром затухании цикла больших языковых моделей опирается на короткий трёхлетний отрезок с 2022 по 2025 год, поэтому авторы считают его предварительным. Влияние взаимного рецензирования проверено только на упрощённой имитационной модели, а не на реальной статистике конференций. Выделение идей через существительные и словосочетания является приближением, которое не всегда отделяет концептуальную новизну от терминологической моды. Кроме того, разбиение всех компьютерных наук всего на три категории маскирует междисциплинарные гибридные проекты вроде разработки специализированных микросхем.

На основе полученных результатов авторы предлагают изменить правила научной политики: вместо дополнительного поощрения победившего направления фондам стоит поддерживать когнитивное разнообразие и поисковые рискованные темы, а при отборе рецензентов ориентироваться на новизну идей, а не на валовую продуктивность исследователей.

Научные новости в Telegram — t.me/naulife_ru

Поделиться

ВКонтакте Telegram

Читайте также