До недавних пор генеративный искусственный интеллект развивался так быстро, что достижение масштабных прорывов в отрасли казалось лишь вопросом времени. Но в последние недели в Кремниевой долине все больше беспокоятся о том, что прогресс замедляется.
Одним из первых признаков стало отсутствие существенной разницы между моделями, которые выпускают крупнейшие игроки в этой области. Издание The Information сообщает, что OpenAI ожидает значительно меньшего повышения качества своей следующей модели GPT-5, в то время как Anthropic отложила выпуск своей самой мощной модели Opus. Даже новая версия Google не оправдывает надежд самой компании.
Последним взрывным событием в сфере ИИ стал выход ChatGPT, и это случилось в конце 2022 года, то есть уже почти два года назад, сказал CNBC основатель Niles Investment Management Дэн Найлс.
"Изначально наблюдался огромный рост в плане того, на что способны все эти новые модели, а сейчас вы действительно их всех обучили, и повышение производительности как бы выравнивается", - уточняет он.
Если прогресс застопорится, это поставит под сомнение основное предположение, к которому Кремниевая долина относится как к религии: законы масштабирования. Идея заключается в том, что увеличение вычислительной мощности и объема данных гарантирует бесконечное улучшение моделей. Но вышеназванные недавние разработки предполагают, что это может быть скорее теорией, чем законом.
Ключевая проблема может заключаться в том, что компаниям, работающим с ИИ, не хватает данных для обучения моделей, и они сталкиваются с тем, что эксперты называют "информационной стеной". В итоге они обращаются к синтетическим данным или данным, сгенерированным ИИ. Но это временное решение, считает основатель Scale AI Александр Ван.
"ИИ - это отрасль, которая мусорит на входе и мусорит на выходе. И если вы добавите в эти модели много ИИ-абракадабры, они просто будут выдавать еще больше ИИ-абракадабры", - сказал он.
Но некоторые лидеры отрасли не согласны с идеей о том, что прогресс упираются в стену. "Масштабирование базовой модели продолжается", - заявил генеральный директор Nvidia Дженсен Хуан. "Стены нет" - написал генеральный директор OpenAI Сэм Альтман в одной из социальных сетей. А Google утверждает, что доволен прогрессом в разработке Gemini и отмечает значительный рост производительности в таких областях, как логическое мышление и кодирование.
Если ускорение ИИ будет исчерпано, следующим этапом гонки станет поиск вариантов использования - потребительских приложений, которые могут быть созданы на основе существующих технологий без необходимости дальнейшего улучшения модели.