Соучредитель OpenAI, а ныне глава Safe Superintelligence, Илья Суцкевер изложил свое видение следующего этапа эволюции технологий искусственного интеллекта.
Десять лет назад он получил премию «Испытание временем» за свое новаторское исследование, написанное в соавторстве с Ориолом Виньялсом и Куоком Ле, которое популяризировало идею масштабирования данных для предварительной подготовки систем ИИ. Эта концепция проложила путь для преобразующих технологий, таких как ChatGPT от OpenAI, запущенный в 2022 году, который произвел революцию во взаимодействии человека и машины. Однако сейчас Илья Суцкевер предупреждает, что эта методология приближается к своему пределу.
В то время как вычислительная мощность продолжает расти экспоненциально, доступность данных становится все более ограниченной. По его мнению, дальнейший рост технологии ИИ потребует выхода за рамки простого масштабирования данных и вычислительной мощности.
В его понимании, следующей ступенью развития искусственного интеллекта станут сверхразумные системы, которые будут способны рассуждать на уровне человека или даже превосходить его. Эти системы не только будут решать сложные проблемы, но и демонстрировать самосознание. И именно в этом скрываются вероятные проблемы.
«Чем больше он [искусственный интеллект] рассуждает, тем более непредсказуемым он становится», — предупредил Суцкевер, указав на случаи, когда ИИ демонстрировал неожиданную гениальность. Он сослался на легендарный 37-й ход AlphaGo во время матча 2016 года против чемпиона Ли Седоля, маневр настолько необычный, что он сбил с толку всех комментаторов, но в конечном счете оказался решающим. Современные шахматные модели с искусственным интеллектом часто делают ходы, которые бросают вызов пониманию даже самых опытных игроков.
GigaChat сдал экзамен на врача
Эта непредсказуемость, возникает из-за того, что системы рассуждений исследуют обширные деревья решений, рассматривая бесчисленные возможности, прежде чем прийти к решению. Такая сложность делает практически невозможным предвидеть их действия, что резко контрастирует с более предсказуемым поведением сегодняшних моделей.
Суцкевер утверждает, что ИИ, каким мы его понимаем сейчас, станет «радикально другим», превратившись в системы, которые кардинально изменят то, как мы взаимодействуем с технологиями и как машины интегрируются в общество.
Гарвард открыл нейросетям доступ к своей библиотеке
С точки зрения бизнеса, эволюционный скачок в технологиях может существенно повлиять на глобальный рынок. Компании, способные разрабатывать рассуждающий ИИ, получат явное преимущество, добиваясь инвестиций и быстрого роста.
С точки зрения безопасности и здравого смысла, непредсказуемость искусственного интеллекта будет крайне опасна при использовании ее в некоторых системах. Человечеству лишь предстоит найти баланс между использованием огромного потенциала этих систем и снижением не менее огромных рисков.