Некоторые эксперты в области искусственного интеллекта начали задумываться о «сингулярности». То, что они видят, пугает их.
В 1993 году учёный-компьютерщик и писатель-фантаст Вернор Виндж предсказал, что в течение трёх десятилетий у нас появятся технологии для создания формы интеллекта, превосходящей наш собственный. «Вскоре после этого эра людей закончится», — сказал Виндж.
Как бы то ни было, 30 лет спустя идея искусственно созданного существа, способного превзойти — или, по крайней мере, сравняться — с человеком, уже не является прерогативой спекулянтов и авторов. Ряды исследователей ИИ и технологических инвесторов стремятся к тому, что они называют искусственным общим интеллектом (AGI): существу, способному выполнять интеллектуальные задачи на уровне человека. Если люди создадут успешный AGI, как считают некоторые исследователи, «конец человеческой эры» перестанет быть отдалённой перспективой.
[По теме: Нет, чат-боты с искусственным интеллектом всё ещё не обладают разумом]
Футурологи часто приписывают Вингу популяризацию того, что многие комментаторы называют «сингулярностью». Он считал, что технологический прогресс в конечном счёте может привести к появлению сущности, превосходящей человеческий мозг по своим возможностям. Её появление в обществе изменит мир до неузнаваемости — «изменит его так же, как появление жизни на Земле», по словам самого Винга.
Возможно, проще всего представить себе Сингулярность как мощный искусственный интеллект, но Виндж представлял её по-другому. Биотехнологические или электронные усовершенствования могут сделать человеческий мозг быстрее и умнее, сочетая, скажем, интуицию и креативность человеческого разума с процессором и доступом к информации компьютера, чтобы совершать сверхчеловеческие подвиги. Или, в качестве более приземлённого примера, подумайте о том, что среднестатистический пользователь смартфона обладает способностями, которые поразили бы путешественника во времени из 1993 года.
«Суть в том, что как только машины берут на себя процесс научных и инженерных разработок, прогресс становится настолько стремительным, что вы не можете за ним угнаться», — говорит Роман Ямпольский, специалист по информатике из Университета Луисвилля.
Уже сейчас Ямпольский видит микрокосм этого будущего в своей области, где исследователи ИИ быстро публикуют невероятное количество работ. «Как эксперт, вы больше не знаете, что является передовым, — говорит он. — Всё развивается слишком быстро».
Что такое сверхчеловеческий интеллект?
Хотя Виндж не описывал ни одного конкретного пути к Сингулярности, некоторые эксперты считают, что ИИ общего назначения — это ключ к достижению Сингулярности с помощью компьютерных технологий. Другие утверждают, что этот термин — бессмысленное модное словечко. В целом он описывает систему, которая соответствует человеческим возможностям в выполнении любых интеллектуальных задач.
Если мы разработаем сверхразумный искусственный интеллект, это может открыть двери в будущее, в котором будет создан сверхчеловеческий интеллект. Если применить этот интеллект к исследованиям, он сможет создавать новые открытия и технологии с головокружительной скоростью. Например, представьте гипотетическую систему искусственного интеллекта, которая будет лучше любого учёного-компьютерщика в реальном мире. Теперь представьте, что этой системе, в свою очередь, поручат разрабатывать более совершенные системы искусственного интеллекта. Некоторые исследователи считают, что результатом может стать экспоненциальное ускорение развития возможностей искусственного интеллекта.
[По теме: Инженеры наконец заглянули внутрь глубокой нейронной сети]
Это может представлять проблему, потому что мы не до конца понимаем, почему многие системы искусственного интеллекта ведут себя именно так - проблема, которая, возможно, никогда не исчезнет. Работа Ямпольского предполагает, что мы никогда не сможем достоверно предсказать, на что будет способен AGI. По мнению Ямпольского, без этой способности мы не сможем надежно контролировать это. Последствия этого могут быть катастрофическими, говорит он.
Но предсказать будущее сложно, и исследователи ИИ по всему миру далеко не единодушны в этом вопросе. В середине 2022 года аналитический центр AI Impact опросил 738 исследователей на тему вероятности сценария, похожего на «Сингулярность». Они обнаружили раскол: 33% ответили, что такая судьба «вероятна» или «весьма вероятна», а 47% ответили, что это «маловероятно» или «совсем маловероятно».
«Мне кажется, что это отвлекает от проблем, которые действительно важны».
САМИР СИНГХ, СПЕЦИАЛИСТ ПО ИНФОРМАТИКЕ
Самир Сингх, учёный-компьютерщик из Калифорнийского университета в Ирвайне, говорит, что отсутствие чёткого определения ИИ — и Сингулярности, если уж на то пошло, — затрудняет эмпирическое изучение этих концепций. «Это интересные академические темы для размышлений, — объясняет он. — Но с точки зрения влияния я думаю, что в обществе может произойти гораздо больше событий, которые не будут связаны с преодолением этого порога».
Действительно, Сингх обеспокоен тем, что сосредоточение внимания на возможном будущем затушевывает вполне реальные последствия, которые уже оказывают неудачи или безумства искусственного интеллекта. “Когда я слышу о выделении ресурсов на AGI и об этих долгосрочных последствиях, я чувствую, что это отвлекает от проблем, которые действительно важны”, - говорит он. Уже хорошо известно, что модели могут создавать расистские, сексистские и фактически некорректные результаты. С юридической точки зрения контент, созданный искусственным интеллектом, часто противоречит законам об авторском праве и конфиденциальности данных. Некоторые аналитики начали обвинять ИИ в провоцировании увольнений и сокращении рабочих мест.
«Гораздо интереснее говорить о том, что мы достигли научно-фантастической цели, чем о реальных вещах, — говорит Сингх. — Я нахожусь примерно в такой же ситуации, и я чувствую, что многие из тех, с кем я работаю, находятся примерно в такой же ситуации».
Нужен ли нам AGI?
Реакция на будущее, основанное на искусственном интеллекте, отражает один из многих более масштабных расколов в сообществе, занимающемся созданием, тонкой настройкой, расширением и мониторингом моделей. Пионеры в области компьютерных наук Джеффри Хинтон и Йошуа Бенжио недавно выразили сожаление и растерянность из-за того, что, по их мнению, ситуация выходит из-под контроля. Некоторые исследователи призвали к шестимесячному мораторию на разработку систем искусственного интеллекта, более мощных, чем GPT-4.
Ямпольский поддерживает призыв к приостановке, но он не считает, что полугода — или года, или двух лет, или любого другого промежутка времени — будет достаточно. Он недвусмысленно заявляет: «Единственный способ победить — не делать этого».
Ещë много интересного контента в нашем канале "Наука познавания"!!!