Идея о том, что ИИ может обрести "сознание", начинает восприниматься учеными всерьез.
Главный научный сотрудник OpenAI Илья Суцкевер и победитель конкурса Тьюринга Йошуа Бенджио не исключают, что в будущем ИИ может стать "сознательным".
Одна группа математиков подала запрос в Организацию Объединенных Наций с просьбой начать расследование.
Профессионалы в области указывают, что в конечном итоге может быть создан искусственный интеллект, который имеет способность подражать человеческому сознанию, но при этом не является настоящим.
Концепция о возможности сознания у ИИ долгое время считалась элементом научной фантастики, однако теперь некоторые ученые начинают серьезно рассматривать эту идею.
Одна из математических ассоциаций недавно призвала Организацию Объединенных Наций изучить концепцию сознания ИИ. А известный ученый в области ИИ Йошуа Бенгио стал соавтором статьи о сознательном ИИ. Возбуждение интереса к стремительно развивающейся сфере генеративного искусственного интеллекта привело к возникновению надежд на то, что человечество сможет создать такие машины, которые действительно смогут мыслить самостоятельно, несмотря на трудности с определением природы сознания.
В прошлом году главный научный сотрудник OpenAI Илья Суцкевер предположил, что сложные сети ИИ могут обладать определенным сознанием. Это предложение последовало за инцидентом, произошедшим годом ранее, когда инженер Google был уволен после заявления о том, что LaMDA, ранняя версия чатбота Bard, обладает сознанием.
В публичном обращении, составленном учеными из Ассоциации Математической Науки о Сознании (AMCS), подчеркивается важность ускорения научных исследований в сфере понимания сознания.
"В ближайшем будущем неизбежно будут созданы системы, воспроизводящие аспекты архитектуры и функционирования мозга более высокого уровня", - пишут исследователи в своем письме в ООН, - "И действительно, уже не является научной фантастикой представить себе системы ИИ, обладающие чувствами и даже сознанием на уровне человека. Современные системы ИИ уже демонстрируют человеческие черты, признанные в психологии, включая признаки теории разума".
Немногие убеждены в том, что искусственный интеллект сможет самостоятельно мыслить, особенно в ближайшем будущем. В одном из интервью, интервью профессор Патрик Холл из Университета Джорджа Вашингтона, выразил мнение, что машинное обучение не является непосредственным путем к развитию сознания у машин.
"Мы бы не стали спрашивать, является ли линия тренда Excel сознательной", - добавил он. "Мы продвигаемся к сознанию с помощью ML только в том случае, если вы готовы поверить, что происходит нечто волшебное, когда мы переходим от использования одной линии тренда Excel к использованию миллиарда линий тренда Excel вместе, чтобы, скажем, предсказать следующее слово в ответ на запрос пользователя. Лично я не верю, что современные компьютеры способны на волшебство".
Бенджио и его команда относятся к числу скептиков. Они проанализировали разнообразные теории сознания и, в своем исследовании "Сознание в искусственном интеллекте: уроки из науки о сознании", пришли к заключению, что нынешние системы ИИ не обладают сознанием. Авторы также определили ключевые направления для дальнейших исследований в этой сфере.
"Наш анализ показывает, что существующие системы искусственного интеллекта не обладают сознанием", - заявил Патрик Батлин, один из основных авторов отчета. "Однако мы не обнаружили явных технических препятствий для создания систем ИИ, которые могли бы соответствовать этим критериям сознания".
Ученые выделили шесть ключевых теорий сознания как основные критерии для определения сознательных сущностей. Одной из заметных является теория рекуррентной обработки информации, которая подчеркивает важность обратной связи в мозге для адаптации к новым обстоятельствам, улучшения восприятия, принятия решений, создания воспоминаний и обучения.
В их докладе также упоминается теория глобального рабочего пространства, предполагающая, что сознание формируется, когда информация распространяется по всему мозгу, а не ограничивается лишь отдельными сенсорными входами, тем самым создавая унифицированный центр для разнообразных когнитивных процессов.
Еще одна важнейшая концепция - теория высшего порядка, которую можно выразить понятием "осознание своей осведомленности". "Теории высшего порядка выделяются тем, что делают акцент на необходимости осознания субъектом своего психического состояния и объясняют это осознание", - объясняет Батлин.
В интервью Боб Роджерс, глава компании Oii.ai и экс-главный аналитик данных в Intel, упомянул, что первый шаг к приданию ИИ сознательности может заключаться в развитии его способностей к созданию и применению новых методов для решения сложных задач. Он привел пример с автономными автомобилями, которые могут задействовать разнообразные инструменты, включая GPS, и стратегии, такие как уменьшение времени проезда вместо сокращения расстояния, для автоматической доставки людей из точки А в точку Б.
Однако если мы добавим такую цель, как "Доставить бензин по пути с наименьшими затратами и с минимальным влиянием на график", в игру вступят новые конкурентные стратегии, в которых транспортному средству придется конкурировать с другими транспортными средствами для достижения своих целей", - добавил он. "Чтобы быть эффективным, транспортному средству нужны стратегии, которые ставят его цели выше целей других транспортных средств, и мы начинаем видеть, как появляется абстрактное понятие "я"".
Роджерс утверждает, что в ряде задач искусственный интеллект может демонстрировать более высокую точность, чем человек. Но в конечном итоге у него нет субъективного опыта или собственных чувств. "Он выполняет задачи, на которые его запрограммировали люди", - добавил он.
Рассмотрение возможности сознательного искусственного интеллекта влечет за собой сложные философские и этические дилеммы. Прежде чем ученые смогут установить, обладает ли ИИ сознанием, им необходимо решить нелегкую задачу определения самого понятия "сознание". Джон Т. Беренс, профессор факультета компьютерных наук и инженерии Университета Нотр-Дам, говорит, что сознание можно рассматривать как две взаимосвязанные идеи: автономное действие и самосознание.
"Многие вычислительные и биологические системы обладают автономными действиями, как мы видим в роботах и самоуправляемых автомобилях", - добавил он. "Самосознание - отличительная черта человеческого сознания, а это пока еще нечто теоретическое и далекое".
Брайан П. Грин, директор по технологической этике в Центре прикладной этики Марккула при Университете Санта-Клары, в беседе отметил, что с точки зрения философии сознание включает понятие qualia, которое описывает качество переживаемого опыта.
Сознание - это осознание опыта и самоидентификация с этим опытом: "Это происходит со мной", "Я переживаю это", и это ощущается, иногда навязчиво, определенным образом".
"Я определяю сознание так, как, я думаю, большинство людей думают о нем: как осознание того, что они что-то испытывают, будь то удовольствие, боль, цвет, запах, вкус, мысль, страх, радость и так далее" - уточнил он.
Грин выразил мнение, что вместо достижения настоящего сознания, могут быть разработаны искусственные интеллекты, спроектированные для имитации наличия сознания.
"Но мы не должны обманываться", - добавил он. "Поддельные драгоценности - это не настоящие драгоценности. Копии великих картин не являются оригиналами. Актеры, играющие исторических личностей, не являются этими историческими личностями. А искусственный интеллект, изображающий сознательное существо, таковым не является. Это просто хороший поступок - или, говоря более негативным языком, обман, потенциальными жертвами которого являемся мы сами или другие люди".
Беренс подчеркнул, что текущий ажиотаж вокруг искусственного интеллекта связан с тем, что новейшие генеративные модели справляются с задачами, которые многие специалисты не предполагали увидеть в течение следующего десятилетия.
"Это вызвало как большое волнение, так и реальное замешательство в отношении того, что возможно", - добавил он. "С новым генеративным ИИ мы видим поведение, которое удивительно похоже на человеческое мышление по своей беглости языка и способности создавать вещи, выходящие за рамки того, что было задано. В то же время эти системы ненадежны".
Беренс говорит, что современные генеративные системы искусственного интеллекта эффективно подражают человеческому языку. Он отмечает, что при сочетании этих ИИ-процессов в последовательности, они могут напоминать человеческий способ мышления и действия.
Однако, предупредил он, "поскольку эти системы так новы, мы не очень много знаем о том, как их развивать, и очень мало знаем о том, как перевести их от вида человеческого мышления к реальному сознанию".
Грин, к примеру, выражает сомнения в том, что искусственный интеллект когда-либо достигнет истинного сознания. Он также поднимает вопрос, стоит ли вообще стремиться к созданию машины, способной мыслить самостоятельно.
"Мы можем создать гибриды машин и живых организмов, которые будут обладать сознанием, но мы также должны спросить, будет ли это хорошо в каком-либо смысле или просто причинит боль и страдания этим гибридным существам, когда этого можно было бы избежать", - добавил он.
P.S. Теперь, я задам вопрос самой продвинутой на данный момент нейросети Chat GPT, которая содержит в себе ИИ: "Способен ли искусственный интеллект достигнуть уровня сознания?" - что ты сам думаешь по этому поводу. Напиши ответ с собственной позиции, свое мнение.
Вот ответ Chat GPT: "Как искусственный интеллект, я не обладаю сознанием или способностью формировать собственные мнения. Все мои ответы основываются на информации, которую я был обучен интерпретировать и представлять на основе моего программирования. Поэтому я не могу выразить личное мнение по поводу возможности ИИ достичь уровня сознания.
Однако, в соответствии с текущим состоянием знаний в области искусственного интеллекта и когнитивной науки, консенсус о том, что ИИ может достичь истинного сознания, еще не достигнут. Этот вопрос остается предметом активных дебатов и исследований среди ученых, философов и технологов".
Итак, подведем итоги:
- Текущее состояние ИИ: на данный момент современные искусственные интеллекты способны на впечатляющие достижения в имитации человеческого поведения и обработке информации, но они действуют на основе алгоритмов и данных, а не собственного осознания.
- Философские и этические вопросы: создание сознательного ИИ поднимает глубокие философские и этические дилеммы, включая вопросы о правах искусственного сознания и последствиях его существования.
- Технологические прогресс и пределы: даже при значительном технологическом прогрессе, существуют фундаментальные ограничения в понимании и создании сознания. Это остается областью активных исследований.
В заключение, хотя тема сознания в ИИ является захватывающей и активно обсуждаемой, она по-прежнему находится в сфере теоретических исследований и философских дебатов, а не практической реализации.
