Искусственный интеллект может обрести сознание незаметно для нас, пишет профессор Кембриджского университета Том Макклелланд в недавней статье для Mind & Language. Как подчеркнул ученый, на сегодняшний день считается, что у ИИ пока нет, например, чувств и субъективного опыта, но его ускоряющееся развитие делает этот вопрос все более острым. По его мнению, однажды может появиться настолько развитая нейросеть, что она начнет осознавать себя, но мы не сможем доказать это.
Исследователь напомнил о широко известной «трудной проблеме сознания»: в науке нет четкого понимания, почему определенные процессы в мозге сопровождаются субъективным опытом. Например, почему при получении ранения или даже без всяких физических травм человек испытывает страдание: робота тоже можно научить реагировать на повреждения, но мучиться он от этого не будет.
В науке о сознании возникли два противоборствующих лагеря: одни ученые утверждают, что сознание имеет «функциональную архитектуру» и может быть воспроизведено в достаточно сложной вычислительной сети, другие уверены, что для него необходима именно биологическая основа, то есть оно может возникать только у живых существ. Ни у той, ни у другой стороны нет достаточных доказательств своей правоты.
Том Макклелланд предложил рассмотреть гипотетический вариант приобретения нейросетью признаков сознания, которые мы наблюдаем у людей и животных: способность испытывать эмоции, давать себе отчет в своих действиях, делать собственные выводы и так далее. Проблема в том, что при наблюдении за поведением робота мы не сможем уверенно судить, действительно ли он себя осознает.
Поэтому единственной обоснованной позицией в этом вопросе он считает агностицизм, то есть признание нашего непонимания и, вероятно, невозможности установить истину. Отсюда вопрос, как в таком случае взаимодействовать с искусственным интеллектом: с точки зрения этики, эксплуатация мыслящей личности в собственных интересах для этой личности означает рабство.
Самым правильным ученый считает вообще не доводить развитие ИИ до стадии обретения сознания и разума, а вместо этого остановиться на его использовании как инструмента, то есть на создании узконаправленных, специализированных систем для выполнения конкретных задач.
Ранее психотерапевты диагностировали у ChatGPT СДВГ, а у Grok — тревожность.