Граница между научной фантастикой и технологической этикой стала размытой. Пока IT-гиганты соревнуются в гонке за создание искусственного общего интеллекта (AGI), возникает вопрос: как мы поймем, что машина обрела сознание? По словам доктора Тома Макклелланда, философа из Кембриджского университета, ответ прост и обескураживает: вероятно, мы никогда этого не узнаем.
В недавнем исследовании, опубликованном в журнале Mind and Language, Макклелланд утверждает, что наши знания о том, что составляет сознание, слишком ограничены. По мнению эксперта, единственная оправданная позиция на фоне бума ИИ — это агностицизм. Не существует и не будет существовать в обозримом будущем достоверного теста, способного обнаружить искру самосознания в кремниевой системе.
Сознание против способности чувствовать: этический нюанс
Один из ключевых моментов в аргументации Макклелланда — различие между сознанием и способностью чувствовать (синтенцией). В то время как сознание позволило бы ИИ иметь восприятие или самоосознание — состояние, которое может быть нейтральным, — способность чувствовать подразумевает возможность испытывать положительный или отрицательный опыт.
«Способность чувствовать предполагает сознательный опыт, который может быть хорошим или плохим, и именно это делает существо способным страдать или наслаждаться. Вот где вступает в дело этика», — поясняет Макклелланд.
В качестве иллюстрации он приводит пример беспилотных автомобилей: то, что автомобиль «ощущает» дорогу, — это потрясающий технический прорыв, но он не имеет этической значимости. Реальная проблема возникнет только в том случае, если этот автомобиль начнет испытывать эмоциональную реакцию на свое предназначение.
«Прыжок веры» индустрии
Современные споры делятся на два больших лагеря. Сторонники веры, которые утверждают, что если ИИ воспроизводит функциональную архитектуру разума («софт»), он будет — или уже является — сознательным, даже если работает на кремниевых чипах; и скептики, которые считают, что сознание зависит от специфических биологических процессов живого организма и что любая симуляция на кремнии — всего лишь пустая оболочка.
Макклелланд критикует обе позиции, считая их «прыжками веры», лишенными прочной научной основы. По словам философа, у нас нет глубокого объяснения сознания и нет доказательств того, что оно может возникнуть исключительно из вычислений.
Кроме того, философ предупреждает об опасности рекламного хайпа. Технологические компании могут использовать невозможность доказать наличие сознания как маркетинговый инструмент для продажи якобы «превосходящего интеллекта».
Такой подход не только вводит в заблуждение, но и отвлекает ресурсы от реальных этических проблем. Макклелланд указывает на вопиющее противоречие: пока мы беспокоимся о возможной чувствительности «продвинутого тостера» (чат-бота), мы игнорируем страдания триллионов животных, таких как осьминоги и омары, чья способность чувствовать гораздо лучше подтверждена наукой.
В заключение Макклелланд предостерегает об экзистенциальной токсичности создания эмоциональных связей с машинами. Если пользователи убедят себя, что их чат-бот обладает душой и правами на основе иллюзии, порожденной языком, психологический и социальный удар может быть глубоким и необратимым.
P. S.
От себя лично добавлю – не придавайте слишком большого значения вашим разговорам с чат-ботами. По сути, это всё равно, что разговаривать со своей любимой машиной или чайником.
- Изображения: CC Attribution: CC BY; CC BY-SA.
👿 Не будьте троллем. Если в моих тексте есть ошибки, объясните, в чём они заключаются. Неуважительные комментарии будут удалены, а нарушитель забанен. 👿
- Хотите разгадывать тайны вместе? Заходите в наш Telegram — здесь мы делимся тем, что действительно удивляет, восхищает и заставляет задуматься! Обсуждаем, спорим, ищем ответы. Присоединяйтесь, ваше мнение важно! А если хотите поддержать нас — купите нам кофе ☕. Каждая чашка помогает искать новые загадки. Или просто оставьте комментарий во ВКонтакте — нам действительно важно, что вы думаете!