Недавнее заявление инженера Google Блейка Лемуана о том, что технология ИИ компании стала разумной, вызвало дебаты в технологических, этических и философских кругах о том, может ли ИИ ожить или когда, а также более глубокие вопросы о том, что значит быть живым.
Лемуан потратил месяцы на тестирование генератора чат-ботов Google, известного как LaMDA (сокращение от Language Model for Dialogue Applications), и убедился, что он зажил своей собственной жизнью, поскольку LaMDA говорила о своих потребностях, идеях, страхах и правах.
Google отклонил мнение Лемуана о том, что LaMDA стал разумным, отправив его в оплачиваемый административный отпуск в начале этого месяца.
Гуманизация роботов
Лемуан, который также рукоположен в мистический христианский священник, сказал Wired, что он убедился в статусе LaMDA как «человека» из-за его уровня самосознания, того, как он говорил о своих потребностях и страха смерти, если Google удалит его.
Он настаивает на том, что его не обманул умный робот, как предположили некоторые ученые. Лемуан сохраняет свою позицию и даже предположил, что Google поработил систему ИИ.
Маркус считает, что Лемуан является последним в длинной череде людей, которые влюбились в то, что компьютерные ученые называют «эффектом ЭЛИЗЫ», названным в честь компьютерной программы 1960-х годов, которая общалась в стиле терапевта. Упрощенные ответы, такие как «Расскажи мне больше об этом», убедили пользователей, что у них был настоящий разговор.
«Это был 1965 год, и вот мы в 2022 году, и это примерно то же самое», — сказал Маркус.
Определение сознания
Учитывая, что ИИ так хорошо говорит нам то, что мы хотим услышать, как люди когда-либо смогут сказать, действительно ли он ожил?
Это само по себе является предметом дискуссий. Экспертам еще предстоит придумать тест сознания ИИ — или достичь консенсуса о том, что значит быть сознательным.
Возможно, сознание вообще не может быть запрограммировано, говорит Циммер.
Теоретически возможно, что сознание — это просто то, что возникает из определенного физического, развитого вида материи. [Компьютеры] находятся за пределами края жизни, может быть».
Другие думают, что люди никогда не могут быть по-настоящему уверены, развил ли ИИ сознание, и не видят особого смысла в попытках.
Переосмысление роли ИИ
Несмотря на огромные успехи ИИ за последнее десятилетие, технологии по-прежнему не хватает другого ключевого компонента, который определяет людей: здравого смысла.
Levesque приводит в пример самоуправляемый автомобиль: он может оставаться на своей полосе, останавливаться на красный свет и помогать водителю избежать аварий, но при столкновении с перекрытием дороги он будет сидеть там, ничего не делая.
В то время как человечество ждет, пока ИИ научится больше уличной сообразительности — и, возможно, однажды обретут свою собственную жизнь — ученые надеются, что дебаты о сознании и правах выйдут за рамки технологий на другие виды, которые, как известно, думают и чувствуют самостоятельно.
Если вам понравилась эта статья, пожалуйста, нажмите здесь, чтобы поддержать меня на Яндекс Дзен.