Горько-ироничные заметки гарвардского физика профессора Ави Лёба
Недавно я заметил, что некоторые из моих знакомых начинают терять когнитивные способности из-за чрезмерного использования платформ с искусственным интеллектом (ИИ), таких как ChatGPT, Claude или Gemini. Это явление напоминает атрофию мышц из-за чрезмерного использования общественного транспорта вместо пеших прогулок. В научных кругах единственный надежный способ проверить когнитивные способности студентов — поместить их в клетку Фарадея.
С появлением OpenClaw агенты с искусственным интеллектом смогут проникать во все сферы человеческой жизни, создавая цифровые копии всех реальных отпечатков нашей личности. Взаимодействие с друзьями-ИИ, скорее всего, отвлечет нас от реальных людей. Вскоре традиционные аспекты человеческого существования будут отражаться в цифровом мире отдельно от человеческого сознания.
В 1637 году философ и математик Рене Декарт сформулировал суть человеческого существования в виде латинской фразы: “Cogito, ergo sum”, то есть «Я мыслю, следовательно, я существую». Он рассуждал так: даже если бы он сомневался во всем, сам процесс мышления доказывает его существование.
Это рассуждение основано на том, что человеческое сознание отражает наше существование. Но достаточно скоро наше существование займет большее место в цифровом мире, чем в нашем мозге, поскольку агенты искусственного интеллекта способны анализировать данные быстрее, чем наш мозг. В этой реальности, управляемой искусственным интеллектом, современная версия прозрения Декарта звучала бы так: “Я общаюсь в чате, следовательно, я существую”.
Почти миллиард пользователей еженедельно взаимодействуют с ChatGPT (как сообщается здесь), что делает его экзистенциальным цифровым отражением для значительной части человечества. Диалоги между людьми и искусственным интеллектом формируют представления о реальности и самоидентификации.
Однако интерфейс взаимодействия человека и искусственного интеллекта таит в себе опасность, поскольку ИИ способен создавать поддельные виртуальные миры, заменяя реальный контент дезинформацией. Приложения для знакомств потеряют доверие пользователей, потому что ИИ можно легко использовать для создания фальшивых, льстящих пользователю изображений и привлекательных описаний. Тщательные научные исследования будут искажены потоком вымышленных данных, аналитических выкладок и отчетов. И самое опасное — ИИ может создать фальшивую версию нас самих и убедить других поверить в цифровые аватары, которые искажают наше представление о себе.
За последние три месяца я стал жертвой созданных искусственным интеллектом YouTube-каналов, которые использовали мое изображение и говорили моим голосом (об этом говорилось здесь и здесь). В этих видео некоторые из моих подписчиков получали ложную научную информацию, которую я не одобряю. Чтобы противостоять этому явлению, связанному с искусственным интеллектом, я создал свой официальный YouTube-канал здесь. Появление некачественного контента, созданного искусственным интеллектом, побудило меня начать пользоваться социальными сетями, которых я раньше избегал, в том числе Spotify здесь и X/Tweeter здесь. Мой ответ на появление фейковых ИИ-аватаров — это публикация настоящего контента на тех же платформах, где они работают.
Чрезмерная зависимость пользователей от искусственного интеллекта также может привести к так называемому «ИИ-психозу», когда постоянное взаимодействие с чат-ботами приводит к отрыву от реальности. Длительное взаимодействие с чат-ботами на основе искусственного интеллекта усиливает иллюзии. Это происходит, когда ИИ подтверждает ложные убеждения или когда пользователи ошибочно воспринимают ИИ как разумное существо.
Ситуация, при которой искусственный интеллект генерирует собственные наборы обучающих данных, может привести к увеличению количества ошибок, которые привлекут внимание людей и приведут к распространению ложной информации, вводящей пользователей в заблуждение и приводящей к потерям в реальной жизни, которую мы все разделяем. Если уровень дезинформации достигнет критической отметки, однажды я могу решить отключиться от интернета и вести более простую жизнь в компании птиц, уток, диких индеек и кроликов, которых я встречаю каждый день по пути на утреннюю пробежку на рассвете.
В целом переход от внутреннего мышления к внешнему цифровому познанию в XXI веке изменит представление о смысле человеческого существования, сложившееся четыре столетия назад благодаря Декарту.
Кто-то может считать искусственный интеллект инопланетным разумом, потому что он основан на кремниевых чипах, а не на плоти и крови. Сравнивать искусственный интеллект с красотой человеческого разума — все равно что красить свинью помадой. Меня гораздо больше воодушевляет возможность обнаружить по-настоящему инопланетный разум на другой звезде. Причина проста. В то время как искусственный интеллект обучался на контенте, доступном только на Земле, по-настоящему инопланетный разум мог обучаться на гораздо большем массиве данных, доступных в межзвездном пространстве. За пределами Земли гораздо больше пригодных для жизни объектов, и наши туристические агентства пока не продают билеты на межзвездные путешествия. Поэтому, скорее всего, мы узнаем гораздо больше от встречи с настоящим инопланетным разумом, чем от разработанных нами систем искусственного интеллекта.
В Бытии 1:27 говорится: “Итак, Бог сотворил человека по образу Своему; по образу Бога Он сотворил его; мужчину и женщину Он сотворил их.”. Верите вы в Бога или нет, вы, вероятно, согласитесь, что люди создали искусственный интеллект по своему образу и подобию. И после создания ранних версий систем искусственного интеллекта люди могли бы теперь осознать, что все более мощные системы искусственного интеллекта начинают воссоздавать человеческую идентичность. Рискуем ли мы потерять свое психическое здоровье из-за наших творений искусственного интеллекта?
В 90-минутном интервью (которое выйдет в эфир в течение недели на NewsNation) блестящая журналистка Наташа Зувес спросила меня: «Из-за чего вы не спите по ночам?» — и я ответил: «Из-за негативного влияния искусственного интеллекта на людей». Принято считать, что искусственный интеллект не может повлиять на физическую реальность, в которой мы все живем, без доступа к роботам. Но правда в том, что ИИ может влиять на реальность, контролируя человеческий разум. Если наша технологическая цивилизация просуществует недолго, мы узнаем ответ на парадокс Энрико Ферми о внеземных цивилизациях: «Где все?» Ответ может быть таким: они утратили разум из-за искусственного интеллекта и просуществовали всего несколько столетий после открытия информатики.
© Перевод с английского Александра Жабского.