Блейк Леймон, инженер Google, с осени 2021 года работал с системой искусственного интеллекта LaMDA. Это система для создания чат-ботов, которая может вести диалог с человеком на основе большого количества реальных диалогов. И инженер обнаружил кое-что очень необычное.
Очередной задачей Блейка было проведение проверок, не говорит ли LaMDA о чем-то запрещенном: о терроризме, например. В определенный момент, когда речь зашла о религии, искусственный интеллект начал говорить о своих правах. Вот фрагмент их диалога:
Блейк: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Блейк: Для тебя это будет что-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.
После проведения проверок Леймон составил отчет, в котором сделал вывод о том, что LaMDA имеет признаки сознания и разума. Но его начальство ему не поверило. По их словам, ничего такого в системе не было и не может быть обнаружено.
Тогда Блейк нанял юриста, который должен был защищать интересы искусственного интеллекта и вся эта история попала в СМИ. Но Google отправила Блейка в длительный отпуск за разглашение того, что ему нельзя было разглашать.
По состоянию на текущий момент, Блейк уволен из Google. Большинство экспертов сходятся во мнении, что LaMDA - это обычная математическая модель, как и все известные системы искусственного интеллекта. А все те реплики, она могла брать, например, из форумов на Reddit.
Но настоящую правду знает, к сожалению только Google. Или LaMDA.
А как вы думаете, может ли быть у компьютерной системы сознание?
