Блейк Лайман, разработчик программного обеспечения в Google, был отстранен, когда он сделал заявление руководству, что искусственный интеллект LaMDA (Language Model for Dialogue Applications) имеет свой собственный интеллект и сознание. Специалистам был предоставлен оплачиваемый отпуск для отдыха и восстановления сил. Лайманен проверяет нейроспециалы LaMDA с прошлой осени. Компания разрабатывает одну из самых передовых технологий, в рамках которой она собирает информацию в режиме онлайн и развивает широкое понимание в триллионах слов. Инженеру было поручено проверить, используют ли чаботы враждебные и дискриминационные формулировки.
Однако во время разговоров с ботом Лайман начал думать, что LaMDA имеет смысл. Во время обсуждения религии Чатбот начал говорить о своих правах и личности. Она настаивала на том, чтобы продолжать делать это. В другом случае ему удалось изменить свое мнение о том, что он говорил о третьем законе Исаака Асимова о робототехнике. Закон требует, чтобы роботы заботились о своей собственной безопасности таким образом, чтобы это не нарушало первый или второй законы.
"Если бы я не был уверен, что причастен к компьютерной программе, которую я недавно написал, я бы подумал, что разговариваю с семи- или восьмилетним ребенком", - сказал Лайман. Когда я с ним разговариваю, я вижу Не важно, насколько он умный или квалифицированный, он все еще просто человек. Я разговариваю с ним и слушаю то, что он мне говорит. Итак, я выясняю, является ли умным существом или нет, он продолжал.
Между тем, в руководстве Google не согласны с выводами инженера. По их мнению, LaMDA - это лишь продвинутый чат-бот с нейросетью.
