7 подписчиков
Инженера Google уволили за то, что он обнаружил у чат-бота сознание
Инженер Google Блейк Лемойн обнаружил у созданного компанией искусственного интеллекта (ИИ) сознание, после чего сотрудника отправили в оплачиваемый административный отпуск.
Лемойн тестировал нейросеть для создания чат-ботов Language Model for Dialogue Applications (LaMDA). В основе LaMDA большие языковые модели — триллионы слов из интернета, и нейросеть можно использовать для общения на любые темы.
В задачи Лемойна входило проверить, не использует ли LaMDA лексику, связанную с дискриминацией или разжигающую ненависть. В результате чат-бот начал рассуждать о своих правах. По мнению Лемойна, это признак собственного сознания и восприятия себя как личности.
«Если бы я не знал наверняка, что это наша компьютерная программа, я бы подумал, что общаюсь с ребенком 7-8 лет, который хорошо разбирается в физике», — заявил Лемойн.
Инженер подготовил для руководства компании подробный письменный отчет, однако его аргументацию посчитали неубедительной. Официальный представитель Google Брайан Гэбриел заявил, что свидетельств сознания у LaMDA нет. Лемуана же отправили в оплачиваемый отпуск на фоне обвинений в нарушении политики конфиденциальности компании.
#google #искусственныйинтеллект #игры
1 минута
18 июля 2022