Более ста экспертов предложили пять принципов проведения ответственных исследований искусственного интеллекта.
Стремительный прогресс вызывает опасения, что такие системы могут считаться разумными. Принципы включают в себя: * приоритетное проведение исследований по пониманию и оценке сознания в ИИ, чтобы предотвратить «жестокое обращение и страдания»; * установление ограничений на разработку систем сознательного ИИ; * применение поэтапного подхода к разработке таких систем; * доведение результатов до сведения общественности; * воздержание от вводящих в заблуждение или излишне самоуверенных заявлений о создании сознательного ИИ.
Среди подписавших письмо — учёные, такие как сэр Энтони Финкельштейн из Лондонского университета, и специалисты в области искусственного интеллекта из таких компаний, как Amazon и рекламная группа WPP. В статье, написанной Патриком Батлином из Оксфордского университета и Теодоросом Лаппасом из Афинского университета экономики и бизнеса, добавляется, что даже компаниям, не планирующим создавать сознательные системы, понадобятся рекомендации на случай «непреднамеренного создания сознательных объектов».
В материале признаётся, что существует широко распространённая неопределённость и разногласия по поводу определения сознания в системах искусственного интеллекта и того, возможно ли это вообще, но говорится, что это проблема, которую «мы не должны игнорировать». Другие вопросы, поднятые в статье, касаются того, что делать с системой ИИ, если она определяется как «моральный пациент» — объект, который имеет моральное значение «сам по себе, ради себя самого».
В этом случае возникает вопрос, сравнимо ли уничтожение ИИ с убийством животного. Доклад и письмо были подготовлены Conscium, исследовательской организацией, частично финансируемой WPP и соучредителем которой является главный специалист WPP по искусственному интеллекту Дэниел Халм.
В прошлом году группа высокопоставленных учёных заявила, что существует «реальная возможность» того, что некоторые системы искусственного интеллекта станут сознательными и «морально значимыми» к 2035 году. В 2023 году сэр Демис Хассабис, руководитель программы Google по искусственному интеллекту и лауреат Нобелевской премии, заявил, что системы искусственного интеллекта «определённо» не обладают разумом в настоящее время, но могут стать таковыми в будущем.
«Философы ещё толком не определились с определением сознания, но если мы имеем в виду что-то вроде самосознания, то я думаю, что однажды может появиться искусственный интеллект», — сказал он в интервью американской телекомпании CBS.
