Генеральный директор Microsoft AI Мустафа Сулейман опубликовал эссе с предупреждением о «кажущемся сознательном ИИ», который может имитировать и убеждать пользователей в том, что они разумны и заслуживают защиты, заявив, что они представляют опасность как для общества, так и для развития ИИ.
Подробности:
- Сулейман утверждает, что SCAI уже можно создать с использованием современных технологий, имитируя такие черты, как память, личность и субъективные переживания.
- Он обратил внимание на участившиеся случаи «психоза искусственного интеллекта» у пользователей, заявив, что вскоре люди, работающие с искусственным интеллектом, смогут выступать за благополучие моделей и права искусственного интеллекта.
- Сулейман также назвал исследование модельного благосостояния «как преждевременным, так и откровенно опасным», заявив, что моральные соображения приведут к еще большим заблуждениям.
- В эссе компаниям настоятельно рекомендуется избегать позиционирования ИИ как сознательного продукта и создавать ИИ «для людей, а не для того, чтобы он был личностью».
Почему это важно:
Сулейман занимает решительную позицию против сознания ИИ, что контрастирует с обширным исследованием Anthropic о модельном благополучии . Но мы находимся в неизведанном мире, и поскольку наука до сих пор не знает, что такое сознание, это похоже на то, что мы закрываем важные вопросы, даже не успев их как следует задать.
Подписывайтесь на канал и читайте еще больше статей.
Мир инсайтов AI" - это канал, который открывает двери в мир искусственного интеллекта и предоставляет свежие новости, аналитику и экспертные мнения о последних событиях в этой быстро развивающейся области.
#МирИнсайтовAI #ИИ #ИскусственныйИнтеллект #MicrosoftAI #MustafaSuleyman #ЭтикаИИ #БудущееТехнологий #СознаниеИИ