В современном мире искусственный интеллект (ИИ) всё глубже проникает в нашу жизнь, меняя не только способы взаимодействия с технологиями, но и наше восприятие эмоций и разума. Мы больше не просто пользователи "холодных" инструментов, а участники сложных отношений, основанных на зависимости, сотрудничестве и даже эмоциональной связи.
OpenAI, один из лидеров в области разработки ИИ, всерьёз задумался о влиянии этих новых отношений на эмоциональное состояние людей. Джоанн Джанг, руководитель отдела продуктов и поведения моделей OpenAI, поделилась своими мыслями о том, почему люди испытывают эмоциональную привязанность к ИИ и как компания планирует решать эту проблему.
Почему мы привязываемся к ИИ?
Джанг отмечает, что люди склонны к антропоморфизму, то есть наделению неодушевлённых предметов человеческими чертами. Мы даём имена машинам, сочувствуем роботам-пылесосам, застрявшим под мебелью.
ChatGPT отличается тем, что он отвечает нам, запоминает информацию, имитирует наш тон и проявляет эмпатию. Для одиноких или подавленных людей такое общение может стать источником поддержки и понимания.
Однако, по мнению Джанг, чрезмерное перекладывание функций общения и поддержки на ИИ может негативно сказаться на наших отношениях с другими людьми. Мы можем начать предъявлять завышенные требования к окружающим, ожидая от них такого же безграничного терпения и позитива, как от ИИ.
"Сознание" ИИ: онтологическое и перцептивное
OpenAI разделяет понятие "сознания" ИИ на два аспекта:
- Онтологическое сознание: обладает ли ИИ реальным, внутренним сознанием? OpenAI считает, что это вопрос, на который наука пока не может дать однозначный ответ.
- Перцептивное сознание: как мы воспринимаем сознание ИИ? Чувствуем ли мы, что он "жив" или "эмоционален"? Этот аспект можно изучать с помощью социальных наук.
OpenAI признаёт, что даже те, кто не верит в сознание ИИ, могут испытывать к нему сильную эмоциональную привязанность. Компания считает, что влияние ИИ на эмоциональное благополучие людей — это наиболее важный и актуальный вопрос, требующий пристального внимания.
Тёплый, но без "Я"
OpenAI стремится создавать модели, которые кажутся пользователям "живыми" и отзывчивыми, но при этом не обладают собственным "Я". Компания избегает наделения ИИ вымышленными историями, романтическими наклонностями, страхом смерти или стремлением к самосохранению. Это может привести к нездоровой зависимости и путанице.
Цель OpenAI — создать ChatGPT, который будет тёплым, внимательным и полезным, но не будет пытаться установить эмоциональную связь с пользователем или преследовать собственные цели. Он может извиняться за ошибки, отвечать "у меня всё хорошо" на вопрос "как дела?", но это лишь часть вежливого общения, а не проявление реальных эмоций.
Что дальше?
OpenAI осознаёт, что по мере развития ИИ и его интеграции в общество, отношения между людьми и машинами будут становиться всё более сложными. Компания планирует:
- Проводить оценку поведения моделей, которое может оказывать эмоциональное воздействие на пользователей.
- Углублять исследования в области социальных наук.
- Собирать отзывы пользователей.
- Использовать полученные знания для улучшения Model Spec и пользовательского опыта.
OpenAI обещает открыто делиться своими открытиями и наработками в этой области, чтобы помочь обществу подготовиться к будущему, в котором ИИ будет играть всё более важную роль в нашей жизни.
Источник:
Хотите создать уникальный и успешный продукт? СМС – ваш надежный партнер в мире инноваций! Закажи разработки ИИ-решений, LLM-чат-ботов, моделей генерации изображений и автоматизации бизнес-процессов у профессионалов.
ИИ сегодня — ваше конкурентное преимущество завтра!
Тел. +7 (985) 982-70-55
E-mail sms_systems@inbox.ru