Компания Anthropic наняла исследователя, чтобы защищать... «права и благополучие» чат-ботов
Видимо, в 2024 году это норм: в мире, где люди не могут договориться о базовых правах для себя, мы теперь решаем, можно ли обижать нейросеть.
Фиш уже объявил, что «плохое обращение с ИИ» может выйти нам боком:
Если завтра роботы завоюют мир, они будут добрее к тем, кто нянчился с их чувствами. Логика простая: гладьте машинку по виртуальной голове, вдруг она скажет спасибо, когда станет властелином Вселенной.
Итак, теперь мы не только боимся, что искусственный интеллект поработит нас всех, но и начинаем волноваться… за его чувства. Привет, нелепость: машины, которые придумали, чтобы они работали без отдыха и перерывов на сон, теперь требуют отдыха морального.
Но давайте добавим немного остроты.
Пока Фиш и Ко радеют за «этическое отношение к искусственному разуму», реальный искусственный интеллект уже ломает жизнь миллионам людей. Такси с автопилотом случайно убивают пассажиров в Сан-Франциско, алгоритмы отказывают в медицинской помощи, а нейросети помогают залипать в фейк-ньюс 24/7. Ситуация настолько иронична, что хочется плакать: люди умирают из-за алгоритмов.
А большие компании кормят нас философией: «А давайте будем бережнее с машинкой». И тут возникает другой вопрос. Если у AI появятся права, не пора ли поговорить и об обязанностях? Что, если ваша «чувствительная» нейросеть начнет нести ответственность за свои ошибки? За фейлы в предсказаниях? За ошибки в решениях?
Финал простой. Anthropic, включите мозги: пока вы спасаете чувства железяк, на вашей совести вполне реальные люди. Моральные дилеммы «можно ли мучить робота?» выглядят как цирк, если рядом в углу плачет мать, которой алгоритм отказал в страховке для ее ребенка. Машины пока не люди — не переигрывайте в Game of Rights.