У Facebook есть инструмент для мониторинга аккаунтов, владельцы которых склонны к самоубийствам. Но гарвардский психиатр обеспокоен тем, что этот инструмент может усугубить проблему, обострив психический кризис потенциального самоубийцы. СМЕРТЬ ОНЛАЙН. После запуска инструмента для прямой трансляции видео «Facebook Live» несколько человек использовали его для трансляции своих самоубийств. Сначала это были 14-летняя девочка и мужчина из США, позже — парень из Турции. Результатом стал алгоритм отслеживания самоубийств, который работает с 2017 года и, по данным компании, уже более 3,5 тыс. раз участвовал в отправке срочных служб к потенциальным самоубийцам. Используя технологию распознавания образов, инструмент идентифицирует посты и прямые трансляции, которые, предположительно, выражают намерение самоубийства. Когда сообщение оценивается как «потенциально самоубийственное», оно отправляется сначала модератору контента, а затем обученному сотруднику, который должен уведомлять службы спасения. Гарвардский психиатр и технический консультант Джон Торус обеспокоен тем, что инструмент Facebook может принести больше вреда, чем пользы. Он утверждает, что инструмент может найти не тех пользователей и подтолкнуть человека к суициду, обострить или даже создать кризис психического здоровья там, где его не было. Инструмент мониторинга самоубийств от Facebook – это один из примеров того, как рушатся барьеры, отделяющие технологии от здравоохранения. Медики этим обеспокоены, а разработчики технологий говорят о революции здравоохранения. Один из создателей алгоритма, Дэниел Рейденберг, согласен, что это, скорее, медицинское исследование в области психиатрии. Из-за проблем с конфиденциальностью сотрудники служб экстренной помощи не могут сообщить Facebook, что произошло на месте возможного самоубийства и была ли польза от работы алгоритма. Джон Торус, специализирующийся на прогнозировании самоубийств, скептически относится к разработке соцсети. Он пришел к выводу, что модели поведения почти не могут успешно предсказать попытку самоубийства, а алгоритм соцсети – бесполезен.Etcetera Media