Дети, которые ищут контент, связанный с депрессией и членовредительством, могут чаще сталкиваться с этим с помощью рекомендательных систем, встроенных в социальные сети.
Софи Паркинсон было всего 13 лет, когда она покончила с собой. У нее была депрессия и мысли о самоубийстве.
Ее мать, Рут Мосс, считает, что Софи в конце концов покончила с собой из-за видео, которые она смотрела в Интернете.
Как и многим другим подросткам, Софи подарили телефон, когда ей было 12 лет.
Рут вспоминает, как вскоре после этого обнаружила, что Софи использовала его для просмотра неприемлемых материалов в Интернете.
«По-настоящему трудным для семьи после смерти Софи было найти несколько действительно сложных образов и указаний, как она могла покончить с собой», - говорит она.
По данным службы по контролю за коммуникациями Ofcom, почти 90% подростков в возрасте от 12 до 15 лет имеют мобильные телефоны. По его оценкам, три четверти из них имеют учетные записи в социальных сетях.
Самые популярные приложения ограничивают доступ для детей младше 13 лет, но многие дети младшего возраста регистрируются, и платформы мало что делают, чтобы их остановить.
Национальное общество по предотвращению жестокого обращения с детьми (NSPCC) считает, что технологические компании должны быть принуждены законом думать о рисках, с которыми дети сталкиваются при использовании своей продукции.
«Более десяти лет безопасность детей не рассматривалась крупными технологическими компаниями как часть основных бизнес-моделей», - говорит Энди Берроуз, руководитель онлайн-политики по безопасности детей в благотворительной организации.
«Дизайн сайтов может подтолкнуть уязвимых молодых людей, которые хотят совершить самоубийство или членовредительство, смотреть больше такого рода контента».
Признать и удалить
Недавно в Facebook было опубликовано видео, на котором молодой человек покончил с собой.
Впоследствии отснятый материал распространился на другие платформы, включая TikTok, где он оставался онлайн в течение нескольких дней.
TikTok признал, что пользователи были бы лучше защищены, если бы провайдеры социальных сетей работали более тесно вместе.
Но Рут разделяет точку зрения NSPCC и считает, что социальным сетям нельзя позволять контролировать себя.
Она говорит, что некоторые материалы, к которым ее дочь открыла шесть лет назад, все еще находятся в сети, и ввод определенных слов в Facebook или Instagram вызывает те же образы.
Facebook объявил о расширении автоматизированного инструмента для распознавания и удаления контента о самоповреждениях и самоубийствах из Instagram ранее на этой неделе, но заявил, что европейские законы о конфиденциальности данных ограничивают его возможности.
Другие небольшие стартапы также пытаются использовать технологии для решения этой проблемы.
SafeToWatch разрабатывает программное обеспечение, которое обучено с помощью методов машинного обучения блокировать неприемлемые сцены, включая сцены насилия и обнаженного тела, в режиме реального времени.
Он анализирует контекст любого визуального материала и контролирует звук.
Это предполагает, что это обеспечивает родителям сбалансированный способ защиты своих детей, не вторгаясь слишком глубоко в их частную жизнь.
«Мы никогда не позволяем родителям видеть, что делает ребенок, поскольку нам нужно заслужить доверие ребенка, что имеет решающее значение для процесса кибербезопасности», - объясняет основатель Ричард Пёрси.
"Откровенные разговоры"
Рут предполагает, что часто легко обвинять родителей, добавляя, что техника безопасности помогает только в ограниченных обстоятельствах.
«Большинство родителей не могут знать, что они делают в своем телефоне своего подростка», - говорит она.
И многие эксперты сходятся во мнении, что большинство детей неизбежно в какой-то момент столкновения с неприемлемым контентом, поэтому необходимо обрести «цифровую устойчивость».
«Безопасность в Интернете следует преподавать так же, как и другим навыкам, обеспечивающим безопасность в физическом мире», - объясняет доктор Линда Пападопулос, психолог, работающий в некоммерческой организации по вопросам безопасности Internet Matters.
«Родители должны откровенно поговорить о типах контента, с которыми дети могут столкнуться в Интернете, и научить их способам защиты».
Она пытается привлечь внимание к вопросам, связанным, а не конфисковать устройство, используемое для его использования.
«Сделайте паузу, прежде чем реагировать», - предлагает она.