В социальной сети «Одноклассники» теперь автоматически скрывают изображения и GIF-файлы эротического характера в ленте новостей и комментариях. Слишком откровенный контент обнаруживает и размывает нейросеть. Если пользователь хочет посмотреть скрытое изображение, он может кликнуть по нему, или проигнорировать и пропустить.
До введения ограничений в ОК провели опрос среди пользователей на тему, что именно они считают неприемлемой эротикой в соцсети. На примерах, которые респонденты сочли нежелательными, инженеры обучили нейросети. Всего было использовано более 6 миллионов файлов. На их базе разработали две ML-модели: одна непосредственно сканирует картинку и определяет визуальное содержимое, а другая относит контент к определенному типу и решает – размывать картинку или оставить в первоначальном виде.
При этом нейросети не будут затрагивать изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей. То есть, под бан не попадет классическая живопись с Венерой или статуи Аполлона, а также изображения пловцов или легкоатлетов. Если человек сталкивается в соцсети с неприятным изображением, он может пожаловаться на неприемлемый контент в интерфейсе ОК или в службу поддержки.
«Одноклассники» подчеркивают, что создание комфортной среды для общения пользователей – один из главных приоритетов социальной сети. Так, в ОК скрывают звездочками нецензурные слова, блокируют контент 18+ и скрывают фотографии со сценами насилия. Также в прошлом году на платформе появилась нейросеть, которая ограничивает навязчивые знакомства.
Москва, Ангелина Сергеева