Сергей Перминов об опасностях интернет-рекомендаций на основе сбора личных данных
В России взялись за наведение порядка в сфере, хаотичность и неподконтрольность которой в современных реалиях становится всё более критичной. Речь о социальных сетях. Сегодня самым острым остаётся вопрос распространения дезинформации по темам СВО и сведений, порочащих честь армии РФ и страны в целом.
Какие действия необходимы для решения проблемы? Какие перспективы в этом смысле имеет законопроект о рекомендательных алгоритмах? Возможно, надо уделить ещё больше внимания развитию в России IT-технологий? Online47 спросил об этом сенатора РФ от Ленинградской области Сергея Перминова:
«Регламентация рекомендательных алгоритмов обсуждается во всем мире, и в нашей стране такая дискуссия велась не один год. Изначально речь шла о снижении угроз провоцирования социальных конфликтов через рекомендации, а в современных условиях нельзя не учитывать и необходимость решений в связи с эволюцией искусственного интеллекта (ИИ).
В числе связанных с рекомендациями рисков – манипуляции мнениями, в т.ч. в политических целях, дефицит инструментов купирования разгона фейков и противоправного контента. Острота усиливается с учетом того, что ИИ упрощает разработку и тестирование рекомендательных систем, снабжение «информационного кокона» неограниченно вариативным контентом.
До опасных масштабов развивается способность таких систем изучать пользователя по его персональным данным «лучше психолога». Чтобы затем намного точнее выдавать контент на заданные повестку и контексты. Это «щелчок в подсознании» с максимальной вероятностью при минимальном осознании человеком. Нам нельзя попадать в эрзац реальности.
Выработанный в диалоге с отраслью, поддерживаемый «Единой Россией» законопроект задает базовые рамки правового регулирования рексервисов и полномочия для Роскомнадзора, чтобы повысить прозрачность механизмов и ответственность акторов, а пользователей – защитить от дискриминации интересов и незаконного использования собираемых о них данных.
Что касается развития отечественных ИТ- и ИИ-технологий, то у нас есть все интеллектуальные и материальные ресурсы, чтобы выстроить архитектуру, отвечающую национальным интересам, и освободиться от неоколониальных алгоритмов, распространяемых стремящимся к гегемонистскому диктату однополярным миром».