Искусственный интеллект стал популярным инструментом для написания текстов рассылок, постов, а главное материалов для СМИ. По разным источникам известно, что около 60% людей в России знают о том, что нейросети помогают частично или полностью создавать тексты.
Около 30% молодого населения в возрасте 18-45 лет используют ИИ в рабочих или развлекательных целях. А по данным Яндекса за прошлый год их количество увеличилось на треть.
Параллельно в сети растет количество fake news. В период май-декабрь 2023 специалисты NewsGuard обнаружили 614 дезинформирующих сайтов, где для написания новостей и материалов использовался ИИ. Это на 1000% больше, чем за предыдущий срок наблюдения.
В прошлом году была скандальная новость: издание Futurism обвинило журнал Sports Illustrated в том, что они публиковали материалы от имени несуществующих авторов. На сайте журнала даже была якобы биография и фото несуществующего человека. Оказалось, что все это сгенерировано нейросетью.
На Всемирном экономическом форуме впервые всерьез обсуждали эту проблему. Фейковую информацию, созданную с помощью ИИ, признали серьезным риском для всемирного сообщества.
"Когда объединяются две вещи - экономические трудности, с которыми сталкиваются многие люди, и рост синтетического контента в сочетании с приближением выборов, когда людям предстоит принимать решения, кто будет их возглавлять, — все это вместе может стать очень мощной смесью", — заявила управляющий директор форума Саадия Захиди.
"Джинн уже выпущен из бутылки, и справиться с ним будет невозможно без должных мер реагирования на государственном уровне, - считает зампредседателя комитета Госдумы по информационной политике, информационным технологиям и связи Антон Горелкин. - Я уверен, что рано или поздно все страны мира придут к пониманию эффективности введения ответственности и наказания за использование ИИ в преступных целях".
Ситуацию усложняет тот факт, что у нас до сих пор нет надежного средства для определения авторства текста. То есть, узнать написал тот или иной текст человек или нейросеть практически невозможно. На данный момент есть возможность выявлять фейки. И все.
Чтобы выяснить "происхождение" материала исследователь в области машинного обучения компании "Криптонит" Георгий Поляков советует использовать несколько приемов.
Во-первых, фактчекинг. Это сложно, но необходимо. Нужно проверять информацию и ее источники, даже если все звучит очень убедительно.
Во-вторых, нужно обращать внимание на контекст, в частности, конкретику, логику и аргументацию.
В-третьих, ИИ допускает множество стилистических ошибок. Часто текст не согласуется между собой.
"Важно понимать, что распознавание информации, созданной с помощью ИИ, является сложной для человека задачей и требует критического мышления и аналитических навыков", — подчеркнул эксперт.