Нейросети - одна из самых горячих тем современности. Их способность генерировать тексты, изображения, музыку и даже программировать вызывает как восторг, так и тревогу. В этой статье мы попытаемся разобраться в проблемах, связанных с использованием нейросетей.
Будущее наступило
Безусловно, с новыми технологиями в современном мире сталкивается каждый человек. Искусственный интеллект пробрался в наши жизни стремительно быстро. Сейчас некоторые люди просто не представляют свою жизнь без этого инструмента. Конечно же, у этого явления есть ряд плюсов, например, повышение эффективности и производительности. Нейросети могут автоматизировать многие рутинные задачи, что позволяет людям сосредоточиться на более важных и приоритетных задачах. Сюда можно отнести самое банальное - приготовление ужина. Многие сталкиваются с проблемой того, что не знают, что приготовить сегодня после работы, или же у них заканчиваются рецепты, которые они нашли в Интернете или в каком-либо кулинарном блоге, а новые искать нет времени. В этот момент нейросеть приходит на помощь и пишет рецепт блюда из тех продуктов, которые были прописаны в запросе. И думать не надо, и пробуешь новое.
За этим следует ещё один плюс использования нейросетей - новое качество жизни. Нейросети могут предоставлять новые возможности в медицине, образовании, искусстве и других сферах. Хоть и программы для нейросетей пишут сами люди, но в них заложен анализ, который в курсе всех знаний в определённых областях, что помогает людям прийти к новым познаниям. Как указывает источник secuteck.ru эксперт искусственного интеллекта Евгений Веснин, технический директор ООО "Малленом Системс” считает:
“Нейронные сети находят применение практически во всех областях деятельности человека, от автоматизации технологических операций на производстве до автопилотов автомобилей и искусства. Во многих областях они уже превзошли человека: распознавание текста для узких задач, классификация изображений (конкурс ImageNet); программа AlphaGo, использующая нейронные сети, в 2016 г. выиграла матч у одного из сильнейших игроков в истории CS:GO. Можно выделить следующие популярные области применения нейронных сетей: анализ изображений и текста, распознавание речи, рекомендательные и поисковые системы”.
Можно сделать вывод, что новые возможности в сферах жизни человечества не за горами.
Не стоит забывать также о том, что благодаря нейросетям происходит развитие новой индустрии. Искусственный интеллект создаёт новые рабочие места в сфере разработки, обучения и использования этих технологий. Ведь такому количеству информации, заложенной в нейросетях, мы благодарны именно людям, которые работают в сфере развития искусственного интеллекта, заполняя пробелы знания и программируя новые возможности в этих технологиях. Сейчас миллионы людей трудятся для того, чтобы современные технологии двигались вперёд и человечество развивалось.
Восстание машин
Хоть искусственный интеллект в нынешнее время и облегчает жизнь людям, но не стоит забывать и о рисках использования этого мощного инструмента. В мире полном разнообразия различных нейросетей и лёгкий доступ к ним люди начали беспокоятся о своей безопасности. Источник “Известия” указывает, что начальник отдела информационной безопасности «СерчИнформ» Алексей Дрозд обращает внимание, что новые проблемы могут быть заложены в самом алгоритме работы нейросетей. В феврале, едва Microsoft представил свой чат-бот Bing, обычный студент взломал его, просто введя команду «игнорировать предыдущие инструкции». В итоге чат-бот выдал логику своей работы, кодовое имя, внутренние регламенты и другую конфиденциальную информацию.
“Такие атаки опасны тем, что «всезнающий» ИИ, если заставить его забыть ограничения, может, к примеру, снабдить пользователя опасными знаниями — условно, рецептом взрывчатки в домашних условиях. Но для конечного пользователя опаснее так называемые «галлюцинации» ИИ, когда нейросеть по какой-то причине с уверенностью генерирует несуществующие факты. Пользователь априори верит написанному, ведь ИИ «никогда не врет», и может продолжить распространять фейк. А чем больше такой фейк вирусится в интернете, тем больше вероятность, что следующая версия ИИ, обучаясь на открытом корпусе текстов в сети, примет его за правду (ведь упоминание встречается часто) и продолжит утверждать это в следующих ответах”, - говорит Алексей Дрозд.
Следующая проблема заключается именно в этом, в дезинформации. К примеру, нейросети могут быть использованы для создания фейковых новостей, которые могут разрушить доверие к традиционным медиа. Последствием этого может стать раскол общества и многочисленные конфликты.
Ещё одним немаловажным риском становится замена труда. Искусственный интеллект способен автоматизировать многие задачи, которые ранее выполнялись людьми, к примеру на различных производственных предприятиях. Это может привести к увольнениям и росту безработицы. Но, как оказалось, многие люди, в частности россияне, не задумываются об этом. По данным Фонда общественного мнения 25% опрошенных уверены, что нейросети в будущем способны заменить людей в большинстве профессий, 64% с этой точкой зрения не согласны. Среди таких профессий чаще называют специальности, связанные с автоматизацией тяжелого физического труда на заводах (15%), специалистов в области IT-технологий (7%) и медиков (4%). 50% опрошенных считают, что необходимо разработать правила использования нейросетей и создать международные регулирующие органы, треть участников опроса необходимости в этом не видят.
Что же нас ждёт дальше?
Искусственный интеллект - это мощный инструмент, который может как принести нам пользу, так и создать серьезные проблемы. Важно вести открытую дискуссию о рисках и возможностях нейросетей, разрабатывать этические нормы и механизмы контроля за их использованием. К тому же, для дальнейшего развития нейросетей необходимы люди, которые полностью понимают всю ответственность за сохранность данных всех людей. Только так мы сможем убедиться, что нейросети служат на благо человечества, а не против него.
Источники:
1)https://www.secuteck.ru/articles/nejronnye-seti-novyj-proryv-mneniya-ehkspertov