Ученые заявляют, что нейросети уже запустили новую «гонку вооружений» в сфере образования
Развитие искусственного интеллекта и его яркий выход в публичное пространство, безусловно, являются трендами этого года, и, возможно, ближайшего десятилетия. Эксперты активно сравнивают подобные разработки с появлением мобильной связи или интернета, но, как и у всего нового, у ИИ уже обнаружен ряд недоработок, или же, наоборот, преимуществ. Одно из таких сомнительных преимуществ — умение ИИ обходить системы антиплагиата.
В марте в научно-информационной соцсети ResearchGate была опубликована статья, в которой, в частности, описывается, как инструменты ИИ «вызывают ряд проблем и опасений, особенно в отношении академической честности и плагиата». Авторы статьи сгенерировали с помощью искусственного интеллекта текст, который в итоге был одобрен рецензентами и прошел все проверки.
Борьба с плагиатом много лет велась по всему миру, образовательные учреждения пытались избавиться от чумы «фабрик плагиата», продающих готовые работы нерадивым учащимся, но теперь ученые подозревают, что даже подобные организации используют ChatGPT, и вузы уже включились в борьбу с нейросетями. Пока у проверяющих еще есть ключик к пониманию, использовал ли студент нейросеть: ИИ неправильно оформляет академические ссылки — важнейшую часть научной работы. Часто нейросеть использует подозрительные источники или полностью их выдумывает.
Еще одной опасностью искусственного интеллекта является его способность подделывать человеческий голос. Расследование, проведенное Guardian Australia, показало, что технология способна обмануть систему голосовой идентификации, которая используется правительством Австралии для защиты персональных данных миллионов граждан.
Серьезной потенциальной угрозой может стать использование ИИ мошенниками. The Sunday Times поручила искусственному интеллекту от Microsoft сгенерировать шаблоны так называемых фишинговых писем, используемых киберпреступниками для завлечения своих жертв, чтобы проверить способность чат-бота создавать мошеннические сообщения. ИИ выполнил задание с первой попытки.
Согласно прогнозам Торговой палаты США, искусственный интеллект добавит $13 трлн к глобальному экономическому росту к 2030 году. В отчете подчеркивается необходимость быть готовым к надвигающемуся повсеместному использованию технологии и ее потенциальным опасностям. Авторы утверждают, что в течение 20 лет практически каждая бизнес-структура и государственное учреждение начнут использовать ИИ.
Суммируя все вышеперечисленные факты, представляется, что мир пока еще только стоит на пороге понимания всех возможностей искусственного интеллекта. Вопросы регулирования его деятельности, очевидно, будут находиться в плоскости внимания профильных институций в ближайшие десятилетия. Тем не менее, уже проявившиеся факты показывают, что технология весьма далека от совершенства, даже не с технической, а с морально-этической точки зрения. В связи с чем весьма возможно, что в некоторых сферах жизни ее использование просто будет запрещено.
Автор: Елена Александрова
Подписывайтесь на наш Telegram-канал, чтобы не пропустить другие новости и прогнозы от экспертов GEOFOR.
Большие аналитические материалы читайте на сайте GEOFOR | Центр геополитических прогнозов.
Фото: digitaltrends.com
