Джеффри Хинтон, ученый и программист, известный как один из создателей искусственного интеллекта, высказал опасения относительно различных аспектов применения этой технологии. Его основные заботы включают в себя:
1.Распространение фейковой информации: Возможность создания и распространения фейковых данных с использованием искусственного интеллекта. Это может привести к затруднениям в различении правды и лжи в информационном пространстве.
2.Использование ИИ в преступных целях: Возможность злоумышленников использовать искусственный интеллект для достижения преступных целей, таких как взломы, мошенничества и другие виды кибератак.
3.Стремительное развитие без точного понимания внутренних процессов: Развитие технологии искусственного интеллекта может происходить настолько быстро, что люди не всегда могут полностью понимать внутренние механизмы и процессы, что может создать проблемы в области этики и безопасности.
Все эти факторы подчеркивают необходимость внимательного регулирования искусственного интеллекта, а также разработки эффективных методов противодействия угрозам, связанным с его использованием.
В чем главная проблема
Одной из основных проблем, связанных с развитием нейронных сетей, является их способность генерировать контент, который становится трудно отличить от того, что создано человеком. Это может включать в себя новости, "научные" работы, репортажи и фотоматериалы.
Главная тревога заключается в том, что нейронные сети создают тексты, учитывая правила индексации поисковых алгоритмов. Это означает, что любая, даже фейковая информация, может появляться в верхних результатах поисковых запросов, активно распространяясь. С увеличением объема сгенерированных текстов становится сложнее различить, что написано человеком, основываясь на знаниях и аналитике, а что - алгоритмом.
Примером такой проблемы был случай публикации псевдонаучной статьи о психологии, сгенерированной искусственным интеллектом, на одном из веб-сайтов в 2020 году. Пользователи не заметили подмены, что подчеркивает сложность отличия между контентом, созданным искусственным интеллектом и контентом, созданным людьми.
Другая проблема связана с компрометацией персональных данных. Разглашение исходного кода языковых моделей может привести к использованию систем для персонализированных спам-кампаний или фишинговых атак.
Третья проблема заключается в возможном влиянии на качество образования. Студенты могут использовать модели, такие как ChatGPT, для создания курсовых и дипломных работ, что может повлиять на достоверность и качество образовательных материалов.