Мы (люди XXI века), кажется, стали забывать, как самостоятельно справляться с базовыми вопросами. Нейросеть ставит нам диагнозы, решает уравнения, помогает выбрать одежду, придумывает ответ парню в ссоре и даже пытается разобраться с нашим эмоциональным состоянием. Но стоит ли доверять искусственному интеллекту так много своих данных? Разбираемся с сотрудниками Центра применения ИИ в журналистике и массовой коммуникации ННГУ.
Нам, хомо сапиенсам, свойственно что-то забывать или, наоборот, хранить в голове клипы с теплыми воспоминаниями. Память на нашем телефоне фиксирует всё, но рано или поздно может закончиться. А что такое память у нейросети?
Нет, это не только история запросов. Память нейросети — это способность сохранять, накапливать и использовать информацию. Память современного ИИ представлена сложной системой. Она сочетает в себе внешнюю и внутреннюю память.
Внутренняя память — это фундаментальные знания, вложенные в параметры нейросети изначально во время обучения. ИИ не помнит конкретный текст, он знает вероятное распределение слов и понятий. Суть его работы складывается на принципе «вопрос — ответ», данные анализируются, и накопленный собственный опыт применяется в дальнейшей работе.
Внешняя память — это механизмы, позволяющие модели работать с информацией, которой не было во время обучения. Она предоставлена прямо сейчас, в диалоге. Как она понимает контекст и улавливает смысл? Всё строится на последовательности токенов — единицах текста, которые можно распознать и проанализировать за один раз для генерации следующего ответа. Простыми словами, «кирпичики смысла для нейросетей», часть фразы или слова, воспринимаемые нейросетью для дальнейшей работы.
Младший научный сотрудник Центра применения ИИ в журналистике и массовой коммуникации ННГУ Алексей Солодовников считает, что диалог становится осмысленным, когда ИИ помнит предыдущие запросы.
— Память у современных нейросетей — как у очень эрудированного, но немного рассеянного профессора: помнит суть долгого диалога, но детали может и упустить, — рассуждает Алексей. — Улучшения в работе неизбежны в будущем, но пока мы учим их отделять главное от шума, а не просто складировать гигабайты контекста.
Можно ли доверять рассеянному дедушке сокровенное и ожидать хороших советов и поддержки? Сейчас пишут в нейросеть с любым вопросом. Например, первокурсница направления «Журналистика» Арина Панюхина обращается к ChatGPT как к врачу и советуется по поводу самочувствия и здоровья.
— Меня не пугает наличие памяти у нейросети, потому что конкретно личные данные я не даю, — рассуждает Арина, — нейросеть не сможет дать верный совет, касаемый моей жизни, но точно сможет направить на верные мысли. Мне нравится, что нейросети всегда делают пометку, что все зависит от конкретной ситуации, что решение все равно принимаю я, а он дает лишь немного советов.
Страх утечки информации есть у всех, но при использовании нейросети такая вероятность мала. Программа может использовать ваши данные для обучения и выдать непреднамеренно некорректную информацию другому пользователю или во время следующего диалога.
— Почти не пользуюсь нейросетями в бытовом плане, — делится второкурсница направления «Реклама и связи с общественностью» Виктория Резцова, — неприятно ощущение того, что информация может быть недостоверная и данные не защищены. Машинное обучение не обладает симпатией и не может полностью погрузиться в ситуацию.
Для людей, не разбирающихся в устройстве искусственного интеллекта, любое новшество будет подозрительным, так как это касается их безопасности. Сложная система разрабатывается десятилетиями, постоянно совершенствуется и расширяет свои возможности. Илья Померанцев занимается глубоким исследованием нейросетей. Он является руководителем компании, специализирующейся на разработке решений на основе ИИ по всем направлениям.
— История чата и память нейросети всё- таки разные вещи. Чаты служат только для запоминания контекста, в саму (ядро нейросети) они не попадают. Поэтому если удалить чат, нейросеть не будет тянуть от туда контекст. Чаты — это инструмент. В целом, отправлять запросы, связанные с личной жизнью допустимо. Можно надеяться на высокий уровень конфиденциальности. В большинстве случаях советы будут правильными, но сильно зависят от контекста и промтов.
Вся информация, которую вы вводите в чат-бот, отправляется на серверы компании-разработчика. Эти серверы расположены на защищенных площадках, и доступ к ним контролируется. Вся обработка ведется анонимно, без привязки к личной информации конкретного пользователя. Это значит, что ваши персональные данные остаются конфиденциальными и не передаются третьим лицам.
Но младший научный сотрудник Центра применения ИИ в журналистике и массовой коммуникации ННГУ Алексей Солодовников предупреждает «Доверяйте нейросети только то, что не страшно увидеть в мемах».
Помните, что нейросеть это одно из средств для поиска ответа. Информацией из разных источников и ее достоверностью распоряжаетесь, в первую очередь, ВЫ, человек, который пишет промты и управляет ходом мысли. Делиться переживаниями можно, главное это делать в рамках разумного, понимая, что программа не сможет почувствовать, а только связывает предыдущую информацию с текущей задачей.
Мария Сербина, Карман