Похоже, что у пользователей эта функция будет включена по умолчанию
Вчера поздно вечером OpenAI объявила о выпуске новой функции для ограниченного числа пользователей ChatGPT, которая позволяет чат-боту сохранять информацию, полученную в результате взаимодействия человека и искусственного интеллекта. Эта функция "запоминания" предназначена для того, чтобы избавить пользователей от необходимости повторять информацию, хотя для многих здравомыслящих наблюдателей это, несомненно, прозвучит как еще одно техническое достижение, собирающее подробности о нас.
И да, OpenAI, похоже, действительно включает функцию запоминания для ChatGPT по умолчанию. "Вы можете отключить память в любое время", - говорится в официальном сообщении в блоге о memory notes.
Что это?
Пользователям, которые оставляют "память" включенной, предлагается управлять этой функцией во многом так же, как Люди в черном управляют воспоминаниями незадачливых прохожих после встреч с инопланетянами: заставляя их забыть. Но никакой нейрализатор не требуется; вместо этого вы, по-видимому, можете просто "сказать ему забыть", - говорит OpenAI, что, очевидно, означает, что вы можете написать что-то вроде "не сохраняйте это в памяти, но..." в промпте.
Из чего именно состоит "память" искусственного интеллекта, пока неясно — и, возможно, никогда не станет ясно, — но видео OpenAI показывает вымышленного пользователя, управляющего воспоминаниями в своих пользовательских настройках, и маркированный список воспоминаний показателен. Воспоминания внешне кажутся содержательными небольшими фрагментами текста о предпочтениях и биографической информации, похожими на то, что полицейский из фильма записывал бы в блокнот во время опроса свидетеля.
"Дочь, Лина, любит медуз", - говорится в одном. "Предпочитает, чтобы помощь в написании текстов и записи в блоге были более краткими, прямолинейными и менее эмоциональными", - говорит другой. "Сейф, полный ценностей, находится рядом с незапертой боковой дверью", - гласит другой. Шучу насчет третьего.
Но тип информации, которую сохраняет функция, тем не менее, вызывает некоторое беспокойство, особенно потому, что легко представить, что заядлые пользователи ChatGPT непреднамеренно раскрывают информацию о своем рабочем месте, семье и медицинских ситуациях — не говоря уже о намеках на свои самые сокровенные чувства по поводу этих ситуаций — машине, которая запомнит их, возможно, навсегда. Что еще более тревожно, у OpenAI уже есть история случайной утечки сохраненных разговоров.
Стремясь развеять подобные опасения, OpenAI заявляет, что позволяет пользователям с включенной функцией включать опцию "временного чата" для бесед без использования памяти - функция, по-видимому, вдохновленная режимом инкогнито в современных веб-браузерах. И OpenAI также утверждает, что это предотвратит проактивное запоминание конфиденциальных данных, если только пользователь не запросит это "явно". Это намекает на вспомогательную функцию в памяти ChatGPT, которая, когда обнаружит, что вы только что рассказали ей, скажем, о своей семейной истории рака, скажет что-то вроде: "Похоже, у вас там довольно конфиденциальные данные. Хотите, я запомню это?"
На данный момент OpenAI сообщает, что функция находится в стадии тестирования, и что на этой неделе она будет "доступна небольшой части пользователей ChatGPT free и Plus", и что она все еще оценивается на предмет полезности. Если вы используете ChatGPT, не забудьте проверить, включен ли он.