Все уже знают историю со сливом части исходного кода Samsung ChatGPT? Кто не знает — устраивайтесь поудобнее, это страшный сон любого разработчика! Кто знает — сразу приглашаю в комментарии: по каким критериям определяете, что можно скармливать ИИ, а что нельзя?
👉Итак, обещанная история. Весной этого года один разработчик Samsung попросил ChatGPT проверить написанный код. Другой отправил исходный код ИИ для оптимизации. Третий формировал протокол совещания и скормил GPT корпоративный данные клиентов компании. В итоге и код и персональные данные попали в базу ИИ. А так как база открытая и исходящие данные передаются на внешние серверы, теперь они стали доступны всем пользователям ChatGPT. Как в том анекдоте про «заходи кто хочешь, бери что хочешь».
Между тем на сайте OpenAI черным по белому написано, что «пользователи не должны делиться конфиденциальной информацией в диалогах с GPT, поскольку эти данные становятся частью базы, которую использует ИИ». Кого это останавливает?
Не знаю, насколько эта история соответствует реальности и вообще есть определенные сомнения по модели обучения, но для себя я вынесла следующее:
- Все что вводится в строку ChatGPT и выдается как ответ, связано с моим номером телефона, номером карты и e-mail. Если пользуюсь какой-либо адаптированной версией в Telegram например, информация соотносится с моим аккаунтом. Хочу ли я, чтобы все мои запросы и ответы на них были привязаны к моим учетными данным?
- OpenAI — частная коммерческая компания. Ее интересы и коммерческие императивы не обязательно совпадают с потребностями общества. Тем более, с потребностями моей компании, пожалуй даже и моей страны.
- Все, что попадает к GPT становится частью базы данных ChatGPT. Они будут использоваться для дальнейшего обучения инструмента и включаться в ответы на вопросы других людей.
- Проекты с NDA, пожалуй, обойдутся без помощи ИИ. Разработчики у меня покруче и да и понадежней в вопросах конфиденциальности.
Мария Орлова, генеральный ТехноФабрики
Подписывайтесь, будет больше честных и нескучных историй про разработку приложений и сайтов для бизнеса.