Как не потерять миллионы с ChatGPT

Как не потерять миллионы с ChatGPT.

Техника безопасности при использовании ИИ.

Перед тем, как начать постить разные рабочие кейсы с использованием искусственного интеллекта, важное начать с техники безопасности.

Советую потратить 5 минут и прочесть все. В будущем сэкономит много времени, денег и нервов

Иначе я вижу, что некоторые начинают обожествлять иишки. «Чатгпт мне сказал, а я и сделал».

Как это работает?

Для общего понимания, как примерно работают современные ИИ формата LLM(большие языковые модели).

Это просто комбинаторика. Условный чат гпт угадывает, какое слово вы как пользователь хотите увидеть после предыдущих слов.

Если написано уже “Привет, Вася», то с большой долей вероятности дальше мы ожидаем увидеть «как дела?»

И чат гпт просто просчитывает все эти вектора/вероятности и генерирует слово за словом учитывая весь предыдущий диалог.

Поэтому ни в коем случае нельзя воспринимать современные ИИ как «думающих», «живых», «эмпатичных», «все знающих».

Это просто модель, которая из всех знаний человечества что-то выдает вам, чего вы хотели бы увидеть.

А теперь техника безопасности:

1. Ни в коем случае не принимайте важных решений, влияющих на вашу жизнь просто на основе выдачи в чате ИИ.

Разводы, закрытия бизнесов, увольнение людей, смена места жительства и тд.

Обязательно нужно:

1. Перепроверить выводы в другой нейросети. Пользовались чатомгпт? Спросите тоже самое дипсик.

2. Взять консультацию у живого человека, который сможет вникнуть в ситуацию.

Нет ничего более печального, когда человек принимает решение поменять жизнь, а промпт был неверный 🙂

2. Ни в коем случае не давайте доступ ИИ к своим деньгам.

Ни одна известная модель или агент в данный момент мая 2025 не понимает что она делает. И не сможет нести ответственность за результат.

Уже были случаи, что ИИ тратил деньги, а владелец потом рвал себе волосы во всех местах.

ИИ может анализировать, помогать советом, но конечную кнопку «купить/продать» должны нажимать вы сами. И принимать решение ее нажать тоже.

3. Всегда помните, что ИИ может придумывать то, чего не существует. Поэтому всегда перепроверяйте существенные факты.

4. Никогда не передавайте любой ИИ те доступы, которые критичны для вас или вашей компании.

ИИ использует ваши данные для обучения. А Значит, что есть ненулевая вероятность того, что эти логины/ключи/пароли станут доступны третьим лицам.

Не хотелось бы через два года получить какого нибудь мошенника, который зашел к вам в базу данных и все удалил, да?

——-

В целом это базовые правила безопасности. Но человек - существо находчивое))) поэтому список будет дополняться со временем.

Пользуйтесь ИИ с радостью, но всегда помните о технике безопасности!