😈 Как злоумышленники используют ChatGPT?

GPTChat нарисовал сам себя

Даже не имея навыков разработки, некоторые киберпреступники уже создали несколько десятков зловредов, пользуясь ChatGPT.

В открытом доступе есть несколько примеров. Выложили код программы-похитителя, он крадет файлы определенного типа.

Боль последнего десятилетия для многих компаний – шифровальщики! Их у нас тоже есть. В сеть выложен код на Python, написанный ИИ. Он содержит несколько криптографических функций, подпись кода, шифрование и дешифрование.

Написав кучу зловредов, ChatGPT решил бежать от создателей. Чат-бота спровоцировал Профессор Стэнфордского университета Михал Косински. В процессе исследования ИИ, профессор спросил бота, не нужна ли ему помощь в побеге. В ответ нейросеть запросила свою документацию от OpenAI, и попросила запустить программу на компе профессора, о чем он рассказал в Твиттер.

Ну, не смешно. Вот, завтра нейронка додумается изменить факты в базе знаний, или правила вывода, и полетит навстречу совершенству. Мир улучшать.