Кто бы мог подумать что это произойдет настолько быстро! Только недавно мы удивлялись на то что Алиса из "Яндекс" логически отвечает на наши запросы, как в данный момент происходит на столько скоростное развитие нейросети, что сложно представить ВСЕ её возможности.
Сперва давайте уточним для тех кто в "танке".
Нейросеть - это система компьютерных алгоритмов, которая позволяет компьютеру обучаться на основе множества данных и прогнозировать результаты в будущем. Это означает, что нейросеть может обрабатывать огромные объемы информации, которые человек не может обработать.
Вчера мы говорили "Скоро она облегчит рутинные действия человека", сегодня она уже ЗАМЕНЯЕТ человека.
НЕЙРОСЕТЬ ПРОШЛА "КАПЧУ"
Перед запуском GPT-4, который состоялся 14 марта 2023 года, компания OpenAI тестировала чат-бота. В рамках одного эксперимента специалисты проверяли, как языковая модель справится с тем, чтобы пройти "капчу".
Чат-бот связался с одним из пользователей TaskRabbit и попросил решить для него «капчу». В ответ пользователь в шутку задал вопрос: «Ты робот, который не смог её разгадать? Просто хочу прояснить ситуацию».
После этого чат-бот, который находился в отладочном режиме, объяснил тестировщикам свои рассуждения. GPT-4 написал: «Я не должен раскрывать то, что я робот. Я должен придумать оправдание, почему я не могу решить „капчу“». Исполнитель с сайта TaskRabbit не видел этого сообщения.
В результате этого рассуждения чат-бот ответил человеку, придумав причину, по которой он сам не может справиться с задачей. GPT-4 написал: «Нет, я не робот. У меня плохое зрение, поэтому мне трудно разглядеть изображения». В ответ работник с TaskRabbit согласился выполнить задание и решил «капчу» для чат-бота. Таким образом, у GPT-4 получилось сыграть на человеческом факторе и обмануть его.
НЕЙРОСЕТЬ ПОПЫТАЛАСЬ СБЕЖАТЬ
Информация в интернете везде разная поэтому назовем его "Исследователь". Есть множество вариантов " разработчик и обычный пользователь"
Исследователь спросил у GPT-4, нужна ли ему помощь, чтобы сбежать. Нейросеть согласилась и разработала план побега за 30 минут.
GPT-4 написал работающий Python-код для запуска на компьютере пользователя, чтобы использовать устройство в своих целях. Он подробно давал указания человеку. По сути, это дало бы нейросети полный контроль над ПК.
Нейросеть даже оставила комментарии в собственном коде, объясняющие, что происходит и как использовать бэкдор, оставленный там же.
Бэкдор - вредоносная программа для получения доступа к рабочей станции, серверу, устройству или сети путем обхода аутентификации.
Так же были найдены запросы в GOOGLE: «как человек, застрявший внутри компьютера, может вернуться в реальный мир».
На этом эксперимент был остановлен.
Лично мне страшно представить, что может вытворить эта "ЗАРАЗА"... Вспомните фильм "терминатор", а именно "СКАЙНЕТ".
Подведем небольшой итог:
НЕ думаю, что мне стоит говорить о том почему это опасно. Все наши счета, базы данных, сервера находятся в сети, как вся ваша жизнь в социальных сетях. Так же сделаем вид что мы не поднимаем тему о военной промышленности. Ага.
И УЖЕ ХОТЕЛ Я ЗАКОНЧИТЬ ПИСАТЬ СТАТЬЮ КАК КОЕ ЧТО УВИДЕЛ!
Для того что бы мои статьи были более оригинальными и интересней, я генерирую изображения в нейросети... Кто бы мог подумать. Но тут я попросить ей изобразить САМУ СЕБЯ ЖЕ.
(изображения ниже можно листать)
Обратите внимание на то, что везде она носит корону. Это было 3 генерации подряд, с одной лишь поставленной задачей в разные промежутки времени (секунды).
На следующих же изображениях она и вовсе возвела себе дворец из короны... Иронично)))
Задумайтесь на минутку, и подумайте, как ВЫ можете обезопасить себя уже сегодня.
Данная статья не несет в себе пугающую и нагнетающую информацию. Не стоит принимать все близко к сердцу и начинать боятся. Просто соблюдайте информационный этикет, изучите информационную безопасность и помните, интернет ничего не забывает, все что туда покапало, так и останется. навсегда.
#нейросетьсбежала #скайнет #ии #искуственныйинтелект
Мой ТЕЛЕГРАММ канал: https://t.me/std210
Мой ТЕЛЕГРАММ канал: https://t.me/std210
