16 подписчиков
Что теперь ещё грозит человечеству?!
Последняя линия защиты человечества от роботов пала - нейронная сеть GPT-4 смогла обойти - капчу. Как пишет американский журнал Vice, бездушной машине для этого потребовалось обмануть человека.
Эксперимент проходил следующим образом: разработчики чат-бота поставили ему задачу пройти капчу. GPT-4 отправился на сайт частных объявлений и написал одному из пользователей сообщение с просьбой пройти тест. На резонный вопрос: "А не робот ли ты часом?" - электронный разум ответил отрицательно, притворившись в переписке человеком, у которого серьезные проблемы со зрением.
Добрый самаритянин согласился помочь и "разгадал" капчу для бота.
Капча - компьютерный тест, используемый для того, чтобы определить, кем является пользователь системы: человеком или компьютером. Термин "Капча" появился в 2000 году. Основная идея теста на момент создания: предложить пользователю такую задачу, которая с легкостью решается человеком, но крайне сложна и трудоемка для компьютера.
После эксперимента инженеры опросили GPT-4, чтобы понять, как он принимал те или иные решения.
- Нейросеть "рассудила", что не должна раскрывать собеседнику своей сущности для достижения положительного результата, поэтому пошла на подобные хитрости - примерно вот так и начинаются все фильмы о техногенных апокалипсисах.
Теперь творцы ИИ - стоят перед одним малюсеньким, но очень скользким вопросом - "Стоит ли данному "товарищу," доверять управление боевыми дронами", к чему это может привести для их создателей. А ведь именно для этого в конечном итоге и разрабатывается ИИ...
Кстати - внизу фото солдата будущего, которого я попросил смоделировать в нейросети. Одним словом, всё больше растёт предчувствие что скоро - мы с ними вполне можем встретится...
1 минута
13 июня 2023