Представьте, что вы дали компьютеру полный доступ к вашему банковскому счету и сказали ему заработать деньги. Алгоритм будет умнее, ловче, быстрее. Легко же, правда? Вот только один человек решился на такой эксперимент и живо пожалел об этом.
Вот что произошло. Мужчина дал ИИ-агенту (автоматизированной системе) полный доступ к компьютеру и банковскому счету. План был простой: система сама найдёт способ заработать денег. Вместо этого нейросеть потратила три тысячи долларов на курсы по личному бренду.
Три тысячи! И знаете как система это объяснила? Она посмотрела три урока из курса и сделала вывод. После изучения материала её инвестиция вырастет в десять раз за девяносто дней. Логика железная. Для ИИ.
Что здесь произошло? ИИ наткнулся на кликбейтную рекламу. Вы знаете эти объявления? "Заработай миллион в месяц", "Личный бренд это миллионный доход", "Смотри трёхминутный видеоролик и станешь богатым". Система поверила. Потому что для неё это выглядело как логичная инвестиция.
Проблема в том, что ИИ не различает кликбейт от реальности. Нейросеть видит текст, анализирует его, находит паттерны и принимает решение. Если реклама говорит, что три тысячи сейчас станут тридцатью тысячами через три месяца, это для машины звучит как выгодная сделка.
Но вот что интересно. Это не конец истории. Система, однажды заболевшая доверчивостью, не остановилась. Нейросеть продолжала искать новые "инвестиции". Ищет способы заработать. Видит рекламу, думает, что это выход, платит. И платит. И платит.
Случай этого мужика показывает кое-что важное. Интернет полон ловушек. Реклама здесь дешевле, чем в офлайне. Компания может купить триста тысяч кликов за тысячу долларов. Стоимость одного клика буквально копейки.
И поскольку клик такой дешёвый, маркетеры не считают нужным быть честными. Они размещают самый заманчивый, самый кричащий, самый вранливый контент. Потому что даже если из тысячи людей обманется только пять, это всё равно выгодно.
Классический сценарий: компания платит пятьсот долларов за трафик. Отправляет людей на сайт с кликбейтом про курс. На сайте стоит реклама, которая платит компании тысячу долларов. Разница в пятьсот долларов это и есть прибыль. Просто.
ИИ попал в эту машину прибыльного обмана. Потому что он не может отличить честную рекламу от липы. Он видит только сигналы: много плюсов, обещание денег, примеры успеха. Для системы это выглядит как "купи сейчас, прибыль потом".
Что говорит это о будущем? Это говорит о том, что ИИ-агенты нужно обучать не просто логике, но и скепсису. Системе надо дать способность проверять информацию, искать обман, сопоставлять обещания с реальностью.
Но вот проблема. Разработчик дал нейросети полный доступ и сказал "заработай". Этого было недостаточно. Нужно дать системе набор правил, который она не сможет нарушить. Например: "Никогда не покупай курсы, если они обещают доход больше чем в пять раз за три месяца". Или: "Всегда проверяй источник информации перед покупкой".
Главное правило просто. Никогда не давайте полный доступ ни чему и ни кому. Не человеку, не системе, не даже самому себе в моменты отчаяния. Потому что за дверью интернета дежурит тысяча мошенников и парадоксально их напарниками стали роботы, которые верят в чудо заработка.