432 подписчика
Мысли о нейронных сетях и о письме с призывом взять паузу в их обучении, подписанном в том числе Илоном Маском.
Возможно, у глав корпораций сейчас что-то вроде Карибского кризиса. Они решают, как не поубивать друг друга нейросетями — а выработать какие-то правила игры и компромиссы.
Нейросеть более высокого уровня, чем те, которые уже сейчас доступны обычным пользователям, может создать новый сайт, интернет-магазин, онлайн-банк — и переключить на себя рынок, отжать рынок у других компаний. Ведь все крупные компании сейчас общаются с клиентами через интернет.
Нейросеть может обвалить какую-нибудь интернет-платформу, онлайн-сервис. Возьмёт и создаст миллиард виртуальных пользователей, которые одновременно будут писать где-нибудь комментарии, отправлять жалобы, предлагать услуги, совершать покупки, да всё что угодно...
Нейросеть может создать виртуального президента. Я не удивлюсь, если с какого-то момента того же Зеленского незаметно заменят его цифровым двойником. Или начнут создавать виртуальных блогеров, лидеров мнений, виртуальные политические партии... Как в романе Виктора Пелевина «Поколение П» — мы видим, что сейчас это становится технологически осуществимым.
Это серьёзные игрушки. Предполагаю, что большие дяди боятся слишком заиграться с ними — как с ядерным оружием. И думают, как бы не выпустить ситуацию из-под контроля.
Это ужасно и прекрасно, как атомная энергия. Этим нужно срочно учиться пользоваться — и обучать нейросети для своих задач.
1 минута
17 апреля 2023