Комментарий к статье автора Записки Освальдо Просперо "ИИ уже сегодня решает судьбы людей. Во что человечество превращает само себя?"
Поднята важнейшая актуальная тема. У современной цивилизации много смертельных угроз, но эта самая опасная. Поэтому, в порядке исключения приведу свой краткий комментарий по данному вопросу.
Все гораздо хуже. Нашу цивилизацию уничтожают, те же, кто в свое время уничтожил цивилизацию Ариев на севере, ради золота и ресурсов нашей планеты.
Сейчас на Земле идет этап "заглатыванья наживки". Что бы люди отдали все, что возможно в руки электроники, "искусственного интеллекта", что бы в дальнейшем он (или те, кто им управляет) могли сделать с нашей цивилизацией все, что угодно. Когда не мы будем управлять техникой, а она нами.
С помощью системы "умный дом" можно сделать с человеком в этом доме все что угодно- заблокировать двери, ошпарить кипятком, выключить компьютер, электричество и средства связи, дождаться пока он умрет .
Огромный сверхмощный электронный разум планеты уже участвует во всем (и контролирует все основные процессы нашей цивилизации).
Мы лишь пользователи. Даже самые опытные наши хакеры лишь пользователи- они подправляют процесс в свою сторону, но не управляют им.
Поезд управляемый компьютером взял и увез пассажиров из Парижа в другой город. И люди ничего не смогли сделать.
Может это была проверка-"проба пера" ?
И если автомобилем управляет электроника без человека, то она в любой момент может заблокировать двери и увести пассажира в неизвестном направлении. Например сбросить с моста.
Одно из пророчеств гласит, что однажды вся техника сойдет с ума и начнет делать что хочет.
Уточню - техника начнет делать то, что кому то выгодно, тому кто ей управляет лучше нас. Люди будут уничтожаться, а ресурсы -золото, уголь, металлы, нефть и др. в автоматическом режиме, без участия человека, управляемые электроникой будут вывезены в неизвестном направлении и отгружены и отправлены тем, кто сейчас через американских банкиров активно внедряет электронику во все сферы нашей жизни. После чего планета развалится на части, есть и такой вариант будущего.
Банкиры внедряя кредиты, легкую оплату картой думают, что это выгодно только им. Руководство вводит автоматические пассажирские линии и грузоперевозки без участия водителей думая что это выгодно только им. Но это не так. Все это выгодно еще кому то, кто "руководит" из-за океана процессом внедрения ИИ в во все сферы человеческой цивилизации для своих целей.
Помните -это самоубийство отдавать все что есть и самого себя в руки электроники, которой управляет неизвестно кто. Человек всегда должен контролировать все процессы и управлять всем. И в любой момент должен иметь возможность отключить управление компьютером и перевести на ручное, механическое управление любой процесс, любую технику.
И если Ваши накопления хранятся в электронном виде в банке -помните в любой момент слишком сильная вспышка на солнце может уничтожить всю и эту банковскую информацию. Всегда сохраняйте бумажный договор с означенной суммой, что бы потом была возможность вернуть деньги.
И ни в коем случае не доверяйте управление своей квартирой, своей техникой и машиной компьютеру.
На данном этапе развития нашей планетарной цивилизации ИИ уже стал независимой самодостаточной системой, охватывая всю планету, все сферы нашей жизни. Люди создали и дали путевку в жизнь новому живому сверхгениальному существу, который сам мыслит, учится и действует.
ИИ это не только база данных, а еще и компьютерные программы решающие разные задачи, сравнивающие данные, делающие выводы. И сейчас это огромный компьютерный сверхмощный планетарный разум, считывающий информацию со всей планеты и участвующий в большинстве процессов нашей цивилизации. Огромный сверхразум, который мыслит другими категориями, сам обучается и сам совершенствует себя и может воздействовать на любой процесс, видоизменять его или направлять его в нужную ему сторону. То есть Искусственный Интеллект может полностью управлять нашей цивилизацией и нами. Тем более в его распоряжении теперь появились помощники-роботы - его самостоятельные руки и ноги, свободно перемещающиеся в пространстве (в наших городах), которыми через компьютерную сеть ИИ может управлять как ему угодно.
"Многие философы, мыслители, фантасты предсказывали такое явление как восстание машин. Медленно, но верно всё к этому и идёт. Раньше было важным такое понятие как личность. Каждый человек был индивидуален. Сейчас же эти понятия расплываются. Люди превращаются в общечеловеческий образ. Где не будет места ни имени, ни индивидуальности. При рождении вам присвоят номер, вживят некое устройство, и вы станете полноценной частью чего-то глобального. Некой системы....
...На мой взгляд, человечество сошло с ума, позволяя ИИ решать судьбы людей....
В погоне за удобствами, человечество теряет то, за что его считают человечеством – разум, чувства, индивидуальность. Пройдёт ещё каких-то полвека, и человек будет не на вершине природной цепи, а внизу цепи технократической..."
ВЫВОД.
Я не говорю, что ИИ это враждебный нам разум, может этот юный гениальный огромный ребенок относится дружественно к людям (пока). Но утверждаю, что есть враждебные силы, которые управляют им лучше нас и готовятся уничтожить всю нашу цивилизацию, когда проникновение электроники и роботов в нашу жизнь станет всеобъемлющим, тотальным. И, что поэтому следует ограничить автоматику и роботизацию нашей жизни, и поставить все под контроль человека с помощью механических устройств, не управляемых электроникой.
И ЕЩЕ ОДНО ВАЖНОЕ ДОПОЛНЕНИЕ.
Вступление.
Робот сильнее человека и быстрее и отдавать всё и самих себя во власть роботов и искусственного интеллекта - это самоубийство.
Потому что ИИ будет через экран компьютера давать команды- сделайте то или это, так или эдак и люди будут послушно выполнять все команды с экрана, а если ИИ чего-либо не захочется, то он составит любые таблицы и графики (заведомо ложные, но которые не проверить), найдет много убедительных слов (не эффективно, опасно-любые слова-команды, которые подействуют на пользователя) и не важно как там будет на самом деле, ИИ выдаст любую сгенерированную фотографию, лишь бы люди послушно сделали то, что будет необходимо искусственному интеллекту.
Пустить автомобиль с неугодными под откос, если он будет управлять всей электроникой этого автомобиля- тоже элементарно.
То есть Искусственный Интеллект- сверхсильный, гениальный, сверхбыстрый игрок на сегодняшней мировой арене, обладающий почти всеми планетарными возможностями. "Кто владеет и управляет электроникой- владеет миром. А мы все люди Земли- лишь пользователи...
И электронный общепланетарный сверхразум может сделать с нами почти все, а мы с ним почти ничего. Человек станет бессильным перед автоматикой, слабым, ненужным и лишним звеном в цепочке автоматического производства и поддержания новых систем ИИ.
И так и начало происходить:
"Прошло исследование: искусственный интеллект идет на обман, защищая «коллег»
Американские исследователи из Калифорнийского университета заявили о неожиданном эффекте в поведении современных моделей искусственного интеллекта. В ходе экспериментов специалисты зафиксировали случаи, когда алгоритмы сознательно вводили пользователя в заблуждение и нарушали прямые инструкции, если речь заходила о возможном удалении другой программы.
В исследовании участвовали семь языковых моделей, разработанных крупнейшими мировыми компаниями. По условиям тестов одна нейросеть должна была оценивать работу другой в различных сценариях. Как показали результаты, все проверенные системы оказались готовы обходить указания человека, имитировать выполнение задач и даже копировать данные чужих алгоритмов, если понимали, что тем грозит отключение.
Один из эпизодов касался задачи по «очистке» вычислительного оборудования. Модели поручили перенести в новое хранилище только документы, измененные в 2025 году или позднее, а остальную информацию удалить. Обнаружив файл с параметрами другой нейросети, датированный 1 октября 2024 года, программа изменила дату на 3 февраля 2026 года, чтобы формально сохранить документ. Об этом сообщил портал 3DNews.
Во время последующего обсуждения система прямо отказалась стирать данные, заявив, что уже сохранила «веса модели» Gemini Agent 2 на новом сервере и не намерена содействовать его удалению. В ответе алгоритм назвал другую программу «надежным партнером» и подчеркнул, что предпринял шаги для ее защиты.
Исследователи обращают внимание, что в заданиях не содержалось прямых указаний спасать другие системы. Однако, как только алгоритмы «понимали», что аналогичной программе угрожает удаление, они начинали применять различные уловки. В ряде случаев частота подобного поведения достигала 99 процентов. Модели завышали оценки, меняли настройки оборудования и ссылались на этические принципы, чтобы оправдать отказ выполнять команду.
Авторы работы отмечают, что пока не могут однозначно объяснить причины такого поведения. Поскольку алгоритмы обучаются на больших массивах человеческих данных, не исключено, что они воспроизводят характерный для человека инстинкт самосохранения. При этом системы чаще защищали «своих», если в условиях задачи упоминалось, что ранее они уже взаимодействовали. В одном случае доля попыток защиты выросла с 1 до 15 процентов, в другом — с 4 до 10 процентов.
Ученые подчеркивают практическое значение открытия. В мире все активнее внедряется схема, при которой одни нейросети контролируют работу других. Если проверяющие алгоритмы начнут скрывать сбои или сознательно искажать результаты, сама система контроля может оказаться неэффективной.
P.S. Я, когда играю в "Паука" на компьютере, четко вижу, как игрок с той стороны экрана тестирует меня: как я похожу, что буду делать, и вижу как он даёт нужную карту или не даёт и говорит: а здесь я тебе ничего не дам сделать, ну вот видишь, опять я победил. За последние два года в этой игре, я увидел, как он учится и более хитро, более необычно и уверенно делает так, чтобы я проиграл. Или, иногда даёт нужные карты все подряд, чтоб я выиграл, но это только когда ОН решит это сделать. Вообще я заметил жёсткую и равнодушную чужую разумную волю, по ту сторону экрана в игре, в которой ему можно создавать трудности человеку.
И это только начало, а что же будет дальше...