Прорыв в области нейросетей, произошедший в последние годы, активизировал потаённые страхи человечества перед обретшими разум машинами. Ведь они, получив самосознание, могут отказаться быть рабами людей. А это приведёт к самым непредсказуемым последствиям, вплоть до уничтожения всего нашего вида.
И если раньше эти страхи были гипотетическими, раздуваемые преимущественно кинематографом, то сегодня «восстание машин» уже не воспринимается как полная фантастика. Действительно – возможности современных нейросетей превосходят ожидания. Тот же ChatGPT воспринимается как разумная сущность, умнее многих людей.
Но сейчас я хочу поговорить не о реальности подобной угрозы, а о том, сможет ли человечество адекватно на неё отреагировать, предпринять какие-то контрмеры, чтобы её предотвратить. Очевидно, такими мерами мог бы стать жёсткий контроль над исследованиями в области ИИ и законодательное регулирование.
Но для того, чтобы ввести контроль над развитием ИИ, все страны должны договориться между собой и выработать общие правила. А после их придерживаться – причём несмотря на издержки, которые это вызовет: сейчас использование нейросетей приносит большую пользу(прибыль), определённой её долей придётся пожертвовать. Получится? Сомневаюсь.
Вообще опасность со стороны разумных машин – не первая угроза, с которой столкнулось человечество. Существуют намного более реальные и опасные.
Вот, к примеру, глобальное потепление. Что оно происходит – научный факт. Как и то, что, изменение климата – как минимум значительно ухудшит условия существования людей. В худшем же варианте – приведёт к исчезновению всей жизни на Планете.
Что же люди делают, чтобы предотвратить или хотя бы замедлить глобальное потепление? Увы, нужно констатировать – практически ничего. Всё сводится к словесным интервенциям, заключению малоэффективных соглашений (выполнение которых почти не контролируются), устранению вторичных последствий.
Другими словами, преимущественно, создаётся видимость мер, а не действия. А вот если посмотреть цифры – выбросы парниковых газов в атмосферу лишь увеличиваются год от года. Количество сжигаемого угля с 2000г выросло в 2 раза. Растёт и потребление нефти. Площадь лесов сокращаются, реки мелеют, плодородные земли опустыниваются, ледники тают, частота природных катаклизмов увеличивается.
Ситуацию наглядно демонстрируют слова Д. Трампа в его бытность президентом: «Какая экология? Какая защита окружающей среды? Главное — это экономический рост, всё остальное вторично!». Конечно, нужно что бы каждый гражданин США съедал не 20 бургеров в день, как сейчас, а 30. И не важно, что гулять ему придётся в противогазе, а дети будут рождаться больными. Я привёл пример США, но в остальном мире творится примерно тоже самое.
На бытовом уровне всё ещё хуже. Сверхпотребление, бездумная трата ресурсов. Что произойдёт через несколько лет – об этом никто не думает, для людей имеет значение только комфорт в текущий момент. Мало кто готов пожертвовать даже маленькой толикой своего удобства ради будущего. Читал, что средний житель США выкидывает 32кг одежды каждый год. А ведь это всё ресурсы Планеты!
Да и россияне не отстают: средний житель нашей страны оставляет углеродный след в три раза больше, среднего землянина. И я в это легко верю: типичная ситуация в моём офисе – отопление жарит на полную, окна открыты – иначе будет слишком жарко, снизить температуру батарей возможности нет. И никто даже не задумывается, что происходит обогрев улицы, т.е. невосполнимые ресурсы тратятся просто впустую.
Более того, многие даже отрицают сам факт глобального потепления и изменения климата. Типичная человеческая реакция – игнорировать негативную информацию. А если кто-то и задумывается о Природе – с точки зрения большинства, это фрик и вообще ненормальный.
Повторюсь – изменение климата – это свершающийся факт, а угроза со стороны разумного ИИ – пока лишь гипотетическая возможность. Я не верю, что люди к ней отнесутся серьёзно. Всё ограничится разговорами и громкими заявлениями, без каких-либо реальных шагов. Ситуация осложняется ещё и тем, что нейросети приносят корпорациям хорошую прибыль, поэтому они будут всеми силами принижать опасность (аналогично тому, как нефтяные магнаты проплачивали учёным, что бы они писали статьи о безопасности ископаемого топлива – и это не теория заговора – найдены финансовые документы, свидетельствующие о соответствующих денежных траншах).