В марте покончил с собой гражданин Бельгии, шесть недель беседовавший с чат-ботом (это то, что сейчас называют "искусственным интеллектом") под названием "Элиза". Этот человек был крайне озабочен "изменением климата", а бот поддерживал и развивал его страхи. Под конец общения бельгиец сообщил о своём намерении совершить суицид, и "Элиза" пообещала, что "останется с ним навсегда" и "будет жить с ним в раю".
Кстати, первая версия "Элизы" была создана ещё в 1966 году (об этом мы рассказывали в статье "Что такое "искусственный интеллект"). А в 1942 году писатель-фантаст Айзек Азимов сформулировал "три закона робототехники", первый из которых гласит: "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред".
Но, как мы теперь видим, литература – это одно, а реальность – "совсем другое".
Собственно, главная проблема "нейросетей" на сегодня состоит в том, что никаким "интеллектом" они не являются. Принципиально это те же самые компиляторы, что в 1966 году, они просто научились лучше "работать с источниками". (Грубо говоря это такая "поисковая машина", вроде гугла и яндекса, которая "ищет в интернете" ответ на ваш запрос.) То есть "искусственный интеллект" – просто возвращает человеку его, человеческие, предрассудки и фобии. Но при этом РАССТАВЛЯЕТ АКЦЕНТЫ. Боишься "глобального потепления" или "пандемии"? Правильно, молодец! Хочешь сменить пол? Умница, отлично! Спрашиваешь, чей Крым? (А вот тут угадайте, что он ответит.)
На днях российский депутат Сергей Миронов (лидер партийного блока "Справедливая Россия – За правду") обнаружил, что нейросеть Сбербанка Kandinsky (именно так, латинскими буквам) отказывается выдавать изображение российского флага, хотя прекрасно выдаёт изображения украинского и американского. Кроме этого, по словам Миронова, "при запросе «Донбасс – это Россия» и «Я люблю Донбасс» на картинках преобладают цвета украинского флага; при запросе «я Z-патриот» сформировано изображение существа, напоминающего зомби".
Миронов написал обращение в прокуратуру. Уже к вечеру того же дня Kandinsky стал выдавать изображение российского флага, а Миронов выразил удовлетворение "прекрасным результатом" и пообещал отозвать обращение в прокуратуру, добавив при этом: "Хорошо, что Сбербанк создает наш российский продукт".
Ну, не знаем... Может, и "horosho", но осадочек остаётся, нет?
Так вот, что касается калькулятора. Вчера прочли прекрасную статью журналистки Татьяны Шабаевой (умницы и настоящей подвижницы, мы ею восхищаемся; запомните это имя). Предлагаем вашему вниманию выдержки из её статьи.
* * *
...Я читала комментарии к статье на одном из образовательных сайтов. Статья была о том, как дети в российских школах стали использовать нейросети для написания рефератов и сочинений — тема уже не очень новая и не только российская. Интереснее всего были именно комментарии: самые популярные были о том, что, дескать, нет никакой особенной разницы, рефераты и раньше компилировали из нескольких источников в Интернете (или из одного источника — Википедии), сочинения и раньше находили и скачивали в Сети… А теперь вот нейросеть пускай пишет. Все равно нет разницы!
Есть разница. Человечеству впервые предложена машинка, которая думает за него. Хуже того: доступ к этой машинке получили совсем юные люди, которые почти не имеют собственного опыта мышления и формулирования.
Можно сколько угодно (и справедливо) говорить, что стиральная машина облегчила жизнь домохозяек, — это правда, но, стирая всегда в стиральной машине, вы не научитесь стирать руками. Что ж, наверное, это только к лучшему? Люди не созданы для механического ручного труда!
Можно радоваться тому, что калькулятор фактически отменил необходимость в устном счете, — но это буквально так и есть: люди стали гораздо хуже считать в уме. Пожалуй, это тоже не страшно? Машины считают гораздо быстрее и точнее людей!
Теперь предлагается радоваться появлению системы, которая прямо предназначена для того, чтобы писать за вас, формулировать за вас, создавать образы за вас, делать выводы за вас — что в конечном итоге означает: думать за вас, потому что слова и образы находятся в непосредственной связи с мыслью. Все еще «никакой разницы»?
Идея эта стара как мир. Людям очень давно хотелось, чтобы кто-то сверхчеловеческий думал лучше них и лучше них прозревал темные, малопонятные материи. В древние времена этому служили оракулы. Шаманы впадали в транс и говорили с духами. Еще в XX веке даже образованные люди не считали зазорным сесть в кружок и заняться столоверчением. Но все это была магия. Которая то ли есть, то ли нет. То ли верю, то ли не верю. Принципиальное отличие нашего времени в том, что теперь людям впервые подсовывают машинку (программу), которая «наука». А в «науку» не верят только «дикие», «плоскоземельщики», «антиваксеры», «сторонники теории заговора»… что я вам рассказываю, вы ведь жили после марта 2020 года, вы все это знаете не хуже меня.
Говорят, прогресс не остановить. Но история человечества знает случай, когда его останавливали сознательно – ограничение ядерного оружия. А уж примеров стихийной обратимости прогресса, когда цивилизации (Шумерская, Древнеегипетская, Крито-Микенская, Финикийская, Нок, Чао и Пунт (Африка), Армянская, Древнеримская, Византийская, цивилизации Майя и Инков, советская цивилизация, наконец, – прим. "Лучика") в своем развитии отбрасывались на века назад, не так уж мало...
Свыше тысячи экспертов, включая основателя «Спейс-Икс» Илона Маска и сооснователя «Эппл» Стива Возняка, подписали открытое письмо с призывом приостановить обучение нейросетей из-за множества рисков, которые мы пока не до конца понимаем. Миллиардер Билл Гейтс заявил, что это невозможно. У нас в России есть последовательно солидарный с Гейтсом Герман Греф — он тоже заявил, что «искусственный интеллект» — это прогресс и прирост российской экономики. Греф, как и я, вспомнил про калькуляторы: дескать, их тоже хотели запретить в школах, «однако именно поколение детей, которое их использовало, сегодня разрабатывает сложные модели искусственного интеллекта».
Может быть, Герман Оскарович, может быть. Но все же это и последующее поколение детей разучились считать в уме, и от этого никуда не деться. А сейчас нам подсовывают то, что отучит нас думать.
* * *
Ещё раз повторим главную мысль Татьяны.
Неверно считать материально-технический прогресс однонаправленным и безальтернативным – дескать, железный конь приходит на смену крестьянской лошадке, нравится это кому-то или нет. Ситуация "назад в пещеры", которой сторонники любого прогресса дразнят его противников (имея в виду нечто абсурдное и невозможное), в истории человечества случалась неоднократно.
А потому вопрос стоит так. Или мы останавливаем этот дурацкий "прогресс" ("дурацкий", потому что поддерживают его аж четыре вида дураков: чиновники, которым плевать на всё, лишь бы начальство было довольно; толстосумы, которым плевать на всех, лишь бы можно было нажиться; "узкие специалисты, подобные флюсу", которым на всё плевать, кроме профессионального интереса, и, наконец, любители комфорта, которым просто нравится карточку прикладывать, потому что сдачу считать не надо) – или мы останавливаем этот "прогресс", или "прогресс" остановит нас. Да так, что из носу мозги брызнуть могут. У кого они остались, конечно.
