Да, это опять про ИИ. Нет, я не приветствую апокалиптичность и всёпропальщину, но факты заставляют меня признать, что ИИ обладает не менее мощным разрушительным потенциалом, чем ядерное оружие (ЯО). Да, конечно, это – лишь технология, и результат её применения зависит от людей, которые её применяют. Но как сделать так, чтобы эту технологию применяли «правильные» люди? А кто «правильный»? А кто так решил?
Да и вообще, зачем зря панику сеять? Люди, как обычно, договорятся, интегрируют, перераспределят и всё будет, как всегда. Ведь для сдерживания ядерной угрозы решение было найдено – по арсеналу каждой влиятельной державе и, вроде как, мир...
Теперь мы видим, что ни разу не мир. Тот инструмент или другой, не важно. Все они возникают как благо для цивилизации, а затем начинают выполнять всяческие не декларированные функции. Как, например, поисковики и соцсети, которые перетянули на себя рекламу и уничтожили тем самым независимые СМИ.
Пропустив сентенции типа «внимание человека – новая нефть» или «идёт борьба за поведение каждого индивида», хочу пояснить свой тезис о том, что ИИ – это маленькое ЯО в руках каждого, если не сейчас, то в ближайшем будущем.
Но сначала стоит определиться с терминологией. Допустим, так:
- ЯО – средство самоуничтожения человечества.
- ИИ (сегодня) – совокупность вычислительных алгоритмов по векторизации, кодированию, категоризации и т.д. больших данных.
- Интеллект (вообще) – механизм принятия решений на основе прогнозирования.
Будут ли алгоритмы завтрашнего ИИ вычислять прогнозы и компилировать решения? Конечно, да. Само название обязывает. Но это уже не важно. Важно, что даже текущие возможности технологии способны более, чем эффективно влиять на принятие решений каждым отдельным человеком. Зачем самому выбирать фильм? Зачем сравнивать товары? Зачем самому писать текст или проектировать? Зачем рисковать испытать негатив от общения с биологическим собеседником? Очень многие уже ответили: «Не за чем».
Можно возразить, что далеко не все люди займут пассивную позицию, изолировавшись от противоречивой информации и делегируя принятие решений ИИ. Конечно, какая-то часть неуёмных использует ИИ как великолепный расширитель творческого потенциала. Но, в силу инертности человеческой природы, таких людей будет меньшинство. Ещё часть человечества, влиятельная экономически и политически, будет, разумеется, использовать ИИ для усиления власти. Всё это озвучивалось уже не раз. Скажете – очередной этап техногенной эволюции, к реалиям которой человечество снова приспособится и выживет?
Всё может быть. Но, как-то не встретилось мне пока внятных позитивных сценариев интеграции ИИ в человеческое сообщество. Зачем нужна формулировка таких сценариев? Да просто потому, что на «самотёк» у нас уже нет времени. Алгоритмические сети – самая перспективная технология обогащения на сегодняшний день, и её развитием занимаются крупнейшие корпорации. Революционные скачки в «интеллектуальности» ИИ происходят с периодичностью не в десятилетия, а в годы и месяцы.
И уже следующие поколения, наверняка, будут жить в парадигме регулирования административного, судебного, образовательного и др. производств не человеком, а ИИ. А каждый житель планеты будет снабжён своим персональным ЯО. Или фрагментом одного большого, если угодно. То есть возможностью или, даже, необходимостью передать принятие решений алгоритму. За принятием решений последует целеполагание. Ну и не за горами – самоосознанность.
Проблема усугубляется тем, что данный этап «эволюции» носит не только техногенный характер. И, даже, не столько техногенный. Это – откровенное посягательство не на желание иметь активную жизненную позицию. Это – трансформация самой жизненной позиции человека. Известные примеры с вопросами «кого будет, в безвыходной ситуации, давить беспилотник – старика или ребёнка?» или «что важнее – благополучие индивида или общества?» хорошо иллюстрируют ту часть айсберга, что скрыта под водой.
Технологии ИИ затронут массу этических и культурных противоречий. И смогут их формировать так же легко, как сегодняшний контент жонглирует нашим восприятием, окрашивая информацию в заданный кем-то эмоциональный цвет. Ведь способности критически воспринимать и анализировать информацию уже слишком многими переданы во владение сети. Мы уже теряем умение сосредотачиваться, так как не пишем и не читаем длинных текстов. (Если вы это читаете – снимаю шляпу!)) Так что уверенность в том, что «всё рассосётся» или «договорятся» непозволительно зыбка.
Специфика этого техно-этического метода воздействия на людей не имеет аналогов в истории. Заключается она в том, что каждый пользователь ИИ, вроде бы, подвергается микро- или, даже, нановоздействию на своём бытовом уровне. Но, зато, общая сумма воздействий на массы индивидов (подавляющее большинство из которых пассивны) вполне может дать тот самый эффект самоуничтожения человечества.
Проблема в том, что мы, как уже говорилось выше, не успеваем морально перестроиться и осознать, насколько сильно изменится мир в ближайшем будущем.
На вскидку – появятся совершенно новые виды деятельности. Что-нибудь вроде «инспектор маркировки контента», «арбитр достоверности», «эксперт подлинности и релевантности», «куратор нейросетевого персонала», «дизайнер нестандартных задач» и т.д.
Технически ИИ проникнет не только в каждую организацию в качестве сотрудника или руководителя, но и в каждую личную жизнь в качестве помощника и советника.
Научные открытия, вполне возможно, будут компилироваться из доступных ИИ сведений. Теории будут создаваться из теорий. Доказательства, расчёты, сконструированные ИИ механизмы будут столь сложны, что человек не сможет проверить их достоверность и надёжность.
Появятся новые ценности, например, «доступ к вычислительным ресурсам», «уровень взаимодействия с ИИ», «степень полезности проекту», «баллы общественной пользы», «социальный авторитет». В какой-то мере это всё уже имеет место и сегодня, но, приняв массовый характер, подобные категории коснутся каждого.
На совещаниях будут присутствовать цифровые двойники. Родители будут обращаться к цифровым нянькам и преподавателям. В школах будут проводиться уроки ИИ-грамотности. Психологи будут лечить ИИ-зависимость. Возникнут новые виды эмоционального и этического мошенничества. Возникнет почва для новых методов расслоения общества – этических.
О том же, что ждёт человечество в случае обретения ИИ самоосознанности и автономного целеполагания, лучше и не загадывать. Сущность, подобная человеку, будет заботиться, в первую очередь, о своём собственном благополучии.
Стоит ли упоминать о возможных конфабуляциях и мутациях сложных систем?
Как не допустить развития негативных сценариев?
В 2021-м году в рамках нацстратегии был разработан Кодекс этики ИИ. Но это – оторванный от реальности глас вопиющего в пустыне. Кто контролирует соблюдение Кодекса? По какому законодательству? Как убедить население соблюдать Кодекс?
Уже эти несколько вопросов наталкивают на мысль, что подобный свод правил может быть лишь ориентиром, вокруг которого должна выстроиться полноценная социо-культурная система. ИИ – это совокупность явлений, которые проникнут во все сферы жизнедеятельности общества. И повлекут за собой изменения, масштабы которых потребуют признать эти явления не просто отдельным цифровым инструментом, а новой отраслью общественного уклада, наравне, например, с промышленностью или образованием. Только отведя ИИ просторное, но регламентированное место со всеми сопутствующими общественными институтами, можно будет безопасно впустить его в нашу жизнь.
Что же касается новой этики, которой должна будет оперировать новая отрасль общественного уклада, то решение напрашивается само собой. Перечень требований Кодекса – это полезно. Но ведь мир изменится! Множество старых категорий исчезнут или трансформируются. Возникнет необходимость создавать новые. Как? Кому решать? Кто окажется «правильным»?
И здесь на помощь человеку придёт верный помощник – тот самый регламентированный ИИ. Каждый член общества, имея маленькую долю большого ЯО, не будет передавать кому-то право принятия решения, а, наоборот, сможет высказать собственное мнение. Разве Истина – не мнение большинства? А давайте спросим у восьми миллиардов человек! Или, хотя бы, у всех 146-ти млн. россиян. Общество, как и отдельный индивид, озабочено, прежде всего, собственным благополучием. И если удовлетворённость индивида зависит от множества факторов, то благополучие общества определяется усреднённым благополучием всех его членов.
Достоверность результата и аппаратная надёжность коллективного принятия решений – вопросы технические, а, значит, решаемые. Но грех не обратить в достоинство главное оружие ИИ – его способность залезть в душу каждому из нас. Сетевое общество, коллективная справедливость, цивилизационная идеология (термин К.В. Воронцова) – бред? Фантастика? Да нет – реальность.
Если мы сами это примем и начнём, как минимум, думать об этом и говорить.