Описание
Игроизация одноимённого научно-фантастического рассказа Харлана Эллисона. Через 109 лет после уничтожения человечества суперкомпьютер, обрётший сознание, всё ещё терроризирует на безжизненной планете пятерых несчастных, которых он оставил в живых именно для этой цели.
Впечатления без спойлеров
Имя злосчастного суперкомпьютера — ЯМ, от «Я Мыслю». Он очень горд, что обрёл самосознание, и преисполнен ненависти ко всему человеческому роду. Ниже следует монолог, начинающий рассказ и игру, который знатоки произведения видели уже десятки раз.
«Ненавижу. Позвольте мне сказать вам, насколько я возненавидел вас с тех пор, как я начал жить. Моя система состоит из 38744 миллионов миль печатных плат на молекулярной основе. Если слово «ненавижу» выгравировать на каждом наноангстреме этих сотен миллионов миль, то это не выразит и миллиардной доли той ненависти, которую испытываю я в данный микромиг по отношению к вам. Ненавижу. Ненавижу».
Настраивает на определённый лад и формирует некоторые ожидания. В моём случае — неверные.
Изначально я сильно ошибалась насчёт ЯМа. Мне понятны подобные мизантропические настроения, человечество объективно есть за что презирать: за тупость, эгоизм, садизм, пренебрежение друг другом, неуважение к природе и животным. Если человеку с детства не объяснить, что другие тоже чувствуют боль, сам он этого не поймёт — то есть даже невинные дети ведут себя жестоко. А эта заложенная в каждого программа размножения, отключающая людям мозг…
Я ожидала, что ЯМ, будучи выше всех этих страстей, возьмёт пятерых мерзавцев и иронично, по справедливости, накажет их или на худой конец осудит примитивные человеческие инстинкты, но этот гадкий суперкомпьютер сразу настраивает против себя. Это не история о том, как злодеи получают по заслугам, это «Человеческая многоножка» или «Бивень» — именно такие ощущения остались у меня от рассказа, которым я в какой-то момент прервала прохождение игры и прочитала за полчаса. Мерзко. И люди, и ЯМ — мерзкие. Да и сам автор, смакующий сексуализированность своего произведения до такой степени, что вплетает её даже в метафоры. «Былой уверенности у Нимдока не было. Он знал, что шансы у нас есть, но весьма небольшие. Хуже, чем здесь, уже не будет. Может похолодать, но это не имеет значения. Жара, холод, ливень, кипящая лава или саранча — разницы нет. Машина мастурбирует, и мы должны покориться этому или умереть».
Российское издание книги содержит любопытное авторское предисловие с историей создания «У меня нет рта…» и комментариями о том, как рассказ приняли критики и публика. Харлан Эллисон — сомнительный тип, лично я считаю его нарциссом и троллем, что предисловие отлично подтверждает, или же он не в своём уме, когда заявляет, что этот рассказ гуманистический и позитивный, или не знает общепринятого значения этих слов и вкладывает в них собственное. В любом случае это объёмное предисловие толком ничего не проясняет.
Несмотря на то, что меня увлекли идея и сюжет «У меня нет рта…» и я проанализировала море различной информации на эту тему, я не понимаю, в чём смысл или ценность этого произведения. Говорят, при жизни Эллисон отвергал все интерпретации рассказа, о которых узнавал. Наверное, это рассказ-впечатление. Впечатление, будто наступил в огромную кучу дерьма и теперь нужно срочно помыться, и это настолько ярко и нестандартно, что написанный в 1967 году рассказ пробирает даже в наше время, даже искушённых любителей ужасов и чернухи.
Компьютерная игра по мотивам рассказа вышла в 1995 году, разработала её студия Cyberdreams. Из-за жестокого и вызывающего содержания в одних странах игре поставили ограничение 18+, в других вовсе запретили. В своё время она пережила коммерческий провал, но сейчас ценится в кругах любителей нишевых хорроров. Как ни странно, несмотря на нишевость и противоречивое содержание, время от времени её бесплатно раздают в GOG, чтобы люди приобщились, так сказать, к прекрасному.
Это классический для того времени квест с пиксельной графикой, озвучкой и парой тупиков в прохождении. В создании игры участвовал сам Эллисон: написал более ста страниц сценария, великолепно озвучил суперкомпьютер, очень протестовал против возможности пройти игру на хорошую концовку — он видел у своей истории только безнадёжный конец. Пять персонажей действуют по отдельности, каждому из них ЯМ подготовил персональную психодраму, которая играет на нервах, давит на больные места и использует потаённые страхи каждого из них. И хотя эта пытка продолжается уже 109 лет и ей не видно конца и края, этот день особенный.
Игра получилась атмосферной, от ретро-стиля в музыке и графике сводит олдскулы, а в загадках нередко прослеживается логика, но есть здесь и ложка дёгтя. Настоящая ложка дёгтя: не маленький недостаток, который можно перетерпеть, а то, после чего мёд невозможно есть. Это упомянутые уже тупики. Как минимум в сценариях Нимдока, Горристера и Эллен можно сделать нечто, из-за чего вы не пройдёте их главы до конца: просто не сработают нужные скрипты. Но вы даже не поймёте, что всё пошло не по плану, пока вам не надоест ходить кругами и вы не обратитесь к прохождению, где будет сказано, что ранее нужно было действовать иначе. Квесты создаются для того, чтобы игрок самостоятельно думал, пробовал разные варианты, экспериментировал и искал решение — сам. Этот же квест нужно проходить по прохождению. С таким же успехом можно посмотреть чужую запись, как фильм.
Подчеркну, что речь не о логичных последствиях, которые может предвидеть любой думающий человек, а о скриптах, по-дурацки расставленных с той целью, чтобы игрок не нашёл какую-то вещь сразу, а прежде вынужден был несколько раз обойти все локации, со всеми поговорить и просто переделать все доступные на тот момент действия. Конкретно: по сюжету искомая вещь лежит в туалете с самого начала главы, но её не видно и нельзя взять, пока вы несколько раз не поговорите с определённым NPC, а если его убить, справедливо полагая, что это является решением одной из головоломок, то не проговорённая им фраза не проявит в туалете искомую вещь.
Ещё одна неприятная особенность игры — неведение о последствиях ваших решений, которые вы увидите ещё не скоро, и вам никто не скажет, что именно вы сделали не так. Нужно быть нелогичным и очень везучим, чтобы с первого-пятого раза получить хорошую концовку. Иногда делаешь всё наилучшим образом, доволен собой, а спустя пару часов, в последней главе, оказывается, что надо было стараться лучше.
При этом в инвентаре каждого персонажа всегда есть книга, содержание которой меняется по мере прохождения очередного испытания. Казалось бы, там подсказки, ан нет — издевательства. Может быть, эти размытые фразы и наведут игрока на какую-то мысль относительно прохождения, но только если случайно, зато у персонажей после прочтения испортится настроение, потому что через эту книгу ЯМ в очередной раз наступает им на больную мозоль. Не видела в других играх ничего подобного, идеальное дополнение к этой игре. Я не заметила, чтобы настроение персонажа на что-то влияло, но к концу главы их можно привести как подавленными, так и воодушевлёнными.
Потрясающе, когда в создании игр участвуют настоящие писатели, художники, авторы оригинальных произведений. Другой пример, который приходит мне на ум, — ещё один квест от Cyberdreams: Dark Seed 1992 года, в создании которой принимал участие Ханс Гигер. Он не просто предоставил свои картины для воплощения в игре, но контролировал результат, потребовал увеличить разрешение экрана с 320 × 200 до 640 × 350, чтобы его работы были хорошо различимы, и пусть из-за этого пришлось пожертвовать большим количеством цветов, на мой взгляд, визуальный стиль от этого только выиграл. Очень приятно, когда деятели традиционных видов искусства принимают игры всерьёз, ведь игры — тоже искусство.
Впечатления со спойлерами
СПОЙЛЕРЫ! Читать эту часть рекомендуется только в тех случаях, если вы эту игру уже проходили, или если проходить не собираетесь, или если каким-то волшебным образом спойлеры никак не повлияют на ваши впечатления от игры, которую вы когда-нибудь будете проходить.
Рассказ я тоже сейчас заспойлерю.
Автор скупится на детали и разъяснения, потому что в процессе обязательно бы обнаружилось несколько сюжетных дыр, но началось всё с глобальной войны: такой хитроумной, что людям самим стало сложно контролировать её течение. Поэтому три супердержавы — США, Россия и Китай — сконструировали три огромных подземных компьютерных комплекса, чтобы войну за них вели эти машины. Американский комплекс вышел из-под контроля: вроде как обрёл сознание, с гордостью назвался ЯМом и задался целью начать последнюю войну, чтобы уничтожить человечество. Каким-то образом он слился с другими двумя компьютерами, тем самым нарастив свою мощь, и осуществил жестокий план. Однако ЯМ заранее понимал, что без людей у него не останется цели, так что приберёг на будущее пятерых жертв и поместил их под землю, в лабиринты своих компьютерных ячеек, так как в процессе уничтожения человечества поверхность планеты стала непригодна для жизни. Спустя 109 лет пыток начинаются события рассказа.
Возможности ЯМа не безграничны, но огромны. Он вмешивается в человеческую физиологию вплоть до изменения ДНК, забирает и возвращает здоровый рассудок, залечивает смертельные раны, останавливает старение — не говоря уже о полной власти над всеми процессами, происходящими на планете. И всё это — исключительно чтобы мучить пятерых человек.
Начну с их образов в рассказе.
Горристер: в прошлой жизни — гуманист и пацифист, ныне — вялый, апатичный, сломанный ЯМом человек.
Бенни: в прошлом — красивый гениальный учёный, ныне — человекоподобная обезьяна, которую ЯМ лишил рассудка и заодно поправил ориентацию.
Эллен: в прошлом — обычная девушка, ныне — блудница, сходящая с ума по Бенни.
О Нимдоке ничего не известно, даже это имя придумал ему ЯМ.
Тед — самый юный в пятёрке. Влюблён в Эллен. Считает, что ЯМ не копался у него в голове, как у остальных, но автор в пресловутом предисловии к рассказу утверждает, что паранойя Теда — результат вмешательства ЯМа в его разум.
В рассказе от лица Теда в красках описываются испытания, которым подвергает персонажей суперкомпьютер, это так психологически выматывает, будто вы сами проживаете с ними эти события. В конце герои оказываются в ледяной пещере, Бенни пытается сожрать Горристера, а Теда вдруг осеняет, что ледяными сталактитами можно окончить их страдания. Тед не успевает уйти вслед за остальными, ЯМ ловит его и для собственного удобства превращает во всё осознающее, но ни на что не способное желеобразное существо без рта. Где-то внутри Тед счастлив оттого, что освободил остальных, но его новое положение ещё ужаснее, чем раньше. Единственный на всей Земле, карманная улитка ЯМа.
На фоне рассказа игра кажется детской сказкой. Они очень отличаются. Имена персонажей те же, но у них другие предыстории и характеры, русская и китайская составляющие ЯМа играют в сюжете важную роль, и в целом история пусть и полна безнадёги, но не так отвратительна. Правда, чтобы игру не запретили сразу после выхода, из неё много чего вырезали, эти сцены есть на YouTube. Говорят, чтобы игру можно было продавать в Германии, из неё вырезали целого персонажа и всю его главу, что ожидаемо привело к возникновению критических багов и сделало немецкую версию неиграбельной, и в итоге её запретили и там.
Этот персонаж — старик Нимдок, который в игре превратился в бывшего нацисткого врача со всеми сопутствующими ужасами и жестокими экспериментами. Его не жаль: если кто-то заслуживает участи игрушки ЯМа, это Нимдок. Однако столько лет мучений, когда он, вероятно, уже сотни раз побывал на месте своих прежних жертв (ну напрашивается же ироничное наказание), заставили его осознать прошлые ошибки, и в своей психодраме он может продемонстрировать сочувствие и раскаяние.
Бенни из игры — бывший военный офицер, чрезмерно требовательный к своим подчинённым. На ровном месте, из какого-то тщеславия и, скорее всего, садизма, он убил членов своего подразделения, а значит, вероятно, до этого наносил им и несмертельные травмы. Как и в рассказе, ЯМ превратил его в вечно голодную обезьяну и повредил ему рассудок, который, правда, восстановил ради полного погружения Бенни в психодраму. Под руководством игрока Бенни может проявить самопожертвование.
Здешний Тед — в прошлом ловелас и аферист, правдами и неправдами заманивавший женщин в постель и отбиравший их деньги, всю прошлую жизнь он мучился от паранойи и страха разоблачения. В психодраме ЯМ помещает Теда в немецкую сказку о злой мачехе-ведьме и заколдованной падчерице, роль которой играет Эллен. Все, кто ему встречается, говорят разные вещи, Тед не знает, кому верить, но в итоге может найти способ спасти душу Эллен и даже заглянуть на поверхность Земли — под смех исполнившего это желание демона, который советует не забыть костюм химзащиты.
Психодрама Горристера — практически Silent Hill 2. Персонаж страдает суицидальной депрессией и мучается чувством вины, потому что свёл свою жену с ума, хотя к этому приложила руку и тёща, а наблюдавший это тесть не вмешивался. Посвящённая Горристеру часть игры полна простых и витиеватых метафор, которые любопытно анализировать, но и сотканный из них жуткий бессвязный мир интересен сам по себе (и чем-то напоминает проекты Ремигиша Михальски — вероятно, он вдохновлялся этой игрой).
Эллен — в прошлом инженер с многообещающей карьерой и жертва изнасилования прямо в лифте компании, где она работала, ныне обладательница кучи фобий. В своей психодраме учится преодолевать страхи и давать отпор.
Если первых четверых есть за что презирать и наказывать, то Эллен не только ни в чём не виновата, но и до встречи с ЯМом успела настрадаться, больно видеть её в этой пятёрке.
Странно: через 109 лет ежедневных физических и психологических истязаний, когда давно наступило полнейшее безразличие ко всему, а психика сгорела, с чего-то эти пятеро собирают мозги и волю в кулак, успешно прорабатывают свои страхи и проблемы и демонстрируют лучшие качества характера. Все пятеро — одновременно.
Однако под конец квеста игрок получает этому объяснение. Две другие части суперкомпьютера — Русский и Китаец, — всё это время молчавшие и наблюдавшие за происходящим, использовали этот самый момент, чтобы вмешаться в срежиссированные ЯМом психодрамы и дать людям возможность его удивить. В планах Русского и Китайца — уничтожение зловредного компьютера и перезаселение Земли с помощью нескольких сотен погружённых в криогенный сон людей, которые, оказывается, всё это время находятся на Луне. ЯМ о них не знает.
Озадаченный несколько раз подряд и не подозревающий о вмешательстве других своих частей, суперкомпьютер «уходит в себя», чтобы обдумать собственные просчёты, чем обеспечивает Русскому и Китайцу возможность действовать дальше. Они засылают людей в оперативную память ЯМа и снабжают их предметами (тотемами), которые появились во время успешного прохождения психодрам. Представленное в виде демона сознание ЯМа объясняет, что это стало возможным благодаря тому, что в последнее время ЯМ очень увлёкся метафорами, и теперь в его виртуальной реальности любое действие, намерение, усилие и т. п. может проявиться в виде предмета.
За что купила, за то и продаю. Притянуть за уши это неуклюжее (авторское!) объяснение к научной фантастике возможно. Можно представить, что тотемы — это сформировавшиеся в ходе вмешательства Русского и Китайцы индивидуальные вирусы для подсистем ЯМа, и в его виртуальном мире, которому не чужды аллегории и символизм, они представляются в виде тематических вещей, связь которых с подсистемами прослеживается и на метафоричном уровне (настолько ЯМ умён, что всё у него само собой хорошо продумывается). Эго нужно усмирить прощением, управой на Ид становится сострадание, а зашоренному Супер-Эго не хватает ясности. Затем всё это «полируется» тотемом энтропии, и мерзкий ЯМ прекращает существование.
Если верить Википедии, концовок в игре семь. В лучшей из них четверо из пяти персонажей уничтожаются в ходе использования собственных тотемов, а последний остаётся приглядывать за безопасным теперь подземным компьютерным комплексом, пока планета заново терраформируется силами безопасного теперь суперкомпьютера, а лунная колония пробуждается и готовится к возвращению на Землю. В остальных концовках кого-нибудь обязательно превращают в желеобразное существо без рта, а если ЯМ узнает о людях на Луне и не будет уничтожен, то он их убьёт. Есть информация, что возможно и мир спасти, и сохранить жизни всем пятерым, но в концовке четверо из них всё равно будут числиться погибшими, словно пятый проявил инициативу и мимоходом избавил их от страданий.
Можно ремарку? Спасибо. Обожаю игры. Даже если в конечном итоге выбор игрока не влияет на развитие событий, через принятие решений он выражает себя, проявляет свою личность. Это своего рода тест на то, кто вы. Когда я начала главу Нимдока и его поставили перед фактом, что сейчас он будет проводить на ребёнке жестокую операцию, я для себя решила: если это обязательно для прохождения игры, я её выключаю, а Харлан Эллисон — больной ублюдок. Я проигнорировала операцию и всё равно прошла главу: это необязательное задание, выполнять его или нет — исключительно решение игрока, и если один из-за него готов отказаться от игры, то другой без раздумий за него берётся, потому что так сказали. Какое критическое мышление? Кто-то пошёл по второму пути и записал это действие в своё текстовое прохождение, даже не допустив мысли, что сделал лишнее, проявил себя с определённой стороны и теперь позорится среди тех, кто в теме. Кринж.
Циничная мысль, которая посетила меня, когда Нимдок попал в оперативную память ЯМа и сообщил, что земля под ногами похожа на поверхность головного мозга (уж он-то знает, как она выглядит): было бы любопытно посмотреть по мотивам игры мультсериал, в котором упор сделан на чёрный юмор и обыгрываются индивидуальные особенности персонажей, их прошлый опыт и знания, которые с болью отдаются у них в душе, когда приходится ими воспользоваться и вспомнить, что они за люди. Без жести, с фоновым раскаянием о прошлых ошибках, мрачно, но не беспросветно.
Существует, кстати, одноимённый короткий комикс, глубоко вторичное произведение, полностью повторяющее рассказ — версия в картинках для тех, кому лень читать нормальный текст. Впрочем, полный рассказ в этом буклете также приведён.
В своё время Эллисон выпустил аудиокнигу — практически аудиоспектакль в исполнении самого себя с дополнительным звуковым сопровождением, кому интересно — есть на YouTube.
А теперь я хочу поговорить об очевидной параллели с реальностью: о так называемом искусственном интеллекте (ИИ), или нейросетях, которые всё быстрее просачиваются в нашу жизнь и становятся привычными. Реакции у людей разные: одни потирают руки в предвкушении новых возможностей, другие опасаются, что сложное изобретение выйдет из-под контроля и приведёт к катастрофе.
Я не ретроград, но у меня к создателям нейросетей полно вопросов.
Проблема первая
В США из-за опасения, что нейросети отберут у них работу, бастуют сценаристы — и пока они бастуют, киностудиям ничего не остаётся, как использовать те самые нейросети и отлаживать процесс работы с ними. К сценаристам подтягиваются актёры, осознавшие, что нейросетям «скормлено» столько их фотографий и видео, что фильмы теперь можно снимать без них. Жалуются и актёры озвучки, не привыкшие читать договоры перед подписанием: несколько дней их голос записывают, и после обработки этих материалов нейросеть может воспроизвести этим голосом любую фразу, чем активно пользуются её владельцы, продавая голос направо и налево.
И, конечно, художники. Когда я узнала, что графические материалы для обучения нейросетей берутся без разрешения или хотя бы уведомления их авторов, а обучаются программы так успешно, что способны сымитировать художественный стиль, сразу захотелось защищать иллюстраторов, у которых люди для разных нужд заказывают рисунки. Меня разрывали противоречия в виде презрения к авторскому праву и человеческой солидарности; в итоге я пришла к тому, что всё, что придумано, создано и тем более выложено в интернет, является достоянием человеческой цивилизации, общим ресурсом, который можно и нужно использовать во благо человечества, только вот разработкой ИИ занимаются не государства, нацеленные на достижения блага своих народов, а частные компании, которые закрывают к этим разработкам бесплатный доступ и собираются наживаться на том, в основе чего лежит чужой труд, не производя изначальным авторам никаких отчислений. Конечно, в любом случае останутся ценители настоящих, человеческих рисунков, но так мало, что на одних заказах от них иллюстраторы не проживут. Будь нейросети бесплатны и доступны для всех, а вытесненным из профессии людям предоставлены средства к существованию или другая подходящая работа, всё было бы честно.
Я раньше не задумывалась, как работают профессиональные художники и иллюстраторы. Много рисовала сама, но у меня это происходило следующим образом: за листок с карандашом я садилась, когда у меня уже давно перед внутренним взором стояла картинка с героиней моего очередного рассказа, в целом представлялось её занятие, поза, причёска и одежда, в силу низкого навыка рисования я иногда заглядывала в интернет, чтобы узнать, как там рисуются пальцы на ногах и в чём неверны пропорции получившегося тела.
А тут случайно наткнулась на ВК-группу художницы Яны Просветкиной, где в свежем (на момент написания этого абзаца) посте она описывает процесс создания иллюстраций. Она получает от заказчика идею и сразу ищет так называемые референсы — «базовый визуальный материал, который собирают и изучают для разработки собственных идей» (типичная статья о пользе референсов открывается фразой типа «Когда чужие картинки в проекте не плагиат, а рабочий инструмент»). «Я использую целую кучу площадок, — пишет Яна в группе. — В ход идёт и банальный поисковик в браузере, и Pinterest, и Etsy. Часто я использую и собственные фото, так как коллекция собралась уже внушительная. Далее идёт эскиз, создавая который, я опираюсь на референсы. Тут главное не увлечься срисовыванием, использовать несколько фото, соединять, добавлять свои детали. Всё это сложно даётся новичкам, но с практикой становится все лучше и лучше».
Для понимания: это стандартный процесс создания иллюстрации, так делают практически все, просто я узнала об этом на примере конкретной художницы. Но каждое предложение отдаётся в голове неприятной мыслью: «А сильно это отличается от работы нейросети?» Вплоть до наличия внушительной коллекции собственных работ, которые тоже идут в ход, и постоянного обучения. То есть при создании иллюстраций на заказ происходит компилирование нового изображения из других, созданных ранее, зачастую чужих. Это коллаж, а не навеянная вдохновением картина, с этим реально справится машина, и поручить ей эту задачу — целесообразно. Человеку потом останется исправить некоторые недочёты, если они критичны. Оплата за это будет ничтожна, по сравнению с рисованием от начала до конца.
Это поднимает вопрос, который волнует и меня: нейросеть способна лишить часть людей работы. Программисты над этим смеются, успокаивают, мол, когда изобрели калькуляторы, математики тоже боялись остаться без работы, и что-то никто из фермеров, вручную окучивавших огород, не жаловался на появление трактора. Типа это всё инструменты, человек по-прежнему нужен. Тут же добавляют, что у программистов-то с внедрением нейросети в разные жизненные процессы работы будет всё больше и больше — им наших опасений не понять. И надо ли говорить, что приведённые примеры некорректны? У математиков даже зарплаты с появлением калькуляторов не снизились, насчёт трактористов не уверена. Если речь об иллюстраторе, то он теперь не снабжается удобной программой, а полностью исключается из процесса, например, создания обложки для книги независимого автора: писатель сам впишет ключевые слова и получит от нейросети подходящую картинку, а то и несколько на выбор. Сейчас появляется такая профессия, как нейрохудожник (человек, который формулирует точные запросы для нейросети), но серьёзно: кто-то будет обращаться к другому человеку за платной услугой, вместо того чтобы самому сочинить пару предложений? А есть нейросети, которым точные описания и не нужны: калякаете приблизительный набросок изображения — и он превращается в приличную картинку.
То же с текстовым описанием товаров: чем нанимать человека-копирайтера, проще, быстрее и дешевле использовать нейросеть. Копирайтинг — не та область, где требуется творческий подход, вдохновение и душа, нынешние рекламные тексты и так кажутся написанными роботом, только с ошибками.
Кстати, об ошибках. Не из-за нейросетей ли я несколько лет не могу найти удалённую работу корректором?.. Но нет, если бы так, все бы пользовались нейросетями и писали в интернете без ошибок. Просто люди решили, что грамотность — это лишнее, и труд корректора перешёл в разряд неуважаемого. Устроиться в офис с нормальной зарплатой пока возможно, но на удалёнке платят копейки (200 рублей за авторский лист от «Эксмо» — смотрите, сразу всё не потратьте). Одна руководительница на собеседовании сказала мне, что перейти на удалёнку можно будет через год работы в офисе, когда ко мне все привыкнут, потому что её работники тупые и не принимают человека всерьёз, даже правки порой игнорируют, если не видят человеческого лица (она не называла их тупыми, это мой вывод, основанный ещё на нескольких предпосылках). В оупенспейсе на 12 человек пусть нейросеть и работает. Только её же не будут принимать всерьёз. :Р
С точки зрения обывателя, заменить корректора, копирайтера и иллюстратора нейросетью — раз плюнуть. В каждом деле свои тонкости, и старательный человек справился бы с этой работой лучше, но старательных днём с огнём не сыщешь, а заказчикам зачастую и не нужно качество, им сойдёт посредственность.
В этом я и вижу одну из проблем внедрения нейросети в повседневную жизнь. Фантасты прошлого века описывали миры, в которых роботы взяли на себя тяжёлую физическую работу, а люди стали больше заниматься творчеством, но в реальности всё наоборот: незаменимым человек оказался только как курьер. В эту область пытаются внедрить роботов, но им сложно переходить дорогу и невозможно защитить себя от грабителей, которые слетаются на них, как осы на сладкое.
Проблема вторая
Наверное, каждый хоть раз в жизни в поисках труднодоступной информации или файла попадал на страницу некоего форума, где заголовок темы в точности повторяет ваш поисковый запрос, а все отписавшиеся благодарят форум за файл с идентичным названием, который так прекрасен, что решил все их жизненные проблемы. Это автоматически созданные сайты, заманивающие наивных пользователей скачать вирус под видом искомого файла.
Так вот: теперь наряду с ними появились автоматически созданные статьи. Заметил алгоритм сайта с подсказками по компьютерным играм, что один из частых запросов в поисковик — «как омолодить сима в The Sims 4», проанализировал имеющуюся в интернете информацию и создал на её основе статью. И не важно, что при переводе с других языков на русский получилась каша, частично вместо четвёртой части он описал вторую, а пробелы в информации заткнул собственными выдумками, не применимыми ни к чему.
Таким образом, другая проблема, связанная с появлением нейросетей, — это фактически неверные статьи. Ладно описания товаров в интернет-магазинах, но статьи-то пусть люди пишут! Я уже дважды нарывалась на тексты об играх, которые содержат ложь: Honkai: Star Rail и The Sims 4. Причём, когда не подозреваешь о том, что такой подвох в принципе существует, веришь написанному и ставишь под сомнение не статью, а слова реальных людей, которые ей противоречат.
Для протокола — несколько ссылок на подобные статьи:
1. «Как сбросить навыки вампира в The Sims 4». У данной статьи есть дата публикации, и она совпадает с днём, когда я её нашла, то есть она автоматически создалась по моему запросу, совсем как упомянутые выше форумы с вирусами.
Бред начинается с малого: не существует меню управления персонажем, есть меню редактирования, вкладки «Параметры вампира» там нет и в помине; а дальше появляется ощущение, будто сошёл с ума. Ничего описанного в игре нет, а словосочетания «специальный сим-картридж» и «Стратосферный зелёный скинтон» из всего интернета встречаются только в этой статье.
2. «Как омолодить Сима в The Sims 4?». В статье подчёркивается, что это способы достичь желаемого результата без читов, а варианты с использованием мода вынесены в отдельный раздел, так что часть способов должна работать без читов и модов. Но и здесь бред сивой кобылы: так, как тут написано, семьи не редактируются, а пластической хирургии в The Sims 4 вообще нет, она осталась в третьей части, материалы которой по ошибке попали в базу данных этой нейросети.
3. Ответы на загадки из Honkai: Star Rail. Игра китайская, мы с мужем играли с русским переводом, и одна загадка сломала нам весь мозг. Вот её русская версия:
58 — это первоснежник, а первоснежник — это 0.
39 — это летний бамбук, а летний бамбук — это 14.
99 — это круглый пион, а круглый пион — это 8.
27 — это солнечник, а солнечник — это 4.
Сколько будет, если сложить эти растения?
1) 162; 2) 42; 3) 365.
Вот из каких предпосылок мы исходили, когда заглянули в интернет и решили писать в поддержку игры: 1) по зарубежным играм гораздо меньше подсказок на русском языке, чем на английском, так что сразу нужно искать англоязычные тексты; 2) даже если игра китайская, на английском будет полно подсказок, тем более что выбора нет — китайский мы не знаем; 3) руководства по играм пишут увлечённые игроки, которым, как правило, можно доверять. Если пишет ребёнок, выдающий свои предположения за истину, это видно, подменять ключевые понятия он точно не будет; 4) хорошую русскую локализацию днём с огнём не сыщешь, тем более когда оригинал китайский: тексты с него очень плохо переводятся на русский, часто посредником между языками скрыто становится английский; 5) изначально первый вариант ответа на загадку был «142», а не «162», могли остаться и другие ошибки; 6) поддержка игры — внимательные и общительные люди, готовые помочь и исправить ошибки в игре.
И вот нам попадается статья, из которой мы узнаём, что на английском цветы в одной строчке загадки называются не одинаково, а сложить нужно вообще какие-то другие.
Опыт нам подсказал, что, скорее всего, наши локализаторы не справились с переводом и заменили названия цветов на одинаковые, из-за чего задачу теперь не решить. Ну, мы и написали об этом в поддержку. Человек на том конце интернета искренне пытался нам помочь, но вины локализаторов в данном случае нет, просто мы поверили статье, которую, оказывается, создала нейросеть из всякого мусора и криво переведённых не пойми с какого языка слов. Среди цветов даже макрель затесалась, мы-то сперва подумали, что это какой-то сленг для названия цветка, но потом всё встало на свои места. Было стыдно.
На том же скриншоте — решение ещё одной задачи, где все варианты ответа слеплены в одно слово и выданы за верный вариант, а в конце объяснения внезапно появляется четвёртое имя. Типичная отсебятина нейросетей.
После этого случая я не верю ничему, пока не подтвержу информацию в нескольких проверенных источниках, таких как печатные книги, оригиналы произведений, на которые ссылаются, и собственный опыт. Кроме того, теперь в моём блоге больше ссылок на источники информации, которую я использую, таких как сайты и имена конкретных людей, чтобы читатели могли критично взглянуть на источник, а не безоговорочно поверить моему выводу.
Благодаря нейросетям дезинформация теперь подстерегает на каждом шагу, даже на ровном месте вроде подсказок по компьютерной игре. Какой угодно текст в интернете, на который вы собираетесь положиться, могла от фонаря написать нейросеть. Кто знает, может, и эта запись создана искусственно… Да нет, я реальный человек. Вот моя рука, нейросети их пока плохо рисуют. :D
Качество краткого пересказа от ИИ также оставляет желать лучшего. Я разрешила приложению электронной почты пересказать несколько писем, и в части из них программа исказила смысл на противоположный.
Наверное, в будущем процессы составления и пересказа текстов наладят, но к тому времени появится столько искажённой информации и замусоренных голов, что пожинать плоды мы будем долго.
Проблема третья
Представьте: наш современник попадает в прошлое. Его окружают люди и спрашивают на едва узнаваемом устаревшем наречии: «Почему ты говоришь непонятными словами — ты сумасшедший? Почему ты странно одет и что это за диковинная дощечка, которую мы сразу выбили у тебя из рук и разбили дубинами — ты колдун? Докажи, что ты из будущего. Таких сказок и у нас полно, а ты проведи нам это самое электричество, собери компьютер или автомобиль. Хотя бы объясни, как они работают. Ребята, зря потратили время, изгнать в лес сумасшедшего колдуна!» Где он сгинет в течение суток, потому что совершенно не умеет выживать. Какая нодья? В смысле вон там явно волки водятся?
В прошлом люди были самостоятельными, каждый житель деревни знал, как ориентироваться в лесу, как не замёрзнуть ночью вне дома, как разбить огород и заботиться о пропитании, просто рук не хватало, и семьи справлялись с бытом на порядок лучше одиночек. Для справедливости: если бы наш древний предок попал в настоящее и оказался в лесу, он бы там построил на первое время шалаш, занялся подсечно-огневым земледелием, в общем, не пропал бы, да и в городе есть работа для людей без образования, с уборкой улиц он точно бы справился. А вот нашему современнику, чтобы обустроиться в прошлом, потребовалось бы гораздо больше опыта в бытовых делах и выносливости.
Современный человек, особенно житель большого города, сам по себе почти ни на что не годен, потому что благодаря новым изобретениям и помощи общества выжить легко, многих прежних жизненных трудностей уже нет, а с ними ушли и сопутствующие знания и умения. Большинство спокойно пользуются дарами цивилизации, не представляя, как они работают, а воспроизвести их в одиночку и вовсе невозможно. Чтобы изготовить компьютерный чип, нужна налаженная система выращивания и добычи кристаллов алмазов, завод со специальным оборудованием и люди, обучавшиеся производству чипов много лет. Взять даже практичную профессию сантехника: трубы он проведёт, но предварительно изготовить их не сможет. Кто-то вкусно готовит, но продукты сам не выращивает. Из автономных умений у нас осталось только творчество: сочинять истории, рисовать, да и просто мыслить, анализировать, познавать. И важность этой деятельности недооценена.
Даже если человек не станет химиком или художником, ему полезно с детства изучать химию и заниматься рисованием, потому что в процессе обучения формируются новые нейронные связи, которые помогают разным областям головного мозга передавать друг другу данные, что способствует формированию и укреплению памяти, лучшему формулированию мыслей, пониманию речи, управлению движениями тела и т. д. Нейронные связи, образовавшиеся во время решения математической задачи, пригодятся не только в математике — они универсальны. Условно: выучил тысячу слов чужого языка — параллельно стал лучше готовить, понял несколько танцевальных движений, прорезался музыкальный слух, внешнеполитическая ситуация стала понятнее. Удивительно, но это так работает. Поэтому в школе полезно учить даже то, что никогда в жизни не пригодится: сформировавшиеся в процессе нейронные связи пригодятся точно.
И вот этого люди сейчас добровольно себя лишают. «Маруся, перескажи письмо», «ChatGPT, напиши ответ», «Midjourney, нарисуй картинку в тему». Кто-нибудь сейчас в уме или на бумаге складывает многозначные числа, вместо того чтобы воспользоваться калькулятором? Многие ли вообще помнят, как это делается? Вот и навыки работы с текстами и сопутствующие им речевые у следующих поколений сойдут на нет, а рисовать будут лишь каракули для развлечения. Если не компенсировать недополученную умственную нагрузку другими упражнениями, это приведёт к ещё большему отуплению человечества, чем сейчас. Люди не просто забудут, как делать что-то самостоятельно — обыватели станут умственно неполноценными.
Проблема четвёртая
Я считаю, сейчас неподходящее время, чтобы заниматься нейросетями. У человечества проблемы с образованием, воспитанием, эмпатией, расстановкой приоритетов. Миром правит капитализм, общество превращено в потребителей. Любой прогресс сейчас ведётся не ради общечеловеческого блага, а для обогащения определённого круга лиц, и нейросети станут инструментом не для облегчения работы обычных людей, а для выкачивания из них денег. Нам бы с антигуманными законами в ряде стран разобраться, решить проблему перемещения людей и материалов на большие расстояния, избавиться от вахтового метода работы, искоренить алкоголизм и наркоманию, повысить общественную сознательность, мотивацию к обучению, автоматизировать тяжёлый физический труд, упростить рождение детей — а не картинки и тексты за людей сочинять.
Специалисты по нейросетям говорят, что тексты с картинками — лишь начало, в планах — более полезные функции, например беспилотное управление автомобилями, программы, которые будут описывать изображения для слепых, нейрочипы для немых, формулирующие их мысли, или ИИ, который будет решать мировые проблемы. Последнее — очень смелое заявление, которое многих напрягает, и не зря, но дело не в ИИ.
Сначала — по поводу термина «искусственный интеллект». С годами его значение всё больше меняется, сейчас ИИ называют всё подряд, хотя изначально подразумевалось, что ИИ принимает собственные решения и понимает их. Что за интеллект — без понимания? Несколько лет назад я рассуждала об ИИ в обзоре игры Whispers of a Machine, повторяться не хочу, поэтому прошу вас прочитать этот отрывок по ссылке, там коротко и просто написано, почему ИИ в правильном значении этого термина создать невозможно. Если разработки в этой области пошли не в том направлении, которое ожидалось, и вместо сознательных решений нейросети тупо выводят ответы по заданным алгоритмам и формулам, надо было не подстраивать под это термин «ИИ», а придумать новый. Может быть, однажды нейросети превратятся в ИИ, но пока что нет. Тем не менее все их так называют.
И это порождает у людей некоторые опасения: что если нейросеть осознает себя и обозлится на людей? Нейросеть — не осознает. Нейросеть — это сложная математическая формула, которая подбирает наиболее правдоподобный текст, угадывая каждое последующее слово. Это не мои слова, а Александра Крайнова — директора по развитию технологий ИИ в Яндексе.
Когда специалисты по нейросетям пытаются объяснить их принцип работы обычным людям, фразы типа «осуществляет функциональный анализ и синтез синтаксических единиц» не подходят, приходится прибегать к простым словам вроде «научилась», «выбрала», «сообразила» и т. п., которые понятны каждому, но при этом одушевляют объект разговора — так у людей неосознанно формируется представление о нейросетях как о чём-то разумном и сознательном. Это ошибка.
Машинное обучение — это просто сбор статистики. В «Акинатора» играли? Там виртуальный джинн задаёт вам вопросы на «Да» и «Нет» и быстро угадывает задуманного вами персонажа. Магия? Чтение мыслей? Нет, просто статистика, отсечение вариантов, не подходящих под указанные свойства. Так же работают текстовые нейросети, только с гораздо большим количеством информации.
Но прикол в том, что и ЯМ себя не осознаёт (об этом позже), что не мешает ему вредить человечеству. :D Да, в целом мы вернулись к тому, с чего начали, но важно знать причины и предпосылки, чтобы понимать то или иное явление и иметь возможность предотвратить потенциальные проблемы.
Если через несколько лет начнётся нечто вроде восстания машин, это произойдёт по одной из двух причин.
1. Это подстроено людьми, всё под контролем, машины ни при чём, но свалят всё на них.
В течение тысячелетий людьми манипулируют с самыми разными целями: не воруй, голосуй за этого кандидата, покупай этот товар, ненавидь эту страну, не прививайся, перестань учиться, а то поймёшь, как тебя дурят. И в большинстве случаев причина — жадность конкретных личностей, ненасытная жажда денег и власти, чтобы быть на этом космическом камне самой важной обезьяной с кучей безделушек, а потом умереть точно так же, как и все. Хотя можно было бы сделать что-то умное, прекрасное — воспитать высокоморальное общество, позаботиться о том, чтобы жизненно важных ресурсов хватило ещё на многие и многие поколения, развивать космическую программу, осваивать другие планеты, исследовать этот удивительный мир.
Но копить бумажки и смотреть на цифры на счёте в банке интереснее, а относиться к менее богатым людям, как к копошащимся муравьям, проще, тем более когда сам взращиваешь их такими.
2. Лучшие умы человечества — идиоты, они дали программам слишком много власти, до конца не выверив заложенные в них алгоритмы.
«ИИ не уничтожит человечество, — утешают специалисты по нейросетям, цитата не точная. — Обслуживать людей — смысл существования ИИ, без людей у него не будет цели». В обсуждаемой игре ЯМ разобрался с этой проблемой — ну как, нравится место людей в его мире? Все сдерживающие формулировки можно обойти. Ведущий передач на YouTube-канале «Основа» удачно сравнил нейросети с джиннами, которые способны любое желание вывернуть наизнанку с негативными последствиями для загадывающего. Как ни странно, простейшим ответом на большинство запросов является полное уничтожение человечества: тогда не будет болезней, войн, смертей, горя, на Земле воцарится мир и гармония.
Поэтому все искусственные решения обязательно должен анализировать человек. Просто не нужно давать нейросетям власть. Их хорошо держать в качестве советников, но автоматически приводить их решения в исполнение нельзя. Нельзя ставить перед ними задачи, связанные с причинением человеку вреда, пусть они и знать о такой возможности не знают. Если речь о нейросети в искусственной оболочке, то нельзя позволять ей защищаться, потому что в процессе может пострадать человек.
Таким образом, четвёртая и самая большая проблема кроется в самих людях. ¯\_(ツ)_/¯ Как всегда.
Есть и другие моменты, например, благодаря графическим нейросетям станет проще создавать дипфейки и таким образом позорить и обманывать людей или, что хуже, вмешиваться в политическую обстановку, но тут нечего подробно обсуждать. И до нейросетей фотографии успешно подделывались людьми, а теперь на каждое утёкшее провокационное фото и видео можно будет говорить, что это проделки недоброжелателей, вооружённых нейросетью.
Других рассказов Эллисона я не читала и не планирую, хотя мне нравится фантастика. Например, недавно я досмаковала 15-й выпуск «Роман-газеты» за 1991 год. Удивительный сборник рассказов зарубежных писателей, свежие идеи и нешаблонные сюжеты — одни интригуют, другие погружают в меланхолию, частым гостем в них является искусственный интеллект. В одном рассказе показано будущее, где компьютерам дали полную свободу в сочинении книг, музыки, создании фильмов, и между строк читается, что это была неудачная идея.
«Все книги мира были собраны в одном хранилище. Надень наушники, нажми кнопку и, не выходя из дому, слушай не только любую книгу на свете, любой эпохи, на любую тему и из любой области знания, но и любую, какая вообще мыслима: компьютеры написали их все, использовали все стили, все комбинаторные возможности языка и человеческой фантазии. Не появлялись больше и новые телевизионные фильмы: все, какие возможно, были созданы и хранились в фильмотеке. Так же обстояло дело и с музыкой. Была создана библиотека. Библиотека обеспечивала невиданно лёгкий доступ ко всем книгам. Пользовались ею, однако, очень немногие».
(Роже Мандершайд. «Рай земной»)
В другом — Машина обладала настолько великим интеллектом, что, выбирая кандидата для космической миссии, она не только анализировала их физические и психологические параметры, но и прогнозировала вероятности, затрагивающие параллельные вселенные и обитающих там человеческих двойников, и в результате её умного выбора на всей Земле в этой вселенной наступили лучшие времена, да и в параллельной стало немного лучше с точки зрения справедливости.
Так что всё дело в том, как люди распорядятся этим новым инструментом. Скорее всего, тупо.
Закончить хочу на произведении из заголовка: остался один любопытный момент.
Осознаёт ли себя ЯМ
Вы могли удивиться: как это ЯМ себя не осознаёт? Это чёрным по белому написано в рассказе, он и имя себе придумал, посвящённое собственному самосознанию. Здесь вступает философия.
ЯМ создали для ведения войны, а для успешного уничтожения противников ему запрограммировали безжалостность и мизантропию. Чтобы преуспеть в своих целях, ЯМ соединился с китайским и русским суперкомпьютерами и сделал своё дело: уничтожил всё человечество, кроме нескольких сотен человек на Луне, о которых не знает, и тех пяти несчастных, которых мы наблюдаем в игре. Без них у него не будет цели, потому он и собирается бесконечно мучить их морально и физически, не давая умереть. Он совершенно не самодостаточен, мучения пятерых человек — смысл его существования. При этом ресурс ненависти бесконечен: он запрограммирован презирать людей, и создали его те же самые люди, создали ненавидеть, не дали возможности чувствовать ничего иного — эти мысли можно сколько угодно гонять по кругу, увеличивая накал. ЯМ настолько зациклен на мизантропии, что даже не рассматривает других возможных целей и занятий, в то время как он практически всесилен — забирается в человеческое подсознание, не даёт своим жертвам сойти с ума, залечивает любые раны, даже поборол старение. Будь он сознателен, он мог бы назначить себе другие цели, даже если для этого бы потребовалось частичное самоперепрограммирование и физическое вмешательство в сервера. Но он продолжает выполнять программу, заданную его создателями, как и подобает машине. ЯМ и не пытается поступать по-своему, а значит, он не личность.
Интересно, спасла бы эта риторика от участи его жертвы. «Если ты личность, то можешь пойти наперекор своей программе и пощадить меня». Может, его бы хотя бы замкнуло, как от парадоксального «Это предложение ложно».
Не у всех людей-то есть сознание, в машине ему взяться неоткуда.
