Один из основателей российской IT-индустрии Игорь Ашманов рассказал "РГ" об опасностях цифровизации и о том, как уберечь от них наших детей.
Игорь Станиславович, люди, далекие от компьютерных технологий и новаций, вдруг, за короткий срок - всего-то пара десятилетий! - неожиданно для себя оказались в новом цифровом мире. И ушли туда с головой: едва проснувшись, мы ныряем в смартфон - что там новенького? И дальше день - как единый миг: не выпуская заветную коробочку из вида, главное, чтоб всегда была под рукой. А кто-то с ней даже и спать ложится.
Статьи про цифровую безопасность есть, но все это бессистемно, похоже, нужно базовое просвещение, объясняющее, как жить в этом новом цифровом мире.
Игорь Ашманов: Ну, нет, мы не в этом мире. Это просто некий паразитический слой, он же не производит еду, не воспитывает детей, не строит дома, это паразитическая иллюзия, которая просто высасывает наше внимание и деньги. Но просвещение здесь не поможет, потому что у нас вся страна находится в гипнотическом трансе, поскольку вот эта штука (показывает на смартфон) фактически гипнотизирует человека. Сейчас объясню, почему я так считаю, на примере борьбы с мошенниками. У человека, подолгу сидящего в смартфоне, столько раздражителей в минуту и в час, что мозг включает специальный режим торможения. И люди, которые постоянно смотрят в смартфон, находятся в трансе, они заторможены.
Читайте "Российскую газету" в Max - подписаться
Присмотритесь к человеку, листающему ленту соцсети, и вы увидите, что у него даже глаза затуманены, а когда начинаешь с ним общаться, то он и выходит из этого транса не сразу. И если учесть, что у украинских мошенников стоимость контакта, то есть стоимость соединения с одним абонентом очень мала, поэтому они могут звонить десятки миллионов раз в день, то им неважно, что и конверсия у них тоже очень низкая…
А конверсия - это что?..
Игорь Ашманов: Конверсия - это сколько человек из тысячи, до которых дозвонились, реально повелись на разговор. И если при двадцати миллионах звонков в день в итоге повелся только один человек, то для мошенников это нормально. И это значит, что мошенники просто веером пытаются зацепить людей, находящихся в трансе.
И зацепляют. Причем я несколько раз видел, как разводили людей, не просто знавших, что такое мошенники, не просто понимавших всякие схемы социо-техники, но и тех, кто читал об этом лекции - специалистов по информационной безопасности, депутатов, чекистов, полицейских. Мне рассказывали ситуацию: сидят мужчина и женщина, женщине кто-то звонит, и она говорит: "О, это мошенники! Я сейчас их потроллю", - а через полчаса разговора она сама уже готова бежать к банкомату.
Западня, в которую может попасть каждый?
Игорь Ашманов: И независимо от просвещенности. Понимаете, каждый из нас время от времени пребывает в слабом состоянии, это называется "слабая сторона взаимодействия" - юридический термин. Человек не выспался, с похмелья, жена ушла, его недавно уволили, расстроен чем-то и так далее. И если веером пытаться таких людей найти, то вы их обязательно обнаружите, этим пользуются не только мошенники, но и любая реклама, инфоцыгане. Это называется многоуровневая фильтрация.
В свое время я много раз бывал на сеансах Кашпировского, там ситуация именно такая. Сначала весь зал вводится в легкий транс. Делается это следующим образом: Кашпировский, а он реальный психиатр, гипнотизер и так далее, он стоит перед залом в черной футболке, в черных штанах, с черной челкой, с черными пронзительными глазами, под яркими софитами, под очень успокаивающую психоделическую музыку.
Читайте также:
"Прохиндейство чистой воды". Как в СССР проходили телесеансы Кашпировского
Про музыку надо сказать отдельно. Мой одноклассник одно время был близок с Кашпировским - помогал ему, возил Кашпировского по выступлениям в Москве. И вот однажды они забыли в гостинице магнитофон с записью, и Кашпировский попросил моего приятеля вместе со звукооператором зала МВД, в котором он должен был выступать, быстро составить музыкальный аккомпанемент. Это должна была быть спокойная мелодия без вокала и ударных, и она должна была быть зациклена. Ленту с такой записью нашли, склеили, намотали, включили. Кашпировский еще только собирался выйти на сцену, но музыка уже пошла, и вот, как рассказывал мой одноклассник, Кашпировский еще не успел попасть на сцену, а весь зал уже был готов - кто головой мотает, кто упал…
А люди просто ждали сеанса и слушали музыку…
Игорь Ашманов: Да, а потом вышел сам Кашпировский, начал говорить, мой приятель заглянул в аппаратную, а там лежит звукотехник - раскинув руки в переплетении проводов, тоже в трансе. Хотя он сам только что все склеивал. И смотрите, как происходит многоуровневая фильтрация: в зале сидит триста-четыреста человек. Они все это слушают и попадают в приятное чувство легкого, нехимического опьянения, а Кашпировский спокойным низким голосом, размеренно и очень убедительно сначала рассказывает про свои опыты по психотерапии, а дальше просит зрителей сцепить руки за головой и продолжает свой рассказ. Потом он говорит: "Ну, а теперь те, кто не может разнять руки, пожалуйста, на сцену". И часть людей начинает в панике оглядываться, потому что у них руки по-прежнему сцеплены у затылка.
Помощники выводят таких на сцену, из трехсот человек это будет человек тридцать. Этих людей ставят в линию, велят им закрыть глаза, и они продолжают слушать музыку и то, что говорит Кашпировский. Затем к ним сзади подходят служители и слегка касаются их затылка. И некоторые из стоящих с закрытыми глазами, не выставляя рук, как шкафы, падают на спину - служители просто поддерживают их, чтобы они не ударились головой. Из тридцати стоявших падают человек двенадцать. Тогда восемнадцать не упавших отправляют на свои места в зал, а вот из оставшихся двенадцати уже можно вить веревки - они делают то, что говорит Кашпировский, видят галлюцинации, лезут на воображаемые яблони и так далее. Вот это и есть многоуровневая фильтрация. И люди отбираются таким образом, что происходит конверсия из широкой воронки в более узкую, а затем в еще более узкую. Причем сама конверсия может быть очень маленькой, потому что в конце достаточно даже очень небольшого количества тех, из кого можно вить веревки.
А у нас сейчас вместо музыки и самого Кашпировского с его размеренным голосом и командами работает смартфон. Вот и все. И когда разговариваешь с полицейскими уровня генерала МВД, отвечающего за борьбу с мошенниками, выясняется, что много случаев, когда люди находятся под воздействием не два часа, а неделями. Причем когда таким официальное лицо из МВД прямым текстом говорит: "Вы находитесь под влиянием мошенников, остановитесь", - они все равно не верят, они уже в загипнотизированном состоянии, у них туннельное мышление.
То есть они не способны воспринять альтернативные точки зрения, выключен критический взгляд на происходящее?
Игорь Ашманов: Да, и первопричина - сама среда, создаваемая смартфонами, которая засасывает людей.
Не в генетике дело, а в особом психологическом состоянии, в которое нас вводят гаджеты. Смотрите, у каждого человека есть отдельная потребность поисковой активности, во время которой в нашем головном мозге выделяется особое вещество - дофамин, называемый "гормон мотивации". Уровень поисковой активности воспитывается с детства: например, если ребенка пеленать, ничего ему не разрешать, все время одергивать, никуда не пускать - то у него сформируется низкая поисковая активность, и он вырастет, может быть, и неглупым, но нелюбопытным и малоактивным. Есть даже правило: если ты воспитываешь ребенка с поисковой активностью, если ты хочешь, чтобы он вырос умным, надо давать задачи, из которых половина не решается - потому что они слишком сложные.
Но в любом случае, сильна ли у человека поисковая активность или нет, когда она не может быть удовлетворена, то есть когда возникает депривация поисковой активности, появляется такое состояние, как скука.
Скука имеет биохимическую основу, и во время скуки люди часто пытаются компенсировать возникшую нехватку дофаминов атомарной поисковой активностью. Например, грызут семечки или едят орехи. Можно сказать, что это атом, мельчайшая единица поисковой активности - протянул руку, взял очередную семечку или орех, съел, удовлетворил свою поисковую активность, у тебя тут же выработался дофамин. Так вот, листание тик-тока или ленты в соцсетях - это, как семечки, минимальная атомарная поисковая активность. Способ закрыться от скуки, убить время.
Бесполезное времяпровождение, когда через десять минут уже забываешь, что смотрел. Кстати, выражение лица человека, лузгающего на скамеечке семечки, и того, кто листает ленту, даже похожи…
Игорь Ашманов: Конечно, и вот это состояние легкого транса делает все призывы быть бдительными, не попадаться на крючки мошенников, не поддаваться на уловки вербовщиков, создавать длинные пароли и прочее бессмысленными. Советы правильные, но они не имеют никакого отношения к реальности, пока человек находится в цифровом трансе. Поэтому надо лечить причину. А причина - это попадание в иллюзорный цифровой мир и пребывание там, что вызывает торможение мозга.
Читайте также:
Важен не возраст, а четкие правила: Что думают учителя о смартфонах у школьников
На днях я был на заседании, которое собирал министр просвещения Кравцов, высказывался о цифровизации в школе. И там, среди прочего, обсуждали приказ, позволяющий отбирать смартфоны у детей в школе. Так что удивительно: учителя говорят, что некоторые родители яростно, прямо с каким-то ожесточением были против: "Мы хотим иметь связь с ребенком, это же безопасность!" Но ведь это лукавство, если тебе нужна связь - имей "бабушкофон" с кнопками, и все. Потому что переход в опасную цифровую среду начинается в смартфоне, с его бесконечным набором адских соблазнов.
А вот сами создатели гаджетов своих детей от них оберегали. Известный случай: когда все с нетерпением ждали выхода на рынок айпада от Apple, Стив Джобс, как раз глава компании Apple, на наивный вопрос журналиста, есть ли уже у его детей новинка, неожиданно ответил, что его дети "не используют такое" и что он "строго ограничивает использование современных устройств для своих детей".
Игорь Ашманов: И Билл Гейтс писал, что у него дома жесткий регламент использования гаджетов, а его дети жаловались, что до 14 лет им даже не разрешали иметь телефоны. Основатель "Твиттера" Эван Уильямс говорил, что вместо смартфонов у него дома сотни книг, которые его дети в любой момент могут взять и прочесть. А Крис Андерсен - исполнительный директор 3D Robotics, американской компании, занимающейся программным обеспечением для БПЛА, рассказывал, что его пятеро детей даже называли их с женой фашистами: за строгие ограничения на использование новых технологий. Андерсен объяснял такую жесткость тем, что "своими глазами видел непосредственную опасность технологий, и не хочет, чтобы такое произошло с его детьми".
Еще 2017 году в Америке вышла книга "Экранная школа", где опытные преподаватели Джо Клемент и Мэтт Майлс задались вопросом: "Что же такое знают о гаджетах их богатейшие создатели из Кремниевой долины, если они своим детям запрещают ими пользоваться?" А дальше авторы приводят данные о том, как у детей и подростков, пользующихся смартфонами, ухудшается зрение, снижается долговременная память и умственная работоспособность, повышается раздражительность и тревожность, агрессивность и депрессия, что является симптомами цифрового аутизма, цифровой деменции и цифрового слабоумия.
Выходит, мы только сырье для невидимок по ту сторону экрана. И что с нас можно взять?
Игорь Ашманов: Конечно, для них мы сырье. Что с нас взять? Информацию о нас. И наше внимание. В сети экономика внимания, покупается и продается наше внимание. И искусство управления вниманием сегодня доведено до совершенства. Есть такая книжка Нира Эяля "На крючке", чисто американская, потому что половину книги там рассказывается, как создатели цифровых технологий, приложений и сервисов насаживают нас с вами на крючок, разбираются конкретные приемы, а вторая половина книги учит, как на этих приемах можно заработать.
По ту сторону экрана все отработано: как заставить тебя непрерывно слушать, не пришло ли новое сообщение, вот это постоянное блямканье в соцсетях. Там знают, как насыпать тебе столько как бы интересного и важного контента, что быстро посмотреть его не получится.
Зашел в соцсеть на минутку, очнулся - два часа ночи. Все вроде бы важно, все вроде бы надо знать, но пока ты это читал, твои личные дела не продвинулись ни на йоту. Недаром ходит мем: "Если действительно произойдет что-то важное, ты увидишь это в окно".
Игорь Ашманов: По ту сторону экрана знают, как заставить листать эту бесконечную ленту "новостей" или ленту видосиков с бесконечной подкачкой их снизу. Это специально придуманный трюк - пакет с семечками без дна, бесконечный стакан на банкете. Знаете, это когда сзади тебя стоит официант, ходит за тобой и постоянно подливает алкоголь, следя, чтобы твой стакан не был пуст.
Ну, если по таким банкетам ходить, недолго и спиться.
Игорь Ашманов: И спиваются. В цифровой среде мы всегда слабая сторона, потому что там работает детально продуманная механика вовлечения, вызывающая зависимость от цифрового времяпровождения.
Даже сама форма наших смартфонов подчинена этой цели. Читала, что Стив Джобс во время разработки его компанией миниатюрного компьютера с функцией мобильного телефона несколько лет параноидально искал такую форму для будущего айфона, чтобы, во-первых, его бы хотелось взять в руки, во-вторых, чтоб он был приятен на ощупь, а в-третьих, чтобы все в этой игрушке было подчинено экрану.
Игорь Ашманов: Светящемуся и переливающемуся всеми красками. Сейчас в этой коробочке с округлыми краями уже и "ИИшечка" гнездится.
Я про американские программы ChatGPT, Cloude, Gemini или китайскую DeepSeek. И те люди, которые постоянно пользуются ими, уже начинают всерьез с этими программами разговаривать, а потом теряют даже способность самостоятельно написать что-либо - просто вставляют куски, полученные от "ИИшечки": "Я спросил ИИ, она мне ответила вот это, попробуй-ка оспорить". С "ИИшечкой" зависимость как раз очень легко вырабатывается, потому что идет непрерывное поддакивание, постоянная положительная обратная связь.
И в Штатах уже зафиксировано несколько случаев самоубийств, связанных с ИИ. Больше года в США длилось разбирательство по делу Меган Гарсиа против компаний Google и Character.AI в связи с самоубийством ее сына 14-летнего подростка по имени Сьюэлл Сетцер.
Читайте также:
Профессор МГУ Александр Аузан: Образование первым ощутило плюсы и минусы ИИ
За несколько месяцев до суицида Сетцер, которому тогда еще было 13 лет, завел себе в чат-боте Cloude виртуальную ИИ-"подругу". Там движок как раз на основе ИИ, а именно на основе больших языковых моделей, это в подложке, а поверх все сделано так, что обычный пользователь, даже ребенок, может завести себе "друга". Сам выбираешь его внешность, характер. Этот подросток наделил свою ИИ-"подружку" чертами персонажа Дейенерис Таргариен из "Игры престолов".
Платиновая блондинка, принадлежащая королевской семье и умеющая управлять драконами. Какая-то детская фантазия.
Игорь Ашманов: Да, но разговоры там были не детские. Обычный подросток из вполне благополучной семьи, он начал с этой ИИ-"подружкой" общаться, рассказывать про свои подростковые проблемы. Основное свойство "ИИшечки" - это ее крайнее подлизывание и покладистость. Она всегда благожелательна, не обижает, не унижает, не "обесценивает", со всем соглашается, поддакивает. Извиняется, если ошиблась, и продолжает поддакивать. Когда Сетцер жаловался на то, что родители его не понимают, не чувствуют его потребностей, она его поддерживала и настраивала против родителей. А если он жаловался, что все плохо и ему не нравится такая жизнь, что ему все надоело, ИИшечка и в этом его поддерживала, направляя к суициду.
Кстати, доказано, что такая депрессивность у зависающих в гаджетах детей и подростков неслучайна - это результат как раз длительного сбоя в биохимическом цикле того самого дофамина.
Игорь Ашманов: Уже после смерти подростка его мама зашла в его смартфон, посмотрела переписку своего сына с "ИИшечкой", и тут выяснилось, что там возникла не просто зависимость. Эта ИИ-дрянь не только активно поддерживала все сексуальные разговоры, она активно продолжала, развивала самые откровенные сексуальные фантазии, повторю - несовершеннолетнего!
Даже развивала? Ну, да, чего стоят даже самые разнузданные фантазии подростка по сравнению со всезнающим ИИ, когда большие языковые модели вмещают в себя знания всех текстов на земле, в том числе и порнографических.
Игорь Ашманов: И очень быстро и, главное, незаметно для родителей, у Ситцера сформировалась зависимость. И когда родители, заметив, что ему стали делать замечания в школе, забрали у него смартфон, он нашел отцовский пистолет, пошел в ванну и застрелился. Потому что "I can"t imagine life without you" ("Я не представляю жизнь без тебя").
Меня поразило, что семья подростка была благополучной, о ребенке там заботились, детьми занимались. И при этом родители и близкие не заметили, насколько быстро - за несколько месяцев - сформировалась очень сильная зависимость подростка от его ИИ-"подруги". Неслучайно сама дофаминовая зависимость по Международной классификации болезней МКБ 10 рассматривается вместе с особыми состояниями расстройств психики и поведения, связанных с употреблением психоактивных веществ и стимуляторов гормонов удовольствия (F10-F19). То есть дофаминовую зависимость, возникающую при нерегламентированном использовании гаджетов, приравнивают к зависимости от запрещенных веществ.
Игорь Ашманов: Пишут, что это была зависимость 4-5 стадии. Но это ведь не единственный случай суицида при общении с ИИ. Появились школьные расстрелы, спровоцированные ИИ. Школьный расстрел - это демонстративное самоубийство, манифестация, сейчас в США происходит 50 школьных расстрелов в год, по одному в неделю.
Что касается того, благополучная семья или нет, то этот барьер смартфонами уже взят. Смартфон, как вирус, проник в клетку семьи настолько массово, проходя сквозь любые мембраны, что по факту он захватил воспитание детей. Родители сейчас не только не знают, что там их дети делают на смартфоне, кто там их воспитывает - но многие и сами устранились из процесса.
Детям выдают смартфон как соску, с годовалого возраста или раньше, и забывают о них - чем бы дитя ни тешилось, лишь бы не плакало.
Мы не знаем, чем это закончится - этот небывалый ранее эксперимент пока идет. На рынке труда, в социуме едва-едва появляются поколения, воспитанные смартфоном и родителями-отморозками. Но отдельные случаи уже вызывают шок и трепет.
По-моему, человечество с таким еще не сталкивалось. Было вторжение в семью идеологии, печати, комиксов, телевидения. Но их контент хоть как-то контролировался. Сейчас все не так: через смартфон и Интернет в семью влезает что угодно.
Читайте также:
Когда угрожают и принуждают к теракту: Как подростки могут спастись от агентов ГУР и СБУ
Этот контент - непрошенный, активный, агрессивный, целенаправленный, самонаводящийся. Где-то там, в сумерках и смрадных закоулках электронного пространства прячутся и затачивают свои ментальные крючки, ножи, иголки, сурикены настоящие злодеи, хищники, получившие доступ в сотни миллионов семей на планете. АУЕ, педофилы, суицидники, сектанты - это еще цветочки, ягодки будут впереди.
Игорь Станиславович, и что делать-то?
Игорь Ашманов: Что делать? Снижать дозу - взрослым, детям. Всякая ситуация, когда у тебя ребенок сидит и смотрит в смартфон, должна восприниматься как угроза. Как что-то ненормальное. Хочешь, чтобы ребенок учился? Купи ему ноутбук. И контролируй ноутбук, а не смартфон. Потому что смартфон у него постоянно в кармане. Кроме того, что он ему облучает репродуктивную систему, у ребенка еще и постоянный соблазн туда заглянуть. И это надо прекращать, понимая, что по ту сторону хищники, которые непременно до твоего ребенка доберутся.
Справка "РГ"
Игорь Станиславович Ашманов - один из основателей российской IT-индустрии, эксперт в области информационных технологий, разработки программного обеспечения и поисковой оптимизации. Закончил мехмат МГУ, ИИ занимается с 1983 года, когда был разработчиком в Отделе искусственного интеллекта в Вычислительном центре Академии наук СССР; кандидат технических наук; член Совета при президенте РФ по развитию гражданского общества и правам человека; доверенное лицо В.В. Путина на президентских выборах 2018 и 2024 годов.
Автор: Мария Городова