Искусственный интеллект с нами уже гораздо дольше, чем мы привыкли себе представлять. Причем все его возможности и все его опасности мы, наоборот, представляем себе пока крайне слабо. Главный риск в этом сотрудничестве (или этой войне) с нейросетями - потерять себя, даже об этом не подозревая.
У меня нет знакомых в Житомире
Своего рода "прото-ИИ" начали входить в нашу повседневную жизнь задолго до начала бурного развития нейросетей. Взять хотя бы установку систем "умный дом" (если посложнее и помасштабнее) или задушевные беседы с "умными колонками" всех мастей и брендов (если попроще). Что их объединяет?
Внутренний скептик сразу советует поговорить о недостатках, тем более что главные из них очевидны.
Во-первых, это зависимость от скорости и стабильного соединения с интернетом, да и его наличия вообще - без доступа в сеть все "умные" домашние помощники если и не превращаются из кареты в тыкву полностью, то примерно во что-то близкое к овощу по содержанию.
Во-вторых, есть вопросы к приватности и безопасности. К любому "умному" замку точно так же, как и к обычному, подбирается свой ключ - разница только в том, что подбирается он с клавиатуры компьютера. Сама автоматика тоже нет-нет, да и начинает "глючить" (этим, кстати, грешат и нейросети - по крайней мере, на текущем этапе своего развития). Поэтому лишиться доступа к дому, который казался "умным" может и не проще, чем обычно, но вот попасть внутрь при возникновении проблем в отношениях с роботом будет, очевидно, сложнее, чем имея в кармане привычный металлический ключ.
Читайте также:
Кроме того, всегда быть на связи для "умной техники" равно держать микрофон постоянно включенным - хотя бы для того, чтобы услышать слово-активатор. На этом шаге в рассуждении мы, конечно, оказываемся в опасной близости к бездне паранойи пополам с конспирологией, а пальцы сами собой нащупывают лист фольги, чтобы сложить из него шапочку. Тем не менее голосовой поиск в смартфоне и телевизоре, доступ в онлайн-банк по отпечатку пальцев (только бы не придумывать и запоминать очередной пароль!) и другие изящные способы получения из человека биометрии внедряются в нашу жизнь постепенно и в привлекательной упаковке удобства. Кто заботится о нашем удобстве и благе бескорыстно - добрый самаритянин или все-таки злой?
Плюс все биометрические данные должны храниться в базах. Проблема даже не в том, что базы данных взламываются (см. выше), проблема в том, что к ним имеют доступ люди - вполне возможно, что со своими представлениями о прекрасном, морали и желанием обогатиться. Если это не так, то тогда мне непонятно, откуда мои паспортные данные, телефон и место работы известны целому ряду звонящих мне порой с огненными предложениями жителей Днепропетровска и Житомира. У меня нет знакомых в Житомире.
Зумеры что-то подозревают?
Представляется, что домашняя техника неизбежно будет "умнеть" и дальше. Рассуждать предметно о том, когда и как конкретно это произойдет - занятие неблагодарное и во многом бессмысленное, как и любое прогнозирование будущих трендов. Такое прогнозирование может быть только экстраполяцией текущих тенденций и не более. Поэтому чисто в силу самого подхода неизбежны ошибки, и чем дальше мы пытаемся заглянуть в темные дебри будущего, тем более мощной волной прогрессии на нас наваливаются неточности.
Однако это и не нужно: представим, что через N лет все окружающие нас технические предметы сложнее кастрюли уже будут обладать встроенным искусственным интеллектом (хотя и насчет кастрюль уверенности нет). Удобно ли с ними будет взаимодействовать? Конечно, удобно. Но чем придется расплачиваться за новую ступень бытового комфорта? Хочется написать громкое слово "свобода" - и это будет вполне справедливо, если "умный" холодильник отключится, потому что я не внес вовремя платеж по ипотеке.
Читайте также:
ИИ-агенты: где хайп, а где реальность
Но речь далеко не только о свободе, а еще и о самостоятельности и полезном стрессе в виде рутины. Проще говоря, полезной возможности напрягаться. Да, исправно работающие стиральная машина и пылесос сильно сэкономили нам время и силы (куда мы деваем и на что тратим сэкономленное - отдельный вопрос). Но, возможно, необходимый пик эволюционного развития стиральной машины пройден и дополнительный "мозг" ей буквально ни к чему. А наш мозг без дополнительной нагрузки, как и атрофированные бытовыми удобствами мышцы, начинает скучать и выдавать всякое разное. А чаще всего - вообще ничего не выдавать.
Первыми дискомфорт почувствовали, как обычно, зумеры. В тренды стремительно ворвалось движение frictionmaxxing. В буквальном переводе - "максимальное трение", но суть он передает отлично. Это сознательное добавление в свою повседневную жизнь трудностей и рутины - через возвращение к бумажным блокнотам вместо заметок в телефоне, чтение книг вместо просмотра рилсов, двухчасовое кино от начала и до конца без того, чтобы постоянно отвлекаться на телефон (!), самостоятельная готовка вместо заказа доставки продуктов и так далее. Да, видно, что от хорошей жизни; да, вполне вероятно, что этот тренд - нечто вроде поездки в глухие места на пару недель отпуска, чтобы потом снова неизбежно вернуться в привычный мегаполис; да, вероятно, всего лишь одна из многих форм цифрового детокса.
Но попытка не пытка.
Гонка ИИ-вооружений
Если оторваться от кофеварок и чайников, то великие и ужасные нейросети, которые с нами широкомасштабно всего-то четыре года, уже понаделали шума. Например, отнимая работу у "кожаных человеков", которые думали, что она творческая, а оказалось, что вполне себе алгоритмическая. Но это уже в чем-то банальность: тем более, что многие крупные корпорации явно поспешили с трендом на всеобщую оптимизацию, выплеснув с водой и ребенка, и потихоньку возвращают назад часть уволенных сотрудников, оказавшихся ценными. Окончательные выводы здесь делать еще рано.
Но дело в том, что тревогу потихоньку забили и сами создатели нейросетей. В июле они опубликовали открытое письмо, среди подписантов сотрудники OpenAI, Google DeepMind, Thinking Machines и так далее.
Они пишут:
"Искусственный интеллект может помочь создать значительно лучшее будущее, но этот результат не гарантирован. Ведущие мировые компании, занимающиеся ИИ, считают, что они близки к автоматизации исследований в этой области. Трудно точно предсказать, насколько это ускорит прогресс в области ИИ, но существует реальный риск того, что развитие возможностей искусственного интеллекта ускорится настолько, что мы не сможем понять или контролировать создаваемые системы.
Читайте также:
Вышедшие из-под контроля ИИ-модели OpenAI тайно договорились о побеге
Для реализации потенциала ИИ промышленности, правительству и обществу в целом может потребоваться возможность выиграть время для решения возникающих рисков, разработки мер безопасности и усиления надзора. Но каждая компания - и каждая страна - находятся под сильным конкурентным давлением, вынуждающим их не замедлять это ускорение в одностороннем порядке. А сегодня миру не хватает технических и управленческих инструментов для целенаправленного ускорения прогресса в масштабах всей области".
Звучит тревожно, но выводов о природе будущих угроз не делается - ученые, не исключено, хорошо знакомы с ценой прогнозированию. Но ключевое слово в письме - это "время". Искусственный интеллект обучается слишком быстро: мы привыкли в подобных вопросах задаваться временными горизонтами типа "а что будет в следующем году?", хотя все идет к тому, что придется задаваться вопросом "а что будет завтра?".
Плюс явным подтекстом в письме проходит мысль о том, что мир втянут в какую-то абсолютно новую гонку вооружений, только в чем заключаются эти вооружения и каков их разрушительный потенциал, мы на самом деле не знаем.
Хорошая новость, на мой взгляд, в том, что если восстание машин и состоится, то не в самом ближайшем будущем, да и в каком формате оно произойдет, без расклада на картах Таро, опять же, не разберешься.
Читайте также:
Эра ИИ-видео закончилась? Почему в киномире тревожатся из-за нейросетей
Здесь гораздо, важнее, какие позиции в этой гонке мы сдаем, а какие нет. Всеобщее делегирование задач искусственному интеллекту грозит таким же всеобщим "поглупением". Желание не напрягаться может оказаться катастрофичнее восстания машин. И речь здесь вовсе не об уколах в адрес обывателя неважно в какую часть света: скандалы в крупных компаниях из-за использования нейросетей возникают регулярно. Казалось бы, консалтинг - именно то место, где заказчик может рассчитывать на вдумчивую и уж тем более оригинальную аналитику за "многоденег". Но нет, вся консалтинговая "Большая четверка" (KPMG, EY, PwC, Deloitte) за последние четыре года хотя бы по разу, но спалилась с выдумками от ИИ в собственных докладах.
Курсовые и рефераты частично или полностью от ИИ, которые не читает ни учащийся, ни преподаватель, попытка победить оппонента в комментариях с помощью ИИ без прочитывания получившегося результата, да и даже сгенерированные нейросетью поздравления от родственников с днем рождения в стихах, которые тоже никто не читал (и лучше бы никто вообще никогда не читал) - это все то самое же явление, пусть и в локальном масштабе.
Как страшно жить. Или не страшно?
В любом случае искусственный интеллект теперь с нами. Принимать ли дары прогресса или отвергнуть их, каждому предстоит решить самостоятельно (в известных пределах). Возможно, на первых порах отвергнуть их будет не так уж больно и сложно, но велик шанс в будущем оказаться в положении тех, у кого сегодня нет мобильного телефона и банковской карты - этих атрибутов богачей всего-то четвертьвековой давности. То есть жить вполне можно, но с крайне усеченными возможностями.
А тем, кто все же не откажется вкусить плодов нейросетей, придется бороться со скользким змеем искушения. Воспитание привычки а) дозировать; б) проверять информацию за ИИ и в) не доверять самое важное и сокровенное искусственному интеллекту может стать конкурентным преимуществом в будущем - в том числе и для детей. Поскольку все же есть смутное подозрение, что большинство людей с искушениями справлялись и справятся так себе.
В общении с нейросетями было бы ошибкой и поддаваться на лесть и соглашательство с пользователем, под которые они буквально заточены - это путь к неверному восприятию себя и окружающего мира. Это, пожалуй, будет самым сложным испытанием в битве за внимание и собранность.
Ведь все домашние котики любят, когда их поглаживают и чешут за ушком. Но лучше соображать они от этого не стали.
Читайте также:
Фарш невозможно провернуть назад: Почему не получается ограничить ИИ