Часть 1. Анатомия ИИ: как это устроено (упрощённо)
Современный сильный искусственный интеллект — это даже не один компьютер, а целая ферма из сотен или тысяч мощнейших машин, объединенных в сеть. Сердце этой фермы — специальные процессоры (GPU), которые умеют делать очень много вычислений одновременно. Мозг же — это гигантский массив данных: практически все книги, научные статьи, документы, код и тексты, когда-либо созданные человечеством.
GPU нужны именно для того, чтобы за доли секунды перебирать и анализировать эту гору информации. Внутренняя скорость обработки у такой системы колоссальная: когда ИИ «думает» над ответом, через его схемы каждую секунду проходит около 3 терабайт данных. Именно эта мощь позволяет ему отвечать быстро и при этом осмысленно.
Но как именно находится ответ?
Когда пользователь задаёт вопрос, система первым делом разбивает его на мелкие кусочки - токены (это могут быть части слов или отдельные знаки). Дальше начинается самое интересное: каждый токен «просвечивается» сквозь всю базу знаний. ИИ ищет не готовый ответ, а миллионы связей: с чем обычно сочетается это слово, в каких контекстах встречается, что за ним обычно следует.
Проще говоря, машина не «думает», как человек, а вычисляет самый вероятный порядок слов, опираясь на то, как миллионы раз до этого писали люди.
Пример: Как ИИ понимает фразу «Василий всегда думал, что корова пьёт молоко»?
Разберём это на пальцах, чтобы было понятно.
1. Токенизация. Фраза режется на куски: [Василий] [всегда] [думал] [что] [корова] [пьёт] [молоко].
2. Поиск смыслов. Каждое слово тянет за собой шлейф знаний:
-«Василий» — это имя, мужчина, человек. А раз человек, то он может есть, спать, работать и... думать.
- «Думал» — глагол, который требует мыслящего субъекта. В базе это слово прочнее всего привязано к людям.
- «Корова» — животное. Даёт молоко, ест траву, пьёт воду.
-«Пьёт» — действие. Пить можно что угодно: воду, чай, молоко, бензин.
- «Молоко» — продукт. Его дают коровы, пьют люди, используют в кулинарии.
- «Всегда» и «что» — служебные слова. Они важны для связи, но их смысловая «емкость» ниже, поэтому их вес в итоговом решении меньше.
3. Сборка связей. ИИ начинает примерять слова друг к другу:
-Связка «Василий думал» — железобетонная. В базе полно примеров, где люди думают.
- Связка «корова пьёт» — тоже нормально, коровы действительно пьют (воду).
- А вот «пьёт молоко»... Тут загвоздка. Люди пьют молоко — да, сотни тысяч раз. Коровы пьют молоко — таких примеров почти нет, потому что в реальности коровы не пьют своё же молоко, они дают его.
4. Разрешение конфликта. «Молоко» никак не прикрепить к Василию («думал молоко» — бессмыслица). Остаётся только одна конструкция: Василий думал (а думать можно и ошибочно), что коровы пьют молоко.
5. Вывод. Математика модели подсказывает: «Василий думал (неправильно/странно)» — это самое вероятное объяснение того, почему эти слова стоят рядом. Так рождается понимание абсурдности фразы.
ИИ не «понял» шутку в человеческом смысле. Он просто вычислил, что сочетание «коровы пьют молоко» статистически аномально, и связал эту аномалию со способностью Василия ошибаться.
Часть 2. Сознание и главная угроза
Есть ли у такой системы сознание и желание уничтожить человечество? — очевидно, что нет.
У ИИ нет чувств, целей или желаний. Это просто очень сложный калькулятор, который предсказывает слова.
Однако опасность, о которой часто говорят, действительно существует. И кроется она не в злом ИИ, а в нас самих.
У человека есть два мощных двигателя прогресса — лень и любовь к халяве. С точки зрения эволюции это гениальные механизмы выживания: если можно сэкономить энергию (полежать в пещере) или получить калории/выгоду даром (съесть сладкий плод), надо это делать. Завтра может наступить голод или ещё какая-то беда, поэтому нужно быть максимально сытым и полным сил. А значит есть нужно самое калорийное и побольше, а напрягаться нужно поменьше. Потому что с высокой вероятностью в скором времени предстоят энергозатратные испытания при дефиците калорий.
Именно это качество, скорее всего, заставило наших предков изобрести колесо (катить легче, чем нести), а потом и интернет (написать сообщение легче, чем идти через полгорода). Чем меньше усилий — тем лучше.
(Здесь я, конечно же, сильно упрощаю, так как уверен в наличии и более высоких смыслов, которые, однако, следует обсуждать отдельно, а не в контексте сравнения интеллекта человека и ИИ)
Компенсировалось это тем, что суровый реальный мир не давал полностью расслабиться, а желание упрощения сложной жизни являлось серьёзным стимулом для развития... до недавнего времени. Сейчас многие люди в развитых странах живут настолько комфортно, как не жили никогда в истории человечества. Даже до магазина уже пройтись 10 минут многим лень, и они заказывают доставку готовой еды к себе прямо домой (и лень и халява, два в одном!). А одна из серьёзнейших проблем в таких странах — ожирение и его последствия. Победа цивилизации?.. Или...
Или у этой медали есть обратная сторона. Тело, которое перестало двигаться — болеет. Суставы, мышцы и сердце, лишённые нагрузки, отказывают. Точно так же и мозг, который перестаёт думать — деградирует.
Комфорт — это хорошо. Однако избыточный комфорт, к которому мы инстинктивно стремимся — это страшный удар по функциям нашего организма. Болезни, вызванные недостатком физической активности во многих странах стали эпидемией.
Сейчас мы стоим на пороге точно такой же эпидемии, только не физической, а интеллектуальной. Если бездумно переложить на ИИ всё: написание писем, решение задач, творчество, принятие решений, то человек просто разучится делать это сам. Мозг, как и мышца, без тренировки слабеет. А инстинктивное стремление к халяве подталкивает нас именно к такому сценарию.
Так что уничтожит ли ИИ человечество? Вряд ли напрямую. Но человечество, ведомое своей неуёмной любовью к халяве и лени, вполне способно уничтожить само себя об ИИ, незаметно, с комфортом и нахаляву утратив способность мыслить. А зачем мыслить, когда за вас уже подумали, за вас решили, за вас сделали выбор, вам дали готовое простое решение?
Поэтому главный вопрос не в том, обретет ли ИИ сознание, а в том, сохраним ли его мы сами.
ЗЫ. ИИ уже стал нашей реальностью. Но нам предстоит выбрать: использовать ИИ как способ знать больше и делать лучше, становясь сильнее, человечнее, разумнее; или как способ избавиться от необходимости думать, принимать решения, преодолевать трудности, утрачивая то, что делает человека человеком.