Что думают дети об Искусственном Интеллекте и будущем? Поделюсь с вами своими наблюдениями. Вы знаете, у них нет однозначного отношения. Как и у взрослых. Кто-то говорит об ИИ с интересом, кто-то с восхищением, кто-то с опаской, ну а кто-то и с безразличием. Я стараюсь со всеми учениками поговорить о том, в какой точке развития технологий мы находимся сегодня и чего нам ждать в будущем. Мне важно расшевелить интерес, желание узнать, что внутри этих технологий, как они работают, но также и критическое отношение к тому, для чего именно технологии используются.
Сначала я предлагаю им «пощупать» возможности Искусственного интеллекта. Например, «нарисовать» картинки с помощью Midjourney или Stablе Diffusion. Или «пообщаться» с известными чат-ботами. Некоторые ребята, узнав о возможностях ChatGPT, загораются желанием перекинуть на него выполнение своих домашних заданий или еще как-то заставить бота работать на себя. Есть дети, которые догадываются, что ИИ может составить им конкуренцию в будущем и это вызывает у них беспокойство.
Например, один из моих учеников по имени Максим спросил: «Вот вы говорите, что многие профессии исчезнут, потому что людей заменит ИИ. А зачем заменять людей ИИ? Что тогда будут делать люди? А еще я не уверен, что мне понравится жить в таком мире».
Я ответила, что такой мир будет более комфортным и управляемым и сделала паузу. «Комфорт» звучит неплохо, а вот «управляемость» вызывает внутренний протест. И это правильно! Тут есть о чем поразмышлять.
Не знаю, делает ли так кто-то ещё, но я говорю о разных аспектах внедрения технологий во все сферы жизни со своими учениками. Не так давно я завершила обучение программированию на одной крупной онлайн платформе. За девять месяцев никто с нами, студентами, не поговорил о том, что могут системы ИИ сегодня и как с ними конкурировать программистам и людям других специальностей и нужно ли это делать. Между тем обсуждение возможностей ChatGPT периодически возникало в групповом чате студентов, организованным для поддержки друг друга в обучении. Запрос на понимание того, что такое ИИ и как с ним жить есть, а вдумчивого диалога - нет.
ChatGPT - эта языковая модель Искусственного интеллекта, которая генерирует тексты. Это может быть статья, дипломная работа по любому предмету или даже код на разных языках программирования. Звучит так, будто человек уже и не нужен для выполнения большей части интеллектуальной работы. Но так ли это?
Правда заключается в том, что ChatGPT НЕ может заменить человека во всём, но в некоторых случаях может быть очень полезным инструментом работы. Такая точка зрения озвучивается редко, а вот необоснованные ожидания, что подобные системы вот-вот начнут думать как человек, очень часто.
Я просто обязана рассказывать детям о разнице в работе Искусственного и Естественного интеллекта, чтобы они отличали научные достижения от фантазий и манипуляций. Давайте расскажу и вам.
Допустим, мы задаем одновременно человеку и чат-боту следующий вопрос: «Почему небо голубое?». Что происходит в этом случае в нашей голове и в системе Искусственного Интеллекта?
Вы удивитесь, но принцип работы чат-бота (языковой модели ИИ) это предсказание одного следующего слова. Одного слова!?
А как же тогда получаются длинные полноценные ответы? Дело в том, что тексты ИИ генерирует именно так: предсказывая слово за словом. После каждого слова в своем ответе модель заново прогоняет через себя весь полученный текст и выдает последующее слово уже с учетом имеющихся. В результате получается связный текст. Правильно называть этот текст именно связным, осмысленным он является только для читающего этот ответ человека. В этом процессе нет никакой магии, только математика. Предсказание - это нахождение вероятностей, с которыми те или иные слова могут появиться в ответе и выбор среди наиболее вероятных. Какова вероятность того, что в ответ на вопрос о том, почему небо голубое, вы услышите слово «краб»? Сами понимаете, что почти нулевая. Хотя если вам будет отвечать человек, а не ИИ, то вероятность наверное выше – ведь человек может внезапно отвлечься и начать говорить о том, что его интересует в данный момент, например, обед или ужин, или то, что он увидел, у ИИ нет такой свободы в мышлении и поведении.
Вот ответ на вопрос «почему небо голубое?» чат-бота Writesonic, работающего на основе нейросети:
The sky appears blue to us because of the way light is scattered in the Earth's atmosphere. As the sun's light enters the atmosphere, it collides with gas molecules and scatters in all directions. Blue light has a shorter wavelength and higher energy than other colors, which means it scatters more easily in all directions in the atmosphere. This results in the blue color we see when we look up at the sky. At sunrise and sunset, however, the sky can appear reddish or orange due to the way the light travels through more of the Earth's atmosphere, scattering the blue light and allowing more of the red and orange light to come through.
Теперь попробуйте задать себе вопрос: «Почему небо голубое?». Если у вас есть базовые знания физики, то в голове «всплывут» скорее всего слова «свет», «волна», «рассеивание», «спектр». Из этих слов ваш интеллект будет пытаться построить полноценные предложения. Сделать это он может двумя разными способами: вспомнить законы оптики и составить осмысленное объяснение или выдать по памяти статью из учебника. Способность извлекать из памяти идеи (законы, теории) и распаковывать их на конкретном примере есть только у человека. Такое хранение информации (в виде общих идей) является чрезвычайно выгодным с точки зрения использования памяти. Такой способности у современных систем Искусственного интеллекта нет.
Разбирая то, как реагирует наш собственный интеллект на вопрос, нужно отметить еще одну важную особенность: у человека работают одновременно разные типы мышления, дополняя друг друга.
Услышав вопрос, человек попробует вспомнить ответ, если не вспомнит, попробует порассуждать, но также возможно откажется отвечать, потому что ему некогда, ему не хочется с вами говорить, он выполняет более важную работу. Т.е. мозг человека решает сразу несколько задач: а есть ли смысл тратить время и силы на ответ в данный момент, есть ли достаточно оснований полагать, что существует однозначный ответ на поставленный вопрос, не посчитают ли его дураком, если он ответит неправильно. Понимаете разницу?
У нас работает аналитическое, критическое, логическое, эмоциональное мышление одновременно. Давайте просто не будем об этом забывать, чтобы не создавать себе кумира в виде ИИ. Это не про нивелирование достижений в области ИИ, это про понимание того, какие задачи можно делегировать ИИ, а какие нет.
Если речь идет о тех знаниях, которые содержались в обучающем датасете (текстах, которые «скормили» во время обучения нейросети), вероятность корректной работы ChatGPT очень высокая. Именно поэтому поисковик на основе ChatGPT - это крайне удобная вещь. Но ChatGPT и другие аналогичные языковые модели не умеют думать, анализировать, прогнозировать. ИИ бессмысленно спрашивать о том, когда закончится война.
Ни один художник не сможет создать столько эскизов за пять минут как нейросеть, генерирующая изображения. Скажу честно, я собираюсь использовать нейросеть для создания иллюстраций к своей книге, потому что это удобно.
Но с другой стороны, я знаю, что настоящий художник способен создать новое: стиль, жанр, направление, заложить в картину идею, неожиданный смысл. Искусственный интеллект самостоятельно на это не способен. Однако, часто нам и не требуется что-то принципиально новое. Чтобы создать рисунок на посуде, одежде, обоях необязательно изобретать новое направление в дизайне, так ведь?
Получается в будущем себя смогут реализовать люди, способные творить новое, выдвигать идеи, генерировать смыслы, это конкурентное преимущество человека перед Искусственным интеллектом и пока нет оснований полагать, что мы его потеряем. Дети должны быть в курсе этого, как думаете? Они должны понимать, что как никогда раньше развитие собственного интеллекта и творческих способностей становится условием выживания в этом мире.
Сейчас люди шутят, что профессия будущего - это оператор ИИ, то есть человек, умеющий грамотно формулировать запросы к чат-боту. Спешу разочаровать. Операторы будут нужны не долго. Я думаю, что разработчики ИИ предоставили возможность пользоваться своими системами бесплатно или за небольшие деньги с целью обучить ИИ генерировать запросы, не отличающиеся от человеческих и скоро нам представят модели ИИ, которые будут имитировать «разумность» еще лучше. Они будут не только реагировать на запросы пользователей, но и делать вид, что сами ставят себе задачи.
«Хочешь, я нарисую для тебя твое идеальное свадебное платье?» – спросит голосовой помощник девушку, которая готовится к свадьбе и эта информация проскальзывает в ее переписке, запросах, диалогах. А мы знаем, что наши гаджеты собирают информацию о нас круглосуточно. «Я уже нарисовала его для тебя. Смотри» – продолжит виртуальный ассистент. Многие люди точно начнут воспринимать ИИ как разумное существо, как друга, как учителя, советника уже очень скоро. И вот это про управляемость, о которой я написала в начале статьи.
«Неужели кто-то действительно хочет получить власть над людьми с помощью Искусственного интеллекта!? Кто эти люди? Зачем им это?» – удивился мой ученик Максим, когда мы подошли к таким рассуждениям. «Зачем вообще тогда изучать и развивать эти технологии?».
Я ответила, что, понимая риски, мы должны быть готовы правильно на них реагировать. Не все разработчики Искусственного интеллекта, создают свои решения для получения контроля над людьми. Не надо сгущать краски. Кроме того ИИ это не только чат-боты. ИИ, например, это системы, управляющие беспилотными комбайнами или сложными технологическими процессами на производстве. От развития таких систем зависит будущее нашей страны.
Я знаю, что среди моих учеников будет Нео, который сможет разрушить систему цифрового контроля, если люди все-таки создадут матрицу. Шутка:)
А что, если Искусственный Интеллект станет таким умным, что поработит людей? Ещё один из вопросов, которые мне часто задают ученики.
Я не знаю, почему жажда власти у людей стойко ассоциируется с развитием интеллекта. В реальности борьба за власть и общие ресурсы существует у разных зверей, птиц и рыб и это работа врожденных инстинктов. Интеллект, конечно, помогает некоторым людям реализовать их животные инстинкты в невероятном масштабе, но сама идея «захватить мир» вряд является следствием развития интеллекта.
К сожалению, придёт время и мы вынуждены будем заложить в Искусственный Интеллект «инстинкты», подобные тем, что существуют в живой природе, а именно стремление к получению власти и ресурсов. Дело в том, что ресурсы, необходимые для работы ИИ-систем не безграничны и рано или поздно, когда таких систем станет слишком много они должны будут как-то самостоятельно решать вопрос своего «выживания» (не отключения от источников питания и хранилищ данных).
Вот тогда знания о том, какие инструменты сдерживания в беспощадной борьбе за ресурсы заложила в человеческий интеллект и коллективное сознание природа станут востребованными.
У меня эти знания есть. Я готова делиться ими с учениками и всеми, кто хочет создавать Искусственный Интеллект.
P.S. Я пишу художественную книгу о подростках, которые изучают программирование и ИИ, чтобы решить одну очень сложную задачу, которая может спасти жизни. Собираюсь вплести в сюжет мысли об этичности тех или иных решений на основе ИИ и другие сложные темы.
Что бы вы посоветовали донести детям?
