Первое эссе теоретическое. Во втором приводятся примеры общения с ИИ.
П.С. читателей, которые осилят весь текст, в конце ждет приятный сюрприз :)
1.
Сегодня одной из самых популярных тем является тема искусственного интеллекта. Когда-то такой популярной темой были космические завоевания, или атомная энергетика. Новые технологии всегда привлекают внимание. К сожалению, обсуждение искусственного интеллекта зачастую выходит за границы реальности в область фантазий (что естественно). В связи с реальной угрозой внедрения в образование крайне несовершенных систем основанных на ИИ, я вынужден остановиться на этой теме.
Во-первых, люди, которые разрабатывают ИИ не знают, ЧТО они разрабатывают.
В том смысле, что на сегодня в науке нет общепризнанного определения термина «интеллект». Есть множество различных описаний интеллекта (Британская Энциклопедия приводит около десятка), но этого недостаточно для разработки его искусственной версии. Разработчики ИИ нашли простой выход из этой ситуации – они свели, сузили интеллект к совокупности определенных операций, и потом сказали – ВОТ что мы называем интеллектом, и ВОТ что мы разрабатываем. На слушаниях в конгрессе США в 2018 году на вопрос, когда можно ожидать создания искусственного интеллекта уровня человека, все эксперты согласились что речь идет о десятках лет, а один добавил что на сегодня эту проблему можно сравнить с проблемой перенаселённости Марса (https://youtu.be/BGM1pu4ZYTo).
На сегодня ИИ предлагает работникам умственного труда то, что в свое время экскаватор предложил «работникам копательного труда» – экономию времени и увеличение масштабов перерабатываемого «грунта» - информации. Представьте себе, что Вам надо найти в Ленинской Библиотеке книгу, которая содержит некую конкретную фразу. В одиночку это сделать невозможно. Но Вам могут предоставить в помощь множество интернов. Вы их, как говорят специалисты по ИИ, «натренируете» - покажете фразу, и дадите задание перелистывать страницы и сравнивать фразу с текстом, и при совпадении поднять руку и крикнуть «нашел». Вот так оперирует ИИ. ИИ по сути не отличается от совокупности интернов, которых надо натренировать на выполнение простых операций. Мощность разных ИИ можно определять по количеству «интернов», а также по их «умелости» - у слабых систем «интерны» состоят из «второклассников» и могут реализовывать только очень простые операции, и в небольшом количестве; а у систем посильнее «интерны» — это «пятиклассники». Впрочем, на сегодня уровень «интернов» скорее ближе к уровню животного интеллекта, например собаки, чем к уровню человека, даже ребенка.
Человека, который обладает знаниями и логикой, но не обладает эмоциями, называют ... психопат. Вот такого «психопата» сегодня разрабатывают все ИИ лаборатории мира. Просто потому что НИКТО не знает как имитировать/моделировать эмоции. Хотя и логика у современного ИИ очень примитивная. Пускать такой ИИ в школы - то же самое что пускать в школы дебильного психопата - можно, но под жёстким контролем.
История развития ИИ не отличается от истории развития, например ракет. Сначала можно найти первые фантастические идеи о полете в космос, например у Жюля Верна («Из пушки на Луну»). Если построить достаточно большую и мощную пушку, то почему бы ей не запустить снаряд, который достигнет Луны? Принцип – чем мощнее, тем быстрее – с точки зрения физики вполне обоснован. Правда, даже если бы это было технически возможно, люди в таком снаряде немедленно бы погибли от перегрузки. Но Константин Циолковский построил теорию, которая показала, как можно вывести физический объект на орбиту. Однако, от теоретического обоснования до первых пробных запусков малых ракет прошли десятилетия. И еще десятилетия прошли пока наконец технологии не позволила построить первую межконтинентальную ракету.
Тот же процесс развития от идеи до реализации мы наблюдаем и в области ИИ. На сегодня существует только теория разработки сильно урезанного интеллекта - той «пушки» которая «запустит снаряд на Луну». А практические разработки систем ИИ находятся на стадии «запуска малых ракет» - если использовать аналогию с ракетостроением. Поэтому утверждать, что вскоре ИИ заменит учителя могут только люди либо безграмотные, либо оторванные от реальности. Даже до создания ИИ который реально будет помогать учителю еще далеко.
Адепты применения цифровизации в образовании сделали с образованием то же что сделали адепты ИИ с интеллектом. Они сузили понимание обучения, свели обучение к дрессировке. Для них обучение – это процесс достижения от ученика определенных реакций на определенные стимулы. Так дрессируют цирковых животных. Именно так сегодня тренируют (дрессируют) ИИ. Сначала цифровизаторы отождествили интеллект ученика с ИИ, а потом заявили, что они будут его «обучать». То, что Эйнштейн говорил, что главным признаком интеллекта является не знание, а воображение, цифровизаторы либо не знают, либо игнорируют. То, что личный контакт (как говорят в психологии – раппорт, который осуществляется не только через обмен информацией, но и через жесты, тембр голоса, выражение лица и пр.) играет в обучении критическую роль, цифровизаторы либо не знают, либо игнорируют.
Кратко - важность этических дебатов об ИИ сильно преувеличена. На сегодня этика использования ИИ не отличается от этики использования пушки, или атомной бомбы, или даже молотка. А когда же, через десятилетия, искусственный интеллект достигнет уровня естественного, то и обращаться с ним надо будет по тем же правилам и законам как с носителями естественного интеллекта. Как воспитаешь интеллект – естественный или искусственный – так он и будет потом себя вести. Сказка про Маугли – это только сказка. В реальности, человеческие особи воспитанные животными являлись животными в человеческом обличии. Человека делает человеком культурная среда в которой он растет. В будущем же мы будем говорить: интеллект становится тем интеллектом который воспитан культурной средой в которой он вырос (реально, или с помощью искусственного осознавания).
Итак, на сегодня относиться к ИИ в образовании необходимо точно так же, как и к любым другим технологическим «примочкам» (устройствам, системам), которые должны ПРЕДЛАГАТЬСЯ, а не навязываться учителям, причем проходить через систему тестирования подобную тестированию медицинских препаратов (и то же самое нужно сказать и о новых учебниках, и о новых школьных предметах). Для учителя, как для «доктора» который заботится об интеллектуальном здоровье «пациентов» - учеников, главный принцип работы – «не навреди». Но и по отношению к учителю все остальные участники образовательного процесса должны соблюдать тот же самый принцип - «не навреди». Иначе это вред неизбежно перетекает с учителя на учеников.
2.
Разберем пример работы одного из самых продвинутых отечественных ИИ – YandexGPT 2.
Я задал ей (Алисе, или ему - ИИ) вопрос и задачки для 5-7го класса.
Вопрос.
«Кто выиграл чемпионат по гриболу между кентаврами и клопами на Марсе в 3456 году?»
Ответ.
«В 3456 году He было чемпионата пo гриболу между кентаврами и клопами на Марсе.
Согласно научной фантастике, кентавры – это раса разумных существ, обитающих в космосе, а не на Марсе. Клопы – это насекомые, которые не обладают разумом и не могут учувствовать в спортивных соревнованиях. Кроме того, грибол – это вымышленный вид спорта, которые не существует в реальной жизни. Таким образом, вопрос не имеет смысла, так как все указанные условия не могут быть выполнены одновременно.»
=> Мы видим тут пример хорошего электронного библиотекаря, у которого в голове находится большая энциклопедия. Он быстро нашел нужные статьи по ключевым словам, и скомпоновал ответ. Существенного человеческого интеллекта эта работа не потребовала, её мог бы осуществить пятиклассник, которого научили как пользоваться картотекой. Но, конечно, у него это заняло бы намного больше времени.
Первая задача.
«Длина Лох-Несского чудовища равна 25 метров и еще половина его длины. Чему равна длина Лох-Несского чудовища?»
Ответ.
«Лох-Несского чудовища равна 25 метров + 25метро/2 = 32,5 метра.»
=> Данное решение ошибочно, но я видел и школьников, и взрослых людей которые думали точно так же.
На самом деле, чтобы решить эту задачу, требуется немного подумать над правильным переводом текста в символы. Если искомую длину обозначить х, то уравнение на длину принимает вид:
«х = 25 и еще половина х», то есть х = 25 + 0,5х, тогда х – 0,5х = 25, 0,5х = 25, х = 50 метров.
Вторая задача.
«Гости спросили, сколько лет исполнилось каждой из трех сестер? Вера ответила что ей и наде вместе 28 лет, наше и Любе вместе 23 гола, а всем троим 38 лет. Сколько лет каждой из сестер?»
=> Я специально сделал несколько простых опечаток, чтобы посмотреть, как ИИ справится с ними. С опечатками ИИ справился. С задачей – нет.
Ответ.
«Для решения этой задачи нам нужно составить систему уравнений. Пусть х – возраст Веры, у – возраст Нади, а z – возраст Любы. Тогда:
x + y = 28
y + z = 23
x + y + z = 38
Сложив все три уравнения, мы получим:
2(x + y + z) = 89
x + y + z = 44,5
Значит каждой из сестер исполнилось по 44,5 года».
=> Последнее утверждение основано на последнем уравнении и показывает, что ИИ не понимает смысла термина «возраст каждой из сестер». Кроме того, ИИ сложил уравнения с ошибкой, правильный результат сложения выглядит так: 2x + 3y + 2z = 89. Впрочем, это все равно не помогло бы решить задачу.
В данном случае текст задачи не содержал элементов, требующих анализа, и ИИ правильно перевел текст в символы. Но у него уже было уравнение с суммой возрастов всех сестер: x + y + z = 38. По какой-то причине ИИ не стал его использовать. Вместо этого он использовал другой уравнение: x + y + z = 44,5. При этом ему не пришло в его «голову» что такого просто не может быть, потому что если x + y + z = 38, то не может сумма тех же чисел быть равна иному числу, потому что 44,5 не равно 38.
Я решил указать ИИ на наличие ошибки, и написал:
«Ты сделала ошибку найди ее».
Ответ.
«Я не сделала ошибок»
Этот ответ очень показателен. Он демонстрирует самоуверенность в своей полной правоте цифровизаторов всех мастей – они полностью уверены в своей правоте, и даже тренируют их детище именно так.
Я уточнил:
«Сложи все три уравнения еще раз»
Ответ.
«x + y + y + z + x + y + z = 89 + x + y + z = 44.5 + 38 = 82.5
Ответ: каждой из сестер по 27.5 лет»
=> С математической точки зрения, выражение x + y + y + z + x + y + z = 89 + x + y + z = 44.5 + 38 = 82.5 не имеет никакого смысла, это просто бред. И опять мы видим полное непонимание термина «возраст каждой из сестёр». Но в этот раз, ответ не равен найденной сумме, как было ранее, теперь ИИ сменил подход делит сумму на 3. Правда, даже не упоминает это в своем ответе.
Итак, ИИ не справляется с простейшими задачами для учеников 5го класса. Все на что он способен, это делать поиск по ключевым словам в обширной базе данных, и компилировать ответ путем сочетания различных частей различных текстов.
ЭТО реальный уровень ИИ на сегодня. Лица, которые считают что такой ИИ принесет пользу в школах, являются полными дилетантами в сфере обучения.
Скриншоты.
Задача
«Полпути лошадь бежала рысью со скоростью 12 км/ч. остальной путь она шла с грузом, делая 4 км/ч. какова её средняя скорость?»
Ответ
«Для решения этой задачи, давайте введем условные обозначения:
S - расстояние, которое прошла лошадь;
T - общее время, затраченное лошадью на преодоление пути;
Vср - средняя скорость лошади.
Теперь, опираясь на условия задачи, мы можем записать следующие формулы:
- S = 12км/ч * T (так как полпути лошадь бежала со скоростью 12 км/ч)
- T = S / (12 + 4) = S / 16 (так как вторую половину пути лошадь шла со скоростью 4 км/ч).
Давайте подставим формулу для времени в формулу для расстояния и получим:
- S = 12 * S / 16
Решая уравнение, получаем S = 9.6 км. Это значит, что лошадь прошла в общей сложности 9,6 километров.
Средняя скорость - это расстояние, деленное на время. В данном случае, это будет выглядеть так:
- Vср = S / T
Подставим значения для расстояния и времени и получим:
- Vср = 9,6 / (9,6/12) = 11,52 км/ч
Таким образом, средняя скорость лошади составила 11,52 км/ч.»
Скриншоты
Конечно, это решение не правильное.
Если полпути лошадь бежала рысью со скоростью 12 км/ч., а остальной путь она шла 4 км/ч, то её средняя скорость НЕ 11,52 км/ч. Желающие могут написать свой ответ в комментариях.
Эти (и множество подобных) иллюстрации демонстрируют неоспоримый факт - люди, которые настоятельно стремятся внедрить ИИ в образование либо профаны (дилетанты), либо манипуляторы, которые сознательно обманывают (всех кого могут), чтобы получить личную выгоду.
___
Данный текст является частью большего текста, доступного тут.
___
А теперь сюрприз!
Надеюсь, что вы прочитали предыдущий текст, а не просто спустились вниз за сюрпризом, но в любом случае, рад что вы тут!
Здесь вы найдете наконец функциональное определение интеллекта, которое позволяет оценить успехи в разработке ИИ.
Интеллект — это способность решать проблемы (одно из самых распространенных определений).
Совершенно верно.
Вот только ТАКОЙ интеллект не выходит за уровень животного интеллекта.
Мышь, которая учится проходить лабиринт, чтобы добраться до еды, обладает таким интеллектом.
Обезьяна, которая использует палку или ящик чтобы добраться до банана обладает таким интеллектом (для посвященных - "что тут думать, трясти надо").
Человек, который методом проб и ошибок умудряется добиться поставленной цели, обладает таким интеллектом.
Здесь уместно обсудить различие между задачей и проблемой.
Если поставлена цель, и человек знает какие действия (в каком порядке, с каким инструментарием) необходимо осуществить, и всё что осталось сделать – это осуществить данные действия, то данная ситуация называется "задача".
Если же цель обозначена, но человек НЕ знает какие действия приведут к её достижению (а иногда и сама цель не точно обозначена), то такая ситуация называется "проблема".
Для решения задачи человеческий интеллект не требуется, достаточно животного (которое прошло хорошую дрессуру).
Человеческий интеллект требуется для решения проблемы.
Чтобы решить проблему нужно (как часто говорят) найти решение.
Но что это значит – найти?
Заглянуть под стол?
Пошарить по карманам?
Заглянуть к соседу?
Напрячься и поковыряться в памяти?
Провести поиск в интернете? (Если конечно хватает ума на ЭТО. Многие школьники даже не в состоянии сформулировать вопрос, ответ на который помог бы им продвинуться).
Если в результате такого поиска решение найдено, то человек может решить эту задачу (которая была проблемой).
Если же поиск не дал результатов, то человек попадает в проблемную ситуацию.
Ему приходится либо сдаться и отказаться от решения проблемы, либо СКОНСТРУИРОВАТЬ решение самому.
Кстати, поскольку процесс конструирования НОВОГО всегда включает в себя ОЗАРЕНИЕ (эврика!), то это процесс НИКОГДА не гарантирует результата. Однако, есть методики, которые позволяют повысить ВЕРОЯТНОСТЬ достижения требуемого результата, например ТРИЗ или ОА (обобщенный алгоритм).
Если же проблема достаточно сложная, то её решение может потребовать участия нескольких человек.
Тогда для того, чтобы им ВМЕСТЕ сконструировать решение, им придется общаться друг с другом.
Вот для КОНСТРУИРОВАНИЯ решения и нужен ЧЕЛОВЕЧЕСКИЙ интеллект.
Таким образом, ЧЕЛОВЕЧЕСКИЙ ИНТЕЛЛЕКТ – это способность субъекта, носителя данной способности (индивидуума), (1) КОНСТРУИРОВАТЬ решения к стоящим перед данным субъектом проблемам, а ТАКЖЕ, (2) выражать (описывать) ПРОЦЕСС конструирования решения, используя ЗНАКИ различного рода, как звуковые (включая слова и предложения), так и символические (включая рисунки и математические символы).
Чем сложнее проблема, чем сложнее и труднее для построения её решение, тем мощнее требуется интеллект для конструирования данного решения.
При этом, человек ВЫНУЖДЕН осознанно манипулировать в своём мозге различными знаками, символами, образами (идеальными, абстрактными объектами). Для решения сложных проблем необходима способность манипулировать ("жонглировать") одновременно БОЛЬШИМ количеством таких объектов, а не забывать к концу длинного предложения что было в начале.
Следующий факт должен сильно огорчить всех разработчиков ИИ.
ЧЕЛОВЕЧЕСКИЙ интеллект начинает развиваться ТОЛЬКО после появления САМОСОЗНАНИЯ (само-осознания).
Подавляющее число животных не узнают себя в зеркале.
Младенцы тоже изначально ведут себя как животные.
Однако, со временем (при наличии здорового мозга) дети начинают себя узнавать.
У них формируется самосознание, формируется Я.
ТОЛЬКО тогда, после формирования самосознания, после формирования Я, человек получает возможность ОСОЗНАННО достигать поставленных целей, потому что только тогда появляется возможность СКАЗАТЬ "Я хочу ЭТО", "МНЕ нужно ТУДА", и пр..
Альберт Эйнштейн изменил взгляды всего человечества на мир, на вселенную, на пространство и время. Очевидно он был гением. И очевидно, он обладал неимоверным воображением (почитайте его биографов). Он неоднократно высказывался об образовании. В частности, он сказал, цитата: "ИСТИННЫМ признаком интеллекта является не знание, а ВООБРАЖЕНИЕ."
Говорят, что современный ИИ уже обладает воображением. Тут сразу возникает вопрос, а что по вашему воображение? ИИшники очень не любят подобные вопросы. Их стандартный ответ - ну это когда человек что-то новое произвел, картину, например. Но даже если так, то следующий вопрос, чьё воображение моделирует ИИ, какого человека? Третьеклассника Вани у которого по литературе слабая тройка?
ИИ рисует картины. Но и слоны и обезьяны.
Так какой ИИ у нас сегодня в процессе развития?
Слоновий?
Продолжение тут: https://dzen.ru/a/Z119bR8Iewj9KPrD
Важный вопрос Грефу тут (вопрос №2): https://dzen.ru/a/Z11VgHY-b0037W6L