Пугаться уже поздно.
На днях в группе была интересная публикация.
В Вест-Пойнт робот Bina48 совместно с одним из преподавателей Уильямом Барри прочитал (а/о) лекцию по философии для аудитории, в которой находилось приблизительно 100 американских курсантов.
Перед началом эксперимента в память Bina48 загрузили огромный массив данных о теории войны, политике, философии и план занятий, составленный господином Барри.
Робот без проблем отвечал (а/о) на все задаваемые вопросы.
«Без проблем». Это-то и настораживает.
Допустим, вас интересует, какой ответ считается правильным. Например, угрожают ли русские жизненным интересам США? (Да/Нет) Знать правильный ответ полезно для продвижения по службе.
Но является ли «правильный» ответ действительно правильным, а не только приемлемым в данной социальной среде? Правильным вообще, всегда, а не только с точки зрения пользователя?
Об этом давным-давно спрашивал советский математик А. Фет:
«Может быть, следует упомянуть в этой связи, как была решена "проблема четырех красок". Содержание проблемы крайне просто: требовалось доказать (или опровергнуть), что любую карту на плоскости можно раскрасить с помощью не более чем четырех красок таким образом, чтобы никакие две области, имеющие общую границу, не были окрашены в один цвет. Во всех известных частных случаях эта гипотеза была справедлива, но доказательство не удавалось в течение почти ста лет. Наконец, недавно два американских математика доказали гипотезу четырех красок, но очень необычным путем. Еще в начале века был предложен план доказательства, приводивший к большому числу вариантов: дело свелось к проверке конечного набора графов, то есть комбинаторных схем, задающих карты, но их было так много, что это превосходило человеческие силы, и план был оставлен. Два американца поручили эту проверку современной вычислительной машине. Большая машина, проработав 1200 часов, проверила все, что требовалось, и теорема была "доказана"; для надежности машинная программа была затем "прогнана" несколько раз, с тем же результатом.
Это доказательство необычно. Прежде всего, бросается в глаза, что несмотря на проверки машина могла ошибиться. Конечно, ошибиться может и человек; среди опубликованных теорий было много ошибочных, причем нередко ошибка оставалась не обнаруженной в течение ряда лет. Некоторые работы вовсе не имеют читателей, но если даже их читают, то нередко ошибки автора остаются незамеченными. В конце концов, математическая логика стремится сделать наши рассуждения надежными, заменив их механическим манипулированием символами, то есть, по существу, работой машины.
И все же доказательство теоремы о четырех красках оставляет чувство глубокого беспокойства. Дело в том, что мы доказываем теоремы не только, и не столько для того, чтобы проверить их справедливость. Познание не ограничивается констатациями: "Это верно, а то – неверно". Мы хотим понять, почему верна такая-то теорема, и каждое доказательство, если его правильно понять, отвечает на этот вопрос. Простая проверка доказательств как раз является признаком полного непонимания предмета, что и наблюдается на экзаменах. Но в данном случае никто не в силах "понять" доказательство; ни один человек даже не может прочесть полную "распечатку" программы, и вопрос, в чем состоит "идея" такого доказательства, повисает в воздухе».
А. И. Фет, Пифагор и Обезьяна
Загрузка готовых «правильных» ответов в головы студентов кажется привлекательной идеей.
Как с точки зрения скорости обучения и снижения его стоимости, так и с точки зрения политиков, получающих возможность заранее отделять «правильные» ответы от «неправильных».
А то ведь не до конца роботизированная профессура может что-нибудь напутать!
Но является ли такое решение действительно правильным?
Об авторе: Евгений Владимирович Милютин, российский дипломат (в прошлом), историк, писатель, автор книги «Психоистория. Экспедиции в неведомое известное». Вы можете комментировать эту и другие мои статьи в группе любителей психоистории «Зеленая Лампа» в Фейсбук. Для этого нужно присоединиться к группе.