Есть старый анекдот:
В патентное бюро приходит
изобретатель и заявляет: я создал идеальную машину для бритья.
- Очень интересно, - отвечают ему. - Показывайте!
- Все предельно просто. Видите в корпусе овальное отверстие? Вставляете туда лицо, и превосходно заточенные лезвия начинают брить по шаблону.
- Но помилуйте, что Вы такое говорите? Какой шаблон? Лица же у всех разные.
- Конечно. Но только до первой процедуры.
Старая байка волне может быть иллюстрацией обсуждений темы искусственного интеллекта, которые ведутся сегодня в самых разных аудиториях.
Почти все участники в качестве отправной точки берут высказывания безусловных авторитетов в сфере технологий будущего Джека Ма и Илона Маска, один из которых возлагает на ИИ большие надежды, а второй предостерегает, что искусственный интеллект станет самой серьезной угрозой существованию человечества. Разница оценок, возможно, объясняется тем фактом, что люди до сих пор не определились с терминологией. Кто-то, говоря об ИИ, подразумевает самообучающиеся нейронные сети, а кто-то - машинный разум, обладающий собственной волей.
Но если вернуться к главному вопросу многочисленных "круглых столов", ситуация проясняется. Мы же прежде всего спрашиваем: "Как следует использовать искусственный интеллект? К какой сфере деятельности его приспособить?" При такой постановке вопроса речь может идти исключительно о самообучающихся алгоритмах, потому что если однажды и возникнет машинный разум, обладающий собственным сознанием, то это он будет решать, что делать с людьми и насколько они ему нужны на планете.
Наверное, многие будут удивлены, узнав, что впервые об искусственном интеллекте заговорили не Маск, не Ма, и вообще никто из наших современников. В 1948-1950 годах состоялся заочный обмен мнениями между доминиканским священником Дюбралем и основоположником кибернетики, математиком и мыслителем Норбертом Винером. И пусть сегодняшние гуру не обижаются, но они всего лишь повторяют то, что было сказано 70 лет назад. И к огромному сожалению, даже повторяют не полностью, упустив одну очень важную оговорку Винера, которая полностью меняет расхожие представления о взаимоотношениях ИИ и людей.
В России сегодня книги Норберта Винера не издаются, но в Европе и Штатах его мысли по-прежнему пользуются вниманием. Даже в Советском Союзе, несмотря на классовую неприязнь считали возможным издать некоторые работы, The Human Use of Human Beings, например, главную книгу, посвященную анализу процессов, управляющих обществом. В ней-то Винер и упоминает рецензию отца Дюбраля в парижской Le Monde на свою работу "Кибернетика", где монах допускает, что в будущем будет создана machine á gouverner (в русском переводе прошлого века - управляющая машина, но сегодня я бы сказал "правящая"). Эта машина, предположил Дюбраль, сможет даже руководить делами всего человечества.
Однако эта машина, отвечает священнику Винер, пока ещё не может учесть все разнообразие человеческих реакций. "Она не может пока учесть ту огромную область вероятности, которая характеризует человеческую ситуацию". "Господство машины предполагает общество, достигшее последних ступеней возрастающей энтропии, где вероятность незначительна и где статистические различия между индивидуумами равны нулю. К счастью, мы пока не пришли к такому состоянию".
Это и есть то самое случайно забытое или намеренно замалчиваемое пророчество математика и философа. 70 лет назад, когда и компьютеров-то в нашем понимании не было, Винер поставил диагноз: даже простая машина, оперирующая массивом статистических данных и умеющая оценивать вероятность события, может управлять обществом, если оно состоит из индивидуумов, различия между которыми стремятся к нулю. То есть, управлять обществом одинаковых людей, обладающих унифицированными реакциями.
Учёный, конечно, не забыл про отдельную оговорку "мы пока не пришли к такому состоянию", но дело в том, что оговорка была сделана 70 лет назад. За это время люди очень сильно продвинулись в части собственной стандартизации. Так что машина может начинать работать. А может быть уже и работает.
Говорите, лица у всех разные? Были. Уже нет.
