Найти тему
Natalie Efimova

Почему я побаиваюсь искусственного интеллекта

После 45 лет работы академик Анохин понял, что невозможно построить научное понимание мозга, не определив - а кто такие мы.

Всю беседу Константина Владимировича, директора Института перспективных исследований мозга МГУ, с Познером я пересказывать не буду. Поскольку телеведущий не слишком популярен в нашем кругу - советовать вам посмотреть её тоже.

Позволю поделиться одной частью, которая была мне интересна и близка.

Самая простая вещь, озвученная ученым, - наука и технологии идут вперед такими темпами, что предсказать сегодня. каких вершин она достигнет в самое ближайшее время, абсолютно невозможно.

Он ученый-нейробиолог с мировым именем. А мы?

Я подумала, что помню телевизор с линзой, из которой мы, неразумная малышня, норовили вылить воду (а то и на вкус попробовать). А сегодня спокойно болтаем с подружкой из Австралии и даже видим на заднем плане кенгуру.

Мы с Константином почти ровесники. Значит, нас могут удивлять похожие вещи.

Познер припомнил Константину его высказывание: "У нынешних систем искусственного интеллекта никакого разума нет. Ни одна из даже передовых систем не знает о своем собственном существовании. У нее нет "Я".

А, может ли быть это "Я" вообще? Если да - не станет ли это для нас катастрофой?

Оказалось, нельзя принципиально исключить такой возможности.

- Особенно, когда будут развиваться физические системы. Не на компьютерах, которые считают, а в которых эти процессы воплощены в физических элементах - пускай это не нервные клетки, а псевдонервные клетки, но (он тяжело вздохнул) это может быть большой сложностью. Вообще я думаю, искусственный интеллект - большой вызов для человечества. В том числе - для понимания того, кто мы есть. Вслед за третьей революцией, фрейдовской, о бессознательном это еще одна революция. Если окажется, что не мы обладаем самым высоким интеллектом, то в чем наша уникальность?

-2

Вот эта фраза и обдала меня холодком. Не страхом. Именно холодком.

А ученый продолжил:

- В чем сущность человека тогда? Это позволяет более остро задумываться над вопросом, кто есть мы, если не просто интеллект. Мы считали себя долгое время царями...

-3

- И считаем, - почти воскликнул Познер.

Мысль о том, что мозг может заменить искусственный интеллект, страшит Владимира Владимировича. Ему от нее неуютно. (При всех разногласиях - мне тоже).

- Неуютно, согласен, - ответил ученый. - Когда я работал с памятью, я понимал, насколько на самом деле её можно сделать предметом злоупотреблений. Сознание тоже. Мы, конечно, заходим на территории... Технологии были до сих пор - по изменению внешнего мира. Сейчас мы всё больше приближаемся к технологиям, которые способны изменять нас самих. Внутри. Я думаю, это - огромный ком этических, моральных проблем для человечества. Не знаю, как оно справится. И справится ли...

Есть, конечно, надежда на то, что поможет исторический опыт решения подобных задач. Но, видимо, не только для меня это уже уровень космос.

-4

Напомню, это говорю не я, не Познер, не ведунья типа Кашпировского, а профессионал, человек, который занимается сознанием и мозгом 45 лет.

Прогресс в отдельных сферах, например, в медицине необходим и прекрасен. Но смогут ли люди справиться со всеми опасностями...

- Мы сделаем следующий шаг. Мы поймем, как произошло событие перехода от несознательных к сознательным существам. Мы, может быть, сможем создать существа - искусственные, которые будут обладать собственным "Я" и развиваться. Вопрос - как люди, этическое общество - справится с последствиями и возможными злоупотреблениями.

Естественно, Познер спросил - через какое время эти вопросы могут встать по-настоящему остро.

Паузы между вопросами и ответами становились всё длиннее. И холодок мой повышался. Вернее, понижался, если уж по науке.

-5

- Я не способен делать предсказания. Прогресс в моей области таков, что если бы пять лет назад, например, сказали, что возможны какие-то технологии и вещи, которые возможны сейчас, я бы не поверил. И большинство профессионалов в моей области не поверили. Я - не знаю. Чем мы больше понимаем, тем больше становится глубина тайн. Может, перед нами еще века научного познания.

Константин почему-то долго сопротивлялся вопросам Пруста, говорил, что с детства не играет в игры. Но сдался-таки под напором Познера, который сказал, что это - правило и, не согласившись на него, не стоило приходить в программу.

Академик ответил на все вопросы. Но меня, как никогда, интересовал последний. Что он скажет Всевышнему, если окажется перед ним.

- Если, - сразу подчеркнуто сказал ученый.

- Если, - повторил Познер.

Пауза опять была длинной и со вздохом. И все же он ответил.

- Я скажу, во-первых, "Прости. Моя гипотеза была неверна". И если мне будет позволено сказать еще что-то, я попрошу "Расскажи о себе".

-6

А я скажу, во-первых, что ответ - потрясающий, он утвердил меня в мысли, что перед нами был Ученый с большой буквы, если даже в такой миг в нем сработала бы сразу страсть к познанию.

Во-вторых, мне кажется, Константин Анохин не хотел общаться с Прустом, потому что хотел избежать именно этого вопроса.