Во вчерашнем выступлении на Гайдаровском форуме Т.В.Черниговская касается ряда тем, основных для моего канала: важность междисциплинарных исследований, куда идет ИИ, интеллект и сознание, когнитивные системы, Антропоцен, прогнозы Римского клуба, риски большой войны.
И поскольку ее соображения по этим темам весьма мне близки, я с двойным удовольствием рекомендую вам послушать ее презентацию (57 мин плюс 60 мин – ответы на вопросы).
Можете для удобства воспользоваться слайдами презентации https://yadi.sk/i/y31Agfnn3RbP8J
А также «сухим остатком» наиболее важных моментов презентации (в моем понимании и изложении на 1 мин.).
1. Человечество заигралось: вызовы Антропоцена поднимают планку глобальных рисков на апокалиптическую высоту.
— Новый доклад Римского Клуба призывает к «Новому просвещению», отказу от редукционизма и рефокусировке науки на междисциплинарность.
— Один из главных рисков для человечества – уже идущий процесс тотальной подмены человека компьютером (т.н. искусственным интеллектом – ИИ) в принятии решений.
— Если не образумиться, итог может быть страшный – большой войны не миновать.
2. Мы рассуждаем о рисках потери контроля над ИИ, не понимая, а под контролем ли естественный интеллект (ЕИ) и что, вообще, это такое.
— Похоже, что у эволюции есть цель. Это создание человеческого мозга - самого сложного из всего созданного природой. Но зачем это природе?
— Единственное объяснение этого в том, что мозг позволяет человеку посредством 2х способов познания (наука и искусство) творить иные миры путем создания ментальных объектов, впоследствии могущих материализоваться.
— Но кто управляет работой мозга – не понятно. Пока ясно одно, у нас нет контроля над мозгом и над его порождением – ЕИ.
3. Этим занимаются когнитивная наука – некое конвергентное (трансдисциплинарное) знание, включающее в себя практически все научные области.
— Если раньше считалось, что естественный мир не зависит от наблюдателя, а квантовые законы к макромиру не применимы, то сегодня в этом есть большие сомнения. И все больше подтверждений, что и естественный мир (и сама наука) зависит от наблюдателя.
— Почему мы решили, что природа подчиняется законам нашей логики?
— Какая физика действует в мозге (Ньютона, Эйнштейна, Бора …)?
— Какова математика описывает мозг (Пифагора, Римана, Лапласа …)?
— А как действуют и чем описываются интуиция и вдохновение?
4. Картографирование процессов в мозге упирается в изначальный вопрос – мы не знаем, что мы хотим там увидеть.
— Даниель Деннет – каждое человеческое существо является не более чем сборкой множества триллионов клеток, каждая из которых – бессмысленный механизм, чье действие обусловлено в строгом соответствии с законами физики и биологии
— Юрий Лотман – конечно мы можем разобрать теленка на стейки, но беда в том, что он обратно не собирается.
— Но если мы просто огромная сборка нейронов, то откуда в нас свобода воли (или «это сделал не я, а мой мозг»?
— И почему мозг у музыкантов особенный, - работающий по принципу джем-сейшена (и не потому ли Шерлок Холмс и Эйнштейн использовали скрипку для переключения режима мозга)?
— Математика, музыка и красота исчезнут с планеты, если не останется людей, способных их понимать (книга Шекспира или ноты Моцарта – всего лишь бумага для растопки костра, если человек не способен понять эти языки). Дело не в объекте, а в том, кто на него смотрит.
5. Возможности ИИ приближаются к некоторым неалгоритмическим возможностям человека
— от шахмат, через Го к покеру.
6. У человека начали изменяться его интеллектуальные возможности
— память превращается в накопители, «ныряльщики» в информацию превращается в «серфингистов» по информации, Интернет зависимость ведет к перестройке мозга.
7. Но мозг и ЕИ меняется быстрее компьютеров и ИИ
— человек приближается к превращению в надбиологический вид
— а человечество уже превратилось в иную цивилизацию (в которой главное – скорость изменений), живущую в другом мире (основным противоречием которого является противоречие свободы и безопасности)…
Т.е. мир перестал быть человекомерным. А в таком мире право и мораль уже не работают.
8. В результате мир может погибнуть исключительно из-за неслыханной скорости необратимых ошибок от решений, принимаемых компьютером. Написанное Станиславом Лемом пророчество сбывается:
— «Там где поражение от победы отделяют часы/дни и километры или их сотни, любая ошибка может быть исправлена переброской резервов, умелой атакой или отступлением…
Там, где успех зависит от микромиллиметров и наносекунд, на сцену выходит новый бог – случайность, пришедшая к нам из микромира.
Системы неслыханно быстрые ошибаются неслыханно быстро.»
РЕЗЮМЕ: Для нашей цивилизации настало время рефлексии, но это, увы, не осознано …
Об этом и написал в своем докладе Римский Клуб.
_______________________
Хотите читать подобные публикации? Подписывайтесь на мой канал вТелеграме, Medium, Яндекс-Дзене
Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”.